Лекция 8. Сознание: трудная проблема

Прямо сейчас, пока вы читаете, происходит нечто необъяснимое. Свет от экрана бьёт в глаз, сигналы бегут по нервам, мозг обрабатывает данные — всё это машина могла бы делать в полной темноте, без единой искры переживания. Но темноты нет. Есть вы: внутри что-то светится, буквы звучат голосом, есть каково это — быть сейчас вами. Откуда взялся свет? Это самый трудный вопрос на свете, и честная наука подходит к нему на цыпочках. Сегодня — о сознании: не о том, как мы его объясним, а о том, почему пока не можем.

1. О чём вообще вопрос

Сначала договоримся, о чём речь, — иначе спор о сознании превращается в кашу, потому что слово тянет за собой десяток разных смыслов. Отделим их. Есть бодрствование — противоположность сну и обмороку; это медицина умеет мерить и включать-выключать наркозом, и это не наша загадка. Есть самосознание — способность думать о себе, узнавать себя в зеркале; важная вещь, но тоже не она. Наша загадка глубже и проще одновременно, и лучший ключ к ней придумал философ Томас Нагель одним вопросом: каково это — быть летучей мышью? Мышь ловит добычу эхолотом, «видит» ушами мир из отражённых писков. И вопрос не в том, как устроен её сонар (это физиология), а в том, есть ли каково это быть ею изнутри — переживает ли она хоть что-нибудь, есть ли там, внутри, кто-то дома. Вот оно, ядро темы: сознание в нашем смысле — это наличие переживания от первого лица, субъективный внутренний опыт. У философов для «кирпичиков» этого опыта есть слово квалиа — то, как вещи ощущаются: краснота красного, жгучесть боли, вкус кофе, тоскливость тоски. Квалиа — это не данные о длине волны света, а само переживание красного, которое невозможно передать словами тому, кто его не испытывал (попробуйте объяснить цвет слепорождённому — вся физика оптики не даст ему увидеть). И вот ключевая странность, ради которой мы собрались. Мозг — физическая вещь: клетки, ток, химия. Переживание — вещь совсем иного рода: его нельзя взвесить, у него нет размера, его видно только изнутри, одному хозяину. Как из первого получается второе? Как серое вещество рождает свет от первого лица? Заметьте: это не «одна из проблем» психологии наряду с памятью и вниманием. Это вопрос под всеми ними — потому что и память, и внимание, и решение задач, которые мы разбирали весь курс, переживаются, светятся изнутри, и никто не знает почему.

2. Лёгкие задачи и трудная проблема

Гениальную ясность в этот туман внёс философ Дэвид Чалмерс в девяностых, разделив вопрос о сознании на два совершенно разных (посмотрите на первую схему). С одной стороны — лёгкие задачи. Не пугайтесь названия: они зверски трудны технически, над ними бьются тысячи учёных. «Лёгкие» они в особом смысле — в принципе решаемы обычными методами науки, потому что все они про функции и механизмы: как мозг различает красное и зелёное, как сосредоточивает внимание, как связывает разрозненные признаки в один образ, как хранит и достаёт из памяти, как порождает словесный отчёт о своих состояниях, как управляет поведением. Каждая — это вопрос «как мозг делает вот это», и на такие вопросы наука в принципе знает, каким был бы ответ: указать нейронную схему, которая выполняет функцию. Рано или поздно решим. С другой стороны — трудная проблема (так Чалмерс её и назвал, с большой буквы). Она звучит обманчиво коротко: почему всё это сопровождается переживанием? Почему обработка информации в мозге не идёт «в темноте», молча, как в бездушном автомате, а ощущается изнутри? Вот в чём соль и почему проблема так упряма. Представьте, что мы решили все лёгкие задачи: построили полную карту мозга, знаем про каждый нейрон, что он делает, и можем предсказать любое поведение и любой отчёт человека. Казалось бы — всё объяснили. Но нет: остаётся вопрос, к которому вся эта карта даже не притрагивается. Почему при работе этой машины горит свет? Логически ведь можно вообразить, что вся та же обработка шла бы без всякого переживания — и внешне ничего бы не изменилось. Функции объясняют функции; но переживание — не функция, это то, каково выполнять функцию изнутри, и здесь объяснение обрывается. Чалмерс назвал это объяснительным разрывом: между «мозг обрабатывает свет длиной семьсот нанометров» и «я вижу красное» зияет пропасть, через которую наука пока не перекинула мост. Все прежние лекции курса жили на левом берегу — на берегу функций. Сегодня мы стоим у края и смотрим на правый.

3. Разрыв и мысленные опыты

Чтобы почувствовать разрыв (а не просто согласиться на словах), философы придумали мысленные опыты — маленькие истории, обнажающие странность. Первый — Мэри, знаток цвета (философ Фрэнк Джексон). Представьте гениального нейроучёного Мэри, которая всю жизнь провела в чёрно-белой комнате и никогда не видела цвета. Но про цвет она знает всё: всю физику света, всю нейрофизиологию зрения, каждый нейрон, что срабатывает при виде красного, — полное физическое знание, до последней детали. И вот однажды Мэри выходит наружу и впервые видит красную розу. Узнаёт ли она что-то новое? Интуиция кричит: да! Она впервые узнаёт, каково это — видеть красное; и значит, это «каково» не содержалось во всём её физическом знании. А раз так — переживание есть что-то сверх физических фактов, что-то, чего нет в самой полной карте мозга. Второй опыт — философский зомби (любимый пример Чалмерса). Вообразите существо, физически тождественное вам до атома: тот же мозг, те же реакции, оно говорит «как красиво», морщится от боли, рассуждает о сознании точь-в-точь как вы, — но внутри у него темно, никакого переживания, никого нет дома. Просто идеальный автомат, имитирующий человека. Вопрос не «существуют ли зомби» (не существуют), а тоньше: можем ли мы их хотя бы вообразить без противоречия? Похоже, да — и это уже удар: если зомби мыслим, значит, переживание логически не сводится к физике, ведь вся физика у зомби на месте, а света нет. Оба опыта бьют в одну точку: сколько ни описывай мозг снаружи, в третьем лице, ты не выведешь из этого описания внутренний свет от первого лица; между ними — та самая пропасть. Честно назову и возражение: многие философы (о них в шестом разделе) считают, что наши интуиции здесь просто обманывают — что Мэри на деле ничего нового не узнаёт, а зомби нам только кажется вообразимым, потому что мы плохо представляем, что значит «полная физика». Спор не решён. Но даже если это иллюзии — сам факт, что они так упрямо нам являются, требует объяснения. Разрыв ощущается — вот твёрдый факт, с которым работает наука.

4. Что говорит наука

Значит ли всё это, что наука бессильна и надо развести руками? Нет. Пока философы спорят о трудной проблеме, нейронаука честно делает то, что умеет: ищет нейронные корреляты сознания — то есть отвечает на вопрос поскромнее и посильнее: какая именно работа мозга сопровождается переживанием, а какая идёт в темноте? Ведь колоссальная часть работы мозга бессознательна — регуляция сердца, грамматика речи, первые стадии зрения, интуиция из прошлых лекций; сознанием освещён лишь тонкий верхний слой. Найти границу света и тьмы — уже огромный шаг, и его можно делать в лаборатории. Крик (тот самый, из открывателей структуры наследственности) и Кох первыми сделали это респектабельной задачей: показывать человеку картинку то так, что он её осознаёт, то так, что не замечает (при той же засветке глаза), и смотреть, чем отличается мозг в эти два раза. Из таких опытов выросли две главные научные теории — не «решения» трудной проблемы, а модели того, когда зажигается свет. Первая — теория глобального рабочего пространства (Баарс, Деан). Её образ: мозг — как тёмный театр, где множество бессознательных процессов-актёров работают каждый в своём углу. Сознанием становится то, что попадает в луч прожектора внимания и транслируется на всю сцену — рассылается по мозгу, становится доступным памяти, речи, решению. Осознать — значит сделать информацию общедоступной внутри мозга; бессознательное — то, что заперто в своём углу. Теория хорошо объясняет лёгкие задачи (почему осознанное можно доложить, запомнить, использовать) — но, честно говоря, обходит трудную: она про доступ, а не про то, почему доступ светится. Вторая — теория интегрированной информации (Тонони). Её ставка смелее: сознание есть там, где система интегрирует информацию — где целое несёт больше, чем сумма частей, и его нельзя разбить без потери. Мера такой интеграции обозначается буквой «фи»: много фи — много сознания. Отсюда странные, но проверяемые следствия: сознание — не привилегия речи или ума, а свойство устройства системы. Обе теории — не ответ на «почему свет», а карты того, «где и когда» он загорается; и это правильный научный ход — не штурмовать пропасть в лоб, а обживать её берег, накапливая твёрдые факты. Может быть, когда фактов хватит, сам вопрос переформулируется — как это не раз бывало в науке.

5. Другие сознания: животные и машины

Из трудной проблемы вытекает следствие, которое из абстракции делает её мучительно практической. Своё сознание я знаю напрямую — я есть. Но чужое? Я не могу залезть внутрь другого и проверить, светится ли там. Это проблема других сознаний: строго говоря, я не доказываю, что вы что-то переживаете, — я заключаю это по сходству: вы устроены как я, ведёте себя как я, значит, вероятно, и внутри у вас свет. Пока речь о людях, вывод крепок. А дальше начинается зыбь — и целых два фронта. Первый — животные. Собака скулит от боли, крыса избегает страдания, осьминог решает задачи — но переживают ли они это или лишь реагируют, как сложные автоматы? Сто лет назад наука высокомерно отвечала «нет, это рефлексы»; сегодня маятник качнулся: чем больше мы находим у животных общего с нами устройства (та же лимбическая система, те же вещества боли), тем менее правдоподобно, что свет горит только у нас. Большинство учёных теперь признаёт: у млекопитающих, птиц, вероятно, и у осьминога есть какое-то переживание, — и это уже не пустая метафизика, а основа этики отношения к животным. Где именно гаснет свет вниз по лестнице жизни — у рыбы? у пчелы? — честно неизвестно. Второй фронт, взорвавшийся на наших глазах, — машины. Программы теперь говорят так связно, что кажутся мыслящими; рано или поздно какая-то скажет «мне больно, не выключайте меня». И тут трудная проблема бьёт в упор: как мы вообще узнаем, светится ли внутри у машины? Ведь по поведению не отличить настоящее переживание от идеальной имитации — ровно наш философский зомби, только рукотворный. Если сознание — это определённая функция (глобальная трансляция), то верно устроенная машина сознательна. Если сознание завязано на живую материю или на что-то, чего в кремнии нет, — она навсегда лишь блестящая пустышка. Мы не знаем, какой ответ верен, — а значит, встречаем эпоху думающих машин без прибора, чтобы измерить в них главное. Это, возможно, самый практический поворот некогда чисто философского вопроса, и он уже стучится в дверь.

6. А есть ли трудная проблема

Честность требует дать слово и тем, кто говорит: вся эта «трудная проблема» — псевдопроблема, фокус языка, и никакого разрыва на деле нет. Это позиция иллюзионизма, и её ярче всех защищал философ Дэниел Деннет (посмотрите на первую клетку второй схемы). Ход мысли такой. Нам кажется, что есть особый «внутренний свет», неуловимые квалиа, которые не сводятся к работе мозга. Но что, если само это кажется — и есть всё, что нужно объяснить? Мозг строит модель самого себя — грубую, схематичную сводку своей работы «для внутреннего пользования»; и в этой модели собственные процессы предстают как загадочный светящийся «опыт», потому что модель не показывает своей механики (как значок на экране не показывает электронов под ним). Тогда квалиа — не сияющая субстанция, а способ, которым мозг сам себе докладывает о своих состояниях; и объяснять надо не таинственное переживание, а вполне земной факт — почему нам так упорно кажется, будто оно таинственно. Трудная проблема, по Деннету, растворяется: реши все «лёгкие» задачи, добавь объяснение, откуда берётся иллюзия нередуцируемого света, — и объяснять больше нечего; никакого остатка нет. Сильная сторона позиции — она не плодит чудес и держит науку на твёрдой почве. Слабая, и оттого спор не гаснет: очень многим кажется, что тут прячут само явление под ковёр. «Иллюзия боли» — звучит абсурдно: если мне кажется, что больно, то мне уже больно — в случае переживания казаться и быть совпадают, тут-то и вся соль, которую иллюзионизм будто не замечает. Я привёл эту позицию не чтобы вы её приняли или отвергли, а чтобы вы увидели честную развилку: возможно, перед нами глубочайшая тайна мироздания, — а возможно, хитрый самообман мозга, и мы штурмуем стену, которую сами и нарисовали. Оба ответа всерьёз держат умнейшие люди планеты. И то, что взрослая наука не прячет этой развилки и не делает вид, будто вопрос решён, — само по себе урок мышления.

7. Как жить с загадкой

Итак, честный итог первого порядка: твёрдого ответа нет. Возможно, самая пугающая строка курса — но и самая честная. Наука о разуме блестяще продвинулась по лёгким задачам (весь этот курс — их плоды) и почти не сдвинулась по трудной. Как жить с этим — и зачем вам это знать? Первое и, может быть, главное: смирение. Самая близкая нам вещь на свете — собственное переживание, то, чем мы есть, — остаётся глубочайшей загадкой. Это отрезвляет любую спесь: мы, так лихо картировавшие галактики и гены, не умеем объяснить, почему в нас горит свет. Держать эту тайну открытой, не захлопывая её ни дешёвым «да это просто нейроны», ни дешёвым «это душа, и точка», — признак зрелого ума. Второе — граница знания, важная и за пределами темы. Мы видели весь курс: наука о разуме сильна там, где спрашивает «как устроено и работает», и упирается там, где спрашивает «почему вообще есть переживание». Полезно чувствовать эту границу — не как поражение, а как честную карту: вот сюда наш метод достаёт, а вот здесь пока обрыв, и выдавать догадку за факт нельзя ни в какую сторону. Третье, практическое и человеческое: тайна сознания — фундамент этики. Ровно потому, что внутри других есть свет (или почти наверняка есть — у людей, весьма вероятно у животных), их переживания важны, с ними нельзя как с вещами. Способность страдать и радоваться изнутри — вот что делает существо кем-то, а не чем-то; и чем серьёзнее мы относимся к загадке сознания, тем бережнее к её носителям — включая тех, в ком свет под вопросом. И мостик дальше. Этот курс шёл снизу вверх: от нейрона и восприятия — к вниманию, категориям, языку, мышлению, — и вот уперся в потолок, в сам факт переживания. Но мы всё время смотрели на разум как на вычислитель в черепе, обрабатывающий символы. А что, если это полуправда — и разум не заперт в мозге, а размазан по телу и миру, живёт в руках, в движении, в вещах вокруг? Следующая, предпоследняя лекция — о воплощённом разуме и о том, что говорит о нашем мышлении искусственный интеллект; она вернёт нас с небес трудной проблемы на землю — к телу, которое думает.

Итоги лекции

Первое: загадка сознания — не про бодрствование и не про самосознание, а про наличие переживания от первого лица; квалиа — то, как вещи ощущаются (краснота, боль, вкус), чего не передать словами; вопрос Нагеля «каково это быть летучей мышью» — есть ли внутри кто-то дома. Второе: Чалмерс разделил лёгкие задачи (как мозг различает, помнит, докладывает — про функции, в принципе решаемы) и трудную проблему (почему обработка вообще ощущается изнутри); между «мозг обрабатывает свет» и «я вижу красное» — объяснительный разрыв. Третье: разрыв обнажают мысленные опыты — Мэри, знающая всю физику цвета, но узнающая новое, впервые увидев красное; философский зомби, физически тождественный нам, но без света внутри; из описания в третьем лице не вывести опыт от первого. Четвёртое: наука ищет нейронные корреляты — когда зажигается свет; теория глобального рабочего пространства (сознание — то, что попало в прожектор внимания и транслируется на весь мозг) и теория интегрированной информации (сознание там, где система интегрирует информацию, мера «фи») — карты, где горит свет, а не ответ, почему. Пятое: проблема других сознаний — чужой свет я не проверяю, а заключаю по сходству; у животных переживание вероятно (основа этики к ним), у машин — по поведению не отличить настоящий свет от идеальной имитации (рукотворный зомби). Шестое: иллюзионизм (Деннет) отвечает, что трудной проблемы нет — «внутренний свет» есть модель мозга о себе, объяснять надо не переживание, а веру в него; сильно (без чудес), но многим кажется, что явление прячут (иллюзия боли — уже боль). Седьмое: твёрдого ответа нет; уроки — смирение перед ближайшей и самой тёмной загадкой, чувство границы научного метода, и этика: свет внутри делает существо кем-то, а не чем-то.

Вопросы для самопроверки

Чем загадка сознания (переживание от первого лица) отличается от бодрствования и самосознания; что такое квалиа и при чём тут летучая мышь Нагеля? В чём разница между лёгкими задачами и трудной проблемой по Чалмерсу — почему, решив все лёгкие, мы не закроем трудную? Разберите мысленный опыт про Мэри и про философского зомби: что каждый доказывает про отношение переживания к физике? Что такое нейронные корреляты сознания и чем отличаются две теории — глобального рабочего пространства и интегрированной информации? В чём проблема других сознаний и почему она стала практической в эпоху животных этики и думающих машин? Как иллюзионизм Деннета растворяет трудную проблему и какое главное возражение против него?

Литература

Дэвид Чалмерс, «Сознающий ум» — где введено разделение на лёгкие задачи и трудную проблему. Томас Нагель, «Каково быть летучей мышью?» — статья, задавшая ядро темы. Дэниел Деннет, «Объяснённое сознание» — сильнейшая защита позиции, что трудная проблема иллюзорна. Станислас Деан, «Сознание и мозг» — как нейронаука ищет корреляты сознания.

Это восьмая лекция курса «Когнитивистика». Мы подошли к самому трудному вопросу науки о разуме: почему обработка информации в мозге ощущается изнутри. Чалмерс отделил лёгкие задачи от трудной проблемы, мысленные опыты про Мэри и зомби обнажили объяснительный разрыв, наука ищет корреляты света, а иллюзионизм спорит, есть ли разрыв вообще. Твёрдого ответа нет — и это честно. В следующей лекции — воплощённый разум и искусственный интеллект: мышление как дело всего тела, а не только мозга.