Разум как обработка информации: компьютерная метафора и её пределы

В прошлой лекции компьютер открыл науке дверь к разуму: появился строгий язык для внутреннего. Но всякая великая метафора со временем становится клеткой — и сегодня мы устроим ей проверку. Чем разум действительно похож на вычислительную машину? Чем — принципиально нет? И почему фраза «это просто химия мозга» — не объяснение вашей мысли, а смешение этажей? Разберём самый полезный инструмент этой лекции — три уровня Марра — и пять честных отличий мозга от машины.

1. Разум глазами эпох

Начнём с отрезвляющего наблюдения: люди всегда описывали разум через самую впечатляющую технику своего времени. Античность и её водопроводы: душа у греков — гидравлика, потоки жидкостей; отсюда «гуморы» и темпераменты, дожившие до наших слов «меланхолик» и «флегматик» (буквально — «чёрная желчь» и «слизь»). Семнадцатый век, эпоха часовых механизмов: человек у Декарта — автомат из пружин и шестерёнок, а разум — часовщик при нём. Девятнадцатый век протянул телеграф — и нервная система стала «проводами» с «сообщениями» (кстати, эта метафора оказалась на удивление живучей и частично верной). Двадцатый век построил компьютер — и разум стал «обработкой информации». Видите узор? Каждая эпоха уверена, что уж её-то метафора — не метафора, а истина. Из узора следуют два вывода, и оба важны для честности курса. Первый: компьютерная метафора — почти наверняка не последняя; уже сейчас на её место претендуют новые кандидаты, и к концу лекции вы поймёте какие. Второй, тоньше: метафора — это не ошибка, а инструмент; гидравлика была неправа о душе, но дала язык для разговора о «давлении» эмоций (мы до сих пор «выпускаем пар»); телеграф был наивен, но направил науку к нервным импульсам. Вопрос к метафоре не «истинна ли она», а «что она позволяет увидеть — и что заслоняет». С этим вопросом и подойдём к компьютеру.

2. Что подарила метафора

Сначала — честный список подарков; их три, и каждый изменил науку. Подарок первый: разделение процесса и носителя. До компьютера казалось: чтобы объяснить мышление, надо объяснить мозг — а он необъятен. Компьютер показал: одна и та же программа может работать на разном железе, значит, процесс можно описывать отдельно от носителя. Психология получила собственный этаж: изучать «программы» познания — память, внимание, решение задач, — не дожидаясь, пока нейронаука опишет каждый синапс. Весь наш курс «Как учиться» написан на этом этаже: «сила извлечения» и «рабочая память» — понятия уровня процесса, а не ткани. Подарок второй: требование механизма. До революции психологические объяснения часто были переименованиями: «он агрессивен, потому что у него агрессивные импульсы». Компьютерный стандарт беспощаден: объяснил — значит описал шаги, которые может выполнить машина; никаких «а тут происходит понимание» — покажи, как. Этот стандарт мгновенно вскрыл пустоту многих теорий и стал двигателем строгости. Подарок третий: словарь для невидимого — кодирование, буфер, доступ, ёмкость, параллельная и последовательная обработка. Вспомните курс об учёбе: «горлышко рабочей памяти», «кодирование», «извлечение» — вы свободно пользуетесь компьютерным словарём для собственной головы, и он работает: предсказания, построенные на нём, подтверждаются экспериментами. Метафора заработала своё место. Теперь — инструмент, который наводит в этом хозяйстве порядок и который стоит унести из лекции даже если забудется всё остальное.

3. Три уровня Марра

Дэвид Марр, гениальный исследователь зрения, умерший в тридцать пять и успевший изменить науку, предложил различение, без которого разговоры о разуме и мозге вязнут в путанице (посмотрите на схему). Любую познающую систему, говорил Марр, можно и нужно описывать на трёх уровнях. Уровень первый — задача: ЧТО система вычисляет и зачем; например: «по двумерной картинке на сетчатке восстановить трёхмерную сцену» — это описание проблемы, независимое от способа решения. Уровень второй — алгоритм: КАК вычисляется — какими шагами, в каких репрезентациях; кратчайший путь можно искать перебором карты, правилом «держись реки» или по солнцу — одна задача, разные алгоритмы. Уровень третий — реализация: НА ЧЁМ физически выполняется — нейроны, кремний, шестерёнки. Зачем эта лестница? Она разрешает споры, которые без неё неразрешимы. «Любовь — это просто окситоцин» — слышали? Это смешение этажей: окситоцин — уровень реализации; «просто» — контрабанда, объявляющая нижний этаж единственно настоящим. Но реализация не отменяет задачу и алгоритм — как знание, что текст «на самом деле» пиксели, не отменяет его смысла. Обратное смешение тоже бывает: «мышлению не нужен мозг, оно духовно» — отрицание нижнего этажа. Марр учит держать все три: мысль реализована в нейронах, устроена как процесс над репрезентациями и решает задачу организма — три истины, не конкурирующие между собой. Проверьте на чём угодно: «депрессия — это дисбаланс серотонина» (этаж реализации, а есть ещё этажи выученных моделей и жизненных задач — потому и работают и таблетки, и психотерапия: они входят с разных этажей). Этот инструмент останется с вами до конца курса — и дальше.

4. Символы против сетей

Теперь спустимся на уровень алгоритма — и обнаружим там главный спор в истории когнитивистики. Как именно устроена обработка? Лагерь первый, символический, — классика революции: мышление — это операции над символами по правилам, как в логике или алгебре; «Сократ — человек, все люди смертны, следовательно…» — ум как строгий вычислитель над высказываниями. На этом подходе построили первый искусственный интеллект: программы-доказыватели, шахматные машины, экспертные системы — и он блистал там, где мир состоит из чётких правил. Но он позорно спотыкался о то, что человек делает не думая: узнать лицо, понять устную речь в шуме, отличить кошку от собаки. Оказалось, самое «простое» — самое трудное (это называют парадоксом Моравека: сложнее всего машинам даётся то, что эволюция шлифовала дольше всего). Лагерь второй, коннекционизм, зашёл с другой стороны: а пусть обработка будет похожа на мозг — сеть из множества простых элементов, где знание хранится не в правилах, а в силе связей, и сеть не программируется, а обучается на примерах. Идею десятилетиями считали тупиком — пока рост данных и вычислений не взорвал её в нынешние нейросети: системы, которые узнают лица, понимают речь и пишут тексты, не имея ни одного явного правила внутри. Кто победил? Мудрый ответ: у мозга, похоже, есть оба режима — и вы их знаете! Быстрое, параллельное, интуитивное распознавание — и медленное, пошаговое, правилосообразное рассуждение: Система один и Система два из курса о мышлении — это, по сути, сеть и символы, живущие в одной голове. Спор двух лагерей оказался не «кто прав», а картой двойного устройства нашего собственного ума.

5. Пять отличий мозга от машины

Теперь — обещанный суд на уровне железа: чем мозг не компьютер (посмотрите на схему). Отличие первое: архитектура скорости. Транзистор переключается в миллиарды раз быстрее нейрона — но компьютер работает по одному-нескольким шагам за раз, а мозг ведёт миллиарды вычислений параллельно; вы узнаёте лицо за треть секунды — за это время нейрон успевает «выстрелить» считаные десятки раз: значит, алгоритм принципиально не последовательный. Отличие второе, самое важное для жизни: память. У машины память — точная запись по адресу: записал — прочитал то же самое. У мозга память — реконструкция: воспоминание каждый раз собирается заново из фрагментов и достраивается по смыслу; поэтому оно может незаметно измениться, впитать позднейшие детали, — и уверенный свидетель может честно «помнить» то, чего не было. Мы говорили в курсе об учёбе, что вспоминание пересобирает знание, — вот его механическая причина. Отличие третье: железо перестраивается. Программа не меняет процессор; в мозге само использование меняет носителя — связи усиливаются и слабеют, карта коры перекраивается (нейропластичность из курса о мозге). Мозг — компьютер, который перепаивает сам себя в процессе работы. Отличие четвёртое: оценка встроена. Машина равнодушна к своим данным; в мозге ни один процесс не идёт без окраски «хорошо/плохо/важно/опасно» — эмоции не помеха вычислению, а его часть, быстрая оценка, без которой пациенты с повреждённой эмоциональной корой не могут выбрать даже день для встречи. Отличие пятое: происхождение. Компьютер спроектирован с нуля под задачу; мозг выращен эволюцией слоями, где новое надстроено над древним без права переделать старое, — отсюда его странности: гениальность в распознавании и беспомощность в умножении трёхзначных чисел.

6. Что это меняет в жизни

Спустим выводы на землю — три следствия, которыми вы будете пользоваться. Следствие первое: перестаньте относиться к своей памяти как к флешке. Она не «записывает» — она строит и перестраивает; из этого: яркость и уверенность воспоминания — не гарантия точности (даже воспоминания «где я был в тот самый день» дрейфуют, оставаясь субъективно кристальными); важное — фиксируйте внешне (запись, фото, дневник), а споры «я точно помню, что ты сказал…» ведите с поправкой на то, что реконструируют оба спорщика. Следствие второе: уважайте последовательное горлышко. Параллельный гигант-мозг имеет узкое место — осознанную обработку, ту самую рабочую память на несколько кусков: всё, что требует внимания, выполняется по сути по одному. Отсюда цена «многозадачности»: это не параллельность, а дорогие переключения (вы знаете это из курса об учёбе — теперь знаете архитектурную причину). Следствие третье: не покупайтесь на «это просто химия». Уровни Марра — прививка от редукционизма в обе стороны: когда вам говорят «твоя тревога — просто кортизол», помните, что у тревоги есть и этаж выученных моделей («мир опасен»), и этаж жизненных задач — и входить можно с любого этажа: таблеткой, терапией, изменением жизни; «просто химия» — не диагноз, а отказ смотреть на верхние этажи. И обратно: «мне не нужен сон, я усилием воли…» — отказ от нижнего этажа, который всегда мстит. Зрелая позиция — жить на всех трёх этажах собственного дома.

7. Суд над метафорой

Подведём итоговый вердикт компьютерной метафоре — по всей форме. Что подтверждено и заработано: разделение процесса и носителя дало психологии собственный предмет и строгий стандарт объяснения («покажи шаги»); словарь обработки информации порождает проверяемые и подтверждающиеся предсказания (ёмкость рабочей памяти, этапы обработки, хронометрия); уровни Марра стали дисциплиной мышления для всей науки о разуме; а нейросетевой поворот показал, что даже «непохожесть» мозга на классический компьютер можно моделировать вычислительно — метафора оказалась шире своей первой версии. Что уточняет честность. Первое: на уровне реализации метафора вводит в заблуждение — мозг не хранит, а реконструирует; не выполняет неизменную программу, а перестраивает себя; не отделён от тела и оценок. Второе: урок истории — каждая эпоха абсолютизировала свою метафору; наша, вероятно, не исключение — уже сейчас часть учёных предпочитает говорить о мозге как о машине предсказаний (это тема следующей лекции) или как о динамической системе, вплетённой в тело и среду (тема девятой). Третье: метафора молчит о самом трудном — о том, почему обработка информации ощущается изнутри; к сознанию вычислительный словарь пока не подобрал ключа, и честно это признать — лучше, чем делать вид (восьмая лекция). Вердикт: компьютерная метафора — рабочая лошадь науки о разуме: незаменима на уровнях задачи и алгоритма, обманчива на уровне железа, молчалива о сознании; пользуйтесь ею как инструментом, а не как истиной. В следующей лекции увидим, на что претендует её главный наследник: мозг как машина предсказаний — и почему то, что вы сейчас видите вокруг, точнее назвать управляемой галлюцинацией.

Итоги лекции

Первое: разум всегда описывали через технику эпохи — гидравлика, часы, телеграф, компьютер; вопрос к метафоре не «истинна ли», а «что открывает и что заслоняет». Второе: метафора подарила разделение процесса и носителя (психология получила свой этаж), стандарт механизма («покажи шаги») и рабочий словарь — кодирование, ёмкость, доступ. Третье: три уровня Марра — задача (что и зачем), алгоритм (как, в каких репрезентациях), реализация (на чём физически); «нейроны» и «мысли» не конкурируют; «это просто химия» — смешение этажей. Четвёртое: спор символов и сетей — правила против обучаемых связей — разрешился картой двойного устройства ума: быстрое параллельное распознавание и медленное пошаговое рассуждение живут в одной голове. Пятое: мозг — не компьютер на уровне железа: параллелен при медленных элементах, реконструирует вместо записи, перестраивает сам себя, считает с встроенной оценкой, вырос эволюцией слоями. Шестое: следствия — память не флешка (фиксируйте важное, не доверяйте яркости), осознанная обработка — узкое горлышко (многозадачность — дорогие переключения), редукционизм в обе стороны — ошибка (входить в проблему можно с любого этажа). Седьмое: вердикт — метафора незаменима на уровнях задачи и алгоритма, обманчива на уровне железа и молчит о сознании; наследники уже на подходе — машина предсказаний и воплощённый разум.

Вопросы для самопроверки

Продолжите ряд «гидравлика — часы — телеграф — …» и сформулируйте правильный вопрос к любой метафоре разума? Назовите три подарка компьютерной метафоры — и покажите, как одним из них пользуется знакомый вам курс об учёбе? Разложите по трём уровням Марра фразу «депрессия — это дисбаланс серотонина»: что она видит и что теряет? В чём суть спора символов и сетей — и как он отражает известные вам две системы мышления? Перечислите пять отличий мозга от машины и объясните, почему уверенность воспоминания не гарантирует его точность? Какое из трёх житейских следствий лекции касается вас сильнее всего — и что вы измените?

Литература

Дэвид Марр, «Зрение» — первоисточник трёх уровней. Стивен Пинкер, «Как работает мозг» — вычислительная теория разума в лучшем изложении. Дэниел Канеман, «Думай медленно… решай быстро» — две системы как встреча сетей и символов. Джефф Хокинс, «Об интеллекте» — взгляд инженера на непохожесть мозга.

❓ Частые вопросы

Что такое уровни Марра и зачем они нужны?

Это различение трёх этажей, на которых можно и нужно описывать любую познающую систему. Уровень задачи: что система вычисляет и зачем — какую проблему решает, независимо от способа («по плоской картинке на сетчатке восстановить объёмную сцену»). Уровень алгоритма: как именно вычисляется — какими шагами и в каких репрезентациях (кратчайший путь можно искать перебором карты, правилом «держись реки» или по солнцу). Уровень реализации: на чём физически выполняется — нейроны, кремний, шестерёнки. Зачем: лестница Марра разрешает споры, неразрешимые без неё. «Любовь — это просто окситоцин» — смешение этажей: окситоцин — реализация, но она не отменяет алгоритм и задачу, как пиксели не отменяют смысл текста; слово «просто» контрабандой объявляет нижний этаж единственно настоящим. Обратная ошибка — отрицать нижний этаж («мышлению не нужен мозг»). Практический пример: у депрессии есть этаж серотонина, этаж выученных моделей и этаж жизненных задач — потому работают и таблетки, и психотерапия: они входят с разных этажей одного дома.

Так мозг — это компьютер или нет?

На уровне задач и алгоритмов — вычислительное описание работает блестяще: понятия кодирования, ёмкости, этапов обработки дают проверяемые и подтверждающиеся предсказания. На уровне железа — нет, и отличия принципиальны. Мозг параллелен: нейрон в миллиарды раз медленнее транзистора, но миллиарды нейронов работают одновременно — лицо узнаётся за треть секунды, за которую нейрон успевает выстрелить десятки раз. Память мозга — не запись по адресу, а реконструкция по смыслу: воспоминание каждый раз собирается заново и может незаметно меняться. Мозг перестраивает сам себя: использование меняет связи — программа, перепаивающая процессор. Оценка встроена: ни один процесс не идёт без окраски «важно/опасно/хорошо» — эмоции часть вычисления, а не помеха. И мозг вырос эволюцией слоями, а не спроектирован под задачу — отсюда гениальность в распознавании и беспомощность в арифметике. Честная формула: разум продуктивно описывается как обработка информации, но мозг — не машина фон Неймана.

Почему нельзя доверять собственным воспоминаниям на сто процентов?

Потому что память мозга архитектурно не запись, а реконструкция. Машина хранит точную копию по адресу: записал — прочитал то же самое. Мозг хранит фрагменты и связи, а воспоминание собирает заново при каждом обращении, достраивая пробелы по смыслу, ожиданиям и позднейшим знаниям. Поэтому воспоминание может впитать детали из разговоров и новостей после события, слиться с другим эпизодом, подстроиться под сегодняшний взгляд на себя — и всё это без малейшего субъективного сигнала: яркость и уверенность реконструкции не отличаются от яркости точного воспоминания. Исследования регулярно показывают: даже «фотографические» воспоминания о громких днях дрейфуют за годы, а уверенность остаётся полной; ложные воспоминания внедряются экспериментально. Практические выводы: важное фиксируйте внешне — записью, фото, дневником; в спорах «я точно помню» держите поправку, что реконструируют оба; свидетельство очевидца — слабое доказательство не из-за лжи, а из-за устройства памяти. И у реконструкции есть светлая сторона: именно она позволяет памяти обобщать, связывать и пересобирать знание — на этом стоит обучение.

Что победило — символьный подход или нейросети?

Оба — но на разных задачах, и это открытие о нас самих. Символьный лагерь описывал мышление как операции над символами по правилам — логика, шахматы, экспертные системы; он блистал там, где мир состоит из чётких правил, и спотыкался о «простое»: узнать лицо, понять речь в шуме (парадокс Моравека: труднее всего машинам то, что эволюция шлифовала дольше всего). Коннекционизм предложил сеть простых элементов, где знание — в силе связей, а система не программируется, а обучается на примерах; десятилетиями считался тупиком, пока данные и вычисления не превратили его в современные нейросети, которые распознают образы и порождают речь без единого явного правила. Итог для когнитивистики: у человеческого ума, судя по всему, есть оба режима — быстрое параллельное распознавание паттернов и медленное пошаговое рассуждение по правилам; знакомые вам Система один и Система два — это, по сути, сеть и символы в одной голове. Спор лагерей оказался не войной за истину, а картой двойного устройства нашего познания.

Это вторая лекция курса «Когнитивистика». Мы судили компьютерную метафору: она подарила науке разделение процесса и носителя, стандарт механизма и словарь, но на уровне железа мозг — другой: параллельный, реконструирующий, самоперестраивающийся, оценивающий, выращенный эволюцией; а уровни Марра запрещают смешивать этажи. В следующей лекции — наследник метафоры: мозг как машина предсказаний, и почему восприятие — управляемая галлюцинация.