Лекция 9. Воплощённый разум и искусственный интеллект

Весь курс мы смотрели на разум как на вычислитель в черепе: мозг получает данные от чувств, обрабатывает их и выдаёт команды. Удобная картинка — но, похоже, наполовину ложная. Потому что вы думаете не только мозгом: вы думаете руками, когда жестикулируете; телом, когда «схватываете» идею; блокнотом и картой, вынося память наружу. А рядом растёт искусственный разум, который умеет обыграть чемпиона мира, но не умеет того, что умеет двухлетний ребёнок. Сегодня — предпоследняя лекция: о том, что разум не заперт в голове, и о том, что зеркало искусственного интеллекта показывает нам про нас самих.

1. Разум не только в голове

Начнём с тихой революции, перевернувшей науку о разуме за последние десятилетия, — идеи воплощённого познания (посмотрите на первую схему). Классическая картинка, с которой мы шли весь курс, такая: мозг — центральный компьютер, тело — просто периферия, набор датчиков (глаза, уши) и исполнителей (руки, ноги), а само мышление происходит внутри, в отрыве от тела, как программа в процессоре. Воплощённое познание говорит: это неверно, или как минимум сильно неполно. Мышление не отделено от тела — оно выросло из тела и опирается на него постоянно. Разум не парит над телом, командуя им, а размазан по петле «мозг — тело — мир», и вынуть его из тела так же нельзя, как вынуть танец из танцора. Почему в это стоит поверить? Есть простой довод из эволюции, отрезвляющий всю компьютерную спесь. Мозг возник не для того, чтобы решать уравнения и играть в шахматы, — этим он занялся вчера по эволюционным меркам. Он возник, чтобы управлять телом в мире: находить еду, убегать, хватать, идти. Мышление — надстройка над движением, эволюционно молодой этаж над древним фундаментом сенсомоторного управления; и потому оно насквозь пропитано телесной логикой. Показательный факт: у существ, которые не двигаются, мозг обычно не нужен. Морской асцидий в личинке имеет крошечный мозг и плавает, ищет место; найдя камень и прикрепившись навсегда, он… переваривает собственный мозг за ненадобностью — двигаться больше некуда, думать не о чем. Мозг — орган движения; и это ставит всё с головы на ноги: не тело обслуживает мышление, а мышление выросло как тонкий инструмент управления телом. Дальше мы увидим, насколько глубоко тело сидит даже в самых «чистых» мыслях.

2. Как думает тело

Разберём конкретно, как именно тело участвует в мышлении, — тут накоплены красивые факты. Первое и самое глубокое — телесные метафоры (Лакофф и Джонсон, знаменитая работа «Метафоры, которыми мы живём»). Оказалось: абстрактные понятия мы понимаем не абстрактно, а через телесный опыт, буквально перенося его на отвлечённое. Прислушайтесь к языку — он выдаёт тело с головой. Хорошее — вверх («на подъёме», «высокие цели»), плохое — вниз («упал духом», «низкий поступок»): потому что здоровое тело стоит прямо, а больное и мёртвое лежит. Близость — тепло («тёплая встреча», «холодный приём»): потому что в детстве близость с родителем буквально грела. Важное — тяжёлое («весомый довод», «тяжёлый разговор»); понять — схватить («ухватить суть», «уловил мысль»); время — движение в пространстве («впереди неделя», «оставил прошлое позади»). Это не украшения речи — это каркас мышления: мы думаем абстрактное телесными образами, потому что другого материала у мозга, выросшего для управления телом, попросту нет. И это проверяется в опыте: подержав тёплую чашку, люди оценивают незнакомца как более «тёплого» человека; подержав тяжёлую папку — считают вопрос более «весомым». Тело незаметно подсказывает мысль. Второе — жесты. Мы машем руками, даже говоря по телефону, где нас не видят, — потому что жест нужен не только слушателю, а самому говорящему: он помогает думать, разгружает голову, достаёт слово. Запретите человеку жестикулировать — речь станет запинистее, мысль тяжелее. Третье — поза и действие влияют на чувство и решение (мы видели это в курсах о стрессе и уверенности): выпрямиться — почувствовать себя увереннее; кивать — легче соглашаться. Общий вывод раздела, важный и практически: ум и тело — не начальник и подчинённый, а единая система. Хотите думать лучше — не сидите неподвижно: ходите (великие мыслители думали на прогулке не случайно — движение раскручивает мышление), жестикулируйте, меняйте позу, работайте руками. «Светлые мысли приходят в движении» — не поэзия, а нейрофизиология.

3. Разум, вынесенный в мир

Сделаем следующий, ещё более радикальный шаг. Если разум опирается на тело — не опирается ли он и на мир за пределами тела? Философы Энди Кларк и Дэвид Чалмерс (тот самый, из прошлой лекции) выдвинули идею расширенного разума: части нашей мыслительной системы вынесены наружу, в вещи. Их знаменитый мысленный опыт. Представьте двух людей с одной целью — дойти до музея. Первый помнит адрес в голове и идёт. Второй — человек с плохой памятью, который всё записывает в блокнот; он заглядывает в блокнот и идёт. Вопрос: чем блокнот принципиально отличается от биологической памяти первого? Функция одна — хранить нужную информацию и выдавать по запросу; и если блокнот всегда с человеком, он ему доверяет и пользуется автоматически, то это, по сути, часть его памяти, просто вынесенная из черепа наружу. Граница «где кончается разум» проходит не по коже, а там, где кончается работающая мыслительная петля, — а она захватывает вещи. И это не философская экзотика, а ваша ежедневность: список дел — вынесенная память; калькулятор — вынесенное вычисление; карта в телефоне — вынесенная навигация; заметки, календарь, поисковик — всё это внешние органы мышления, без которых ваш «ум» уже работает иначе. Мы думаем миром: раскладываем бумаги на столе, чтобы увидеть структуру; чертим схему, чтобы понять; проговариваем вслух, чтобы додумать. Отсюда собралась целостная новая картина разума — её называют «четыре опоры»: познание воплощено (опирается на тело), встроено (в среду и ситуацию), деятельно (мы познаём мир, действуя в нём, а не пассивно созерцая) и расширено (захватывает вещи). Разум в этой картине — не вещь в голове, а процесс, текущий через мозг, тело и мир разом. И практический вывод бесценен: хочешь усилить ум — устраивай мир вокруг себя. Хорошие внешние опоры (записи, схемы, порядок на столе, инструменты) — не костыль для слабой головы, а законная часть мышления; «умный» человек — часто тот, кто умно организовал вокруг себя среду, а не тот, у кого всё в голове. И тут возникает главный вопрос лекции: если человеческий разум так намертво завязан на тело и мир, — что это значит для разума искусственного, у которого ни того, ни другого нет?

4. Две дороги искусственного разума

Чтобы ответить, посмотрим, как люди строили искусственный разум, — тут была своя долгая драма из двух подходов (посмотрите на вторую схему). Первый путь, царивший полвека, — символьный ИИ, «сверху вниз». Его идея прямо вытекала из компьютерной метафоры (лекция вторая): раз разум — это обработка символов по правилам, давайте запишем в машину правила и знания явно, как программу. Хочешь, чтобы машина ставила диагнозы, — впиши тысячи правил «если такие симптомы, то такая болезнь»; хочешь, чтобы играла, — впиши правила игры и стратегию. Этот путь дал реальные победы там, где мир чист и формален: логика, доказательство теорем, шахматы (машина обыграла чемпиона мира ещё в девяностых — грубой силой перебора и вписанными оценками). Но он жёстко уперся в стену на всём, что касалось живого, неформального мира: как впишешь правилами, что такое «стул» (а табуретка? а пенёк, на который сел?), как распознать лицо, понять шутку, пройти по комнате, не задев кресло? Мир оказался слишком богат и текуч, чтобы упаковать его в явные правила, — и символьный ИИ забуксовал. Второй путь, долго бывший в тени и победивший недавно, — нейросети, «снизу вверх». Идея иная: не будем вписывать знания, построим сеть простых узлов, отдалённо похожую на сеть нейронов, и дадим ей учиться на примерах, как учится ребёнок. Не объясняем правилами, что такое кошка, — показываем миллион картинок с кошками и без, и сеть сама настраивается распознавать. Не вписываем грамматику — скармливаем горы текста, и сеть улавливает закономерности языка. Именно этот путь дал нынешний взрыв: распознавание образов и речи, переводчики, и те самые языковые модели, что говорят как человек. Разница подходов глубокая и поучительная: символьный ИИ — прозрачен (видно правило, по которому он решил), но хрупок и не тянет живой мир; нейросеть — гибка и живой мир как раз тянет, но непрозрачна: она решает, а объяснить, почему, не может (внутри — миллиарды подстроенных чисел, а не читаемые правила). Знакомая развилка, между прочим: это же наши две системы мышления — медленная символьная логика против быстрой интуиции-«чуйки», натренированной на опыте. Машина повторила оба.

5. Чего не хватает машине

Теперь — сердцевина, где воплощённый разум и ИИ бьют в одну точку. Есть поразительный факт, который назвали парадоксом Моравека: для машины трудно ровно то, что для нас легко, и наоборот. Обыграть гроссмейстера, перемножить огромные числа, помнить миллион фактов — для машины пустяк; а вот узнать друга в толпе, пройти по неровному полу, взять со стола чашку, понять простую бытовую сцену — то, что играючи делает трёхлетка, — для машины десятилетиями было почти неподъёмно. Почему так? Ответ прямо из этой лекции. То, что нам кажется лёгким (видеть, ходить, хватать, понимать житейские ситуации), — на деле результат сотен миллионов лет эволюции тела в мире; под этой лёгкостью — колоссальная, отлаженная, но скрытая от сознания работа. А то, что нам трудно (логика, арифметика, шахматы), — эволюционно вчерашняя надстройка, тонкий и потому хилый слой. Мы восхищаемся не тем: гений не в том, что мы считаем, а в том, что мы видим и двигаемся. И вот ключевой вывод: машине не хватало именно тела и жизни в мире — того самого фундамента воплощённого познания. У неё нет тела, которым она бы трогала мир, нет детства, в котором она бы падала и хваталась, и потому нет здравого смысла — той необъятной неявной базы «как устроен мир» (вода мокрая, за столом можно сидеть, отпущенное падает, обиженный человек хмурится), которую мы впитали телом, а не выучили правилами. Философ Хьюберт Дрейфус предсказал буксование символьного ИИ ещё в шестидесятых именно отсюда: нельзя вписать здравый смысл правилами, потому что он не в правилах, а в теле и жизни. Отсюда же — проблема заземления символов: для машины слово «кошка» — лишь значок, связанный с другими значками, как слово в словаре, который отсылает к другим словам по кругу, ни разу не касаясь живого кота; у человека же слово заземлено в опыт — в тёплую шерсть, мурлыканье, царапину. Смысл, похоже, растёт из тела и мира, а не из одних символов, — и это самый серьёзный вызов бестелесному разуму.

6. Понимают ли машины

И вот мы у самого острого вопроса эпохи, к которому всё вело. Языковые модели теперь говорят так связно, что кажется — они понимают. Понимают ли? Тут нужна честность в обе стороны, потому что дёшевы оба соблазна — и «это просто автодополнение» с презрением, и «оно живое и всё понимает» с восторгом. Начнём с классического аргумента против — китайская комната философа Джона Сёрла. Представьте: вы заперты в комнате, вам подают вопросы на китайском, которого вы не знаете; но у вас есть исполинский свод правил «на такую закорючку выдай такую» — и, тщательно им следуя, вы выдаёте безупречные ответы по-китайски. Снаружи кажется, что в комнате сидит знаток китайского. Но понимаете ли вы хоть слово? Нет — вы лишь механически манипулируете значками, не касаясь смысла. Сёрл заключает: так и машина — обрабатывает символы по правилам, но не понимает их значения; синтаксис (форма) есть, семантики (смысл) нет. Аргумент мощный и цепляет ровно за проблему заземления из прошлого раздела: значки не заземлены в опыт, значит, это игра в бисер без понимания. Но честно дам и сильное возражение (сам Сёрл его знал): а понимает ли отдельный нейрон в вашей голове? Нет, он тоже лишь тупо передаёт сигнал. Может, понимание — свойство не детальки, а всей системы: комнаты целиком, включая правила и их работу, — как ваше понимание есть свойство всего мозга, а не одной клетки. Спор не решён и кипит прямо сейчас. Где же трезвая середина? Похоже, честнее всего сказать так: языковые модели демонстрируют реальную и удивительную компетентность — они уловили в текстах человечества гигантскую структуру языка и стоящих за ним связей мира, и это не «просто попугай»; но их «понимание» иного рода, чем наше, — оно без тела, без опыта, без заземления в живой мир, соткано из одних текстов о мире, а не из касания мира. Отсюда их фирменные провалы: они уверенно выдумывают факты (нет опоры на реальность, чтобы отличить правду от гладкой лжи) и спотыкаются на простом телесном здравом смысле, который любой ребёнок знает из жизни. Они — разум из библиотеки, никогда не выходивший наружу: невероятно начитанный и невероятно неопытный разом.

7. Что ИИ говорит о нас

Соберём лекцию — и весь курс поднимем на этаж выше. Главная мысль о человеке: вы — не мозг в банке, не бесплотный вычислитель. Вы думаете телом (метафоры, жесты, поза), думаете миром (записи, схемы, инструменты), и ваш разум — живая петля через мозг, тело и вещи, а не расчёт в тёмной коробке. Практический сухой остаток из этого — золото: хочешь думать лучше — двигайся (ходьба раскручивает мысль), работай руками и рисуй, выноси мышление наружу (хорошие записи и порядок в среде — законная часть ума, а не костыль), меняй телесное состояние, когда застрял. Ум — это не только то, что в голове; это то, что вы делаете головой, телом и миром вместе. А искусственный интеллект оказался лучшим зеркалом для этой истины. Строя разум без тела, мы на своей шкуре узнали, сколько нашего ума живёт в теле и мире: машина легко берёт вершины логики, но десятилетиями не могла взять «пустяки» вроде ходьбы и здравого смысла, — и этот парадокс Моравека громко сказал нам, где на самом деле наш гений. Что до вечного «превзойдёт ли ИИ человека» — этот курс даёт трезвую рамку вместо паники и восторга. В узких, формальных областях машина давно превзошла нас и продолжит. В понимании живого мира ей мешает ровно то, что мы разобрали: нет тела, нет опыта, нет заземления смысла — и пока она берёт эти преграды не догоняя нас, а обходя: не проживая мир, а вычитывая его из наших же текстов. Будет ли у машины настоящее понимание и — тем более — сознание (наш вопрос из прошлой лекции)? Мы честно не знаем; но теперь вы знаете, какой вопрос тут главный: не «как быстро она считает», а «есть ли у неё то тело и та жизнь, из которых у нас растут смысл и свет изнутри». И вот мы у порога финала. Мы прошли весь разум снизу вверх: восприятие, внимание, категории, язык, мышление, сознание, тело и его искусственное зеркало. Осталось свести карту воедино — понять, что за целое мы всё это время изучали и зачем это знать каждому. Об этом — последняя лекция курса.

Итоги лекции

Первое: воплощённое познание — мышление не отделено от тела, а выросло из него; мозг возник для управления движением (не двигаешься — мозг не нужен, как у осевшей асцидии), и мышление насквозь пропитано телесной логикой. Второе: тело думает — телесные метафоры (хорошее вверх, близость тепло, понять схватить — каркас, а не украшение; тёплая чашка делает незнакомца «теплее»), жесты помогают думать самому говорящему, поза и действие влияют на чувство; ум и тело — единая система, движение раскручивает мысль. Третье: расширенный разум (Кларк и Чалмерс) — блокнот функционально есть часть памяти, вынесенная наружу; список, калькулятор, карта, заметки — внешние органы мышления; четыре опоры — познание воплощено, встроено, деятельно, расширено; усилить ум — умно устроить среду. Четвёртое: две дороги ИИ — символьный (сверху вниз, вписанные правила: прозрачен, но хрупок, силён в формальном, слаб в живом) и нейросети (снизу вверх, обучение на примерах: гибки и тянут живой мир, но непрозрачны); это те же две системы мышления. Пятое: парадокс Моравека — машине трудно лёгкое для нас (видеть, ходить, хватать, здравый смысл) и легко трудное (логика, шахматы), потому что «лёгкое» — плод сотен миллионов лет эволюции тела; машине не хватает тела, детства и здравого смысла, а смысл не заземлён (проблема заземления символов, предвидение Дрейфуса). Шестое: китайская комната Сёрла — манипуляция символами без понимания (синтаксис без семантики); возражение — понимание может быть свойством всей системы, не детали; трезвая середина — языковые модели реально компетентны, но их понимание иного рода, без тела и опыта, соткано из текстов о мире; отсюда выдумки фактов и провалы в телесном здравом смысле — разум из библиотеки. Седьмое: вы не мозг в банке — думайте телом и миром; ИИ как зеркало показал, сколько ума живёт в теле; главный вопрос о машине — не скорость счёта, а есть ли у неё тело и жизнь, из которых растут смысл и сознание.

Вопросы для самопроверки

Что утверждает воплощённое познание и почему история про мозг осевшей асцидии его иллюстрирует? Приведите три телесные метафоры и объясните, почему это каркас мышления, а не украшение речи; как это подтверждает опыт с тёплой чашкой? В чём идея расширенного разума на примере блокнота и что такое «четыре опоры» познания? Сравните символьный ИИ и нейросети: в чём силён и слаб каждый и почему это напоминает две системы мышления? Объясните парадокс Моравека и проблему заземления символов — чего именно не хватает бестелесной машине? Разберите аргумент китайской комнаты и сильнейшее возражение к нему; какова трезвая оценка «понимания» у языковых моделей?

Литература

Джордж Лакофф, Марк Джонсон, «Метафоры, которыми мы живём» — как абстрактное мышление вырастает из тела. Энди Кларк, «Прирождённые киборги» — о расширенном разуме и мышлении вещами. Хьюберт Дрейфус, «Чего не могут вычислительные машины» — ранняя и точная критика бестелесного ИИ. Джон Сёрл, «Разум, мозг и программы» — аргумент китайской комнаты.

Это девятая лекция курса «Когнитивистика». Мы увидели, что разум не заперт в черепе: он думает телом (метафоры, жесты) и миром (записи, инструменты), а искусственный интеллект стал зеркалом этой истины — парадокс Моравека показал, сколько нашего ума живёт в теле и опыте, которых машине не хватает. В следующей, последней лекции — соберём карту разума воедино и поймём, зачем эта наука нужна каждому.