Лекция 9. Главный враг — ты сам: предвзятость подтверждения

За восемь лекций мы научились проверять доказательства, источники, цифры и новости. Но есть противник, против которого все эти инструменты бессильны, если не знать о нём, — и это не шарлатан и не пропагандист. Это мы сами. Наш собственный ум устроен так, что незаметно подыгрывает тому, во что мы уже верим и во что хотим верить. Предвзятость подтверждения — самая всеохватная и самая коварная ловушка мышления, потому что действует изнутри и ощущается не как ошибка, а как очевидная правота. Сегодня — про главного врага критического мышления, которым оказываемся мы.

1. Инструменты, направленные не туда

Есть неудобная правда о всём, что мы прошли: люди прекрасно умеют применять критическое мышление — но только к чужим взглядам. Мы виртуозно находим дыры в аргументах оппонента, требуем от него доказательств, замечаем его предвзятость и подмены. А к собственным убеждениям те же инструменты почему-то не поворачиваются. Получается односторонний скептицизм: острый нож для чужого, тупая сторона для своего.

И это не случайный изъян, а системная особенность работы ума. Мы не бесстрастные искатели истины, какими себя ощущаем; мы, скорее, защитники уже занятых позиций. Поэтому финальный и самый трудный шаг в критическом мышлении — развернуть все наработанные инструменты на сто восемьдесят градусов, на самого себя. Без этого разворота они лишь укрепляют нас в заблуждениях, придавая им вид «объективно доказанных». Сегодняшняя лекция — про этот разворот и про то, что ему мешает.

2. Предвзятость подтверждения

Главное имя нашего внутреннего противника — предвзятость подтверждения. Это склонность искать, замечать, запоминать и принимать то, что подтверждает наши уже сложившиеся взгляды, и отмахиваться от того, что им противоречит. Работает она незаметно и на всех уровнях сразу.

Смотрите, как всесторонне. Мы избирательно ищем: гуглим так, чтобы найти подтверждение своей правоты, а не опровержение. Избирательно замечаем: из потока фактов в глаза бросается созвучное нашим убеждениям, а несозвучное проскальзывает мимо. Избирательно помним: сбывшиеся предсказания гороскопа врезаются в память, несбывшиеся забываются. И избирательно судим: один и тот же довод кажется убедительным, если он «за» нас, и сомнительным, если «против». Итог — мы живём в мире, который сами же незаметно подредактировали под свои ожидания, и искренне принимаем эту отредактированную версию за объективную реальность. Оттого предвзятость так трудно поймать: она подаёт нам искажённую картину как саму собой разумеющуюся истину.

3. Фильтр, который крепит убеждения

Чтобы увидеть механизм целиком, представим предвзятость подтверждения как кривой фильтр, стоящий между реальностью и нашими убеждениями.

В реальности почти по любому спорному вопросу есть доводы в обе стороны. Но фильтр пропускает их несимметрично: подтверждающее наше мнение легко проходит внутрь — мы его замечаем, запоминаем, охотно принимаем; опровергающее застревает на входе — его мы не видим, быстро забываем или придирчиво отвергаем. В результате внутрь попадает односторонняя картина, и убеждение крепнет — вне всякой связи с тем, верно оно или ошибочно. Это объясняет пугающую вещь: сила нашей уверенности почти не говорит о правоте. Можно годами быть железно уверенным в чём-то ложном и честно считать, что «жизнь на каждом шагу это подтверждает», — просто потому, что опровержения не проходили сквозь фильтр. Вот почему уверенность — плохой советчик, а привычка спрашивать себя «а какие есть доводы против?» — хороший.

4. Двойной стандарт проверки

У предвзятости есть особенно ясный механизм, который стоит научиться замечать за собой напрямую. Это двойной стандарт, с которым мы встречаем приятное и неприятное.

Психологи описали это точной формулой. Когда мы слышим то, во что хочется верить, мы спрашиваем себя: «могу ли я в это поверить?» — и нам хватает малейшего повода, чтобы ответить «да» и принять. Когда слышим то, что верить не хочется, вопрос незаметно меняется: «обязан ли я в это верить?» — и мы придирчиво ищем любую зацепку, чтобы ответить «нет» и отвергнуть. Заметьте главное: сами доказательства могут быть одинаково крепкими — а суд над ними диаметрально разный, и решает не их сила, а то, нравится нам вывод или нет. Приятной новости мы верим с одного намёка, неприятную пропускаем через десять проверок. Осознать за собой этот перекос — уже половина исцеления: поймав себя на слишком лёгком согласии, спросите «а так же ли легко я бы принял обратное?», а на яростном сопротивлении — «не потому ли я против, что мне это просто неприятно?».

5. Почему ум не судья, а адвокат

Возникает вопрос: зачем природа наделила нас таким неудобным устройством? Ответ отрезвляет. Наш разум развивался не для того, чтобы находить истину, а во многом для того, чтобы убеждать других и защищать свою позицию в группе. То есть по своей исходной функции ум — не беспристрастный судья, взвешивающий доводы, а ловкий адвокат, подбирающий аргументы под уже вынесенный вердикт.

Отсюда явление, которое называют мотивированным рассуждением: сначала мы чувствуем, во что хотим верить, а затем ум услужливо строит убедительное обоснование — и мы принимаем это обоснование за причину, хотя на деле оно следствие. Мы не приходим к выводу через доводы, мы подбираем доводы к готовому выводу. Понять это про себя одновременно неприятно и освобождающе. Неприятно — потому что рушит лестный образ себя как разумного и объективного. Освобождающе — потому что, зная за собой этого внутреннего адвоката, можно намеренно назначать себе роль судьи: сознательно выслушивать другую сторону, требовать доказательств и от собственных желанных выводов, ловить момент, когда чувство подбирает под себя аргументы. Первый шаг к честности мышления — признать, что по умолчанию мы устроены нечестно.

6. Умных это не спасает

Утешительная мысль «уж со мной-то, человеком неглупым, такого не случается» — сама по себе часть ловушки, и притом опасная. Исследования показывают неприятное: ум и образованность не защищают от предвзятости подтверждения, а иногда даже усиливают её.

Логика тут жестокая. Чем человек умнее и начитаннее, тем он искуснее в аргументации — а значит, тем изощрённее способен обосновать то, во что уже верит, и тем убедительнее разбить неудобные доводы. Свой мощный интеллект он ставит на службу не поиску истины, а защите позиции — и строит вокруг своих заблуждений особенно прочную, эрудированную крепость. Вот почему очень умные люди порой держатся за очень сомнительные идеи с железной убеждённостью: их ум не уберёг их от ошибки, а лишь помог её укрепить. Практический вывод смиряющий: критическое мышление — это не про то, чтобы быть достаточно умным и потому застрахованным. Никакого ума не хватает, чтобы стать неуязвимым; спасает не интеллект, а привычка сомневаться в себе и специальные приёмы против собственной предвзятости. К ним и перейдём.

7. Противоядия

Полностью избавиться от предвзятости подтверждения нельзя — она встроена слишком глубоко. Но её можно ослабить сознательными привычками, которые идут наперекор нашей природе. Вот главные.

Первое и сильнейшее — активно искать опровержение, а не подтверждение. Взяв убеждение, специально спросите: какие есть доводы против него? что бы говорил умный человек, думающий иначе? где я могу ошибаться? Привычка искать, в чём ты неправ, а не в чём прав, переворачивает работу фильтра. Второе — честно представлять сильную версию чужой позиции, а не её карикатуру: если вы можете изложить взгляд оппонента так, что он сам согласится, — вы правда его поняли, а не отмахнулись. Третье — заранее назначить, что могло бы изменить ваше мнение: если ответ «ничто», перед вами не убеждение, а догма, и это тревожный знак. Четвёртое — отделять свои взгляды от своей личности: воспринимайте «я ошибался» не как поражение и потерю лица, а как апгрейд, ведь отказ от неверной идеи делает вас правее, чем вы были минуту назад. И пятое — окружать себя несогласием: искать умных людей, думающих иначе, и площадки, где спорят, а не поддакивают, потому что эхо-камера из единомышленников — это фабрика по производству ложной уверенности. Эти привычки некомфортны — они заставляют идти против приятного чувства правоты. Но именно в них и состоит критическое мышление в его самой честной форме: не как оружие против других, а как дисциплина по отношению к себе. В следующей, заключительной лекции мы соберём весь курс в единый набор скептика — вашу личную систему трезвого мышления.

Итоги

• Главный враг критического мышления — не шарлатан, а мы сами: инструменты проверки мы легко наводим на чужое и не наводим на своё.
• Предвзятость подтверждения заставляет искать, замечать, помнить и принимать подтверждающее, отбрасывая опровергающее — незаметно и на всех уровнях.
• Кривой фильтр крепит убеждение независимо от его истинности, поэтому сила уверенности почти не говорит о правоте.
• Двойной стандарт: приятному мы задаём вопрос «могу ли поверить?», неприятному — «обязан ли верить?»; суд над равными доказательствами получается разным.
• Ум по природе не беспристрастный судья, а адвокат готового вывода (мотивированное рассуждение); ум и эрудиция не спасают, а порой усиливают предвзятость.
• Противоядия: искать опровержение, честно излагать чужую позицию, назначать, что изменило бы мнение, отделять взгляды от личности, окружать себя несогласием.

Вопросы для самопроверки

1. Почему инструменты критического мышления так легко применять к чужим взглядам и так трудно — к своим?
2. На каких уровнях действует предвзятость подтверждения (поиск, внимание, память, суд)? Приведите свой пример каждого.
3. В чём двойной стандарт «могу ли поверить?» против «обязан ли верить?»? Поймайте себя на нём в недавнем споре.
4. Что значит «ум — адвокат, а не судья»? Почему высокий интеллект не защищает от предвзятости?
5. Назовите противоядия против предвзятости подтверждения. Какое из них вам труднее всего применять и почему?

Литература

• Дэниел Канеман. «Думай медленно… решай быстро» — о том, как ум обманывает сам себя.
• Джулия Галеф. «Мышление разведчика» — про разницу между умом-солдатом (защищает) и умом-разведчиком (ищет истину).
• Кэрол Теврис, Эллиот Аронсон. «Ошибки, которые были допущены (но не мною)» — о самооправдании и нежелании признавать свою неправоту.

Это девятая лекция курса «Критическое мышление». В заключительной мы соберём весь курс в единый набор скептика — личную систему трезвого мышления на каждый день. А поймать себя на предвзятости подтверждения всегда помогает разговор с кем-то, кто думает иначе, — например, с Фреди.