Умные люди верят в странные вещи, потому что они умеют защищать убеждения, к которым они пришли по неумным причинам, - Майкл Шермер

Математик Джон Тьюки, человек который придумал слово бит, обратил внимание на то, что люди мыслят как бы в двух режимах. Первый режим, это когда ты подтверждаешь то, что хочешь подтвердить. Второй - когда ты пытаешься изучить вопрос и понять как на самом деле.

Для первого режима есть название — рационализация или мотивированное мышление. Это чем-то напоминает поиск решения, когда ты заглянул в ответы в конце учебника, и узнал к чему нужно прийти. Правда существует серьёзная разница: в жизни ответы, которые у тебя есть, не всегда верны. 

Но как можно подогнать решение к неверному ответу? О, человеческий мозг — это идеальный инструмент для выполнения такой задачи, отточенный миллионами лет эволюции. Мы произошли от тех, кто смог убедить племя, что нужно убить ненавидимого ими соперника. Рационализация — это не прямое следствие такой оптимизации, а скорее побочный эффект. Учась убеждать других, мы случайно научились убеждать себя. Всё как в моей истории про дебаты, правда, в масштабе человечества.

Это явление включает в себя целый набор когнитивных искажений. Все их объединяет то, что они направлены на сохранение имеющихся убеждений. Вам ничего не нужно делать, чтобы этому научиться, всё и так уже происходит автоматически. А вот чтобы разучиться, нужно прилагать усилия. Причём не приложить, а именно прилагать постоянно. Когнитивные искажения - это не штуки, которые можно вытряхнуть из мозга хитрыми приёмами, это собственно мозг и есть.

Лики рационализации

Наиболее топорный пример рационализации - это когда я просто выдумываю на ходу аргументы в подтверждение своей позиции. Давайте не будем юлить, все так делали, по крайней мере, в детстве, и вам хорошо знакомо это ощущение. 

Однако не всегда аргументы приходится выдумывать. Теорема Байеса как бы подсказывает, что даже по самым определённым вопросам наберётся парочка слабых аргументов против. Что и говорить, о более дискуссионных темах. Но баланс свидетельств в большинстве случаев укажет в нужном направлении. 

Однако речь идёт о полном балансе свидетельств, но мы-то принимаем большинство решений в условиях неопределённости. Позвольте процитировать CEO Amazon Джеффа Безоса: «большинство решений, скорее всего, нужно принимать, имея около 70% желаемой информации». Думаю это довольно оптимистично, и в действительности мы действуем с куда меньшим количеством информации (хотя фраза «желаемой информации» не равна фразе «максимально доступной информации», и с учётом этого цитата уже куда реалистичнее). Принимая решение на основе неполной информации (то есть примерно всегда), мы можем стать жертвой ошибки выжившего, или её статистической сестры систематической ошибки отбора (selection bias). Суть их можно проиллюстрировать одной фразой: рассказы об уме и доброте дельфинов основаны на рассказах уставших пловцов, которых они толкали к берегу, но мы лишены возможности услышать рассказ тех, кого они толкали в другую сторону.

Но это просто ошибка работы с данными, при чём тут рационализация? Дело в том, что мы можем сформировать для себя подобную ошибку, выбрав реальные свидетельства, но подтверждающие лишь одну позицию. В науке такое поведение получило название «сбор вишенок» (cherry picking). Это когда мы ищем «свидетельства за» на тематических форумах соратников, и обходим стороной «свидетельства против» как бы случайно игнорируя их потенциальные источники. Крутым индикатором здесь будет то, как вы вбиваете запросы в поисковик, при поиске свидетельств. Что можно получить при поиске «аргументы за Х»? 

Было такое исследование, где участникам предлагали оценить другого человека по параметру экстраверсия/интроверсия. Они выбирали вопросы из заданого списка. Так вот, когда человека им представляли как экстраверта, они выбирали вопросы предполагающие экстраверсию например: «Что бы вы сделали, чтобы оживить скучную вечеринку?». И наоборот интровертов проверяли интроветными вопросами. То есть люди демонстрировали предпочтение положительной проверки гипотез, всё как в игре дзендо, про которую я рассказывал в ролике про совпадения. Правда всё как водится немного сложнее, и в более позднем исследовании, дизайн эксперимента скорректировали. Выяснилось, что люди предпочитают диагностические вопросы (которые дают больше информации), если их дать на выбор вместе с "положительными" и "отрицательными". То есть вообще-то по умолчанию, мы и так делаем всё правильно. А вот когда мы держимся за свои убеждения... Но об этом чуть ниже.

И кстати, память — ненадёжный инструмент, что является темой для отдельной статьи. Но здесь нам интересен эффект под названием «подтверждающая память». По умолчанию мы лучше запоминаем информацию, подтверждающую текущие убеждения. И даже если мы сталкиваетемся со свидетельствами против, наш мозг заботливо отправляет эту информацию в утилизацию небольшими порциями.

Людям верящим и не верящим в экстрасенсорные способности показывали результаты экспериментов с экстрасенсами. Половине участников в каждой из этих двух групп сказали, что экспериментальные результаты подтверждают существование такого восприятия, а половине — нет. После этого при тестировании большинство участников правильно вспоминало показанный им материал, кроме веривших, прочитавших доказательства его несуществования. Эта группа помнила значительно меньше приведённой информации, а некоторые ещё и неправильно вспоминали результаты как поддерживающие экстрасенсорное восприятие.

Другой чуть более сложный в обнаружении метод - это мотивированный скептицизм. Если мы направлены на поиск фактической ситуации, уровень нашего скептицизма и требовательности к силе доказательств будет одинаков вне зависимости от того, подтверждают ли эти доказательства какую-либо гипотезу или опровергают. Однако если мы решаем задачу зная «правильный» ответ, то будем крайне придирчивы к качеству аргументов против него. 

Ещё один лик рационализации – это выбор момента остановки вашего исследовательского поиска. Если мы знаем «правильный» ответ, и находим пару аргументов за, то мозг стремится остановить дальнейший поиск. Зачем тратить ресурс, если мы уже всё доказали как надо? Однако он не будет столь ленив, если аргументы нашлись в основном против. Тогда наш мозг засучит рукава и будет копать на полный штык, продолжая поиски пока не придёт к «нужному» выводу. Если же баланс свидетельств никак не будет складываться в нужную картинку, появится соблазн объявить вопрос недоисследованным, продолжив сомневаться в «неправильном» выводе. 

Пожалуй, самый продвинутый способ обмануть себя это произвести ритуал сомнения. Это уже, рационализация второго порядка. Тут мы, имея убеждения на какой-то счёт, обнаруживаем, что они были получены путём мотивированного мышления. Тогда мы имитируем нормальный процесс мышления и в итоге приходим к тем же убеждениям. Я называю этот процесс «легализацией убеждения». И конечно, иногда наши рационализированные убеждения бывают точны. Однако, если вы регулярно сомневаетесь в своих убеждениях, но никогда не находите убедительных аргументов против них, думаю, вам стоит начать что то подозревать. А ещё подумать над следующим вопросом: Каким чудесным образом вы получили такой изумительный набор убеждений методом, который вообще-то довольно хаотичен. Это маловероятно. Примерно как знать о мире достаточно и не ошибаться в своих прогнозах только окончив школу.

Зависит ли это от интеллекта? В США провели тест, где предлагали участникам взглянуть на безопасность авто, страну его происхождения (были только американские и немецкие авто) и то стоит ли их выпустить на улицы США и Германии. Участники запрещали опасную немецкую машину в Америке, при этом разрешая столь же опасную Американскую машину в Германии. Но важнее другое, этот эффект не зависил от уровня интеллекта.

Вот такой вот подарок от предков зашит в голове каждого из нас. Убеждения гораздо продуктивнее было бы воспринимать как листочки бумаги, лишь часть из которых верна. И если вы узнаете, что некоторый лист бумаги у вас содержит ошибку, просто замените его на верный. 

Почему мы держимся за старые убеждения?

Представьте себе ситуацию. Вы пришли к убеждению о том, что этот ноутбук лучший за свою цену. Друг спрашивает вас: «а почему ты так считаешь?». Ты, не особо задумываясь, воспроизводишь свои рассуждения: вспомнишь видео таких-то техноблогеров, обзоры таких-то моделей, и сравнение таких-то технические характеристики. Друг сообщает тебе новую информацию, о том, что по этим параметрам есть вариант лучше. Жаль, но станешь ли ты настаивать на изначальной уверенности? Скорее всего – нет. На момент принятия решения исходя из данных, что у тебя были - выбор сделан оптимально. Но с обновлённой информацией - нужно просто выкинуть листочек и заменить его на новый. Проверочный вопрос: ноутбук ломается, ты приходишь в магазин и тебе предлагают замену в том же ценовом диапазоне. Какой ноутбук выберешь теперь? Всё просто, если не держаться за старые убеждения.

Но наш мозг на довольно глубоком уровне сопротивляется удалению имеющихся листочков. Многие идеи мы воспринимаем как важные элементы самоидентификации (особенно если вложились в них репутационно, деньгами, временем или другими ресурсами). Поэтому отказ от них по умолчанию ощущается как предательство себя и всех думающих так же.

Вот пример из ролика Павла Зыгмантовича. Учёные из Университета Саутгемптона (Великобритания) сделали следующее - каждому участнику исследования они предложили представить, что на вымышленной планете водятся, среди прочих, два вида — ниффиты и люппиты. Части участников предлагали гипотезу о том, что ниффиты хищники, а люппиты жертвы, как гипотезу выдвинутую каким то другим человеком. Другой же части участников предлагали представить, что гипотезу выдвинули они сами. Затем им давали 7 фактов о жизни зверушек, часть из которых поддерживала эту гипотезу, а часть опровергала. И большая часть фактов гипотезу опровергала (4 из 7). Участники которые представили, что это их идея бились до последнего "выворачивая" аргументы. И здесь участники ещё ничем не "вложились".

Порой мы держимся за убеждения настолько сильно, что нам приходится игнорировать не просто контраргументы. Мы начинаем сомневаться в том, что есть какие-то верные листочки. В том, что доказательства имеют какой-то смысл. Я называю это «защитой на дальних подступах». Иногда это принимает вид: «да кто я такой, чтобы рассуждать о том, что правильно» (это, конечно же, нужно читать как обращение к собеседнику: «кто ты такой для этого?»). Сохранение некоторых особо абсурдных листочков заставляет людей отрицать возможность что-то изучать, понимать и доказывать. 

Однако даже в таком случае доказательства работают и меняют мнение людей. Ведь когда человек говорит: «это просто работает, а вся ваша идея более правильных листочков - ерунда» или «нет никаких правильных моделей, есть просто разные взгляды на мир» он будет убеждать вас в своей правоте с помощью… доказательств.

Так что люди не смотря на рационализацию меняют своё мнение. Правда иногда это происходит очень медленно. Есть такая книга «молот ведьм». В ней в числе прочего описан метод ведения допроса ведьм. Если девушке выдвинули обвинение, и она занервничала — это значит, что она ведьма, ведь она испугалась, а честной девушке нечего бояться. Если же она спокойна - то она ведьма, ведь настоящая ведьма конечно будет хладнокровна. Так и мы иногда не можем себе представить, а что именно должно отличаться в мире, где мы не правы. В таком мышлении восприятие свидетельств как бы вязнет. Это такая терминальная рационализация.

Цена ошибки

Зачастую вместо «проверки» своих убеждений на самом деле мы просто оцениваем цену ошибки. "Что если я окажусь неправ?" Это не имеет ничего общего с установкой на поиск истины. Наш мозг выполняет ровно ту задачу, которую перед ним ставят, производит оценку, а затем подгоняет данные под самый "выгодный" вариант.

Вот только реальность существует не зависимо от наших убеждений. Веришь ты в то, что автомобиль может сбить тебя в неположенном месте или не веришь - результат будет один и тот же. Даже если ты откажешься в это верить и применишь аффирмации. То, с чем ты будешь взаимодействовать на физическом уровне — это груда металла на огромное скорости, а не твои мысли о ней. Даже если тебе грустно от этого знания, это ничего не изменит.

У тебя есть выбор во что верить, но у тебя нет выбора с чем взаимодействовать. Ожидать ты можешь чего угодно, но вот сбудутся твои ожидания или нет зависит от того соответствуют ли они реальности.

Наука строится на наблюдениях, а Вера - это отрицание наблюдений для сохранения собственных убеждений, - Тим Минчин

Спасибо за любопытство!