Постановка проблемы
Проблема эпистемической безответственности, как я назову ее в этом посте, состоит в том, что люди иногда соглашаются, что их рассуждения (и, следовательно, модели, которых они придерживаются и используют в качестве основы для своих действий) иррациональны или нелогичны. Например, люди сознательно используют уже опровергнутые теории, например, астрологию. Тем не менее, люди не действуют в соответствии с этим знанием и не обновляют свои модели и планы действий.
Более «мягкая» версия этой проблемы возникает, когда люди соглашаются, что они не знают, рациональны ли их рассуждения: например, потому, что они не искали никаких фактов, опровергающих теории, которыми они пользуются, или не пытались придумать какие-либо аргументы, опровергающие их рассуждения или модели. Также, люди могут не знать, как проверить, верна их теория или нет, т. е. не владеют необходимым эпистемологическим аппаратом (хотя эти люди едва ли будут мыслить такими категориями). Затем, люди не действуют в соответствии с этим "знанием о своем незнании". Примерами этой версии проблемы эпистемической безответсвенности могут служить некритическое восприятие людьми новостей в СМИ или заявлений, сделанных политиками, и, в некоторой степени, плохие научные практики, например описанные в эссе Ричарда Фейнмана "Cargo Cult Science".
Анатолий Левенчук называет эту пробему "А чо такова?" и обсуждает этом посте, а также по ссылкам из него.
Проблема эпистемической безответственности, или, скорее, ее антипод - эпистемическая ответственность, - принадлежит к дисциплине нормативной логики, т. е. «дофрегевской» логики, как подчеркивал здесь Джон Сова (John Sowa):
Три вида оценочных суждений — это Красота, Доброта и Истина. Они определяют три вида нормативной науки: эстетику, этику и нормативную логику. Пирс (Pierce) отождествлял нормативную логику с логикой семиотической. Но все науки, включая нормативные науки, зависят от математики и математической логики (она же формальная логика).
Все эмпирические науки, включая нормативные науки, зависят от феноменологии для анализа и интерпретации восприятия. Три части нормативной логики (также известной как семиотическая логика): (1) критическая логика, которая является формальной логикой; (2) грамматика; и (3) методевтика, так Пирс называет методологию науки.
Все эти вопросы подробно обсуждались и анализировались Аристотелем, веками обсуждались греками, римлянами и арабами, а средневековые схоласты довели их до высокого уровня сложности. В книгах под названием «логика» с 13 по 19 века обсуждались все эти вопросы. Но логики 20 века игнорировали все, кроме формальной логики. Они проделали много хорошей работы по логике, но и многое потеряли.
Вот почему я сказал, что они потратили слишком много времени на изучение Фреге (Frege), который игнорировал все, кроме формальной части.
Порочный круг эпистемической безответственности: людей, которые не владеют логикой, сложно убедить выучить логику
В контексте обучения логике, рациональности, и другим "правильным" дисциплинам, например, в Центре прикладной рациональности или других программах, эпистемическая безответственность мешает людям принять решение изначально научиться чему-то из логики и эпистемологии, пойти на какие-то курсы.
Здесь возникает порочный круг, или "проблема курицы и яйца", потому что действовать на основании того факта, что я не владею нормативной логикой (а именно, пойти на курс по нормативной логике) - это все равно, что уже использовать нормативную логику!
В результате, сложно убедить большинство людей прочитать что-нибудь о нормативной логике и рациональности: в лучшем случае они будут очень глубоко в их списках тем для изучения (например, ниже астрологии). Люди отвечают что-то вроде «Я уже успешный человек, почему я должен тратить на это время?» или «У меня нет на это времени, я лучше сразу пойду на курс по программированию или маркетингу». Короткая версия, объединяющая все подобные ответы: "А чо такова?".
Таким образом, эпистемическая безответственность - серьезная преграда для просвещения населения в логике, рациональности, и хорошей науке (например, физики) вместо плохой науки (например, астрологии) в целом.
Признание проблемы в литературе и связанные идеи
Во-первых, я взял название для проблемы «эпистемической безответственности» из этой цитаты Ричарда Хэмминга в «Искусстве заниматься наукой и инженерией»:
Очевидно, что роль людей будет сильно отличаться от традиционной, но многие из вас будут настаивать на старых теориях, которые вы преподавали давно, как будто при этом они будут автоматически верны в будущем. Это может встретиться и в бизнесе, многое из того, чему сейчас обучают, основывается на прошлом и игнорирует компьютерную революцию и наши ответы на некоторые из пороков, которые принесла революция; выгоды, как правило, понятны руководству, а проблемы – в меньшей степени.
Сколько трендов, предсказанных в части 6 выше, в направлении микроменеджмента и вне его, будет широко применяться и снова станет самой подходящей для вас темой? Неизвестно, но вы будете дураком, если не будете уделять этому свое и постоянное внимание. Я предлагаю вам переосмыслить все, что вы когда-либо узнали по этому вопросу, задать вопрос о каждой успешной доктрине из прошлого и, наконец, решить для себя свою будущую применимость. Будда сказал своим ученикам: «Не верьте ничему, независимо от того, где вы это прочитали, или кто это сказал, даже если это сказал я, если это не согласуется с вашим собственным рассудком и вашим собственным здравым смыслом». Я говорю то же самое — вы должны взять на себя ответственность за то, во что верите.
Во-вторых, Мортимер Адлер (Mortimer Adler) пишет в книге «Как читать книгу»:
Суть активного чтения: четыре основных вопроса, которые задает читатель
[…]
1. О чем книга в целом? […]
2. О чем говорится в деталях и как? [...]
3. Сказанное верно полностью или частично? […]
4. Что из этого следует? (What of it?) Если книга дала вам информацию, вы должны спросить о ее важности. Почему автор считает важным знать эти вещи? И если книга не только сообщила вам что-то, но и просветила вас, необходимо продолжать образование, спрашивая, что еще следует, что далее подразумевается или предполагается из этого знания. […]
[…] Последний вопрос — "Что из этого следует?" — вероятно, самый важный в синтопическом чтении (syntopical reading). Естественно, вам придется ответить на первые три вопроса, прежде чем пытаться ответить на последний.
Просто знать эти четыре вопроса недостаточно. Вы должны помнить их и задавать их себе во время чтения. Привычка делать это — признак требовательного читателя. Более того, вы должны знать, как точно ответить на эти вопросы. Натренированная способность делать это и есть искусство чтения.
И затем, в другом месте книги:
Четвертый вопрос, "Что из этого следует?", меняется больше всего. Если после прочтения теоретической книги ваш взгляд на ее предмет более или менее изменился, то вам необходимо внести некоторые коррективы в свой общий взгляд на вещи, "модель мира". (Если никаких корректировок не требуется, то вы вряд ли многому научились из книги.) Но эти корректировки не обязательно должны быть существенными, и они не обязательно подразумевают действия с вашей стороны.
Однако согласие с практической книгой подразумевает действия с вашей стороны. Если вы убеждены автором в том, что цели, которые он предлагает, достойны, и если вы также убеждены в том, что рекомендуемые им средства, вероятно, достигнут этих целей, то трудно понять, как вы можете отказаться действовать так, как предлагает автор.
Конечно, так бывает не всегда. Но в этот момент важно понимать, что, несмотря на его кажущееся согласие с целями автора и принятие его средств, читатель на самом деле с ними не согласен или не принимает их. Если бы он и согласился, и принял цели и средства, предложенные автором, он не может рационально не действовать в соотсветствии с этими целями и средствами. Приведем пример. Если после прочтения второй части этой книги вы (1) согласились с тем, что полезно читать книги аналитически (analytical reading), и (2) приняли правила чтения, изложенные в этой части книги как важные для достижения этой цели, то вы, должно быть, начали пытаться читать так, как мы описали. Если вы этого не сделали, то это не только потому, что вы были ленивы или устали. Это потому, что вы на самом деле не сделали или (1), или (2). […]
Это, конечно, в первую очередь не проблема чтения, а психологическая проблема. Тем не менее психологический факт имеет отношение к тому, насколько эффективно мы читаем практическую книгу, и поэтому мы обсудили этот вопрос здесь.
В-третьих, идея Дэвида Дойча «принимать всерьез теории, которые еще не были опровергнуты» - важный лейтмотив в его книге «Структура реальности». Вот самое начало книги:
Посвящается памяти Карла Поппера, Хью Эверетта и Алана Тьюринга, а также Ричарду Докинзу. В этой книге их идеи восприняты всерьез.
Предисловие
Если и существует единая мотивация для взгляда на мир, изложенного в этой книге, она заключена в том, что главным образом благодаря ряду экстраординарных научных открытий мы обладаем сейчас некоторыми чрезвычайно глубокими теориями о структуре реальности. Если мы хотим понять мир не поверхностно, а более глубоко, нам помогут эти теории и разум, а не наши предрассудки, приобретенные мнения, и даже не здравый смысл. Наши лучшие теории не только истиннее здравого смысла, но в них гораздо больше смысла, чем в здравом смысле. Мы должны воспринимать их серьезно [выделение мое - Роман Левентов]: не просто как практическую основу соответствующих областей, а как объяснение мира.
В-четвертых, связанная идея - "эпистемология принятия рисков" Нассима Талеба. В «Антихрупкости» он написал: «Ты должен делать то, о чем имеешь мнение и говоришь. Отвечай за базар» (оригинал: "You gotta do so if you have an opinion. Live what you say."). Он также говорит, что «истинная добродетель — это взятие рисков». Идея состоит в том, что акторы с плохими идеями «умрут», метафорически или буквально, и, таким образом, хорошее знание и теории будут отобраны параллельно с эволюционным отбором акторов - "переносчиков" этих идей (мемов): людей, компаний и стран.
Корень проблемы — энергетические затраты на обновление ментальных и расширенных моделей
В этом разделе я предлагаю объяснение эпистемической безответственности в терминах активного познания (Active Inference).
Основная формула ожидаемой свободной энергии (expected free energy) включает только «прирост информации» (information gain), связанный с базовой дискриминационной моделью (discriminative model) агента, и «прагматическую ценность» (pragmatic value), связанную с базовой генеративной моделью (generative model) агента. Познающий агент (Active Inference agent) стремится свести к минимуму ожидаемую свободную энергию "c двух сторон": и обновлением своих моделей, и действиями, "подгоняющими реальность под модели".
Однако, если в формуле ожидаемой свободной энергии расписать иерархию модели и попытаться явно описать модельное обучение (model learning) (также известное как метаобучение, meta-learning), в формулу добавляются дополнительные члены. Во-первых, она должен включать прирост информации (information gain) на обновлениях параметров модели (или структуры модели): см. главу 7, раздел 7.5 «Обучение и новизна» в книге "Active Inference". Во-вторых, следует учитывать энергетические затраты на само обновление моделей агента, а они могут быть большими. Есть нейробиологическая цена "перепрошивки" мозга: всем известно, что «забыть» (unlearn) что-то, чтобы выучить вместо этого другое знание, может быть даже сложнее, чем научиться изначально. Также есть энергетические и финансовые затраты во внешнем мире, связанные с тем, что человек что-то устроил в своей жизни (это можно рассматривать как его расширенный фенотип, extended phenotype) в соответствии со своими моделями: например, он начал бизнес, веря в перспективность определенной идеи, или переехал в определенное место, полагая, что климат этого места поможет поправить его здоровье. Закрыть бизнес и уехать обратно - не бесплатно, ни энергетически, ни финансово.
Я думаю, что более формальные варианты этого объяснения эпистемической безответственности можно найти в работах “An information-theoretic perspective on the costs of cognition” (Zenon et al. 2019) and “Resource-rational analysis: Understanding human cognition as the optimal use of limited computational resources” (Lieder and Griffiths 2019). Хотя, признаться, я читал в них только абстракты.
Есть также объяснения эпистемической безответственности с точки зрения когнитивных искажений или психологии, например, что эпистемическая безответственность является своего рода защитной реакцией людей на вопрос типа «Ты не думал пройти курс по рациональности?», который может быть воспринят человеком как предположение, что он нерационален (что, в общем-то, правда, за подобным вопросом действительно обычно скрывается такое предположение). Однако я думаю, что эти объяснения - лишь следствие объяснения через высокую энергетическую цену обновления ментальных и расширенных моделей в реальном мире.
Преодоление эпистемической безответственности у себя требует собранности
Таким образом, если объяснение выше близко к истине, агент должен замечать у себя нарушения "формальной" нормативной логики (не учитывающей цену обновления моделей). Иногда рационально продолжать действовать, руководствуясь устаревшими моделями, которые могут периодически давать неверные предсказания, потому что энергетические затраты на немедленное обновление моделей могут быть выше, чем цена, которую агент заплатит из-за неверных прогнозов старых моделей. По крайней мере, до времени.
Например, если человек, который только что выучился астрологии (прошел платный тренинг для учителей астрологии), внезапно осознает, что астрология — это лженаука, он может решить, что разумно, по крайней мере, завершить семинар по астрологии, который он прямо сейчас проводит. Если он объявят об отмене семинара немедленно, ему нужно будет вернуть все деньги, уже собранные с участников семинара, а также понести разные дополнительные издержки, от юридических до репутационных и жесткого психологического дискомфорта, через который ему придется пройти, объяснясь перед участниками семинара. Тут я замечу, что мы можем считать решение учителя астрологии [продолжить семинар] рациональным, но неэтичным. Включение или исключение этики "внутрь" рациональности - скорее терминологический, чем сущностный вопрос.
Знать корень эпистемической безответственности и рефлексировать о местах в моих моделях мира, где я придерживаюсь «временно иррациональных» убеждений - недостаточно для преодоления в себе этой проблемы. Нужно также иметь дисциплину (собранность), чтобы регулярно возвращаться к этим "нерациональным" местам в своих моделях и решать, когда издержки от применения устаревшей модели начинают перевешивать затраты на обновление модели. Такая дисциплина напоминает «привычку задавать вопросы (в том числе "Что из этого следует?" ) во время чтения», а также «натренированную способность точно отвечать на эти вопросы», о которых писал Адлер в книге «Как читать книгу» .
Этот «рецепт» преодоления эпистемической безответственности в себе не помогает разорвать связанный с ней порочный круг в контексте просвещения о котором я писал выше, потому что сами объяснения, изложенные в двух предыдущих разделах и по ссылкам в них, требуют некоторого понимания логики, онтологии, эпистемологии и науки о мозге. А порочный круг заключается в том, что людей с эпистемической безответственностью сложно убедить приобрести даже эти знания. Собственно, если бы люди в массе были заинтересованы в приобретении этих знаний, никакой проблемы бы не было.
Эпистемическая безответственность компаний, сообществ, обществ и цивилизации
Можно поставить проблему эпистемической безответственности не только на личностном уровне, но и на более высоких системных уровнях. Независимо от того, можно ли считать компании, сообщества, общества и цивилизацию агентами, кажется осмысленным, по крайней мере, считать их "когнитивными сущностями" или «единицами обработки информации», которые, таким образом, тоже должны использовать нормативную логику и рациональность в своей деятельности.
Например, я думаю, можно рассматривать социальное и политическое противодействие решению проблемы глобального изменения климата (например, отрицание изменения климата), которое началось 40-50 лет назад и продолжается до сих пор, как пример эпистемической безответственности общества и всей цивилизации.
Как разорвать порочный круг эпистемической безответственности?
Я не думал серьезно на эту тему, и у меня нет никаких идей, как мотивировать людей изучать нормативную логику и рациональность, если они отвечают "А чо такова?" на вежливые предложение изучить эти дисциплины.
Буду благодарен, если читатели поделятся своим опытом или идеями о стратегии преодоления этой проблемы на уровне просвещения общества.
Комментарии (14)
Child_Of_Flowers
01.11.2022 10:36+2А почему вы относитесь к этой так называемой эпистемической безответственности исключительно как к проблеме, которую надо решать? Если человечество живёт с этим, судя по всему, на протяжении всего своего существования, вам не приходила мысль, что, может быть, это не просто так? Что если это один из фундаментальных механизмов человеческого мировосприятия, выполняющий какие-то важные функции? До сих пор ведь не известно досконально, как работает человеческое сознание. При этом однобокое рассмотрение эпистемической безответственности исключительно как проблемы, без всяких "а что если?...", разве само по себе не является эпистемической безответственностью?
Вот например, исключительно как одно из предположений, и самое очевидное и простое. Что если эта ваша эпистемическая безответственность является своеобразным предохранителем от перегрузок? Ведь очевидно, что в любой более-менее непростой ситуации вычислительных способностей человеческого мозга может не хватить на анализ всех возможных факторов и исходов. Поэтому мы наименее вероятное округляем до невероятного, доверяемся чужому мнению, принимая его за компетентное, при любой возможности экстраполируем имеющийся опыт на новые ситуации, и т.п... Да и что говорить о сложных ситуациях? Уже, ведь, общеизвестно, что человеческое мышление заточено на максимальное сохранение энергии. В этом свете эта ваша эпистемическая безответственность уже выглядит вполне уместной. Особенно учитывая, что её последствия, на самом деле, далеко не всегда бывают вредоносными.
А почему вы совершенно не рассматриваете психологический фактор? (или я это упустил...) Ведь очевидно, что с психологической точки зрения эпистемическая безответственность - прекрасный механизм защиты от нервного срыва (который, в свою очередь, может привести к гораздо более нерациональным поступкам и серьёзным последствиям, вплоть до серьёзного вреда здоровью). Опять же, очевидно, что в таком случае уровень эпистемической безответственности каждого человека будет напрямую зависеть от его психического здоровья и стрессоустойчивости. Кстати, ярчайший тому пример - текущая ситуация в мире. Думаю каждый уже успел поразиться, какие порой невероятные аргументы находят люди чтобы занять ту или иную сторону, напрочь отметая при этом любую противоречащую им информацию. Конечно, так было всегда, но сейчас это особенно заметно. Тут уже можно поразмышлять и о природе холиваров, и в целом о том, почему человек испытывает такой дискомфорт, когда кто-то думает "не правильно". Мне кажется, тут ноги растут всё оттуда же - это всё посягательства на психологическое равновесие и состояние покоя, на что срабатывают защитные реакции...
Конечно, эти все мои гипотезы могут быть и ошибочными. Но в чём я уверен, так это в том, что не мог бы такой грандиозный баг сохраняться на протяжении тысячелетий, не будь от него какой-то пользы (и это я ещё не сторонник теории эволюции). Да и в целом, человек - сложнейшее существо во вселенной (по крайней мере, из всех нам известных). Не будем же его упрощать до "палка-палка-огуречик". Тем более, с учётом того, что мы, наверное, и на половину не постигли, как он устроен, у нас и нет для этого объективных оснований... ну разве что эта ваша эпистемическая безответственность))
leventov Автор
01.11.2022 11:01+3А почему вы относитесь к этой так называемой эпистемической безответственности исключительно как к проблеме, которую надо решать? Если человечество живёт с этим, судя по всему, на протяжении всего своего существования, вам не приходила мысль, что, может быть, это не просто так?
Это рассуждение по индукции, которое не имеет смысла. Точно также можно было сказать про письмо. Когда Кирилл и Мефодий пришли к славянам, они могли бы возразить: вы не задумывались, почему мы жили до этого без письменности? Может быть, это не просто так? Эпистемическая ответственность -- это (под)дисциплина интеллекта, часть логики, сравнимая с письмом и счетом (John Vervaeke называет их "psycho-technologies").
До сих пор ведь не известно досконально, как работает человеческое сознание. При этом однобокое рассмотрение эпистемической безответственности исключительно как проблемы без всяких "а что если?..." разве само по себе не является эпистемической безответственностью?
Непонятный совершенно прыжок. При этом, из этой цитаты становится понятно, что вы сами не знакомы с попперианской эпистемологией. Об этом даже есть прямо в этом посте, в цитате Дойча: пока теория активного познания (Active Inference) и объяснение эпистемической безответственности, предложенное мной на ее основе, не опровергнуты, их или надо воспринимать всерьез, или искать опровержения (а не "доказательства"!), или предложить другую теорию и другое объяснение, которые еще лучше.
Вот например, исключительно как одно из предположений, и самое очевидное и простое. Что если эта ваша эпистемическая безответственность является своеобразным предохранителем от перегрузок? Ведь очевидно, что в любой более-менее непростой ситуации вычислительных способностей человеческого мозга может не хватить на анализ всех возможных факторов и исходов. Поэтому мы наименее вероятное округляем до невероятного, доверяемся чужому мнению, принимая его за компетентное, при любой возможности экстраполируем имеющийся опыт на новые ситуации, и т.п... Да и что говорить о сложных ситуациях? Уже, ведь, общеизвестно, что человеческое мышление заточено на максимальное сохранение энергии. В этом свете эта ваша эпистемическая безответственность уже выглядит вполне уместной. Особенно учитывая, что её последствия, на самом деле, далеко не всегда бывают вредоносными.
Вы тут пересказали один из разделов поста. К чему тогда вопрос "что если"?
А почему вы совершенно не рассматриваете психологический фактор? (или я это упустил...) Ведь очевидно, что с психологической точки зрения эпистемическая безответственность - прекрасный механизм защиты от нервного срыва (который, в свою очередь, может привести к гораздо более нерациональным поступкам). Опять же, очевидно, что в таком случае уровень эпистемической безответственности каждого человека будет напрямую зависеть от его психического здоровья и стрессоустойчивости. Кстати, ярчайший тому пример - текущая ситуация в мире. Думаю каждый уже успел поразиться, какие порой невероятные аргументы находят люди чтобы занять ту или иную сторону, напрочь отметая при этом любую противоречащую им информацию.
С одной стороны, хочется ответить, что "психологический срыв" (а точнее, "крушение картины мира", вряд ли речь идет именно о "срыве") -- это вариант "цены обновления модели", про которую я писал в посте. С другой стороны, вы поднимаете интересный вопрос -- а почему люди настолько сильно отождествляются с представлениями о стране, о президенте, почему это становится частью их идентичности, хотя ясно, что это не сильно или вообще никак не влияет на их каждодневное выживание, и даже карьеру? Ответ мне неизвестен, но мне было бы интересно узнать мнение профессиональных психологов и социологов на этот счет. Также, этот ответ, в принципе, может поставить под сомнение теорию активного сознания, если его будет очень сложно объяснить в рамках этой теории.
Конечно, эти все мои гипотезы могут быть и ошибочными. Но в чём я уверен, так это в том, что не мог бы такой грандиозный баг сохраняться на протяжении тысячелетий, не будь от него какой-то пользы (и это я ещё не сторонник теории эволюции). Да и в целом, человек - сложнейшее существо во вселенной (по крайней мере, из всех нам известных).
Этот аргумент, "эволюция не может ошибаться", хорошо обсуждают (и опровергают) Бостром со товарищи тут: https://nickbostrom.com/evolutionary-optimality.pdf. Хотя, как я написал выше, он тут в любом случае не применим, потому что человечество вообще что-то начало понимать про логику очень недавно, по эволюционным меркам.
и это я ещё не сторонник теории эволюции
Это тоже зря.
Sau
01.11.2022 14:10Это рассуждение по индукции, которое не имеет смысла. Точно также можно было сказать про письмо. Когда Кирилл и Мефодий пришли к славянам, они могли бы возразить: вы не задумывались, почему мы жили до этого без письменности? Может быть, это не просто так? Эпистемическая ответственность -- это (под)дисциплина интеллекта, часть логики, сравнимая с письмом и счетом (John Vervaeke называет их "psycho-technologies").
Что если сверх-разумное существо подберёт такой набор аргументов (аналог вируса для рационально-мыслящих), который приведёт к самоуничтожению или извращению рационального человечества?
leventov Автор
01.11.2022 16:29+1Ну, плохо будет. Как это связано с постом? Рассуждение не меняется: люди должны анализировать дисциплины/psycho-technologies, которые они применяют, в том числе на долгосрочные риски (не приведет ли использование этих дисциплин/psycho-technologies к "самоуничтожению и развращению"). Такие дисциплины/psycho-technologies не обязательно должны быть изобретены сверхразумом: уже сейчас, разные люди считают, что есть идеи и практики, которые приведут к самоуничтожению: от капитализма и финансовой системы (см. https://slatestarcodex.com/2014/07/30/meditations-on-moloch/) до собственно, самого рационализма и следующего из него агностицизма/атеизма: религиозные фундаменталисты уверены, что это самые вредные из идей.
Каждому человеку по отдельности, компаниям, сообществам, обществам, и человечеству в любом случае всегда надо будет "жить своей головой", плюс компьютерами, которым они доверяют.
Рисками того, что сильный ИИ будет особо заинтересован извести человечество занимаются в сфере AGI safety/AI alignment.
Child_Of_Flowers
01.11.2022 15:03Точно также можно было сказать про письмо
Только пользу от безграмотности найти будет посложнее) Мой то вопрос в том, действительно ли рассматриваемое явление является вредным...
пока теория активного познания (Active Inference) и объяснение эпистемической безответственности, предложенное мной на ее основе, не опровергнуты, их или надо воспринимать всерьез, или искать опровержения (а не "доказательства"!), или предложить другую теорию и другое объяснение, которые еще лучше.
Ну так я и предложил целых две теории)
Вы тут пересказали один из разделов поста. К чему тогда вопрос "что если"?
Возможно я что-то не так понял, или недоуловил в том разделе. Но если в нём действительно написано то же самое, что я имел в виду, то как он у вас вяжется с теорией о том, что эпистемическая безответственность - это плохо? По моей логике, он, как раз, должен доказывать, что она необходима.
точнее, "крушение картины мира", вряд ли речь идет именно о "срыве"
Я не имел в виду конкретно не того, ни другого. Я имел в виду в целом психические состояния, характеризуемые определёнными последствиями для человека - от совершения необдуманных и нерациональных поступков до сердечного приступа или лишения рассудка. Это ключевой момент, потому что мой вопрос в том, что на самом деле рациональнее: довести себя до одного из этих состояний, делая всё правильно и по логике, либо абстрагироваться от раздражителей, и (возможно) понести за это закономерное возмездие (к которому, кстати, человек будет подсознательно более готов, и поэтому перенесёт его легче). А тут ещё, кстати, неплохо бы порассуждать на тему, что в принципе для человека представляет наибольшую ценность - психическое здоровье (душевное состояние), физическое здоровье, или материальные ценности. Ведь в неблагоприятных ситуациях человек бывает вынужден жертвовать именно одной из этих вещей. И от того будет ли он эпистемически ответственен или безответственен зависит, чем именно он пожертвует. Соответственно, если он пожертвует не самым ценным, используемую стратегию можно считать верной.
почему люди настолько сильно отождествляются с представлениями о стране, о президенте, почему это становится частью их идентичности, хотя ясно, что это не сильно или вообще никак не влияет на их каждодневное выживание, и даже карьеру? Ответ мне неизвестен, но мне было бы интересно узнать мнение профессиональных психологов и социологов на этот счет
Ну я не психолог и не социолог. Поэтому могу лишь поделиться своим скромным мнением на этот счёт. Это, кстати, перекликается с моим отношением к предмету вашей статьи, поэтому, я думаю, будет уместно. Говорят, у человека помимо базовых потребностей, таких как выжить, есть ещё и духовные. Вот, видимо, перечисленные вами явления и удовлетворяют часть этих духовных потребностей. Лично я считаю, что существовать человеку ради удовлетворения своих базовых потребностей абсолютно бессмысленно. Ну а чтобы удовлетворить духовные потребности (читай - наполнить жизнь смыслом), такие как, например, быть нужным, полезным, любимым, неизбежно придётся отождествиться с определённой частью общества, их понятиями, ценностями, и т.д... Вообще, говорят, человек - существо социальное... Наверное не просто так говорят))
человечество вообще что-то начало понимать про логику очень недавно, по эволюционным меркам
Возможно. Но если так, то про психологию человечество понимает и того меньше. И я, опять же, не понимаю, как можно уделять этому так мало внимания в вопросе, который, по сути, является именно психологическим. Зачем в принципе психологию пытаться объяснить с точки зрения логики, не зная при этом досконально ни того не другого? Это, извините меня, получается какой-то ералаш...
Это тоже зря
Отнюдь, у меня на это есть веские причины. Но это, как говорится, уже совсем другая история...
leventov Автор
01.11.2022 16:50+1Мой то вопрос в том, действительно ли рассматриваемое явление является вредным..
Я сделал в посте несколько спекулятивное предположение, что проблемы с изменением климата - во многом, результат эпистемической безответственности на цивилизационном уровне. Засилие по всему миру политиков-популистов - тоже. Фейк ньюс, манипуляция мнением - тоже (если бы большинство населения было бы эпистемически ответственны в той же мере, в которой они грамотны, никакие фейк ньюс бы не выжили). Войны - тоже.
Так что вред от эпистемической безответственности огромен, хотя его и сложно сопоставить с вредом от безграмотности: при тотально безграмотном населении, у нас была бы примитивная экономика с ВВП от силы 1000$ в год.
Ну так я и предложил целых две теории)
А я ответил, что ваши объяснения являются частными случаями или следствиями моего объяснения.
Возможно я что-то не так понял, или недоуловил в том разделе. Но если в нём действительно написано то же самое, что я имел в виду, то как он у вас вяжется с теорией о том, что эпистемическая безответственность - это плохо? По моей логике, он, как раз, должен доказывать, что она необходима.
Мое объяснение представляет кажущуюся иррациональность как рациональность, если учитывать соображения из активного познания. И нужна дисциплина, чтобы такие "псевдо-иррациональности" жестко у себя отслеживать и исправлять их в нужные моменты. В посте же речь о проблеме научения людей хотя бы этому. Потому что интуитивное поведение очень сильно сбоит. Примеры выше: климатический кризис, популисты, фейк-ньюс, войны.
Я не имел в виду конкретно не того, ни другого. Я имел в виду в целом психические состояния, характеризуемые определёнными последствиями для человека - от совершения необдуманных и нерациональных поступков до сердечного приступа или лишения рассудка.
Говорите, что не имели ввиду, но продолжаете писать про сердечный приступ и лишение рассудка. Я сильно сомневаюсь, что люди, которые сейчас поддерживают российскую власть, реально рискуют тем или другим, если они изменят свое мнение. И если да, то ничтожный процент. Собственно, таких людей, меняющих мнение сейчас -- хватает. Вопрос, почему их не сильно больше, почему это, грубо говоря, не все население, кроме силовиков и представителей власти - про последних понятно, они слишком сильно встроены в систему. Да и то, там тоже есть варианты.
Ну а чтобы удовлетворить духовные потребности (читай - наполнить жизнь смыслом), такие как, например, быть нужным, полезным, любимым, неизбежно придётся отождествиться с определённой частью общества, их понятиями, ценностями, и т.д... Вообще, говорят, человек - существо социальное...
Нелогичный переход: чтобы быть нужным, полезным, и любимым, не нужно ни с кем отождествляться, тем более, со властью и курсом страны. Но про смысл - согласен, вероятно, это идея в нужном направлении. Помнится, социологи и психологи говорили об идее величия страны, которая хорошо продается, потому что маскирует собственную плохую жизнь.
Зачем в принципе психологию пытаться объяснить с точки зрения логики, не зная при этом досконально ни того не другого? Это, извините меня, получается какой-то ералаш...
Я не пытаюсь "объяснить психологию с точки зрения логики". Вы все еще поняли достаточно мало из поста. И ералаш получается как раз в ваших комментариях из-за этого.
bbs12
01.11.2022 15:46а почему люди настолько сильно отождествляются с представлениями о стране, о президенте, почему это становится частью их идентичности, хотя ясно, что это не сильно или вообще никак не влияет на их каждодневное выживание, и даже карьеру?
Как это не влияет на выживание? Государства во главе с диктаторами тысячелетиями убивали и гнобили тех людей, кто не хотел отождествляться с ними, быть с ними заодно. За такой большой промежуток времени селекции желание "быть частью стаи" могло закрепиться буквально в генах, так же как страх высоты имеет явно генетическую природу.
leventov Автор
01.11.2022 16:54Я пишу о сегодняшнем дне, естественно. Сейчас, поддерживает бабушка-пенсионерка Путина, или она ярая либералка - на ее выживание никак не влияет абсолютно, она будет получать одинаковую пенсию. То же самое, в принципе, касается всей массы населения, кроме тех, кто встроен во властно-силовую систему: силовиков и чиновников.
spanasik
01.11.2022 12:00-2Не верьте ничему, независимо от того, где вы это прочитали, или кто это сказал, даже если это сказал я...
Это упрощённое и искажённое изложение намного более сложного и детального текста, люди всё любят упрощать.
vkomp
01.11.2022 16:55+2Считаю, что статья больше ориентирована на поддержку единомышленниками. Типа "как здорово, что мы все такие тут просветленные и знаем, что другие не такие". То есть эзотерика.
Если же не разделять точку мнения автора, то вовлечься в "круг истины" достаточно сложно.
И немного своего ИМХО, на истину не претендую. Даже не "психолог", а риэлтор с 10+ стажем сделок, где люди принимают СЛОЖНЫЕ решения. Как говорил незыблемый Карл Маркс "Критерий истины - практика". В статье достаточно мало практики - и ее много в жизни вокруг!
Итак:
Я считаю, что большинство решений людьми принимаются иррационально. А те, которые "рациональные" на какой-то итерации "Зачем?" упираются в нерациональное верование "А потому что!". В основном верования агрегируют сложные размышления в простую конструкцию - функцию/процедуру. И здорово экономят время. Когда функция перестает решать задачу - наступаешь на старые грабли - то внутриличностный кризис (или просто стресс) и перелопачивание опыта.
В статье решения направлены в будущее - априори неизвестное! Потому они изначально не могут быть рациональными - есть неизвестные, которые похерят любой план. Это булгаковское "все смертны, причем внезапно!" и мой многочисленный опыт развалившихся сделок. Мой коммент именно о том, что решения о будущем не могут быть рациональными априори!
И о книгах. Почему-то из статьи сложилось впечатление, что если авторы умные, то и внутри книги обязательно что-то умное. Книга - просто работа, и выражает не то, что автор думает, а то что он хотел написать! Нужно всегда критически оценивать содержимое. Например, я вообще не согласен, что "развитие" и "добро" тождественны. Да, мне нравится учиться, а другому нет - и он не становится человеком "хуже"!
SadOcean
01.11.2022 19:12+1Спасибо, очень интересная статья.
Давно задумывался о процессе получения знаний как некотором "дополнении" ментальной модели.
Как и о нерациональных действиях людей, которые знают факты, но не могут принять качественные решения из-за неких установок или слишком большой радикальности выводов.
Типичный пример - поддержка убыточных проектов и боязнь закрыть их из-за страха потерь.
Ваша статья увязывает эти случаи.leventov Автор
02.11.2022 07:24Поддержка убыточных проектов - типичный случай sunk cost fallacy.
В принципе, все ментальные искажения (cognitive biases) - это шорткаты для экономии когнитивных ресурсов, поэтому полезны в каких-то случаях. Но для отслеживания моментов, когда шорткат или интуитивную реакцию надо заменить на честную рефлексию и осознанное рассуждение, людям обычно не хватает собранности/самоконтроля/само-надзора (self-governance).
JackKatch
Поторопился комментировать