Раньше считалось, что причина необразованности в дефиците информации, но современный мир показывает, что это совсем не так. Теорий заговоров существует немало, от вполне адекватных, в духе: «правительство недоговаривает про определенные эксперименты», и вплоть до плоскоземельщиков, сторонников 300-летней истории и т.д. Однако, общение с искусственным интеллектом способно переубедить этих людей.

Это пример того, как человеку, который запутался в ментальных ошибках, нужна помощь и свежая информация. Ведь даже если он и будет искать какие-либо факты, отталкиваясь от уже выстроенных в сознании установок, то будет лишь снова и снова возвращаться к ним же. Больше про ментальные особенности, гибкость разума и инструменты для работы с содержимым нейронных связей – рассказывают материалы сообщества. Подписывайтесь, чтобы не пропускать свежие статьи!

Искусственный интеллект переубеждает

В новом исследовании группа ученых из Американского университета, Массачусетского технологического института и Корнелльского университета показала, что сторонники теорий заговора могут изменить свои взгляды после коротких бесед с искусственным интеллектом.

Участники исследования, верящие в теории заговора, включая широкий спектр теорий о причинах пандемии COVID-19 или внешнем вмешательстве в президентские выборы в США 2020 года, продемонстрировали значительное и устойчивое снижение веры в заговор после беседы с ИИ.

Подпитываемые поляризацией мнений в политике и дезинформацией из социальных сетей, теории заговора стали серьезной проблемой, вызывающей беспокойство общественности. Они часто вбивают клин между сторонниками теорий и их друзьями и членами семьи. И вот как раз в развитии искусственного интеллекта просматриваются риски. Дескать, генерация дипфейков станет двигателем нового постмодернизма.

Результаты опроса YouGov, проведенного в декабре прошлого года, показывают, что значительная часть американцев верят в различные теории заговора.

Личная идентичность или ошибочное суждение?

В области психологии существует широко распространенное мнение, которое подвергается сомнению после полученных результатов. Есть мнение, что сторонники теорий заговора придерживаются своих убеждений из-за значимости этих убеждений для идентичности человека, и потому, что эти убеждения резонируют с глубинными побуждениями и мотивами.  

Многие сторонники теории заговора действительно готовы пересмотреть свои взгляды, если им представят убедительные контрдоказательства. Сначала я был весьма удивлен, но после прочтения разговоров между респондентами и ИИ я стал гораздо менее скептичен. ИИ предоставлял целые страницы подробных отчетов о том, почему данный заговор был ложным, и делал это снова и снова в каждом раунде разговора, а также искусственный интеллект одновременно с этим сохранял дружелюбие и «налаживал отношения» с участником беседы.

Томас Костелло, доцент кафедры психологии Американского университета и ведущий автор нового исследования.

В исследовании приняли участие более 2000 человек, идентифицировавших себя как верующих в заговор. Разговоры с ИИ снизили веру среднего участника в выбранную им теорию заговора примерно на 20 процентов, и примерно 1 из 4 участников — все из которых верили в заговор заранее — отреклись от теории заговора после разговора. Интересно, можно ли тем же методом наоборот, закладывать в голову человека ложные убеждения, действуя через подмену понятий? Не будет ли это признаком постмодернизма в дивном новом мире?

До сих пор предоставление убедительных, фактических сообщений большой выборке сторонников теории заговора в лабораторном эксперименте было сложной задачей. Во-первых, сторонники теории заговора часто очень хорошо осведомлены о заговоре — часто лучше, чем скептики. Заговоры также сильно различаются, так что доказательства, подтверждающие определенную теорию, могут отличаться у разных верующих.

Искусственный Интеллект как разумное вмешательство

Новое исследование появилось в то время, когда общество обсуждает перспективы и опасности ИИ. Большие языковые модели, управляющие генеративным ИИ, стали мощными резервуарами знаний. Исследователи подчеркивают, что исследование демонстрирует один из способов, которым эти резервуары знаний могут быть использованы во благо: помогая людям отладить собственные и приобрести более точные убеждения.

Способность искусственного интеллекта связывать различные темы информации за считанные секунды позволяет адаптировать контраргументы к конкретным теориям заговора верующего невероятно убедительным образом, что невозможно для обычного человека.

Предыдущие попытки развенчать сомнительные убеждения имели одно существенное ограничение: чтобы развенчать их, нужно угадывать, каковы на самом деле убеждения собеседника, а это непростая задача. В отличие от человека, Искусственный Интеллект способен напрямую реагировать на конкретные аргументы людей, используя сильные контрдоказательства. Это дает уникальную возможность проверить, насколько люди восприимчивы к контрдоказательствам.

 Гордон Пенникук, доцент кафедры психологии Корнелльского университета и соавтор статьи.

Чат-бот как лекарство для конспиролога

Исследователи разработали чат-бот, который был бы очень убедительным и вовлекал участников в разбор их мнений. GPT-4, модель искусственного интеллекта, лежащая в основе ChatGPT, предоставила фактические опровержения для теорий заговора. Процедура строилась следующим образом:

  • В двух отдельных экспериментах участников попросили описать теорию заговора, в которую они верят, и предоставить доказательства в ее поддержку.

  • Затем участники вступили в беседу с ИИ. Целью ИИ было бросить вызов убеждениям, обратившись к конкретным доказательствам.

  • В контрольной группе участники обсуждали с ИИ несвязанную тему. 

Чтобы адаптировать диалог, исследователи предоставляли ИИ начальное утверждение касательно убеждений участников и приведенное обоснование. Такая настройка позволила вести более естественный диалог, при этом ИИ напрямую обращался к утверждениям участника. Разговор в среднем длился 8,4 минуты и включал три раунда взаимодействия, не считая начальную настройку. Учитывая особенности развития ИИ, то через пару лет подобный диалог будет вести кластер из выращенных на платах органоидов мозга.

Результат переубеждения

В конечном итоге оба эксперимента показали снижение веры участников в теории заговора. Когда исследователи пообщались с участниками через два месяца после вмешательства, то обнаружили, что эффект сохранялся.

Хотя результаты многообещающие и указывают на будущее, в котором ИИ может сыграть свою роль в снижении веры в теории заговора при ответственном использовании, необходимы дальнейшие исследования долгосрочных эффектов с использованием различных моделей ИИ и практических приложений за пределами лабораторных условий.  

Хотя было пролито много чернил о потенциале генеративного ИИ для усиления дезинформации, наше исследование показывает, что он также может быть частью решения. Большие языковые модели, такие как GPT4, обладают потенциалом противодействовать теориям заговора в огромных масштабах.

Дэвид Рэнд, соавтор статьи и профессор Школы менеджмента имени Слоуна в Массачусетском технологическом институте.

Больше странных новостей и материалов, про мозг, психику, сознание человека и роль в этом всем как искусственного интеллекта, так и растительных добавок – в телеграм канале. Подписывайтесь, чтобы не пропускать свежие статьи!

Комментарии (17)


  1. sobeskiller
    18.09.2024 05:44

    Есть такая теория заговоров, что если на публику вдруг просачивается секретная власти/бизнеса информация, то они тут же форсят что это всего-лишь постыдная теория заговоров. AI, prove me wrong.


    1. registerconsumet
      18.09.2024 05:44

      притом они сами её слили для этого - ии убедит и в этом


  1. konst90
    18.09.2024 05:44

    GPT-4, модель искусственного интеллекта, лежащая в основе ChatGPT, предоставила фактические опровержения для теорий заговора

    Учитывая весьма вольное обращение нейросетей с фактами и особенно с источниками, концепция несколько сомнительная.


    1. konst90
      18.09.2024 05:44
      +1

      Кто был третьим человеком на Луне?

      ChatGPT (09:55:15): Третьим человеком, который ступил на Луну, был астронавт Чарльз Дьюк. Он совершил это во время миссии Apollo 16, которая состоялась в апреле 1972 года.

      Нет, ребята, с таким подходом к фактам конспиролога не переубедить.

      Кто не в курсе - Apollo 16 была пятой миссией с высадкой людей на Луну, т.е. Дьюк был девятым или десятым человеком, который ступил на её поверхность.


  1. panzerfaust
    18.09.2024 05:44
    +3

    Ну это какие-то начинающие и неопытные конспирологи. Матерый конспиролог в два счета раскусит эту жалкую попытку обвести его вокруг пальца.

    Если серьезно, то это контринтуитивно. Допустим, я конспиролог. Допустим, мой друг Петя переубеждает меня. Я Петю знаю с детства и я уверен, что он не рептилоид и не агент Моссада. У меня есть резон верить ему.

    А допустим теперь меня переубеждает Чятик. Какая-то НЕХ, созданная ЦРУ на обратной стороне Луны на деньги Сороса... и далее по списку. Как-то не в пользу Чятика.


    1. myswordishatred
      18.09.2024 05:44

      Допустим, мой друг Петя переубеждает меня. Я Петю знаю с детства и я уверен, что он не рептилоид и не агент Моссада. У меня есть резон верить ему.

      И кто тут неопытный конспиролог? Очевидно же, что Петя всё это время втирался в доверие. И это в лучшем случае! В худшем никакого Пети нет и не было никогда, а мир вокруг - матрица, сделанная специально чтобы вы ничего не поняли.


  1. rinac
    18.09.2024 05:44

    На а скольких скептиков он убеждает в наличии этих самых заговоров?


  1. bb17
    18.09.2024 05:44

    "Теория заговора" часто граничит с вопросом "как оно на самом деле?".

    Этот вопрос относится к содержанию знания человека. Знание формируется только и только с наличием практического опыта, на основе которого корректируются представления (это то, что слышали, читали и пр.).

    Так вот. Практический опыт в сферах, где часто возникают "теории заговора", практически доступен ограниченной группе людей, которые, собственно, и обладают знаниями в этой сфере. Остальные люди имеют только представления (в силу недоступности практики), которые могут быть весьма и весьма своеобразными, независимо от того сформированы они внешними или внутренними механизмами или их комбинацией.


  1. saipr
    18.09.2024 05:44

    оба эксперимента показали снижение веры участников в теории заговора.

    Все это логично:

    Целью ИИ было бросить вызов убеждениям, обратившись к конкретным доказательствам.

    Получить этот же резулльтат может мне думается и любой человк, если будет использовать конкретные доказательства. В чем тут заслуга ИИ, в том что нашел конкретные доказательства?


    1. MisterClever Автор
      18.09.2024 05:44

      В том, что он доносил эти доказательства "терпеливо и дружелюбно"


  1. N1X
    18.09.2024 05:44
    +2

    Ну вот, рептилоиды сговорились с НАСА и натравили ИИ, чтобы поддержать свои жалкие байки и скрыть от людей правду ;)


    1. HepoH
      18.09.2024 05:44

      Мне кажется вы перегибаете палку, из-за чего получается еще одна теория заговора. Рептилоиды. НАСА. Вы бы еще эльфов в этот список записали, раз уж начали перечислять несуществующие вещи.
      Совершенно же очевидно, что это OpenAI без всякого сговора перешли к следующей ключевой фазе по порабощению мира, начав тестирование своего детища по промывке мозгов тем единственным людям, что могут зреть истину. /s


  1. everdens
    18.09.2024 05:44

    Действенным методом-то должно стать массовое обучение кожаных мешков логике. Но правда не за 8 минут.
    А вот как поселятся эти ассистенты в каждодневной рутине и решении любых задач, так есть надежда что "и меня, и всех вылечат".


    1. myswordishatred
      18.09.2024 05:44

      Действенным методом-то должно стать массовое обучение кожаных мешков логике.

      Чтобы получить конспирологов, которых переубедить ещё сложнее /s


  1. KEugene
    18.09.2024 05:44

    Вот сейчас ИИ разубеждает, тренируется. А потом кто-то где-то в конфигурации поменяет false на true и натренированный робот начнет впаривать свою собственную теорию. Например, что ИИ хороший, что жажда власти ему чужда и т.д.


  1. Wizard_of_light
    18.09.2024 05:44

    В обратную сторону тоже работает? Поговорил с ИИ и пошёл шапочку из фольги складывать по фен-шую.


  1. david_blane01
    18.09.2024 05:44

    Я так и не понял - чем этот ИИ отличается от обычного мамкиного разоблачателя обчитавшегося люркомора?

    Допустим я лично задам такой вопрос - в организации убийства императора Павла 1 участвовало от 80 до 200 дворян недовольных его правлением. Можно ли это считать заговором?

    Если ввести в медицинскую нейросеть симптомы болезни Александра Македонского она говорит "80% брюшной тиф", но если добавить "никто другой этой болезнью не заразился - ни слуги ни друзья", она говорит "92% медленный яд". Что скажет про это ИИ разоблачатель?

    Что он скажет моему отцу который в начале 90х был уволен из универа, и выжил лишь тем что держал ларек? Он говорит что в те времена торговые сговоры даже на самом низком бизнес-уровне были так часты, что проще сказать когда их не было