До того, как появится искусственный интеллект, способный поработить человечество, нас ждёт ещё одна угроза, которая беспокоит меня гораздо сильнее — когнитивные вирусы.

Сегодня нам продают новый телефон с помощью уловок, которые были накоплены человечеством за десятилетия проб и ошибок. Базу знаний с такими уловками принято скромно называть Маркетинг. Но способы управления чувствами и поведением других людей накапливались не только там. 

Геймдизайнеры читают книги по подсаживанию игроков на дофаминовую петлю. Политики читают книги по социальной инженерии. Сценаристы читают «Историю на миллион долларов», которая буквально учит управлять чувствами. Учёные щёлкают над головой аппаратом ТМС, лишая возможности говорить, и проводят сотни тысяч других экспериментов, которые деконструируют механизмы поведения и принятия решений. 

Применение ИИ в этой зоне пугает меня по-настоящему. И на то есть три причины:

  1. Поведением можно управлять. Хорошо известен эффект прайминга, при котором восприятие новой информации зависит от контекста поступивших ранее данных. 

  2. Это можно делать незаметно. Вы не будете в курсе того, как просмотр фейк-ньюз изменит ваше бессознательное поведение .

  3. Это можно делать достаточно точно. Воткнув электроды в гипоталамус, можно вызвать у человека определенные негативные чувства: например, стыда и страха. 

А теперь возьмите эти пункты и ускорьте их развитие в сто раз. Ещё более незаметные и ещё более простые инструменты управления. Повышение точности выполняемого действия до «Почесать голову спустя три дня ровно в 15:00». Прицельное влияние как на конкретные действия, так и на стиль мышления. Именно это может произойти, если применить ИИ к поведенческой психологии. 

И меня совершенно не пугает тот факт, что этим инструментом будут пользоваться корпорации. Они и так это делают, причём весьма эффективно. Несовершенство инструментов управления компенсируется масштабным влиянием разных маркетинговых каналов на большом промежутке времени. Политику мы тоже оставим за скобками. 

Меня пугает вот такой вот запрос к нейросети: «Сгенерируй картинку, которая заставит человека поднять руку через 15 минут». 

Проще говоря, может появится сервис, способный создавать инструменты влияния на поведение человека. И доступ к сервису будет у каждого. Каждый сможет создавать личные способы контроля других. Так же просто, как писать диссертации с помощью Chat GPT. Мощь солнца манипулятивных инструментов корпорации в руках каждого.

И как только где-то появится эта технология, то загнать её обратно в бутылку уже не получится. Сегодня каждый может поставить Stable Diffusion на свой компьютер и генерить картинки. Даже если кто-то на законодательном уровне запретит это делать, уже ничего не изменится. 

Каждый сможет управлять каждым

Эта технология может появится в любую секунду. И в обществе не существует даже грубых инструментов защиты. Можно загнать людей по домам во время пандемии, но невозможно запретить обмениваться мемами. А любой мем, потенциально, сможет оказаться скрытым инструментом влияния.

Когда я говорю, что с помощью ИИ появятся принципиально новые способы управления людьми, то обычно мой собеседник начинает спорить, так как невозможно поверить, что ИИ-манипуляция может заставить пойти на выборы и проголосовать за нужного человека. Блин, хотел же без политики.

Но, во-первых, и современные инструменты манипуляции более чем способны добиться этого эффекта. Пусть и с погрешность. Во-вторых, пофиг на все эти сложные действия. Проблема в другом. Проблема кроется именно в супер-простых действиях, на которые повлиять будет проще всего. 

Представьте, что в один прекрасный момент вы проснулись ровно в три часа ночи. Зачем? Почему? Непонятно. И на следующий день. И на следующий. Идут месяцы, а вы как петух в деревне. Маловероятно, что вы свяжете этот факт со странным видеороликом, который попался вам в интернете.

Поздравляю, теперь вы заражены когнитивным вирусом. Теперь представьте, что этот ролик посмотрели миллионы людей по всему миру. Примерно так и начнётся первая когнитивная пандемия. 

Лечения от этого нет (потом появятся, но на старте нет). Антивирусов нет. Понять источник сложно. Последствия для отдельного человека и всего социума непонятны. Инструменты государственного регулирования не готовы. 

Как много людей захочет создать свой вирус? Даже не для личной выгоды, а просто по приколу. Вначале промпты для вирусов будут простыми, примитивными, но дальше сообщество начнёт находить всё более и более интересные комбинации запросов. 

Первым делом под удар попадёт вся психосоматика: сон, тревожность, почесывания, дергающийся глаз, заикание, смена вкусовых предпочтений, ослабление системы торможения, активация звериных инстинктов, формирование фобий. Вы никогда не боялись пауков? Это можно будет исправить.

Ну и, конечно же, люди захотят любви. К себе или к новому товару. Аяз будет первым, кто внедрит когнитивные вирусы в свои ролики. Этого же мы так жаждем. Любви. 

Да, вирусы будут работать неточно. На кого-то срабатывает, на кого-то нет. У кого-то будут сильнее симптомы, а кто-то почти не заметит произошедших изменений. Всё, как с обычными вирусами. Мы разные, многие паттерны обработки сигналов в мозге индивидуальны, но универсальных тоже хватает. 

Когнитивная пандемия. Ковид будет вспоминаться, как сладкий сон. У вас есть идеи, как справиться с этой ситуацией? Напишите в комментариях. Потому что у меня идей нет. Остаётся только надежда. 

Надежда на то, что формат «видео со звуком» окажется недостаточно эффективным для создания когнитивных вирусов. Потребуются, например, запахи или длительное влияние. Я на это надеюсь, но не очень в это верю. 

Потому что за пятнадцать лет изучения мозга и мышления, я слишком привык к мысли, что мозг — это механизм. И алгоритм работы этого механизма напрямую зависит от поступающей информации. Правильно подбери информацию, и получишь нужный результат. 

Я считаю, что когнитивные вирусы — это главная опасность текущей фазы развития нейросетей. Не хотелось бы попасть в искажённую версию «Тетради смерти». Всё остальное не так страшно. С остальным более — или менее понятно, как справляться. И мне кажется, стоит обсуждать этот вопрос уже сейчас. 

Больше научных статей на тему контроля поведения (как у животных, так и людей) можно найти у меня в канале, изучить детальнее что сегодня уже возможно. Собрать ссылки для статьи и канала помогла Мария Осетрова, биоинформатик и нейроученый. 

Эта статья лишь поверхностно касается существующих способов управления поведением. Напишите в комментариях, если вам интересно более глубокое погружение. Попробуем с Машей сделать обзорную статью на эту тему.

Кеша

Комментарии (21)


  1. smrl
    16.05.2023 18:24
    +5

    Дорогой дедушка Хабр! В этом году ты уже подарил так много новых плашек - и мнение, и сложность, и время прочтения (как измеряется, кстати?). А можно еще сделать большую красную плашку, если в статье встречается ссылка на телеграмканал? Пожа-а-алуйста.


    1. Fen1kz
      16.05.2023 18:24

      Ещё бы разрешили постить небезызвестную картинку "ого, ссылочка на телеграм" с пикабу таким авторам


    1. Exosphere
      16.05.2023 18:24

      По ссылке на канал можно просто не переходить. Их не так уж давно разрешили для того, чтобы поддержать авторов - у кого канал полезный, наберёт подписчиков, которым будет интересно; у кого канал ради канал - останется ни с чем.


      1. smrl
        16.05.2023 18:24
        +8

        А еще можно реже ходить на сайт.
        Вы спровоцировали мутный поток людей, которые приходят только для того, чтобы выложить под видом статьи - малоосмысленную окантовку для ссылки на свой канал.
        Это ведь так приятно, открывать очередную уже статью - и видеть, что это просто кликбейтный заголовок ради ссылки в конце. Интересно, с чего же это аудитория у Хабра падает...


        1. exTvr
          16.05.2023 18:24

          Вы спровоцировали мутный поток людей, которые приходят только для того, чтобы выложить под видом статьи — малоосмысленную окантовку для ссылки на свой канал.

          В яблочко!


        1. DVF
          16.05.2023 18:24
          +1

          Даже сторис не помогают, а казалось бы беспроигрышный вариант.


  1. mishkin79
    16.05.2023 18:24

    "Научная секция пилотов" посмотрите. О чём вся эта статья? "Посмотри в глаза чудовищ" в вольном пересказе?


  1. nikhotmsk
    16.05.2023 18:24

    Любая страшная история (про вампиров, про роботов, не важно) учит, что всегда есть выход. Против ИИ маркетинга тоже должно быть простое средство.


  1. xsevenbeta
    16.05.2023 18:24
    +2

    А можно сейчас с помощью того же НЛП заставить сделать человека что-то похожее (почесаться в три ночи)? Вопрос скорей риторический. У Глуховского вспомнилась отличная аудиокнига "Пост", им же и озвученная. Там примерно о том же, что и в статье.

    Гораздо больше опасности представляет оркестр ботов на chatgpt, которые будут отрабатывать повесточку и которые будут бить по разным целям. Такими темпами скоро живых людей на форумах и площадках встретить будет проблематично.


    1. Ellarihan
      16.05.2023 18:24

      И решить эту проблему может только "интернет по паспорту", да и то есть сомнения, если боты государственные будут.


    1. engine9
      16.05.2023 18:24

      По-моему, в приличном обществе стыдно произносить эти три буквы, т.к. шарлатанство и миф.


    1. OlegIva
      16.05.2023 18:24

      Каганов в своем "Заклятие духов тела" тоже неплохо проехался по возможности заставить человека сделать что-то.


  1. mishkin79
    16.05.2023 18:24

    Автору почитать цикл "Опоздавшие к лету" Лазарчука. "Приманка для Дьявола" и "Жестяной Бор". Дополнить свой "Тревожный образ новизны" )


  1. TheHangedKing
    16.05.2023 18:24
    +1

    Наверно, я оптимист. Думаю, поскольку человеческое сознание может не только работать по алгоритму или создавать алгоритм, но и выбирать произвольный контекст, мы научимся распознавать такие вещи, как научились распознавать рекламу или движущиеся картинки на белой простыне киноэкрана. Спасибо психологическому привыканию.


  1. Nick_Shl
    16.05.2023 18:24

    Зашёл почитать почитать про вирусы которые будут заражать ИИ, а тут... бред какой-то. Если бы можно было сделать ролик заставляющий просыпаться каждый день а три часа ночи это бы уже сделали бы и без ИИ.


    1. Alexeyslav
      16.05.2023 18:24

      Сделали бы, лет за 100 специфических исследований. В чем сила ИИ? В том что ему доступны все знания сразу, он легко масштабируем и не обладает ограниченностью человеческого мозга, он может легко найти те закономерности, до которых человеческий мозг будет идти лет 100. Конечно, он не будет столь же эффективен как мозг, но черт побери, он не устаёт и ничего не забывает, ему не лень будет проверить миллионы хоть и ошибочных но вариантов.


  1. phenik
    16.05.2023 18:24

    Меня пугает вот такой вот запрос к нейросети: «Сгенерируй картинку, которая заставит человека поднять руку через 15 минут».

    Что-то подобное уже делается, только для активации целевых нейронов. Работа на эту тему. Но пугаться не стоит. Рука может подняться через 15 минут просто потому что она затекла, и захочется потянуться)


  1. myswordishatred
    16.05.2023 18:24

    Делов-то: амнезиаками всех обработать и никаких меметических угроз когнитивных вирусов.


    1. OlegIva
      16.05.2023 18:24

      Так обрабатывали же уже ██████, причем ██ раз, вы наверно не помните просто ;)


      1. TheHangedKing
        16.05.2023 18:24
        +1

        Обезопасить, удержать, сохранить!


  1. Vad3333
    16.05.2023 18:24

    "Выход обычно там же, где и вход." Если за тысячи лет вирусы не поубивали все живое, значит существуют универсальные механизмы адаптации. То есть, пока подобная технология будет тестироваться и развиваться, мы уже получим прививку от подобных манипуляций. Да и человек в жизни - это не сферический конь в вакууме. Он подвергается различным воздействиям которые могут компенсировать и нивелировать влияние друг друга.

    С тем же коронавирусом. Мы же не знаем всего многообразия взаимодействий. Может в лабораториях, когда его готовили, не учли влияние на вирус каких ни будь факторов, типа автомобильных выхлопов или продуктовых консервантов. И вся коронавирусная затея вышла в реале пустым выхлопом. Единственными местами, где бушевал коронавирус - это был интернет, массмедиа и политика. И опять же, а может это и был больше социальный коронавирус, а в реале так - антураж и массовка?!