До того, как появится искусственный интеллект, способный поработить человечество, нас ждёт ещё одна угроза, которая беспокоит меня гораздо сильнее — когнитивные вирусы.

Сегодня нам продают новый телефон с помощью уловок, которые были накоплены человечеством за десятилетия проб и ошибок. Базу знаний с такими уловками принято скромно называть Маркетинг. Но способы управления чувствами и поведением других людей накапливались не только там. 

Геймдизайнеры читают книги по подсаживанию игроков на дофаминовую петлю. Политики читают книги по социальной инженерии. Сценаристы читают «Историю на миллион долларов», которая буквально учит управлять чувствами. Учёные щёлкают над головой аппаратом ТМС, лишая возможности говорить, и проводят сотни тысяч других экспериментов, которые деконструируют механизмы поведения и принятия решений. 

Применение ИИ в этой зоне пугает меня по-настоящему. И на то есть три причины:

1. Поведением можно управлять. Хорошо известен эффект прайминга, при котором восприятие новой информации зависит от контекста поступивших ранее данных. 

2. Это можно делать незаметно. Вы не будете в курсе того, как просмотр фейк-ньюз изменит ваше бессознательное поведение .

3. Это можно делать достаточно точно. Воткнув электроды в гипоталамус, можно вызвать у человека определенные негативные чувства: например, стыда и страха. 

А теперь возьмите эти пункты и ускорьте их развитие в сто раз. Ещё более незаметные и ещё более простые инструменты управления. Повышение точности выполняемого действия до «Почесать голову спустя три дня ровно в 15:00». Прицельное влияние как на конкретные действия, так и на стиль мышления. Именно это может произойти, если применить ИИ к поведенческой психологии. 

И меня совершенно не пугает тот факт, что этим инструментом будут пользоваться корпорации. Они и так это делают, причём весьма эффективно. Несовершенство инструментов управления компенсируется масштабным влиянием разных маркетинговых каналов на большом промежутке времени. Политику мы тоже оставим за скобками. 

Меня пугает вот такой вот запрос к нейросети: «Сгенерируй картинку, которая заставит человека поднять руку через 15 минут». 

Проще говоря, может появится сервис, способный создавать инструменты влияния на поведение человека. И доступ к сервису будет у каждого. Каждый сможет создавать личные способы контроля других. Так же просто, как писать диссертации с помощью Chat GPT. Мощь солнца манипулятивных инструментов корпорации в руках каждого.

И как только где-то появится эта технология, то загнать её обратно в бутылку уже не получится. Сегодня каждый может поставить Stable Diffusion на свой компьютер и генерить картинки. Даже если кто-то на законодательном уровне запретит это делать, уже ничего не изменится. 

Каждый сможет управлять каждым

Эта технология может появится в любую секунду. И в обществе не существует даже грубых инструментов защиты. Можно загнать людей по домам во время пандемии, но невозможно запретить обмениваться мемами. А любой мем, потенциально, сможет оказаться скрытым инструментом влияния.

Когда я говорю, что с помощью ИИ появятся принципиально новые способы управления людьми, то обычно мой собеседник начинает спорить, так как невозможно поверить, что ИИ-манипуляция может заставить пойти на выборы и проголосовать за нужного человека. Блин, хотел же без политики.

Но, во-первых, и современные инструменты манипуляции более чем способны добиться этого эффекта. Пусть и с погрешность. Во-вторых, пофиг на все эти сложные действия. Проблема в другом. Проблема кроется именно в супер-простых действиях, на которые повлиять будет проще всего. 

Представьте, что в один прекрасный момент вы проснулись ровно в три часа ночи. Зачем? Почему? Непонятно. И на следующий день. И на следующий. Идут месяцы, а вы как петух в деревне. Маловероятно, что вы свяжете этот факт со странным видеороликом, который попался вам в интернете.

Поздравляю, теперь вы заражены когнитивным вирусом. Теперь представьте, что этот ролик посмотрели миллионы людей по всему миру. Примерно так и начнётся первая когнитивная пандемия. 

Лечения от этого нет (потом появятся, но на старте нет). Антивирусов нет. Понять источник сложно. Последствия для отдельного человека и всего социума непонятны. Инструменты государственного регулирования не готовы. 

Как много людей захочет создать свой вирус? Даже не для личной выгоды, а просто по приколу. Вначале промпты для вирусов будут простыми, примитивными, но дальше сообщество начнёт находить всё более и более интересные комбинации запросов. 

Первым делом под удар попадёт вся психосоматика: сон, тревожность, почесывания, дергающийся глаз, заикание, смена вкусовых предпочтений, ослабление системы торможения, активация звериных инстинктов, формирование фобий. Вы никогда не боялись пауков? Это можно будет исправить.

Ну и, конечно же, люди захотят любви. К себе или к новому товару. Аяз будет первым, кто внедрит когнитивные вирусы в свои ролики. Этого же мы так жаждем. Любви. 

Да, вирусы будут работать неточно. На кого-то срабатывает, на кого-то нет. У кого-то будут сильнее симптомы, а кто-то почти не заметит произошедших изменений. Всё, как с обычными вирусами. Мы разные, многие паттерны обработки сигналов в мозге индивидуальны, но универсальных тоже хватает. 

Когнитивная пандемия. Ковид будет вспоминаться, как сладкий сон. У вас есть идеи, как справиться с этой ситуацией? Напишите в комментариях. Потому что у меня идей нет. Остаётся только надежда. 

Надежда на то, что формат «видео со звуком» окажется недостаточно эффективным для создания когнитивных вирусов. Потребуются, например, запахи или длительное влияние. Я на это надеюсь, но не очень в это верю. 

Потому что за пятнадцать лет изучения мозга и мышления, я слишком привык к мысли, что мозг — это механизм. И алгоритм работы этого механизма напрямую зависит от поступающей информации. Правильно подбери информацию, и получишь нужный результат. 

Я считаю, что когнитивные вирусы — это главная опасность текущей фазы развития нейросетей. Не хотелось бы попасть в искажённую версию «Тетради смерти». Всё остальное не так страшно. С остальным более — или менее понятно, как справляться. И мне кажется, стоит обсуждать этот вопрос уже сейчас. 

Больше научных статей на тему контроля поведения (как у животных, так и людей) можно найти у меня в канале, изучить детальнее что сегодня уже возможно. Собрать ссылки для статьи и канала помогла Мария Осетрова, биоинформатик и нейроученый. 

Эта статья лишь поверхностно касается существующих способов управления поведением. Напишите в комментариях, если вам интересно более глубокое погружение. Попробуем с Машей сделать обзорную статью на эту тему.

Кеша