Дипфейком уже даже пенсионерок не удивить. И слава Богу мы научились более-менее отличать их от реальности. Возможно в игру здесь вступил какой-то пока еще не открытый, а может и принципиально новый механизм когнитивной эволюции.

Но AI продолжает тренироваться с упорством олимпийского фехтовальщика и уколы его становятся больнее и метче. А некоторые виды AI-медиа для экспертизы невооруженным глазом (или ухом) фактически уже потеряны. Особенно это касается текста.

Что же нас ждет в недалеком будущем с такими темпами?

Симулякр справа, симулякр слева

Имя Маршалла Маклюэна знакомо многим и это был, наверно, последний великий пророк. Только пророчествовал он не на улице, в сандалиях и хитоне из козлиной шерсти, а у себя в кабинете, выводя элегантную теорию «Мировой Деревни» .

Вкратце, когда люди научатся передавать информацию моментально, мир станет одним огромным инфо-колхозом. Независимо от материка, временной зоны, этноса мы всегда будем на виду друг у друга и сможем шушукаться по углам, распространяя идеи, новости и сплетни быстрее скорости мысли.

По Маклюэну, медиум — то есть среда движения информации — играет решающую роль. От нее зависят качество и эффект передаваемых данных. И наш главный инфо-водопровод, за который мы платим 600 рублей в месяц, идеальная чашка Петри для разведения “дезы”.

Вот почему:

• Кончилось время авторитетов. Во-первых, давно уже произошла ницшеанская переоценка всех ценностей и авторитетные верификаторы в лице всевозможных ИТАР-ТАСС и Рейтеров свергнуты с пьедесталов. Чек.

• Эмоции vs. достоверность. На эмоциях играть легко, особенно если в партитуру добавлен какой-нибудь взрывоопасный контент. Снова чек.

• Реконтекстуализация. Почти любую картинку или видео можно подогнать под совсем иной контекст и успешно «натянуть сову» на глобус, манипулируя общественным сознанием. Работает это только на короткой дистанции, но все же вреда может принести массу, пока не раскроется истина. Определенно чек.

С триумфом Интернета условия и так были не ахти, а тут еще происходит ренессанс искусственного интеллекта — настоящий Большой взрыв, из которого в финале выпрыгнула Вселенная Симулякра. Маклюэн, кстати, был человеком верующим и присвоил измерению симулированной информации апокалиптичный эпитет «откровенной манифестации Антихриста». Какие же новые грани обмана открыл для нас ИИ?

Яркий пример реконтекстуализации — видео с похищениями детей, которые стали массово распространяться в индийский группах Ватсапа примерно в 2018 году, вызвав истерию по всему субконтиненту. На самом деле этот вырванный из контекста отрывок взят из вьетнамской социальной рекламы, которая показывает как легко украсть ребенка, оставшегося без надзора.

«Дивиденд лжеца»

Стоило только GenAI попасть в руки популуса, как социология моментально обогатилась двумя интересными феноменами: «дивиденд лжеца» и «апатия к правде».

Дивиденд или довод лжеца 

Первый сценарий означает, что, фактически, компрометирующие материалы могут утратить свою некогда устрашающую силу. Если кто угодно может буквально из воздуха сваять файлик с гиперреалистичной съемкой скрытой камерой, то видеодоказательства автоматически теряют силу, ровно как и многие другие виды улик и пруфов. Достаточно лишь сказать: «Я не я, катана не моя.» 

Апатия к правде

А этот феномен означает, что люди в итоге примут одну простую данность: не верь глазам своим. Раз все что угодно можно фальсифицировать, то к чему вообще обращать внимание на какую-то там очередную назойливую шумиху? В итоге, социум постепенно вырабатывает селективную слепоту и равнодушно пропускает мимо глаз и ушей даже вопиющие события, поскольку у него не осталось душевных сил выяснить где тут Falsum, а где Veritas и что вообще с этим хозяйством всем делать.

Кстати, жанр «дипфейк» появился вовсе не на Реддите образца 2017 года. Нежданный первенец лже-медиа увидел свет аж в 1997 году — это была технология стартапа Video Rewrite, которая заставила Кеннеди сказать фразу «Я не знаком с Форрестом Гампом». Правда построен этот трюк был не на машинном обучении, а на ручной перетасовке раскадровки президентского рта, которая подгонялась под произнесенные фонемы для заранее записанной реплики. Мы-то знаем, что Кеннеди и Форрест знакомы.

Кто виноват и что делать?

Обвиняемый здесь только один — технический прогресс. Правда, прямо как римский Янус, он двулик и вместе с проблемами приносит и некоторое противоядие от оных. Вот уж действительно, божество дверей, которое указывает на выход из даже беспросветной ситуации.

Итак, similia similibus curantur — подобное лечится подобным. И победить лавину фейков человечеству должны помочь умные-умные машины. 

Предположим, злоумышленники напромптили видео, в котором Илон Маск объявляет, что бросает все и переезжает на ПМЖ в поселок Сосьва, что на Среднем Урале, а вместо него делами будет руководить умная луговая собачка Геннадий с вживленным в голову Нейролинком. Гипотетически такой ролик мог бы вызвать панику на фондовой бирже и стриггерить мировой кризис похлеще Черного августа ‘98. Что же делать?

Например, на руках у нас есть простой, но гениальный способ считывать работу сердечно-сосудистой системы (heart rate estimation) по видео. 

Этот метод позволяет определить живой ли человек перед нами или беспардонный симулякр: метод регистрирует неуловимые для человеческого глаза изменения в цветовом оттенке кожи, вызванные кислородной сатурацией при дыхании. Если эти оттенки присутствуют и ритмически совпадают с паттернами «вдох-выдох», то с вероятностью в 99.1% перед нами вещает живой человек.

Что касается голоса, то здесь есть интересный подход к детектированию микроколебаний голосовых связок (вообще правильно говорить «голосовые складки»), которые свойственны всем живым людям вообще.

Детектор умеет отслеживать естественные вибрации голоса в диапазоне 8–12 Гц, которые затем анализируются с помощью эффекта Доплера для отслеживания сдвигов частот в аудио, имитируя физическое движение источника звука. Также задействована вибрация барабанной мембраны для декомпозиции сигнала на компонентные частоты. Их главная задача: поймать низкочастотные колебания в спектрограмме голоса. Поскольку у нейросети нет физического голосового аппарата — складок, а также резонаторов в виде лицевой маски или грудной клетки — то эти едва уловимые сигналы живого организма отсутствуют либо максимально сглажены.

А вот с текстами сейчас гораздо сложнее. Мнение экспертов таково, что рано или поздно ИИ-детекторы просто перестанут справляться с нейро-писаниной — астрологи предсказывают наплыв палёных докторских и кандидатских. Но об этом мы расскажем в другом материале.

И вновь продолжается бой…

Пока что складывается такая картина: ИИ будет умнеть дальше и больше, выдавая все более софистицированные результаты, которые однажды станут неотличимы от реальности. Вполне возможно, что он научится и обходить существующие методы детектирования признаков жизни (liveness detection).

Но это не значит, что все прямо безнадежно. Во-первых, игра в кошки-мышки между нападающими дипфейщиками и защищающимися биометристами продолжится дальше. И если каждую защиту можно сломать (привет, Denuvo), то справедливо и обратное: каждую атаку на наше когнитивное восприятие действительности можно так или иначе отразить.

И дело здесь даже не в каких-то утонченных ноухау, которые собирают из мозголомных формул в топовых лабораториях мира. Человек исторически умел приспосабливаться к вызовам и опасностям — когда-то это помогло нашим предкам взять в руки два куска шкуры, костяную иглу и открыть для себя палеолитический "лук" (лук охотничий появился чуть позже).

А значит и к новой враждебной стихии, коей дипфейки и являются, мы так или иначе адаптируемся. И сможем обуздать ее. Наверное.