Современный уровень развития достиг того, что даже школьник может взять библиотеку с моделями, к примеру отсюда, обучить на данных взятых из публичных источников и с приемлемым качеством ее применить к своим данным. Иногда это может быть забавным, когда выступление Дженнифер Лоуренс демонстрируют с лицом Стива Бушеми. Или к примеру 11 вариантов подряд уже с другими личностями: 11-Deepfakes-In-One! Но на текущий момент, техно гиганты уже озаботились происходящим и об этом уже была статья на Habr, о том что Facebook и Microsoft выделяют гранты для обнаружения DeepFake. Не особо верится в альтруистичность намерений, я больше поверил бы в обыкновенную выгоду. Скорее всего, это способ найти ещё лучшие стратегии обучения моделей, чтобы создавать еще более правдоподобные DeepFake. Скорее всего здесь круг и замкнется, будут разрабатываться методы борьбы с DeepFake и они же будут стимулировать его развитие как технологии.

Думаю ни для кого не секрет, что такая технология — это великолепный инструмент для манипуляций и провокаций. Что касается политиков и известных личностей — здесь огромное поле для создания новостей в желтой прессе и не только. Также стоит вспомнить нашумевший и быстро свернувшийся проект DeepNude. Это вообще скорее был предвестник создания новой технологической ниши, скорее всего в каком то будущем (настоящем?) можно будет наблюдать появление продуктов наподобие того, что во взрослом видео за определенную плату можно будет увидеть кого угодно, даже тех кто от такого жанра максимально дистанцировались.

Предположим это никому не нужно. Предлагаю это проверить на примере. Давайте проверим интерес к раскрученному порно бренду, против известной, но официально не засветившейся в этой деятельности актрисе. Возьмем Сашу Грей и Дженнифер Лоуренс. Вот сравнение тренда обеих за последние 12 месяцев. Незапятнанная актриса проигрывает в интересе к своей особе в качестве такой деятельности, но точно можно сказать что интерес есть и он достаточен. А если есть спрос, есть рынок, остается придумать как это монетизировать.

Понятное дело, что речь идет не только о взрослом контенте, если проблема в том, что можно подобрать двойника человека, воспользоваться DeepFake моделями и создать такой контент, который уже никто не отличит от видео созданного с потенциальной жертвой, то это уже может создавать уже имиджевые и репутационные потери для личностного бренда жертвы. На текущий момент, в имидж человека могут вкладываться и усилия и средства и причем немалые, и этим дорожат. Поэтому я не удивлюсь, что могут появиться контролирующие органы для создания контента и на публичные медиа площадки не будет возможности выложить фото/видео контент, который может содержать изображения публичных личностей не прошедший верификацию. Возможно в будущем не только публичных, а всех подряд, потому что состояние не публичности — априори временное. К примеру, может появиться какое-нибудь “агентство по верификации личностей” и без подписи такого органа невозможно будет, даже технически, публично распространять контент. Пусть это звучит как бред, но система социального рейтинга уже внедряется в Китае, например, вот слайд с Reddit, который иллюстрирует эту систему, которую собираются внедрять в 2020 году. Напротив, Yandex уже готов предоставлять информацию о поисковой истории пользователей банкам для более точного кредитного скоринга. Вообще, не понятно как это будет работать, так как для кредитного скоринга обычно выдвигаются требования, что модель обязана быть интерпретируемой. Поэтому часто для такой задачи используются модели основанные на деревьях. В случае с Yandex, судя из публичной информации — это будет черный ящик. С другой стороны, если заемщик получил кредит, чаще всего ему безразлично, почему ему выдали кредит, а если отказали, в этом случае банки юридически защищаются, тем что они вправе не разглашать причину отказа.

Мне кажется, что на всем этом фоне, появление контролирующих органов неизбежно. Возможно пионерами будут китайцы? Почему это неизбежно? Потому что, если будет легко испортить кому угодно репутацию, соответственно это будет влиять на социальный рейтинг и мне кажется, граждане имеющие высокий социальный рейтинг и не желающие с ним расставаться будут предпринимать меры, по защите своей социальной собственности.

В этом отношении интересным еще будет то, что скорее всего подобные системы не будут иметь срока давности и в момент внедрения припомнят каждому все найденные скелеты в шкафу. Текущая ситуация с социальным рейтингом в Китае похоже обстоит именно таким образом, в момент запуска, внезапно может оказаться то, что конкретно вам теперь чего то нельзя.

Интересно, а как аукнется мне все это, как разработчику VPN сервиса? Время покажет.