Facebook совместно с Microsoft и коалицией «Партнёрства по искусственному интеллекту во благо людей и общества» (PAI), а также научными работниками из нескольких университетов анонсировала конкурс на разработку технологии распознавания дипфейков (deepfake).
Как сообщается в блоге Facebook, в рамках проекта, который получил название Deepfake Detection Challenge, Facebook поручит исследователям создавать реалистичные дипфейки. После этого участники конкурса будут прорабатывать алгоритмы обнаружения deepfake. Авторы лучших получат гранты. Призовой фонд проекта — $10 миллионов.
Стартует Deepfake Detection Challenge уже в октябре, а завершится в марте следующего года. Первые дипфейки для конкурса протестируют на Международной конференции по компьютерному зрению, а весь набор видео для работы выпустят в декабре.
«В отрасли нет достаточного набора данных или эталона для их обнаружения. Мы хотим стимулировать больше исследований и разработок в этой области и разработать лучшие инструменты с открытым исходным кодом для обнаружения подделок», — заявили в Facebook.
Deepfake (видео, созданные нейросетью) давно привлекают к себе внимание американских властей. В августе Орегонский университет анонсировал исследования, в рамках которых учёные будут пытаться научить мышей распознавать искусственную речь. Управление перспективных исследовательских проектов Министерства обороны США (DARPA) за последние два года потратило $68 миллионов на разработки, призванные обнаруживать дипфейки. С 2016 года в агентстве работает команда Media Forensics (MediFor), занимающаяся разработками в этой области.
Сама технология, тем временем, становится всё доступнее. На прошлой неделе китайское приложение под названием Zao, которое позволяет пользователям превращать свои лица в лица кинозвезд, вышло в топ в магазине приложений страны. Сервис был запущен 30 августа и за два дня быстро набрал популярность. Количество упоминаний о нем в китайском аналоге Twitter (Weibo) превысило 8 миллионов. Правда, приложение почти сразу столкнулось с негативной реакцией. Главная социальная сеть Китая, WeChat, даже заблокировала сервис.
Комментарии (15)
KonstantinSpb
07.09.2019 01:01+1The Wall Street Journal рассказал об интересном случае: мошенники использовали голосовой deepfake, чтобы во время телефонного разговора выдать себя за руководителя неназванной немецкой фирмы. По телефону фиктивный CEO, чей голос был подделан при помощи ИИ, попросил главу неназванной дочерней фирмы из Британии срочно перевести 220 000 евро на счет некоего венгерского поставщика, хотя на самом деле этот счет принадлежал преступникам.
Не зря торопятся, т.к. по телефону много делов можно натворить, еще подменив номер телефона через SS7
bars_arseniy
07.09.2019 11:37Facebook и Microsoft решили, что deepfake что-то медленно развивается. И надо бы его подстегнуть. Теперь с обеих сторон будет будут ИИ: с одной стороны создавать фейки, с другой их искать. Так развитие пойдёт гораздо быстрее.
К тому же они как минимум обзаведутся детектором и смогут его продавать. Или другим способом извлекать прибыль из его применения.
qw1
Классика жанра. Лучшее решение будет включено в состязательную архитектуру DeepFake 2.0, чтобы новая версия училась обманывать детектор фейков.
tbl
Что-то похожее мы делали при построении синтезатора речи: 2 сетки, первая ищет оптимальные векторы параметров генерации речи, а вторая пытается задетектить результат синтеза: человек это сказал, или робот. Так и конкурируют, улучшая себя.
androidovshchik
Вирусы и антивирусы… Жизнь это конкуренция)
kenoma
Так это же и есть GAN-подход для обучения нейронных сетей.
dartraiden
Забавно, кстати, было смотреть, как в Сети наперебой появляются комментарии «DeepNude — отстой, не тратьте время, хорошо, что её выпилили ото всюду, всё равно она ни одно фото у меня нормально не рбработала».
Я потестировал на фотографиях знакомой (да простит она меня), на одной да, грудь размазало по всему телу. А вот на второй… скажем так, практически идеально. Если бы я сам этот фейк не сделал, то вполне бы поверил, что это реальное фото.
Antervis
ну правильно, выгоднее всего продавать оружие на оба фронта. Лет через 10 политики/знаменитости на любые утечки будут говорить «да это дипфейк»