Новый доклад Data and Society ставит под сомнение автоматизированные решения для распознавания видео, созданных с помощью машинного обучения. Авторы исследования — Бритт Пэрис и Джоан Донован — утверждают, что дипфейки, хотя и кажутся относительно новым явлением, на самом деле являются частью долгой истории манипулирования средствами массовой информации.
Чтобы изменить ситуацию, необходимы как социальные, так и технические усовершенствования. Доверие к ИИ, по их мнению, может на самом деле усугубить ситуацию, сконцентрировав больше данных и мощности в руках частных корпораций.
«Отношения между СМИ и правдой никогда не были стабильными, — говорится в отчете. — В 1850-х годах, когда суды начали принимать фото в качестве доказательства, люди не доверяли новой технологии и предпочитали свидетельские и письменные показания. К 1990-м годам медиа-компании были замешаны в искажении событий и избирательной редактуре вечерних трансляций».
Видеоподделки, как указывают исследователи, существовали задолго до появления дипфейков. Так, способность манипулировать видеодоказательствами была продемонстрирована в 1991 году во время судебного разбирательства в отношении четырех полицейских из Лос-Анджелеса за избиение Родни Кинга за сопротивление полиции. Одним из основных доказательств невиновности полицейских было видео, снятое прохожим. Демонстрация видео присяжным с замедлением в несколько раз показала, что непроизвольные физические реакции Кинга на удары выглядели так, как будто он пытался встать.
«Сегодня технологи спешат бороться с проблемой с помощью исключительно технических решений, включая автоматическое распознавание манипуляций с видео с использованием ИИ. Однако нахождение подделок в истории позволяет нам увидеть, что то, что считается «доказательством», может только навредить».
Проблема дипфейков, уверены исследователи, может решиться только сочетанием технических и социальных методов, включая снижения влияния медиасистем на общественность.
«Более комплексные решения могут заключаться в принятии правительственных мер в отношении корпораций, чтобы побудить их более осмысленно подходить к последствиям их разработок», — уверены авторы доклада.
Кроме того, как указано в докладе, в настоящее время в США на стадии разработки находятся четыре законопроекта, касающихся дипфейков. Если их примут, подобные видео обяжут маркировать — для явного указания, что это фейк, и определения создателей. Это позволит правительству налагать штрафы на лиц, распространяющих вредный контент, созданный с использованием ИИ, считают авторы исследования.
Бобби Чесни, соавтор статьи «Дипфейки: надвигающаяся проблема конфиденциальности», уверен, что остановить распространение дипфейков возможно, а вот уничтожить их — нет.
«Мы должны говорить о смягчении и ограничении вреда, а не не о полном устранении этой проблемы, — добавил Чесни. — Дипфейки не исчезнут».
Комментарии (17)
Sergey6661313
19.09.2019 20:09+2" видео обяжут маркировать — для явного указания, что это фейк, и определения создателей. Это позволит правительству налагать штрафы на лиц"
Всех жуликов и воров заставят прийти в полицию и сознаться самостоятельно.
Fi1osof
20.09.2019 05:23Я вижу другую проблему: ок, кто-то выложил честно такой маркированный контент. Потом кто-то другой взял и использовал его в злодеяниях (на 1000 человек не один может найтись, кто «не заметит маркировки»). Кого в итоге судить будут? Правильно. Того, кто подписался под видео, которое свободно копируется и распространяется в сети.
M_AJ
19.09.2019 21:44+1Мне кажется, все в итоге придёт к тому, что люди будут доверять только записям, каждый кадр которых будут подписан цифровой подписью хотя бы камеры/телефона.
Blaine_Mono
19.09.2019 21:56Можно попробовать сделать запись экрана.
cy-ernado
19.09.2019 22:29Тогда можно попробовать записывать ещё карту глубины и ее подписывать.
Но все равно получится лишь повышать стоимость взлома.
Inanity
20.09.2019 00:56Уже проходили через это. DRM не работает. Какой бы сложной система ни была, она рано или поздно она будет взломана.
muhaa
19.09.2019 22:13Нужно разрабатывать протоколы, позволяющие железно отличить в интернете авторский контент от анонимного и добавлять соответствующие теги в стандарт html на уровне браузера. Тогда все будет просто. Анонимно можно выкладывать что угодно, все равно скоро все привыкнут не верить анонимам. Если фейк размещен от чьего-то лица, сразу тащим это лицо в суд.
harlong
19.09.2019 22:58+1И перед любым выкладыванием контента, чтобы получить право на тег с сертификатом, «лицо» обязано зарегистрироваться в Министерстве Правды…
muhaa
19.09.2019 23:23Никто ничего не обязан, интернет останется свободным. Речь о дополнительной возможности придать вес контенту выкладывая его официально от свого лица. Сегодняшние попытки контроля анонимного контента гораздо хуже пахнут.
harlong
20.09.2019 00:46Суть вопроса:
1. Если сертификат личной подписи никем доверенным не удостоверяется, то в нем нет смысла, будут подделывать. Значит, централизованная раздача нужна.
2а. Если удостоверяется, то остается риск злоупотреблений со стороны государственного центра сертификации (примерно как сейчас недвижимость от имени физлиц по поддельным ЭЦП продают).
2б. Если вы из дома со своей машины вышли в сеть с сертифицированной государством ЭЦП — подключение следует считать условно скомпрометированным, ничего анонимного с него больше никогда делать не следует, сопоставят «отпечаток» железа и софта, точку выхода в сеть и паттерн поведения, и уверенно свяжут ваши анонимные действия с вашей реальной личностью.
3. Держать 2 разных непересекающихся подключения от провайдеров (одно из них на «левый» паспорт), два физически независимых компа, оставлять дома телефон и всю электронику при анонимных действиях (вы же не будете регистрировать «легальное» и «анонимное» подключение на один и тот же домашний адрес), менять поведение в сети — слишком сложно. В итоге получим либо полное отсутствие возможности выкладывать «подтвержденный» контент, либо полную деанонимизацию.muhaa
20.09.2019 09:58Сложностей много, но преимущества велики. Все сколь угодно демократические правительства мира сейчас переживают, что любая фабрика тролей может склонить общественное мнение в любую сторону, какую хочется кому-то в сугубо корыстных интересах. За это уже санкции накладывают и прям бомбить готовы или весь интернет контролировать. Если люди привыкнут относиться к неавторизованному контенту как к информационному мусору, это решит проблему.
Авторизованный контент контролировать не нужно, здесь всегда есть пострадавший, ответчик и суд. Авторизованный контент нет смысла просто так блокировать или удалить по той же причине — есть ответчик и все может решить суд. Если вы не хотите, чтобы ваш контент был внезапно «удален по требованию правообладателя» просто делаете его авторизованным и владельцы сайта отправят правообладателя к вам лично, чтобы он забрал ваши деньги, если он считает, что вы нарушаете закон.
Анонимный контент остается контролировать только в области авторских прав. Все остальное или попадает в категорию «что взять с анонима» или в категорию того за что можно поймать за руку в реальной жизни.
Значит, централизованная раздача нужна.
Нужна. Видимо, еще нужно всемирное распредененное хранилище всей истории по сертификатам, на некой платформе наподобие блок-чейна.
Если удостоверяется, то остается риск злоупотреблений со стороны государственного центра сертификации (примерно как сейчас недвижимость от имени физлиц по поддельным ЭЦП продают).
Злоупотребления от государства всегда возможны. Оно даже может все у вас забрать и бросить вас в тюрьму без любых объяснений. Но это не означает, что все проблемы нужно решать без привлечения государств. Выдачу можно фиксировать, например в блок-чейне, чтобы потом суд мог разобраться кто где чем злоупотреблял.
Если вы из дома со своей машины вышли в сеть с сертифицированной государством ЭЦП — подключение следует считать условно скомпрометированным
Сложный вопрос. Допустим, я анонимно тролю на разных сайтах и затем хочу разместить на Хабре сообщение как авторский контент. Тогда необходимость подписывать что-либо возникает только в момент отправки авторского сообщения. Кроме того, подписанный контент отправляется по https, поэтому в чем разница — подписанный он или нет? Например, сообщение отправляется с моей подписью, Хабр размещает его в странице с тегом «авторский» и прилагает подпись. Браузер отображая сообщение проверяет подпись, обращаясь к некой распределенной базе по сертификатам и подсвечивает его как авторское.
qw1
22.09.2019 18:54любая фабрика тролей может склонить общественное мнение в любую сторону, какую хочется кому-то в сугубо корыстных интересах. Если люди привыкнут относиться к неавторизованному контенту как к информационному мусору, это решит проблему
1. Сначала люди должны привыкнуть всегда подписываться. Например, здесь в комментах, или на других посещаемых сайтах, типа pikabu. Как мне кажется, добровольно никто подписываться не будет. А значит, тролли спокойно будут общаться, как все другие пользователи, и формировать общественное мнение.
2. В чём проблема государству сделать 100500 виртуальных личностей с валидной подписью? В чём проблема для иностранной спецслужбы украсть 100500 приватных ключей у неграмотных пользователей с дырявым софтом? Даже проще, можно устроить «атракцион невиданной щедрости» — 2 литра чистого технического спирта за одну подпись, от желающих отбоя не будет.muhaa
23.09.2019 12:52Сначала люди должны привыкнуть всегда подписываться. Например, здесь в комментах, или на других посещаемых сайтах, типа pikabu.
Большинство людей не смущает, что их аккаунты в социальных сетях очень легко связать с их личностью.
Представьте, человек видит в интернете нечто вроде «Студент из Минска изобрел супер-таблетку», наводит мышкой на материал, браузер выдает подсказку «анонимный контент», даже тупой поймет что читать дальше не стоит. Или браузер выдает некий сертификат физического или юр-лица. Тогда любой может сразу загуглить все что выкладывало это лицо и понять с кем имеет дело.
В чём проблема государству сделать 100500 виртуальных личностей с валидной подписью?
Так сделать ничего не помешает. Это система для более-менее добросовестных государств, заинтересованных в упорядочении интернета, которые могут подписать соглашения и затем из выполнять (как это делается и в других сферах). Факты выдачи сертификатов несуществующим лицам можно выявлять и отбирать права у злоупотребляющих государств. Тогда все их граждане в мировом интернете автоматически статут серыми анонимами.
В общем, это все непросто, но разделить контент и затем контролировать мне кажется лучшей идеей, чем контролировать вообще весь контент методами скрытой слежки и запугивания, к чему сейчас все и идет.
Umpiro
20.09.2019 14:41Все эти танцы вокруг deepfake напоминают известную историю с 'Прибытием поезда на вокзал Ла-Сьота'.
hjornson
Дикари увидели фотоаппарат и испугались что фотография похитит душу сфотографированного…