C момента своего появления в декабре 2017-го дипфейки, видео с почти идеальной заменой лица, созданные нейросетью, наводили на экспертов панику. Многие, например, тогда боялись, что теперь еще проще станет «порно-месть», когда бывший бойфренд с достаточно мощным ПК может смастерить любое грязное порно с подругой. А Натали Портман и Скарлетт Йоханссон, о которых порно с deepfake снимали особенно много, публично прокляли интернет.
Чтобы бороться с подступающей угрозой, Facebook и Microsoft недавно собрали коалицию для борьбы с дипфейками, объявив призовой фонд $10 млн тем разработчикам, которые придумают лучшие алгоритмы для их обнаружения. Это помимо DARPA, управления исследованиями Министерства обороны США, выделившего на эту цель $68 млн за последние два года.
Ну так вот, уже поздно. Первое deepfake-преступление уже состоялось.
По данным Wall Street Journal, в марте этого года управляющий директор британской энергетической компании был ограблен на €220 000 (около $240 000). Он отправил эти деньги фирме-поставщику из Венгрии, потому что его босс, глава материнской фирмы в Германии, несколько раз подтвердил ему такую инструкцию. Но на самом деле какой-то хитрый злоумышленник просто использовал софт с AI-технологиями, чтобы в режиме реального времени заменять лицо и голос руководителя, и требовать, чтобы тот заплатил ему в течение часа.
Программа, которую использовал вор, смогла полностью имитировать голос человека: тон, пунктуацию, даже немецкий акцент. Сообщение исходило с адреса босса в Германии, в подтверждение британскому директору был направлен e-mail с контактами. Предположить, что что-то идёт не так, можно было разве что по требованию босса провести всю сделку как можно быстрее, но это далеко не первый аврал, который случался в их бизнесе.
В итоге – все деньги пропали. Из венгерского аккаунта их перевели в Мексику, а потом рассеяли по всему миру. Но воры на этом не остановились. Они попросили второй срочный перевод, чтобы «поставки из Венгрии» «пошли еще быстрее». Тут уж британский директор почуял неладное, и позвонил своему настоящему боссу. Получился какой-то сюр: он по очереди принимал звонки то от фейкового, то от настоящего руководителя, говорящих одинаковыми голосами. Название компании и её сотрудников не разглашаются, поскольку по этому делу ведется расследование, и воры еще не найдены.
Возможно, это даже не первая кража с использованием Deepfake AI (или его продвинутых последователей). Symantec сообщает, что она засекла как минимум три случая, в которых замена голоса помогла ворам обхитрить компании и заставить их послать им деньги. В одном из этих случаев ущерб составил миллионы долларов. Причем, судя по косвенным признакам, этот трюк был проделан другими злоумышленниками – не теми, которые обокрали британского СЕО. То есть, deepfake-преступления постепенно становятся общим достоянием, это не придумка какого-то одного гениального хакера.
На самом деле, скоро такую процедуру сможет проделать любой школьник. Главное – найти достаточно доверчивую жертву, и собрать нужное количество сэмплов видео/аудио, чтобы имперсонировать, кого потребуется. Google Duplex уже успешно мимикрирует под голос реального человека, чтобы делать звонки от его имени. Многие небольшие стартапы, в основном из Китая, работают над тем, чтобы предлагать похожие на deepfake сервисы бесплатно. Разные программы-дипфейки даже соревнуются друг с другом, кто сможет сгенерировать достаточно убедительное видео с человеком, используя минимальный объем данных. Некоторые заявляют, что скоро им будет достаточно одного вашего фото.
В июле Израильское национальное управление защиты от киберугроз выпустило предупреждение о принципиально новом виде кибератак, которые могут быть направлены на руководство компаний, ответственных сотрудников и даже высокопоставленных чиновников. Это первая и на данный момент самая реальная AI-угроза. Они говорят, уже сейчас есть программы, способные идеально передать ваш голос и акцент, прослушав вас 20 минут. Если где-то в сети есть запись с вашей речью в течение получаса, или если кто-то немного посидел рядом с вами в кафе с диктофоном, ваш голос теперь может быть использован, чтобы сказать кому угодно что угодно.
Пока что инструментов для борьбы с этим нет. Вариант защититься только один. Если вам кто-то звонит и просит перевести существенную сумму денег, – не будет лишним подтвердить, что это тот самый человек, по другому каналу. Через мессенджеры, Скайп, e-mail, корпоративные каналы или соцсети. А в идеале, конечно же, – лицом к лицу.
Ну а если у вас есть глубокие познания в машинном обучении и вы не прочь получить кусок от пирога в $10 млн – можно попробовать себя в конкурсе Microsoft и Facebook. Или основать свой стартап, предлагающий государству и солидным компаниям бизнес-решение для определения дипфейков по картинке или по голосу. Без этого нам скоро будет не обойтись.
P. S. Доставлять любые товары из США умеет Pochtoy.com. Теперь – не только в Россию, но и в Украину, благодаря сотрудничеству с «Новой почтой». Стоимость посылки 0,5 кг от $11.99 (для Украины – от $8.00). Для новых регистраций с промо-кодом HABR – 7% скидка на первую доставку, плюс бесплатный выкуп из американских магазинов нашими операторами.
Комментарии (235)
TiesP
15.09.2019 13:08До чего технологии дошли… раньше обходились без нейросетей )
Lofer
15.09.2019 14:15Удобно.
Скоро будут так же президентов делать. 3D модель нарисовали, через нейросеть прогнали — роликов наделали — можно выборы делать. Все равно их «живьем» только по телевизору показывают. Накосячил такой «президент» — рисуем нового президента, его и выбирают. Ура технологиями, приближающих сплошную демократию:) красота
Apazhe
15.09.2019 14:19+2Ну вообще-то давно уже. Документальная повесть «Поколение П» опубликована ещё в девяностых прошлого века.
lagranzh
16.09.2019 03:07+1А немногим ранее: ru.wikipedia.org/wiki/%D0%9F%D0%BB%D1%83%D1%82%D0%BE%D0%B2%D1%81%D1%82%D0%B2%D0%BE_(%D1%84%D0%B8%D0%BB%D1%8C%D0%BC)
vladkorotnev
17.09.2019 03:33Так уже потихоньку движется всё к тому, что всей жизнью будут так или иначе владеть цифровые технологии.
Те же концерты вокалоидов уже — условные 1500 строчек сишного кода собирают залы больше, чем вся российская телевизионная эстрада за последние 10 лет :-)
motpac
15.09.2019 13:43Новое маленькое правило call-back в регламенте корпоративной связи решает данную проблему, IMHO.
Igor_ku
15.09.2019 13:51Отнесем это в ту же коробку «идеальностей» как и хорошие пароли, заклеенная камера на ноуте и информационная гигиена в инете. Серьезно, call-back хорошая вещь, но пройдет еще немало времени пока он реально заработает
abar
15.09.2019 14:02Крупный бизнес именно по «идеальностям» и работает. Никому не хочется терять денег на том, чего можно было бы легко избежать. Ещё пара таких случаев получат огласку — и введут.
ankh1989
16.09.2019 10:39Заклееная камера на ноуте вроде же устарела. Теперь в процессорах и не только есть модули со своей ОС, супер-привелегиями и выходом в инет. Такая фиговина запросто может принять особый UDP пакет и втихаря включить кейлоггер. Хотел было сказать, что поможет только не выходить в интернет совсем, но боюсь, что это тоже не поможет: у этого модуля может быть своя маленькая антенна которая неплохо работает от вышек сотовой связи.
ads83
16.09.2019 12:07Я не совсем понял, что у вас потерялось: тег сарказм или пруфы?
rPman
16.09.2019 22:28Наверное он про радиомодуль в soc решениях, даже если на плате не распаяно место для симки, на радиомодуль будет подаваться питание…
А еще железо вполне может не выключаться реально, только пользовательские приложения, работать в фоне когда это нужно центру (пусть радиомодуль работает всегда в режиме ожидания)…
MMik
15.09.2019 17:19Пфф. На нужный номер уже поставили переадресацию вызовов куда надо (т.е. на deepfake).
motpac
15.09.2019 18:28А можете пример привести? Каким образом можно перенаправить звонок в сотовой сети? Или шифрованные звонки в мессенджерах?
sumanai
15.09.2019 19:02+1Каким образом можно перенаправить звонок в сотовой сети?
Перевыпустив симку?
alsii
18.09.2019 17:45Каким образом можно перенаправить звонок в сотовой сети?
Хм… а роуминг как работает? ;-)
motpac
18.09.2019 17:50Вот звонит мне мой босс и говорит — Перезвони мне, я тебе дам ЦУ.
Я беру телефон и набираю его номер. Если вы не ФСБ, ЦРУ, АНБ и прочие гвардии и у вас нет «поддельных» БС, каким образом вы перехватите мой звонок?
Как вы перехватите шифрованный звонок по Телеге или Ватсапу?
Я вот про эти примеры спрашивал.alsii
18.09.2019 18:47Ну примерно так: поставлю сервер с соответствующим софтом. Подключусь через шлюз IP — SS-7 к телефонной сети в какой-нибудь банановой республике. Дождусь когда ваш босс пойдет в баню, пошлю управляющее сообщение оператору босса: "ваш абонент только что зарегался у нас в роуминге, поэтому все звоночки пожалуйста сюда направляете". Ну дальше вы поняли, да?
ЕМНИП, в SS-7 a.k.a. ОКС-7 нет никакой авторизации на уровне протокола. Если сообщение приходит с правильного порта оно считается достоверным.
ittakir
15.09.2019 14:12+1В последние дни меня просто заводнили одним и тем же спамом по телефону. Заранее записанный голос говорит: «Ало, здраствуйте. Ало, вы меня слышите?». Если пробурчать в трубку, начинается воспроизведение рекламного сообщения. Но злоумышленники могут записать ваш ответ «Да», и использовать его где-нибудь. А представьте, что вы поговорите с этим спамером достаточно длительное время. Он будет строить диалог так, чтобы вы проговаривали определенные фразы. Далее он обучит нейросеть на ваших фразах и классический развод «Мама, я попал в аварию, передай человеку тонну денег» выйдет на новый уровень.
Так что, соблюдайте цифровую гигиену, не нужно разговаривать со спамерами ни при каких обстоятельствах.
Vsevo10d
15.09.2019 15:13Когда ЯД делались еще на Тинькоффском пластике, нужно было для получения пин-кода позвонить в банк и сказать роботу «да» в ответ на прозвучавший пин-код. Это было лет 5 назад, но я уже напрягся от такого продвинутого способа. А «да» — это первое, что я говорю по телефону. Надо переучиваться говорить как Шелдон Купер «У аппарата».
radonit
15.09.2019 16:05А чем вас ещё советское «алло» не устраивает?
Exchan-ge
15.09.2019 16:16А чем вас ещё советское «алло» не устраивает?
Еще более древнее, чем советское:
-Алло, центральная! Это Камелот? (с) Марк Твенburzooom
15.09.2019 16:56То есть, немного измененное английское Hello, на самом деле является исконно советской разработкой?
Exchan-ge
15.09.2019 23:15+1То есть, немного измененное английское Hello, на самом деле является исконно советской разработкой?
«Томас Эдисон 15 августа 1877 года написал письмо президенту телеграфной компании Питтсбурга, в котором доказывал, что лучшим вариантом приветствия при общении по телефону является слово «hullo», являющееся видоизменённым английским приветствием «hello», которое в свою очередь, в русском языке трансформировалось в «алло». Александр Белл предлагал свой вариант — слово «ahoy», используемое при встрече кораблей» (с)
(hullo, ahoy — часом не вандализм в вики? )denisshabr
17.09.2019 10:57У этих англичан почему то всегда гласные «видоизменяются».
500 лет назад всё читалось практически так же, как писалось, потом наступил великий сдвиг гласных, затем ещё один, и всё стало через одно место.
Вот так же и здесь, побоялся написать HELLo, и написал hullo.
https://ru.wikipedia.org/wiki/Великий_сдвиг_гласных
sumanai
15.09.2019 19:04+2Можно сразу «moshi moshi» с японским акцентом.
karavan_750
15.09.2019 19:24На незнакомые номера люблю отвечать так: "Говорите!", произношение делаем грубым голосом и с максимально требовательной интонацией.
У этого метода всего один отрицательный момент — если звонок был легитимный, то вызывающая сторона слегка конфузится.scream_r
15.09.2019 20:26Можно более деликатное: «Слушаю вас».
karavan_750
15.09.2019 21:01+1Деликатное «Слушаю вас» делает меня внимательным слушателем и исполнителем чужой воли.
Если бы речь шла о звонке в компанию на рабочий телефон, я бы с вами согласился.
А для левых звонков на мой личный телефон лучше буду я диктовать условия.AC130
16.09.2019 00:33Деликатное «Слушаю вас» делает меня внимательным слушателем и исполнителем чужой воли.
Нет. Магии не существует, простите.
UberSchlag
16.09.2019 09:46Зачем нужна магия, когда есть вполне твердые факты из поведенческой теории.
Nikoobraz
16.09.2019 09:32«Повелеваю вам изречь цель установки контакта!» — примерно так?
Ndochp
16.09.2019 11:25Тогда уж лучше с «Представьтесь» начинать. А потом уточнять ИНН и паспортные данные. Как там у Жванецкого было в стиле спора:
попросить документ, сверить прописку, попросить характеристику с места работы, легко перейти на «ты», сказать: «А вот это не твоего собачего ума дело», и ваш партнер смягчится, как ошпаренный
sYB-Tyumen
16.09.2019 14:09+1Неделикатное «Слушаю Вас», сказанное таким тоном, как будто ждёшь отчёта/доклада, тоже конфузит собеседника и уже не делает Вас исполнителем его воли. Хотя если это шеф, то будет пора кофузиться самому.
MooNDeaR
16.09.2019 12:35Всегда отвечаю: "Внимательно!". При этом сам не имею понятия почему я так говорю и откуда я это взял)
karavan_750
16.09.2019 13:24В принципе, не столь важно каким словом начинать, важно как и что говорить, если диалог продолжается.
К примеру, на звонки с предложением юридических/банковских/телематических услуг, т.е. с целью рекламы, с места в карьер интересуюсь о наличии у позвонившего парашютных прыжков и далее по полной программе начинаю впаривать услуги своего аэроклуба. Заставляю позвонившего вести мою линию диалога, а не его.
Agne
16.09.2019 10:59А кто-нибудь знает программное решение, для передачи любых звуков в телефонный тракт, для Андроид?
Когда я пытался найти что-то подобное, то узнал что это запрешено аппаратно.
Вариант внешний аппаратный модуль, иммитирующий гарнитуру, подключенный по блютузу или стандартному миниджеку.
И еще один способ, драйвер виртуальной блютуз-гарнитуры, такой вариант возможен в принципе?
Вообще, было бы очень удобно, на звонок отвечать фразами из заранее подготовленной базы ответов.DGN
16.09.2019 22:14+1Как интересно. Вот почему я не могу найти ни одного автоответчика/автосекретаря для телефона. Это заговор!
St_Sinner
15.09.2019 14:22+1И тут вспоминаем многочисленные Инстаграммы, ВКонтакте и прочие социальные свалки, куда, не задумываясь, льют фото/видео от школьника до пенсионера. И конечно же, мамочки, которые вываливают тоннами фотки своих чад с возраста 0+. А ещё и так любимые всеми «войсы» в этих мессенжерах. В общем, недостатка в материале нет. Бери, обучай нейросетку и обчищай народ пачками.
Толи дело раньше, нужно ещё умудриться стащить альбом с фотками, что бы потом их отцифровать, а видео вообще не у каждого было
CrushBy
15.09.2019 14:37Да просто нужно, чтобы такие операции визировались директором не по телефону, а собственным private ключем, хранящимся на личной флешке без доступа к нему извне. Если часто будут подделывать, то к этому и придет.
LevOrdabesov
15.09.2019 17:00«Я в отпуск, скопируйте этот закрытый ключ бухгалтерше. А, бухша тоже в отпуск. Тогда все ключи Васе. Да прям на личный ноут, раз он удалённо работает»
mayorovp
16.09.2019 08:50А почему Вася не может своим ключом подписывать, если всем известно, что директор в отпуске, а его замещает Вася?
barbaris76
16.09.2019 09:38-1Ну, знаете там, всякие юридические доверенности, которые не один день и не по звонку делают, вот это всё. Уборщица тётя Зина хороший человек и тоже может всё подписать, только подпись её — бесполезная фитюлька.
mayorovp
16.09.2019 09:43Так ведь задача тут решается не юридическая, а организационная. Тут доверенность не нужна, достаточно приказа директора.
barbaris76
16.09.2019 09:48-1Подписывать платёжные документы для банка, договора с внешними контрагентами и прочие НЕ ВНУТРЕННИЕ документы, увы, можно только официально зарегистрированным людям.
То, что там внутри фирмы организационно договорились Вася и директор, никого не интересует и закрытыми ключами сроду не подписывается.mayorovp
16.09.2019 09:54В данном случае этим ключом предлагалось подписывать приказ от директора компании директору филиала. Это именно что внутренний документ.
barbaris76
16.09.2019 10:22-1В каком таком случае? Если имеется в виду случай из поста, то там одна фирма переводила деньги другой фирме — поставщику, что должно быть подтверждено подписью лица, наделённого таким правом. Прочитайте внимательнее, пожалуйста.
mayorovp
16.09.2019 10:26Право подписи есть у директора филиала, иначе бы вся комбинация не имела смысла. Обсуждается вопрос о том, как он может надёжно проверить подлинность приказа от вышестоящего начальства.
CrushBy
16.09.2019 09:51Тут речь шла о другом. Можно сделать девайс (если боятся, что данные на телефоны могут быть скомпрометированы), который будет и с телефона давать возможность одобрять (с пином конечно). И опять же, тут не все платежи, естественно, должны одобряться. А, например, больше 100К$. И предполагается, что директор не будет передавать никому этот девайс.
Mnemone
15.09.2019 15:09Интересно, как дипфэйк отработает, если попросить звонящего надеть или снять кепку/наушники/очки, оглянуться?
arheops
16.09.2019 09:22+1Интересно, как отреагирует ваш босс на это?
Сегодня там даже глаза не мигают.Desavian
16.09.2019 10:23если отказ отвернуться может спровоцировать потерю четверти миллиона зелени — отреагирует отлично, да еще и потребует чтобы так и делали
dimm_ddr
16.09.2019 15:42Мне кажется что решаться это должно все же несколько иными способами. Например как предложили выше — подписью приватным ключом. Переодевание или танцы на камеру всего лишь незначительно усложняют процесс подделки, но при этом создают иллюзию контроля. Зачем создавать такую иллюзию когда очевидно что подделка такого уровня — дело времени, мне совершенно непонятно.
Dr_Faksov
17.09.2019 06:26В бизнесе — как раз нет проблем. Просто растерялись немного. Для видеоконференции — в кадре стоит дисплей на котором что-то типа QR-кода. Там либо ключ сессии, либо случайный адрес сайта авторизации на корпоративном сервере. Для телефона — некая коробочка которая попищав в трубку и послушав ответ выдаст ответ свой\чужой.
Vsevo10d
15.09.2019 15:15Скоро в крупных корпоративных сделках вернутся к встречам с глазу на глаз, перстням с личной печатью и честному слову купца. Потому что удаленные способы становятся еще менее надежными.
redpax
15.09.2019 16:21peskurovcapital.com
Не первое преступление. Вот уже достаточно давно якобы Павел Дуров на видео говорит о том, что он дал эксклюзивные права на продажу токенов ГРАМ этой компании. Лицо Дурово подставлено дипфейком.
smart_alex
15.09.2019 17:38на самом деле какой-то хитрый злоумышленник просто использовал софт с AI-технологиями, чтобы в режиме реального времени заменять лицо и голос руководителя, и требовать, чтобы тот заплатил ему в течение часа
Из венгерского аккаунта их (€220 000) перевели в Мексику, а потом рассеяли по всему миру.
Нифига себе умельцы (простите, не удержался).euroUK
16.09.2019 10:32Честно говоря, мне кажется, что вся статья откровенный фейк.
Какие мощности нужно иметь, чтобы генерить видеокартинку в реальном времени, менять голос с акцентом (вы меня простите, но озвучка гуглов и яндексов вообще не похожа на человека) и все это ради 220 тыс евро электронных платежей, которых на самом деле отследить не так сложно. Такие спецы пропадают. Они бы в Гугле бы больше получали бы.
Тут еще конечно стоит отметить, что обычно в крупных конторах просто так невозможно перевести деньги на левый счет, потому что все контрагенты в базе. А прежде, чем они туда попадают, данные выверяются, включая внешние источники.
c_kotik
16.09.2019 10:58С мощностями сейчас проблем нет. После криптобума много не сильно старых GPU ферм пошли по всяким авито. По сути — сменил майнер на ПО нейронок и в путь! Утрирую конечно, но тем не менее…
JTG
16.09.2019 12:342016:
Vilgelm
16.09.2019 16:51Мне тоже кажется, что бухгалтер просто спер 200 тысяч евро, а потом (или заранее) придумал такую отмазу.
balamutang
18.09.2019 10:29Не бухгалтер, а тот кому «звонили», управляющий директор — включил дурака и протолкнул невыгодную для компании сделку. Ведь на его совести остается распознавание фейка как босса.
Может и звонков никаких не было, а если они и были — то с анимированной фотографией босса и нарезкой аудио из его разговоров, для отвода глаз СБ компании :)
DGN
16.09.2019 22:20Нужен всего один креативный психолог.
Вариантов разговора не так уж и много, ситуацию в которой босс не может вести отвлеченные разговоры не так сложно придумать.
redpax
15.09.2019 17:40Так же рекомендую приложение https://apps.apple.com/cn/app/id1465199127 в котором уже любой желающий прямо на смартфоне может заменить свое лицо на чужом видео.
IgorPie
15.09.2019 18:18Всегда сбрасываю звонки вида «Соц опрос о качестве сотовой связи, займёт всего 10 минут».
За 10 минут можно с хорошим запасом сэмплов голоса снять.
Oplkill
15.09.2019 23:42-1Вы наверно вообще не разговариваете, ведь любая уязвимость на компе/телефоне или на популярных нынче умных домах/колонках может позволить записать достаточно и передать злоумышленнику, прежде чем её пофиксят. Не говоря об перехвате телефонных разговоров или записи голоса в публичных местах, ведь стоит человеку даже со среднего качества микрофона поодаль постоять рядом пока вы с кем-то общаетесь и всё…
IgorPie
16.09.2019 00:01+1В публичных местах — шум, он запорет запись. К тому же, непросто привязать голос ко мне.
И перехватывать — сложно. Просто — когда тебе сами запись отдают по заготовленному алгоритму.
Иначе — дорого и надо быть очень нужным человеком.
Так-то, в любой конторе админ продаст записи с астериска :)
Dmitri-D
15.09.2019 18:35Ну что, для передачи видео и голоса нужно применять защищенные протоколы. Что мешает вводить персональные private ключи и подписывать каждый полный кадр видео таким ключем. А дальше — принимающая сторона, имея public ключ, сможет проверить отправителя.
Вещь совсем не хитрая и в бизнесе найдет применение.
Функционал с такими кючами можно встраивать в камеры так, чтобы private ключ был неизвлекаемым.
pda0
15.09.2019 18:38Не вижу проблем. Просто каждому человеку по достижению совершеннолетия имплантируем на лоб (ну или на запястье руки, если лоб жалко) ЖК дисплей, отображающий одноразовые криптокоды. И ничто не купить не продать нельзя без них было... ;-)
Syzd
15.09.2019 20:44:-D
так вот как штрихкод нанесут на руку и лоб!
Сначала введут биометрию, потом начнется воровство всех денежных средств у всех, а значит придется поверх лба рисовать одноразовые пароли.
1c80
15.09.2019 19:01-1По ходу окончательно вызрел новый тренд, чуется мне основное бабло теперь в этой сфере будет крутиться, назад уже сдать нельзя, токо вперед всем будет надо и по быстрее и те кто в теме сечет, обаксуются по самое нехочу, крутяк.
Redpax1
15.09.2019 20:43-5
Не первое преступление. Вот уже достаточно давно якобы Павел Дуров на видео говорит о том, что он дал эксклюзивные права на продажу токенов ГРАМ этой компании. Лицо Дурово подставлено дипфейком.
kabashek
15.09.2019 20:43+2Простите, вот реально не силён в маталгоритмах нейросетей, но разве это не типично инженерная задача снаряд/броня, не имеющая решения для одной из сторон?
Сейчас нейросети в видеоряде и звуковой дорожке, когда речь идёт о произвольном субъекте, ищут то чего быть не может. То есть искусственные фонемы, артефакты математических паттернов в трёхмерной пиксельной картинке, артефакты по временной шкале. И если сейчас такие видны аж на глаз, то скоро в видео часовых переговоров американского президента с жителями Нибиру будет аж 2 не тех пикселя на час времени, а потом и совсем не станет. Ведь звуковой видео и цифровой ряд конечен в численном выражении, причём сильно конечен. Чтоб дойти до последнего пикселя в 60 fps 4k много мощности не надо, это вам не фотоны с далёких квазаров.
Или я не прав? С удовольствием бы почитал про оценочные расчёты статейку, лучше на русском, если есть у кого.Arqwer
16.09.2019 09:42Да, типичная задача снаряд/броня. И причём автоматизированная на стороне нейросети: generative adversarial network так и устроена — внутри две нейронки, одна пытается создать фейк, вторая пытается разоблачить, и вместе они идут к совершенству. Поэтому первый комментатор и писал, что пытаться обнаружить фейки при помощи машинного обучения — плохая идея.
kabashek
16.09.2019 10:24А как ещё можно? Просто представим видеофайл как трёхмерный объект, где каждый пиксель должен быть закономерен. Пока есть артефакты, но потом-то их не будет и в реальном времени, ведь вопрос в мощности. Сейчас фотофейк можно разоблачить только если сделан не профи, то же самое будет и с видео или есть пара лазеек? Интересно ж.
Просто с полгода назад читал пару статей на английском, но потом через оценочные суждения под формулами продраться не мог.ads83
16.09.2019 12:21Читал статью о том, как судэксперты в Англии с помощью анализа электрических шумов на записи определяли место записи и не подделка ли это. Исходили из факта, что неравномерности в электросети оставляют следы, которые можно найти на записи. И если сравнить с логами ближайшей подстанции, можно определить, действительно ли запись сделана в предполагаемом месте.
С одной стороны, появляется внешний источник случайности, который можно отслеживать на видео. Повторить его в реальном времени, скорей всего, будет затруднительно.
С другой стороны, статья была про анализ записей. Не факт, что получится провести такую проверку во время звонка.
Так как я не специалист, не могу оценить эффективность этого метода.
Читал здесь, на Хабре, но довольно давно. К сожалению, за 5 минут найти статью не смог.
kabashek
17.09.2019 12:26Ясно, до чего техника дошла.
Знал, что в энергоситеме ес с частотой после какого-то знака запятой очень сильны мультирегиональные отличия, как и в китайских. Но и подумать не мог о практическом применении этих артефактов.
ICELedyanoj
15.09.2019 20:43Может быть кто вспомнит. В далёком детстве (подозреваю — что конец восьмидесятых — начало девяностых) был такой фильм. По воспоминаниям — что-то европейское. Может поляки, может немцы, но не уверен.
Суть была в том, что судебную власть отдали компьютеру, и он вынес кому-то приговор за преступление, на основании улик — звукозаписи и отпечатки пальцев. И подозреваемому удалось доказать, что это уже не является надёжным идентификатором человека — продемонстрировал специальный диктофон, который на основании сэмплов подделывает голос человека, а также перчатки, подделывающие человеческие отпечатки.masyatko
16.09.2019 09:21+1Фильм называется «Идеальное преступление».
ICELedyanoj
16.09.2019 09:28Да, почитал описание — очень похоже, что это тот самый фильм. Странно — был абсолютно уверен, что снято где-то не у нас. Спасибо! Давно искал.
Diordna
15.09.2019 22:52+1Интересно когда появится хорошее приложение способноя читать тексты/книги с выражением приятным голосом...?
kabashek
16.09.2019 10:26Бот алешка или максимка(который платный) неплохо справляется со словами. Но он не понимает контекст слова и поэтому нужно ударение. И пунктуационное обновление не умеет, но слова хорошо произносит, я реально удивлён. В языках с жёстким ударением поди все вообще хорошо
iig
16.09.2019 07:20Кинематографично. Злоумышленник (и) очень хорошо знал(и) внутреннюю кухню конторы. Даже слишком хорошо. Скорее всего, не обошлось без внутреннего казачка. А то и один из героев (если не оба) сыграли эту сцену по переводу денег в другой карман.
nApoBo3
16.09.2019 10:29Вообще странно, особенно для «энергетической компании», только если это не ларек по продаже энергетиков. В крупных компаниях есть бюджет, есть проверки контрагентов, есть проверки договоров. Просто так перевести крупную сумму денег не получиться пока несколько сотрудников из разных подразделений не подпишет заявку своими эцп, а СБ и юристы не проверят договор и контрагента.
Ndochp
16.09.2019 11:31Ну так крупная энергетическая, все, что до ляма евро — мелочи, переводимые по звонку с конференции…
euroUK
16.09.2019 11:49Так не бывает.
У любой крупной компании деньги переводят по реквизитам в ERP, которые туда попадают по процедуре одобрения контрагента, включая какой-нибудь World-Check. Чем крупнее контора, тем сложнее что-то сделать по звонку, потому что прав банально нет на это.
Новость выглядит откровенным фейком, так-как люди с подобными навыками вряд ли бы разменивались на 220 тыс, когда могли стартап создать и освоить сотни миллионов.
Честно говоря, всю речь синтезированную, которую я слышал, назвать человеческой можно с большой натяжкой. А уж немецкий акцент… Потом, даже если представить генерацию видео в реальном времени, там нужна еще привязка звука к картинке, каждая буква-то по-разному произноситься, вся эта лицевая анимация. Короче, если бы ребята могли бы все это делать риал-тайм, то Голливуды и всякие игроделы бы их с руками оторвали. А пока это выглядит как и не волгу, а 10 рублей, и не в лотерею, а в карты, и не выиграл, а проиграл.JTG
16.09.2019 12:29Да ладно вам, вы правда не видели на ютубе роликов вроде этого (довольно старого уже, кстати)? Lipsync нейросети давно освоили.
mayorovp
16.09.2019 13:23Далеко не в каждой крупной компании есть ERP. Где-то просто не получилось формализовать процессы, где-то не удалось продавить саботаж сотрудников при внедрении, где-то ERP используется "для галочки"...
alsii
18.09.2019 18:32Когда я работал в одной достаточно крупной "компании" весь ERP был в виде стеллажей с папками в бухгалтерии.
И вообще для бухгалтерии перевести деньги, это не просто в "клиент-банке" пару кнопочек тиснуть. Нужно же проводки бухгалтерские сделать. И везде указать: "Платеж ООО Рога и Копыта по договору поставки от 34 мартобря 4321 года номер 42 за поставку технологического оборудования в соответствии с приложением 128, по акту приемки оборудования от 43.18.4322 номер 19". И таки да, именно на тот счет, который указан в договоре. И каждый раз надо в папку слазить и посмотреть, что список оборудования в в накладной, акте приемки и спецификации совпадает. И сроки не нарушены. И задолженностей у контрагента нет. И все документы подписаны кем надо, когда надо (ага, "дата подписания — один из реквизитов подписи"), где надо и заверены необходимыми печатями. И еще много чего…
А тут что? Позвонил директор директору и тот внезапно сам(!) перевел деньги непонятно за что, непонятно какой конторе, на непонятно какой счет… в Венгрию!!! Бухгалтерская дисциплина в этой фирме ниже нуля, а вы говорите deep fake.
AlexAV1000
16.09.2019 12:19Аплодирую стоя!!! Привет Грефу с его Сбербанком, с их любовью к новым технологиям. А также их тупоголовым программистам, которые (по-любому!) реализуют идентификацию по голосу так, что увести деньги со счета станет как два пальца об асфальт.
Keynessian
16.09.2019 14:43Нужно тогда про Грефа кинуть на ютюб видео приколы, где он в российских фильмах замещает Безрукова.
Может тогда до него дойдёт, если про него будут видео-мемы.
VivAmigo
16.09.2019 14:24ЯЯЯ! Я понял как отличить, знакомый говорит или фейк! Пусть ваш собеседник включит музыку (чем больше различных частот голоса в ней, тем лучше). Прога deepfakes начнёт превращать издаваемую мелодию в голос и мы сразу поймём, фейк это или нет. Работает данный метод только на разговор по телефону или трансляции! Далее необходимо будет понять, наложен звук или он идёт вместе с линией разговора. Ну тут уже необходимо подключить ИИ.
balamutang
16.09.2019 16:14<сарказм>а еще под музыку пусть он напишет SUB /b/ и дату :)</сарказм>
Злоумышленник может миксовать музыку уже после дипфейка, прогоняя через фильтр низких и накинув легкую реверберацию небольшой комнаты.
Chamie
16.09.2019 17:00По-настоящему, достаточно просто попросить сказать что-либо, что знаете только вы двое, но не возможный злоумышленник.
c_kotik
16.09.2019 17:48Что бы продать что то ненужно — нужно сначала купить что то не нужное. Или в нашем случае — что то секретное сначала нужно гарантированно передать без утечки. Что при условии удаленности собеседников становится проблематично.
mapron
17.09.2019 22:52Ну да, тем более накладывается специфика отношений из статьи:
— Валера, переведи 200 тыс. такому-то контрагенту!
— Иван Иванович, мне кажется вы это не вы, какие трусы носит ваша любовница?
Так что ли?VivAmigo
18.09.2019 06:51А ответом будет 42 (кто в теме, тот поймёт). Хотя при переводе крупных сумм просто введите какой либо уникальный вопрос-ответ, о котором будут знать только 2 человека (бабушкек уже вроде бы научили такому трюку, как задавать вопросы, ответы на которые обговорены с их любимым внучком заранее)
mapron
18.09.2019 08:25Я имею в виду не то что «какой вопрос придумать», а как в принципе такая постановка (не доверять распоряжениям руководства?) может возникнуть в отношениях «начальник — подчиненный». Мне-то это кажется нормальным, но я думаю в большинстве российский компаний такая инициатива обречена на смерть)
VivAmigo
18.09.2019 08:55Компания, оформляющая сделки за секунды без проверок, сами обречены на смерть. И я больше скажу, в каждой стране будет первый инцидент, который убьёт одну (если кто-то включит мозги вовремя) компанию, и после заставит думать о противодействии данной «уязвимости» (пока гром не грянет мужик не перекрестится). В выигрыше будут оставаться не те компании, которые будут заключать сделки за секунды, а те, которые будут проверять эти сделки за секунды, в независимости от лиц-участников данной сделки.
DeepFakescovery
16.09.2019 17:58В посте всё слишком утрировано.
Я как разработчик DeepFaceLab отрицаю, что любой школьник может сделать качественную подделку, собрав фотки своей подруги.
Во-первых надо одеться как подруга или найти очень похожую по телу и волосам знаменитость.
Во-вторых в реалтайме заменять, тем более качественно, еще нет таких общедоступных тулз. (Хотя я и планирую такую сделать)
В общем, чтобы сделать качественную замену для кражи из компании, нужны не только специалисты в машинлернинге, но и того кто работает в целевой компании и знает как внутри обстоят дела, кто как выглядит итд, а это уже социальная инженерия.
Так что работу провернули они довольно масштабную, за что и получили достойную оплату.
Это технологии, они так и развиваются, не нужно этого бояться.
В общем
я вижу только 1 закономерный конец для этой войны, если победят фейки:
1) политикам нужно перестать врать вообще и заводить свой канал, чтобы когда появлялось фейк видео с ними, все понимали что это бред, т.к. все знают что В.В.Лупин всегда выполняет свои обещания. Хотя это конечно про демократию, чего России пока не грозит.
2) финансы должны переходить на блокчейнDr_Faksov
17.09.2019 06:32В бизнесе — как раз нет проблем. Просто растерялись немного. Для видеоконференции — в кадре стоит дисплей на котором что-то типа QR-кода. Там одноразовый либо ключ сессии, либо случайный адрес сайта авторизации на корпоративном сервере. Для телефона — некая коробочка которая попищав в трубку и послушав ответ выдаст ответ свой\чужой.
Переработают технологию открытого ключа для аудио-видео восприятия.
А вот новости…kabashek
17.09.2019 12:31А что новости? Почитайте историю би-би-си- все в открытом доступе. Начало 20 века, есть телеграф и даже телефон и общенациональная забастовка. Но это не помешало врать о том, что во многих регионах она прекратилась. И да, разве это как-то сильно опустошило кредит доверия?
Duss
16.09.2019 19:45Меня одного смущает история опубликованная в Wall Street Journal?
1) Ладно менеддер повелся на голос боса, но его не сметил левый номер с которого был осуществлен звонок? (возможно бос это как то обьяснил в разговоре, возмодно звонок был на офисный стационарный телефон) но подробностей освещающих это — нет.
2) Куда были переведены деньги? Это же был банковский перевод. Не биткоины, не куда-то на деревню дедужке а на какое-то конкретное физичиское или юредическое лицо. Это же банковский перевод, найти получателя платежа должно быть доволно просто. Конечно можно замести следы и тут (но не так просто, насколько я знаю). Но опять же где подробности?
3) Не сильный аргумент, но в последнее время адекватные банки (и не адекватные тоже) не переводят просто так даже маленькие суммы, просят как минимум договор.
4) Банковкий номер и данные, необходимые для совершения перевода довольно большие. Продиктовать их по телефону? Наприме мой бос сказал бы да ну нафиг, сейчас отправлю в мессенжер, на почту и т.д. И дел не в том что лень и долго, а бонально можно ошибиться и деньги уйдут не туда или не уйдут. И тут сам сотрудник может вполне адекватно попросить отправить инвойс с реквизитами на почту.
Так вот описанный случай, в последнее время, мусолиться налево и на право. Название статьи "… для обмана компаниЙ" — а в примере всего 1 компания и 1 обман. Сколько еще было публикаций и тут на хабре и в обычных сми.
А меня все не покидает мысль о том, что изначальный случай или фейк или разыгранный спектатль, а кол-во шума, вокруг этого случая, только убеждает меня в этом.
P.S. Это сугубо мое ИМХО. Я не сторонник теорий заговора, просто в очередной раз наткнувшись на этот случай — выскозал свое мнение, может у кого-то сложилось подобное впечатление?skrimafonolog
16.09.2019 21:21Куда были переведены деньги? Это же был банковский перевод. Не биткоины, не куда-то на деревню дедужке а на какое-то конкретное физичиское или юредическое лицо. Это же банковский перевод, найти получателя платежа должно быть доволно просто. Конечно можно замести следы и тут (но не так просто, насколько я знаю).
В другую страну же.
Пока интернациональная машина правосудия раскрутится…
А там уже все в обналичку ушло — и ищи-свищи.
0HenrY0
16.09.2019 23:14Возможно Вы не совсем правильно поняли. Судя из статьи, «босс» приказал как можно быстрее имплементировать не очень выгодную сделку, которая была в замороженном статусе. В результате чего фирма потеряла деньги.
ai91
16.09.2019 21:15+1Facebook и Microsoft прям молодцы (странно что гугл тупит). Имея качественную распознавалку фейков, можно же использовать её для обучения сети генерирующей эти самые фейки. ;-)
vedenin1980
17.09.2019 11:07Судя по описанию конкурса, они сначала просят написать «сеть генерирующей эти самые фейки», а потом уже распознавалку. Судя по всему, часть задания по распознавалку чисто для соблюдения приличий.
Но вообще, мелкие преступления это ерунда, вот сколько заплатит, например, Голивуд и ему подобные компаниии за возможность создавать фильмы вообще не платя зарплату актерам или взять умерших или давно состарившихся культовых актеров и их снова использовать, это же миллиардный рынок. Опять-таки, есть еще реклама и порно.Druu
18.09.2019 00:14Голивуд и ему подобные компаниии за возможность создавать фильмы вообще не платя зарплату актерам
Актерам будут платить столько же, сколько сейчас. Просто теперь актерам не нужно будет работать — станут брать деньги просто за право на использование своего лица.
uhf
Поэтому я в шоке, с каким рвением банки заставляют клиентов «сдавать биометрию». Это фундаментально ненадежный способ идентификации (я имею в виду голос и фото), и таким он и останется.
А те люди, которые предлагают разрабатывать программы детектирования фейков — просто не понимают принципов машинного обучения. Это далеко не то же самое, что отличить отфотошопленные человеком фото — все гораздо сложнее, и в перспективе безнадежнее.
ky0
Так они не для себя же, а для товарища майора. Двухходовочка-то довольно незамысловатая — базу лиц берём у банков, прикручиваем распознавание на камеры уличного наблюдения, и становимся на два шага ближе к 1984.
skrimafonolog
Ваш голос можно снять с вашего телефона.
А фотография ваша уже есть, если у вас есть паспорт.
Dmitri-D
качество голоса в телефоне может быть не высоким, особенно после передачи по каналам связи с компрессией, а фотография в паспорте — всегда устаревшая
some_x
Гугл асистент и алиса передадут в хорошем качестве.
Dmitri-D
Они есть не у всех и у них пока нет камер.
Это скорее к скайпу, фейстайму и другим видеочатам.
Femistoklov
Гугл же передаёт только своим, разве нет?
warranty_voider
ну Гугл своему товарищу майору сдает, Алиса – своему
Dmitri-D
Голоса из алисы не так давно утекли — из компании, которая должна была обрабатывать нераспознанные фразы. В утекшем всё было анонимизировано. Скандала не получилось.
Если говорить про майоров — это очень очень вряд ли, ну просто 0 вероятность, потому что даже если это секретится, то через Nлет, где N всегда меньше 25, это рассекречивается и тогда больно ударит по репутации. Компании в Штатах живут больше 25 лет и репутация им нужна.
Второе — и даже от майоров что-то утекает в ту же викиликс. Т.е. существенно раньше 25лет это окажется у прессы — и тогда не отмоешься.
Нет, не думаю чтобы гугл или амазон могли бы пойти на такое.
warranty_voider
Скорее всего вы правы. Мой комментарий чисто шуточный. Есть у меня один товарищ, который уверен, что его через телефон прослушивают – истории типа «вчера с другом говорили, что надо бы съездить в Барселону, просто говорили, не гуглили ничего, сегодня в ленте реклама авиабилетов в Барселону» слышал наверно каждый, но он говорит, что у него такое регулярно. Я отвечаю точно таким же аргументом — если вскроется, будет скандал, который обойдется дороже, чем потенциальная выручка от продажи более точной рекламы
Dmitri-D
Секундочку, это не одно и то же.
Всё аудио в skype, в facebook, и наверняка много где еще — согласно пользовательскому соглашению — подвергается токенизации и является источником для улучшения вашей контекстной рекламы. Это уже лет пять или даже больше — известный факт.
Но это вовсе не означает что вы разрешали им отправлять *ваши* разговоры куда либо еще вне компании. Ключевое слово — *ваши*.
Куда-либо еще они могут посылать только речевые команды и только в анонимизированном виде и только для улучшения сервиса по распознанию речи (сири, алекса, гугл хом и пр. — так делают)
warranty_voider
Разговоры aka голосовые сообщения или звонки – допускаю. Но тут речь о том, что просто валяющийся где-то телефон что-то слушает и куда-то передает. Такое ни в каком лицензионном соглашении не спрячешь
Dmitri-D
конспирология — неубиваемое направление мыслей
Alonerover
Может и нет у вашего товарища паранойи:
Vsevo10d 12 июля 2018 в 20:21
«Не очень давно спорил с человеком, где покупать сахар. Он говорил, что в «Перекрестке», а я говорил, что там один псевдотростниковый и прочая демерара, а мне нужен обычный белый, но не бомж-категории короче суть в том, что несколько раз мы громко произнесли во время спора «сахар в Перекрестке».
Я приехал домой, и на компьютере у меня вылезла контекстная реклама «сахар в Перекрестке». После чего я немного постоял, посмотрел в окно, осознал, в какое время живу и смирился с этим.»
habr.com/ru/post/417015/#comment_18876537
stalinets
Я тоже сталкивался с этим в явном виде. Около полугода назад шли с коллегой, я рассказывал ему о биткоине и принципах работы блокчейна. В кармане был смартфон на андроиде. Вечером в VK у меня реклама «Купи биткоины выгодно».
skrimafonolog
Подтверждаю.
И сам сталкивался в другой тематике.
И знакомые замечали тоже в другой тематике.
Как раз именно после обсуждения какой-то темы «в присутствии смартфона», им начинала приходить реклама по этой теме.
Хотя они (да и я) ничего по теме не искали в интернете (тут то понятно как просекают — на 99% сайтов или Google Analytics или Yandex Metrics), а только говорили между собой.
Druu
Вопрос в том, сколько раз эта реклама сахара вылазила, но человек на нее не обращал внимания.
skrimafonolog
Да, существует такое когнитивное искажение, когда человек начинает замечать некий объект взрывообразно резко. И человеку кажется, что этого объекта с недавних пор стало существенно больше вокруг этого человека. Хотя фактически — столько же.
Однако в случае именно сахара — навряд ли.
Это довольно специфеский товар, не нуждающийся в рекламе, как правило.
Так что специальная реклама сахара вряд ли будет в мейстриме для всех пользователей. Это же просто слив бюджета тогда.
Выгоднее показывать рекламу сахара именно интересующимся этой темой людям.
Druu
С чего вы взяли, что он специфический именно для данного человека? Я вот не спорил ни разу ни с кем где покупать сахар. Даже не обсуждал, хз. Ну нужен сахар — идешь и покупаешь в ближайшем магазине. По-этому мне реклама сахара не вылазит. А человек вон спорит, обсуждает, ergo, интересуется этим вопросом, уделяет ему внимание. А дальше простая бигдата.
Nikoobraz
Однажды в маршрутке, маленькая девочка спросила у мамы «А по чем сахар в Перекрестке». Мама ничего не ответила, а только тяжело вздохнула и затем начала плакать, ведь в этот момент у нее в телефоне всплыла контекстная реклама «Сахар в Перекрестке».
С мамой плакала половина маршрутки.
ClearAirTurbulence
Это у них. У нас многие документы о ВМВ (и, наверняка, многие даже более ранние) до сих пор засекречены. Это раз.
Разумно подозреать, что таки не все вещи фиксируются явно и документально. Вот и И.В.С. говорил нам:
Это два.
Много что много куда много откуда утекало раньше, в том числе, и без анонимизации, я не помню расстрельных приговоров и критичных для бизнеса последствий. Так что даже если и всплывет, то не факт, что виновные будут наказаны.
Это три.
Dmitri-D
речь выше —
легально они могут передать только в анонимизированном виде.
Если их, а скорее — майора, поймают с неанонимизированными разговорами и без санкции суда — будут многомиллионные иски.
но вы правы, к россии это не относится
Aklkleks
Сбербанк СССР, кто постарше, помнит опупею с заморожеными вкладами. Сбербанк России, я не говорю, что это та же самая контора, просто название похожее. Работает, никаких репутационных проблем из-за названия не имеет…
c_kotik
Вы хоть видели те микрофоны и камеры в банках, что бы говорить о качестве? На обычную вэбку все содрали в последний раз.
nickName0
Какая разница?
По закону, в случае ведения видеофиксации,
должно быть уведомление.
Я таких в офисах банков (и прочих контор) не припоминаю. Т.е. фактически — они позволяют себе нарушать закон.
Виноваты они?
Они смогут "кивнуть" на того-же бывшего президента РФ и премьера,
которому посвящён фильм-расследование
(всё ещё есть на Ютубе).
Вы продолжаете нормально платить налоги?
Значит — финансируете мафию в законе.
Ничего личного, только по фактам.
nickName0
Кстати, камеры постоянно работают (записывают)
и в банкоматах (есть в их составе).
Хотя, казалось бы, от этого терминала не надо ожидать подобного шпионажа.
Только факты.
dimm_ddr
Mangol31
Банкомат — не вариант. Часто время журнала банкомата и видеофиксатора не совпадает. Поэтому лицо к карте и к персоналии не привяжешь. И потом, возможна куча ситуаций, когда человек по чужой карте снимает. Отец сына попросил, жена — мужа. Или вообще украденной индивид пользуется
sumanai
По правилам использования карты так делать нельзя.
Mangol31
:) ну да. только что это меняет?
nickName0
1) компрессия в GSM-сетях используется по умолчанию.
И: не loss-less комрюпрессию можно использовать как для голоса,
так и для изображений
(тот-же формат JPEG,
основанный на ДКП {дискретное косинусное преобразование} — вполне неплохо позволяет передавать полноцветные изображения).
Резюме: потери в сжатии — незначительные.
2) Устаревшая (фото в паспорте)?
Неужели вы не можете выглядеть моложе, чем на момент фотос'ёмки на паспорт?
По себе скажу:
если побреюсь (обрастаю — на вахте),
то сразу становлюсь (внешне) моложе.
И, как понимаю, этот эффект может заметить практически любой человек.
Затем: кто производит сравнение — человек
(есть то, что известно как человеческий фактор),
или автоматика (с конкретной версией ПО,
с заданными уставками допустимой невязки)?
foxyrus
Это же кучу обработки нужно делать. Тоже можно сказать о СОРМ. Проще заставить, с помощью закона это сделать, где все данные будут структурированы с ФИО и фото.
lagranzh
тов. майоры не во всех странах при власти.
AlxDr
Но тенденция к озабориванию всего имеется практически везде.
Почитайте новости из разных стран — практически везде идёт атака на право тайны переписки, частной жизни, анонимность, свободу слова и так далее… во имя всего хорошего. Только методы немного разные, где-то тащмайор открыто демонстрирует свой сапог, где-то чуть более прикрыто это делается.
В Германии, например, законы о приватности, вроде как, очень хорошие. Например, нельзя снимать человека на улице без его разрешения, если это не публичное мероприятие. Но почему-то это не мешает им (как и всем прочим) развешивать видеонаблюдение везде, которое снимает вполне себе без спроса.
В США, которые, как известно, «land of the free», на границе могут потребовать разблокировать любое цифровое устройство для досмотра, при этом данные с него сливают неведомо куда.
В Австралии правоохранительные органы могут законно требовать у компаний предоставлять им даже не просто «ключи шифрования», а и вовсе бэкдоры создавать.
Это всё относительно свеженькое…
Vilgelm
Насколько я понимаю это не относится к гражданам США, так что тут принцип не нарушается. Но со слежкой у них там тоже полный порядок, достаточно вспомнить сливы Сноудена. Просто конкретно этот пример не очень подходит.
AlxDr
Насколько мне известно, на границе для граждан США исключений нет. Так же могут досмотреть.
Так, например, считает их Department of Homeland Security:
А вот опыт, собственно, гражданина (более того — уроженца!) США:
На самом деле, с гражданами США там сейчас мутно, так как закон не позволяет «запретить гражданину США въезд в США», то есть, вроде как, задерживать не имеют права. Но при этом имеют право обыскать :) Вроде как, там сейчас поднялось движение к исправлению этого бардака, но чем оно кончится, пока неизвестно. Вполне могут в итоге и окончательно узаконить обыск, не просто же так это стало там случаться.
Dr_Faksov
А вы знаете страны в которых закон может запретиь ВЪЕЗД в страну ГРАЖДАНИНУ этой стран? ВЫЕЗД — сколько угодно…
AlxDr
Вопрос лишь в том, на каких условиях гражданина могут задержать при въезде.
То есть, одно дело, если в отношении гражданина уже есть решение суда, предписывающее его арест или он совершил преступление прямо при въезде (попытался ввезти наркотики, например). Совсем другое дело, если никаких оснований для задержания на границе нет, есть безусловное право на въезд (гражданство), но пограничный контроль задерживает всё равно. Например, чтобы порыться в ноутбуке.
Если в отношении неграждан это ещё можно понять (хочешь в гости? соблюдай любые требования хозяев), то с гражданами это уже как-то за гранью.
skrimafonolog
Почему за гранью?
Если ты даже и гражданин той старый — но сие вовсе не означает, что ты можешь делать всё, что в голову взбредет.
Тебя также проверяют на предмет ввоза наркотиков или детской порнухи в твоем ноутбуке (по наводке, конечно, а не всех подряд).
AlxDr
У гражданина есть гарантированное Конституцией право тайны переписки и частной жизни. США в этом смысле не отличаются от большинства стран.
Нет решения суда? Нет права влезать в тайну переписки и частную жизнь. Долгое время так и было. Сейчас ситуация изменилась.
Кстати, если я правильно помню, у их пограничной службы CBS полномочия действуют не только на КПП, а и в весьма приличном радиусе от границы (50 или 100 миль, что ли). Открываются широкие возможности «также проверить на предмет детской порнухи» кого угодно.
В общем, если вы пролистаете в начало ветки — ЧТД.
skrimafonolog
Существование АНБ в США это как бы отрицает…
Однако что в отношении граждан что в отношении не-граждан — всех не перлюстрируют почем зря.
Не понятно зачем вы отделяете не-граждан.
AlxDr
Я-то не отделяю, но вот Конституция США гарантирует права именно гражданам США, а остальным — уже на усмотрение остальных законов.
Что АНБ и прочие важные трехбуквенные организации немножко плюют на конституции своих же стран — о том и речь…
dimaal
Ха! расширю ваши горизонты, тем более что за примером далеко ходить не надо.
Не так давно Саакашвили (формально гражданин Украины) запретили въезд на Украину. Плюс еще какому-то протоиерею — гражданину Украины, имевшему якобы второе американское гражданство, — запретили въезд. Сейчас загуглил по быстрому, но не нашел его имени.
Exchan-ge
До этого его таки лишили гражданства.
Указе президента [Зеленского] №329/2019:
«Внести в Указ Президента Украины [Порошенко] от 26 июля 2017 года №196 „О прекращении гражданства Украины Бондаревой Т., Корнийчук А.А., Коротецкого Л.А. и других лиц“ изменение, исключив положение о потере Саакашвили Михаилом гражданства Украины»
mayorovp
Так там же вроде как сначала гражданства лишили, а потом уже запретили въезд. Впрочем, всё равно пример интересный.
edb
В Германии, там, где есть видеонаблюдение, всегда есть и табличка с предупреждением. Так что не надо врать, что «без спроса».
AlxDr
Поставить перед фактом — не значит получить разрешение. Особенно, если табличка сама находится в зоне наблюдения.
Опять таки что-то мне подсказывает, что для частных лиц с фотоаппаратом аналогичный фокус с плакатом «если вы меня видите, я могу вас снимать» не прокатит :)
skrimafonolog
Ошибаетесь.
Если вы не являетесь основным объектом на фотографии — то фотографии с вашим изображением, сделанным в публичных местах, могут быть даже проданы без того, чтобы брать у вас разрешение. Например, для сайта новостей.
Это всё вполне по закону РФ.
AlxDr
В данной ветке комментариев обсуждаем не Россию.
edb
В ФРГ очень похожая норма.
edb
Поставить перед фактом, значит предупредить. А там, человек уже сам решает заходить на наблюдаемую территорию или нет. Ну а про то, где находится табличка, вы придумали. Она всегда стоит вне зоны камер. Другое дело, что жить в большом городе и стараться не попадать в зоны видеонаблюдения очень некомфортно и развивает паранойю.
Если вас сфотографировало частное лицо на улице, то вы имеете право потребовать стереть снимок. В реальности, конечно, вас примут за городского сумашедшего, так как никто в здравом уме таким не занимается.
AlxDr
На мой взгляд, табличка (как и любое предупреждение) имеет смысл лишь тогда, когда есть реальная возможность на него отреагировать. Когда речь идёт о большом городе, это практически нереально. Не ходить по улице, если там висят камеры? Не ездить по автодорогам, где есть контроль с фотофиксацией? Не пользоваться общественным транспортом?
При этом, если камеру повесит частное лицо, например, на ворота своего дома, и в поле зрения попадёт улица, то весьма высока вероятность, что его потребуют это устранить под угрозой ответственности.
В этом и есть проявление тащмайорства: что условному майору всегда можно чуть больше и ширше, чем опекаемым им гражданам. И есть тенденция к нарастанию этого явления в области инфотеха повсеместно. Я не говорю, что Германия здесь как-то особо отличилась, скорее наоборот.
Я думаю, мою мысль вы поняли. Насколько вы её принимаете — это уже ваше дело, думаю, на Хабре спорить об этом не стоит.
edb
Жизнь в большом городе вообще, сопряжена с множеством ограничений и неудобств. И это одно из них.
skrimafonolog
Если ваше изображение — не крупным планом, то частное лицо имеет право вас послать. Вежливо, конечно. И даже потом продать эту фотографию.
И это всё по закону вполне. Тут в комментах упоминалось — это по закону в РФ и ФРГ по крайней мере.
Nilpferd
У товарища майора давно уже есть много способов отслеживать того, кого требуется отследить, так что ещё один (к тому же весьма ненадежный) мало что меняет. Мы уже давно живем в 1984.
ky0
Вы говорите сейчас о точечной слежке, причём постфактум. А при наличии структурированной базы лиц и записей уличных камер станет возможной проследить за любым и в прошлом, просто натравив распознавание на старое видео.
Nilpferd
Я говорю о получении информации в реальном времени и в массовом варианте. Здесь, на хабре было уже несколько статей на тему получения весьма подробной информации о людях с целью их коммерческого таргетирования. У товарища майора, я думаю, возможностей и вычислительных мощностей будет побольше.
Пример статьи: habr.com/ru/company/mosigra/blog/424951
Не думаю, что распознавание по лицам(со всеми недостатками и несовершенством самой технологии) может добавит к этому что-то существенное.
dimm_ddr
Я не спорю с тенденциями, я только говорю что денег больше чем у коммерческих компаний может и не быть.
balamutang
У товарища майора как это ни странно — нет ни мощностей ни людей, которые эти мощности могли бы эксплуатировать (не знаю к сожалению или к счастью).
Имея вроде бы доступ к массивам информации тащ майор ничего с ней сделать не может и единственная его надежда что за него это все сделают другие — операторы связи, гугл, яндекс или сбербанк, а он придет на это готовенькое, помашет корочкой и потребует результат (голосовые отпечатки, карты перемещений и тд).
Nilpferd
Вопрос не в том, всесилен товарищ майор или жалок, а в том много ли ему добавит та самая база лиц из исходного комментария. Если с остальной информацией он сделать ничего не может, то и база с биометрическими данными ему будет, как корове седло.
DenisBelovEd
Хах, нет, это только на словах всё так просто звучит;)
Zoolander
стало ясно, почему на АлиЭкпрессе так много реалистичных силиконовых маск лица
JINR
Просто в копилку: гуглим «угольков камера помогла в москве».
edogs
skrimafonolog
Это же в дополнение.
Чем больше различных способов — тем лучше.
uhf
Вы говорите, как все сотрудники банков. Но в новостях уже обещают выдачу денег в банкоматах только по биометрии:
На сайте ЕБС (Единой биометрической системы — bio.rt.ru/citizens) приведен перечень доступных дистанционных услуг. В их числе открытие счета, получение кредита. Для идентификации потребуется логин+пароль от Госуслуг, биометрические данные, и код подтверждения из СМС. Я не считаю, что сочетание трех ненадежных методов сделает итоговую систему надежной.
skrimafonolog
Продолжайте так считать.
Но в клиент-банк (онлайн-банк) нынче можно попасть еще проще, чем по упомянутой вами совакупности проверок.
uhf
Да, но с введением биометрии эта ситуация не станет лучше, потому что:
— на безопасность использования пароля или смартфона я могу как-то повлиять, на безопасность биометрии — вообще никак
— я ни разу не слышал про планы банков добавить проверку биометрии в банк-клиенты, потому что они и так считают их защищенными, несмотря на огромный масштаб хищений мошенниками.
— биометрия добавит новые возможности для мошенников, например, повесить кредит на людей, у которых нет счета с деньгами, чтобы их украсть
Zoolander
еще лучше будет повесить кредит на людей, у которых нет проблем с деньгами
uhf
Ну это смотря у кого украдут пароль от Госуслуг
barbanel
del, ошибся уровнем.
barbanel
del
barbanel
Сомневаюсь что «такие» люди используют госуслуги.
По крайней мере, лично.
sumanai
А разница?
Vilgelm
Лучше для кого? Для мошенника так больше вероятности что его найдут и повесят за одно место. На условного Васю всем плевать, сколько уже историй когда мошенники берут на Васю в каком-нибудь МФО займ (есть МФО которые их автоматически через интернет выдают, достаточно данных паспорта и фото), а потом МФО трясет его с Васи несмотря на доказанный факт мошенничества. И с процентами. И КИ портит.
Evgen666
Своеобразное дополнение, вот допустим с остальными способами есть возможность поменять данные которые проверяются при аутентификации(технически можно например поменять паспорт) при их компрометации, а вот что делать в таком случае с биометрией?
IgorPie
Как с электронной подписью, идти и делать запретительное на список действий без личной явки.
sumanai
То есть по умолчанию человек уязвим. Шикарно.
AndrewRo
По-моему, основная проблема биометрии даже не в этом. А в том, что биометрия сама по себе не может выступать ключом. А значит, что любое устройство с проверкой биометрии должно содержать какое-то хранилище ключа, открываемое биометрическими данными по нечёткому совпадению. А значит, что этот ключ теоретически всегда можно извлечь. Такое вот security through obscurity by design.
dimm_ddr
Основная проблема биометрии в том, что она одноразовая. Если вас скомпрометировали, то это навсегда. Ненадежный пароль можно менять, ненадежное устройство для фактора владения — тоже, и то, и другое можно поменять на более надежные при необходимости. Но что делать с отпечатками пальцев? А их уже не первый год можно воссоздать по видео и скоро (если еще не) — просто по качественному селфи. Или с лицом, его спрятать везде уже невозможно для 99% населения.
И именно это основная проблема потому что неважно насколько мал шанс компрометации, если он выше 0, то с каждым годом количество людей у которых украли биометрию будет только расти. И в какой-то момент это количество достигнет предела при котором использование биометрии как ключа просто перестанет иметь смысл. Ненадежность биометрии сейчас только приближает этот момент, но принципиально ничего не меняет.
balamutang
Она даже не одноразовая потому что не является тайной в принципе. Биометрия не может быть паролем, максимум это логин.
tester12
«В перспективе» все сообщения (даже комментарии на хабре) будут подписываться личным ключом, а хэш сообщения будет публиковаться в каком-нибудь блокчейне. Любое сообщение без хэша будет восприниматься как фэйк. Подпись будет генерироваться на аппаратном токене (вероятно, имплантированном в тело с защитой от вытаскивания).
А биометрия банков — это попытка бороться с мобильными троянами, перехватывающими коды в смс-ках.
alecv
Можно сразу подписывать хешем своего генома.
VIPDC
Точно стимулируем изучение генов, для копирования и доработки. Не только порно толкает прогресс.
sumanai
Уверен, что результаты исследований по клонированию впервые применят в порно.
wataru
А результаты по модификации генома — для создания кошкодевочек! Для тех же целей.
Skerrigan
Куплю кошкодевочку, буду вычесывать, гладить и играть. Обещаю чистый лоток и качественный кошачий корм :)
P.S. Обычная кошка уже есть — живет в комфорте и тепле!
sav6622
прям по памяти набирая все знаки
CrashLogger
Ага, и достаточно будет подобрать один волос, или каплю слюны с брошенной сигареты, чтобы подделать этот хэш.
alecv
Дак всякий киберпанк от пап Гибсона и Стирлинга прям наполнен тем, что богатые очень берегут свой геном. Поскольку очень много что можно сделать: от генетических следов преступления до генетических ложных детей-наследников, производства клонов, секс-игрушек и т.д.
Просто представьте, что секвенсоры стали быстрыми и дешовыми и что везде есть читалка генома. По сути — это уникальное длинное число.
netch80
Ну не напрямую. Во-первых, каждое деление клетки случайным образом меняет в среднем около 100 нуклеотидов. Во-вторых, перестановка частей цепочки ДНК — штатное действие при функционировании клетки. И ещё есть укорочение теломеров, вырезание некоторых частей при специализации, и т.п. Итого, после прочтения генома надо его ещё доработать, и тут получится весьма нечёткий поиск по образцам, и не одно число, пригодное к хэшированию, а пачка чисел для поиска ближайшего образца в многомерном пространстве.
Но суть проблемы это, да, не меняет.
Более того, не нужно секвенсоров: взяв образец чьей-то ДНК, например, со стакана, можно уже давно отработанными методами наклонировать её, а затем вливать результат в датчик. Чтобы защититься от такого, нужно, чтобы датчик не просто ловил ДНК, а определял присутствие живой работоспособной клетки.
Druu
Наоборот — тут все гораздо проще. Человек может научиться скрываться от экспертизы, а сеть — нет.
mayorovp
Если экспертиза автоматическая (а другую широко использовать и не получится) — то как раз сети проще. Достаточно раздобыть экспертный алгоритм и включить его в обучение.
Druu
Зачем автоматическая? Только ручная же и нужна.
mayorovp
Затем, что вы сейчас спорите вот с этим:
sumanai
Особенно когда у нас две нейросети, где первая делает подделки, а вторая пытается их распознать.
LaNoche
вернитесь тогда в 50е, когда нет технологий и все на бумаге, которую тоже можно подделать и проверить двойник ли вы было сложно
uhf
Во-первых, в 50-е бумажные документы подделать было сложнее чем сейчас, а альтернатив им не было.
Во-вторых, я не против технологий в целом. Распознавание лица отлично подойдет для оплаты проезда в общественном транспорте, например, или для контроля доступа в корпоративный туалет. Да хоть для записи к врачу на госуслугах.
Но не для банковских услуге же.
sumanai
В те славные времена (может чуть позже) в США банковские кредитные карты просто в ящики бросали.
dimm_ddr
Их и сейчас бросают насколько я знаю. И не только в США.
sumanai
Сейчас их как-нибудь активировать просят. А тогда бери и пользуйся.
alsii
Никак их не надо активировать. Карточка приходи в одном письме. Пароль в другом. С разрывом в 3-5 дней примерно. Когда у тебя есть и то, и другое можно спокойно пользоваться. Причем у жены карточка истекает где-то в декабре. Письмо с паролем для перевыпущенной карточки пришло когда мы были в отпуске (в июле) и спокойно лежало в почтовом ящике. На следующий день после нашего возвращения пришла сама карточка. Вернись мы позже какое-то время в ящике могли спокойно лежать оба конверта. Понятно, что ящик открывается любой отверткой. А учитывая, что старая карточка истекала только через полгода, мы бы долго не спохватились… Такие дела :(
p.s. Сейчас у жены две карточки с разными паролями и обе работают...
skrimafonolog
Заблуждаетесь.
Фильм «Поймай меня, если сможешь». Основано на реальных фактах из жизни Фрэнка Абигнейла
Он подделывал документы влет, начиная еще с 16-ти лет.
Это в 1960-е.
И вот только потом, когда он начал продавать механизмы защиты от подделок — тогда и стало значительно сложнее подделать документы.
А в 1950-е все ограничивалось только вашей наглостью.
DeepFakescovery
просто если сделают дискриминатор для определения что видео фейк, то таким же образом этот дискриминатор вставляется в сеть, которая учится делать такие видео, чтобы дискриминатор принимал их за реальные.