Полагаю, прямо на наших глазах разворачивается переход между второй и третьей стадиями принятия неизбежного (гнев и торг) по поводу повсеместно установленных умных камер, чья функция заключается в устранении последних следов приватности в общественных местах.

Распознавание лиц и биометрия — лишь частные случаи более обширных разработок в области машинного зрения, но именно эти аспекты воспринимаются максимально болезненно, поскольку человека угнетает повсеместная слежка.

Я заинтересовался состязательными нейронными сетями, когда глубокой осенью 2018 года прочел статью «Do neural nets dream of electric sheep?» («Снятся ли нейронным сетям электроовцы»)? Автор проанализировала несколько примеров, где нейронка изрядно озадачивается, обнаружив овец в необычном сеттинге. Особенно интересен следующий пример:

Как видите, и NeuralTalk2, и Azure «мыслят стереотипно»: в датасетах, на которых они обучались, овцы не лазали по деревьям, поэтому одна сеть увидела здесь «стаю крупных белых птиц», а другая «стадо жирафов». В другом примере подобных атак на алгоритмы компьютерного зрения (такие примеры называются «состязательными») обнаруживается, что даже небольшой поворот изображения сбивает нейронную сеть с толку:

Револьвер превращается в мышеловку, лодочная станция – в гильотину, а сервант с фарфором – в прожектор. Причем, в примере с сервантом мне даже удается посмотреть на эту ошибку «глазами нейронки», но остальные ее ошибки понять не получается.

Попытки эксплуатации аналогичных уязвимостей при распознавании лиц активизировались в 2019 году после манифестаций в Гонконге, когда стало понятно, что маскировка эффективнее брутфорса (протестующие пытались громить умные камеры). Последовавшая вскоре эпидемия COVID-19 и масочный режим вновь подстегнули такие исследования и, в частности, показали, что маска – плохая защита от нейронки. Лицо человека имеет характерную форму (скулы) и симметрию, кроме того, легко выявляется по симметричным и при этом блестящим глазам. На Хабре публиковался перевод интересного исследования о том, легко ли обмануть алгоритм распознавания лиц при помощи медицинской маски (спойлер: нет).

Обнаружение и распознавание лиц

Для начала разграничим две эти задачи – на самом деле, они сильно отличаются по сложности. Для обнаружения лица (1) достаточно, чтобы программа выявляла на картинке овал, а на нем – два глаза. Но для того, чтобы убедиться, что это именно человеческое лицо, а тем более распознать его, требуется гораздо более скрупулезный анализ характерных точек. Далее коротко расскажу о градиентной маскировочной маске, описанной в статье Брюса Макдональда.

Таким образом, алгоритм распознавания лица учитывает положение сразу множества легко идентифицируемых точек: зрачка, радужки, мочек ушей, уголков губ, кончика носа, скул – а также расстояния между этими точками. Поэтому обычная медицинская маска – не лучшая маскировка. Она не закрывает глаз, не закрывает ушных мочек; общая симметрия лица также сохраняется. Но в 2019 году, до повсеместного распространения масочного режима, антинадзорная градиентная маска была по-настоящему интересной находкой:

Программа на Python (исходный код) создает градиентный узор/шум (так называемые «гистограммы направленных градиентов»), распределяющий линии и продолговатые фигуры таким образом, что они кажутся камере видеонаблюдения набором схематически очерченных лиц. Обратите внимание на имитацию глаз и бровей. Методом Q-обучения автор также нашел такой вариант замощения маски этими группами характерных точек, при котором «лица» выглядят разупорядоченно и тем более осложняют опознание носителя маски:

fitness = mlrose.CustomFitness(detected_max)
problem = mlrose.DiscreteOpt(length=24, fitness_fn=fitness,
maximize=True, max_val=scale_factor)
schedule = mlrose.ExpDecay()
best_state, max_faces = mlrose.simulated_annealing(problem, schedule=schedule, max_attempts=10, max_iters=1000,
init_state=initial_state, random_state=1)

print('Optimal state found: ', best_state)
print('Max fitness found: ', max_faces)
# сохраняем оптимальный найденный результат
get_img_from_state(best_state)
print("Number of faces in output: ", len(detect_faces(cv2.imread(OUTPUT)))) 

По-видимому, такой антинадзорный узор действительно эффективен для обмана простого приложения вроде Snapchat или камеры видеонаблюдения. Тем не менее, эпидемия внесла коррективы в работу компьютерного зрения: теперь алгоритмы целенаправленно тренируют на распознавание лица в маске. Так, на Хабре в корпоративном блоге «Productivity Inside» была переведена статья Томаса Смита, который попытался обмануть приложение Face++. Эта программа не только распознает лица, но и сравнивает лица, отснятые в разных условиях, чтобы проверить, принадлежит ли лицо с обоих кадров одному и тому же человеку.

Точность распознавания лица в этой программе без применения маски составила более 95%, а различные маски все равно не слишком сбивали Face++: детская маска с собачьей мордочкой снижала точность распознавания до 82,4% - хотя теоретически «второе лицо» должно было дезориентировать систему. Автор предположил, что лицо распознавалось лучше, так как сама (детская) маска была меньше. Обычная медицинская маска снижала точность распознавания лица до 74,7%, что все равно очень высоко, а маска с вышеприведенным антинадзорным узором вообще не помогла: точность распознавания выросла более чем до 83%. Таким образом, в 2020 году алгоритмы компьютерного зрения уже явно ориентированы на распознавание масок. Но программа в принципе не смогла обнаружить лицо на фотографии, когда автор вместе с обычной медицинской маской надел черные очки. Таким образом, сокрытие большей части лицевых скул, носа и глазной симметрии по-прежнему эффективно против распознавания лиц.

Именно на уничтожении лицевой симметрии сосредоточен макияж-камуфляж по технологии CV Dazzle, разработанный Адамом Харви. Поскольку алгоритмы распознавания анализируют свыше 60 ключевых точек на лице, одного лишь макияжа недостаточно: слишком велика избыточность алгоритма. Зато помогают накладные волосы, шиньоны и скрывание хотя бы одного глаза. Полностью приведу здесь советы по стилю CV Dazzle:

  1. Макияж: Избегайте тональных кремов. Они только подчеркивают ключевые точки лица. Вместо этого применяйте макияж, который придает лицу необычную контрастность как по цвету, так и по сочетанию: светлые тона на темной коже и темные пятна на светлой.

  2. Переносица: Нужно частично закрыть область переносицы. При распознавании лиц наиболее важен тот регион, где сходятся лоб, нос и глаза. Мера особенно эффективна против алгоритма обнаружения лица из OpenCV.

  3. Глаза: Частично закройте одну или обе глазницы. Симметричное положение и темный цвет глаз – ключевые признаки, выдающие лицо.

  4. Маски: вместо скрывания лица маской меняйте контраст, тональные градиенты, а также пространственные сочетания темных и светлых областей на лице: для этого меняйте прическу, макияж, надевайте необычные украшения.

  5. Голова: Исследование Ранрана Фэня и Балакришнана Прабхакарана из Техасского Университета показало, что запутать алгоритм распознавания лиц можно, скрыв эллиптические очертания головы. В качестве камуфляжа подойдут прически, водолазки и другие украшения, скрывающие эллиптическую форму лица.

  6. Асимметрия: алгоритмы обнаружения лица учитывают симметрию между левой и правой стороной лица. Выбирая асимметричный образ, эти алгоритмы можно обмануть.

Здесь находим одно принципиальное пересечение с опытом Томаса Смита: скрываем глаза. Смит сделал это, надев черные очки. Также было бы удобно разрушить симметрию, скрыв один глаз:

Тем не менее, подобный камуфляж – пиррова победа, поскольку он делает человека малозаметным для камер, зато крайне заметным для человека. Менее броский вариант антинадзорной маскировки был придуман в 2017 году; его предложил инженер Яндекса Григорий Бакунов @bobuk. Его макияж для защиты от распознавания лиц делается при помощи блестящих полос и точек; показал себя особенно эффективным, чтобы сбивать с толку биометрию. То есть, макияж Бакунова не столько мешает камере распознать лицо – как вы помните из вышеприведенных примеров, камера вполне обнаружит лицо по ключевым точкам – сколько затрудняет опознание человека.    

По словам Бакунова, проект был свернут после получения первых положительных результатов, так как технология легко может быть использована во зло. Но она подсвечивает еще одну важную уязвимость: алгоритмы распознавания лиц настолько полагаются на симметрию глаз, что их можно ловить как раз на этом. Китайские ученые показали, что устройство Apple, открывающееся по идентификации лица пользователя (FaceID) легко обмануть, надев на спящего обладателя устройства очки, на которые на месте зрачков наклеены две черные точки. FaceID распознает лицо по ключевым точкам, а зрачки как таковые не распознает – ему достаточно характерной глазной симметрии и двух черных точек на месте зрачков.

Таким образом, чтобы обмануть видеонаблюдение, важнее скрывать симметрию области глаз; темные очки из опыта Смита — более эффективная маскировка, чем медицинская маска. Что касается опытов Бакунова, их успешность могла быть связана со сравнительным несовершенством технологий распознавания в 2017 году. Если система все-таки вычленит в толпе лицо, сопоставить его с фото в базе – дело техники.

Кепка-невидимка

Уже в опытах Харви отмечалось, что распознавание лица значительно усложняет шляпа с полями. Шляпа – простейшее устройство, корректирующее отражательную заметность глаз; то есть, поля частично блокируют как свет, попадающий в глаза, так и отраженный от глаза свет. Еще недавно шляпа была всеобщим мужским аксессуаром, в ней человек не выделялся в толпе. Поэтому данное направление исследований кажется предпочтительнее, чем макияж-камуфляж. Первое достижение в этой области – инфракрасная кепка:

Подобное устройство используется для «атаки с невидимой маской» IMA. На рынке доступны дешевые светодиоды, испускающие инфракрасное излучение с длиной волны 850 или 940 нм. Такой свет неразличим для человека, но отлично захватывается камерами видеонаблюдения. Такая камера раскладывает «увиденное» лицо на цветовые каналы R, G и B, и при этом весь инфраскрасный свет попадает в канал R, сильнейшим образом искажая картинку. Такие светодиоды под козырьком кепки практически не заметны, питание для них также требуется минимальное (по данным авторов, аккумулятор 18650 может поддерживать светодиод не менее двух часов).

Извлечение лица из последовательности видеокадров и сравнение найденного лица с фотографией из базы данных осуществляется методом «Face embedding» (встраивание лица). Лицо извлекается со множества кадров видео, эти данные преобразуются в векторы, после чего сравниваются с фотографией человека, которая может быть преобразована в такой же вектор. Инфракрасная кепка позволяет сорвать этот процесс уже на самом первом этапе, то есть, не дает вычленить лицо в толпе.

Эффективность такой кепки должна снижаться при ярком естественном освещении, а также, скорее всего, легко нивелируется при встраивании в камеру видеонаблюдения такого режима, который позволяли бы ей отсекать весь инфракрасный спектр, либо интерпретировать его как красный. Кроме того, светодиоды вполне могут быстро посадить зрение: пусть человек и не воспринимает инфракрасного излучения, в данном случае прямо вам в глаз светит яркая лампочка, выжигающая вам сетчатку.     

Заключение

Системы распознавания лиц и биометрия развиваются параллельно с цифровизацией человеческих учетных данных и, в сущности, противодействовать этому технологическому вектору очень сложно. Я полагаю, что подобные «состязательные» разработки для обмана идентифицирующих устройств рано или поздно будут криминализованы, но сам пока на биометрию переходить не собираюсь. В моем втором блоге на Хабре (куда вынес технические переводы) я недавно публиковал статью о том, что глубокое обучение уже упирается в пределы своих технических возможностей, поэтому до изобретения принципиально новых алгоритмов окончательная победа над подобными обманными приемами может быть еще далека. Предположу, что здесь мы скорее увидим гораздо более опасные атаки, когда злоумышленник научится виртуально накладывать на лицо преступника лицо другого человека, чтобы на пленке засветился невиновный человек, и можно было попытаться таким образом создать преступнику алиби. Либо могу представить дальнейшую миниатюризацию инфракрасных маячков, встраивание их в пирсинг, серьги или в контактные линзы. Макияж-камуфляж, вероятно, останется в истории подобной маскировки лишь первым и относительно «дешевым» шагом, который, однако, подсказал принципиально важные идеи и уязвимости для поборников приватности.    

Комментарии (53)


  1. Kwent
    28.10.2021 17:47
    +25

    обнаруживается, что даже небольшой поворот изображения сбивает нейронную сеть с толку

    Не сбивает :)

    Программа на Python (исходный код) создает градиентный узор/шум

    Не создает, вы вставили не ту ссылку, это ссылка на Dlib'овский детектор, код по ссылке не генерирует маску

    Точность распознавания лица в этой программе без применения маски составила более 95%

    Точность в распознавании лиц очень лукавая метрика, которая без пояснений эксперимента не говорит примерно ни о чем, представьте, что у вас 100 сотрудников каждый день проходят КПП, очевидно, каждый проход "происходит" 100 сравнений, при этом одна позитивная пара и 99 негативных, если я сделаю простейший return False, то точность будет 99%

    Именно на уничтожении лицевой симметрии сосредоточен макияж-камуфляж по технологии CV Dazzle, разработанный Адамом Харви.

    Posted 2011-09-01
    Закопайте назад

    Да и вся статья по текущим меркам археология, это скорее посмотреть и поумиляться "какую раньше ерунды мы несли". Не, некоторые методы еще рабочие (закрыть полностью лицо еще долго будет работать), но львиная доля представленного - нет


    1. MrBFan
      28.10.2021 18:12
      +9

      Да, уж. Чепуха невероятная, набор случайных статей многолетних давности. Выглядит как фантазии стороннего наблюдателя, ни на чём не основанные.


      Меня сразу насмешило, что якобы небольшой поворот сбивает нейросеть с толку. Одно из первых действий, что делаются после того, как обнаружено лицо -- это выравнивание по единому шаблону. Это умели делать и делали ещё 3 года назад, скорее всего и раньше.


    1. pexey40317
      29.10.2021 10:59

      Уже давно читал, что человека можно идентифицировать по походке и осанке. Когда дойдет до такого, то просто скрывать лицо будет уже не эффективно.


      1. alienator
        29.10.2021 11:19


        1. kulikovDenis
          29.10.2021 11:51

          Хорошая попытка, но не поможет. Геометрические размеры конечностей не меняются.
          Маска плюс пальто, что бы скрывало движение всех конечностей. Правда, само пальто становится хорошим признаком идентификации.


        1. pexey40317
          29.10.2021 13:27

          Спасибо, буду тренироваться.


      1. Zalechi
        29.10.2021 16:34

        Ага, и раскрываемость убийств драматически подскочет


    1. MartinMiles
      29.10.2021 20:20

      А что если использовать накладные носы? Они же меняют геометрию лица?

      /


      1. Kwent
        29.10.2021 20:27

        Тут все просто, давайте исходить из задачи, задача — найти преступника (оставим сейчас за рамками, кого государство считает преступником). Личность с подобным носом и многими другими камуфляжами наверняка вызовет вопросы со стороны правоохранительных органов на улице, успешный преступник все-таки незаметен.

        Отвечая прямее на ваш вопрос — я не знаю. Но, сети распознавания сейчас работают лучше человека, если вы можете с этим носом опознать человека — то и сеть скорее всего сможет, а вот если не можете — то не факт, что сеть не сможет :)


  1. bak
    28.10.2021 18:21

    Пусть попробуют такое распознать.


    1. StjarnornasFred
      28.10.2021 20:15
      +20

      Пройдёмте, гражданин, на распознание.


    1. 2PAE
      29.10.2021 07:32
      +3

      Вас по чипу из вакцины от ковида19 распознают.


    1. apapacy
      29.10.2021 08:10
      +7

      А давайте ка разделим город на квадраты 100х100 метров и переход из квадрата в квадрат только по распознанию лица. Это например для борьбы с ковидом или терроризмом. А нанесение футуристического грима приравняем к вмешательству в работу электронных статей с отсидкой по статье от трёх до пяти строгого режима.


      1. lohmatij
        08.12.2021 19:11

        В Китае у уйгуров уже давно так и сделано.


    1. GarretThief
      29.10.2021 10:17
      +4

      Распознают, но не по лицу, а по данным о перемещении человека. Можно также запросить у операторов подключения телефонов к вышкам по пути следования, у банков - данные об использовании карт в местах, где человек был.


  1. MilashchenkoEA
    28.10.2021 18:37
    -4

    камер, чья функция заключается в устранении последних следов приватности в общественных местах

    Для добропорядочного гражданина такой расклад может быть в общем-то и плюсом, поскольку появляется больше возможностей по обнаружению различного криминалитета и т.п. По поводу приватности, то что, например, камеры сняли, как кто-то в магазин сходил, не особо и жалко, наверное.


    1. apapacy
      29.10.2021 08:29
      +2

      Звучит вроде бы логично. Хотя… Знаете ли Вы людей о которых все говорят что они воры и убийцы и ко оный каждый день показывают по ТВ и в газетах пишут где они находятся?.. И зачем их искать? А вот найти нарушителя ПДД или участника митинга это самое милое дело. Интересная такскать задача.


    1. GarretThief
      29.10.2021 10:21
      +5

      А затем добропорядочный гражданин лайкнет комментарий "Так этим КГБшникам и нужно", и вот этот же добропорядочный гражданин на камерах - иди и задерживай. А сын прокурора, сбивший на переходе женщину с коляской на скорости 120+ так и останется ненайден.


    1. iddi
      29.10.2021 12:41
      +3

      вот недавно одного добропорядочного гражданина, которого система указала на 70% как похитителя приставок, с применением силы задержали, в буквальном смысле выбивали признательные показания, а потом - "Ну извини".

      так что даже лайкать ничего не надо


      1. McStrauth
        29.10.2021 15:30

        Было дело, да. Но и сбежавшего из СИЗО убийцу (Мавриди, кажется) тоже через камеру в магазине обнаружили и задержали.

        Дело не в камерах, а в тех, кто их использует. В приведённом Вами примере – кто мешал спокойно подойти и сперва спросить документы? Обязательно сразу надо было бить и мордой по полу возить? И таким товарищам камеры, в общем-то, не сильно и нужны – можно и просто любого на улице так мордовать, потому что самое страшное, что им грозит, это пресловутое «ну извини, обознался».


        1. KonstantinTyurin
          03.11.2021 22:48

          дело таки в камерах, потому что неограниченная сила и власть развращает неограниченно


  1. sim2q
    28.10.2021 18:49
    +2

    Всё, этот бой уже проигран....


    1. apapacy
      29.10.2021 08:15
      +1

      Ну не все так плохо. Это системы в себе содержат ген самоуничтожения. Так как тот звездец который они несут приведет к деградации всего социума и это уже реальность в виде удаленки в школах и вузах. И как результат техногенный коллапс с выходом из строя или банальным отсутствием электроэнергии для этого.


  1. apapacy
    28.10.2021 21:58
    +11

    По словам Бакунова, проект был свернут после получения первых положительных результатов, так как технология легко может быть использована во зло.

    Вот они оказывается какие щепетильные. Стоп. А технология тотальной слежки случаем не может быть во зло? Почему Бакунова это не остановило?


    1. Popadanec
      29.10.2021 16:42

      Может, но это обязательно всплывёт и полетят шапки(а в случае не системного подхода ещё и уголовные дела). Маскировка, преступниками будет активно использоваться, т.к. они и так преступники. И законопослушные граждане скорее пострадают от вторых, чем от первых.


      1. apapacy
        29.10.2021 20:41

        Вы серьезно. Преступник с раскраской индейца Джо в центре Москвы? Будет незамеченным? А вот алгоритмы распознания таки работают.


  1. todoman
    28.10.2021 23:45
    +1

    Детский сад десятилетней давности.

    Алгоритмы распознают походку, манеру замедляться/ускоряться при ходьбе и сотни других параметров, при которых хоть полностью голову спрячь, тебя распознают.

    И всегда забывается самый главный алгоритм:

    – Товарищ в необычной кепке, пройдёмте сюда для проверки документов.

    Хоть дата-центр в рюкзаке носи, игры кончаются на уровне полицейской дубинки и турникета.


    1. apapacy
      29.10.2021 08:01

      Вцелом да.напоминает как в том же романе 1984 главный герой шифроваться от большого брата. Хотя конечно вцелом по лицам лежак более дешёвая и массовая. Готово уж если ты вышел в футвристическом гриме и разгуливает так по Маскве то тебя можно брать и без распознавания.


    1. gremsta
      29.10.2021 15:08

      Алгоритмы распознают походку, манеру замедляться/ускоряться при ходьбе и сотни других параметров,

      А можете привести примеры чего-то типа FindFace, только для этих действий? Или open source библиотеку/проект, демонстрирующий такое опознание?


      1. apapacy
        29.10.2021 20:34

        Ха. Ха. Ха! Да я говорю ха. Почему они должны быть в опенсорсе? Для этого в них вкладывали миллионы чтобы выложить на git и тиснуть статью на Хабре? Может быть и Windows такая же выдумка как чипирование ведь сырцы никто не видел.


        1. gremsta
          04.11.2021 20:04

          Ну почему же, вот создатели этой магии во славу Колокольцева/Золотова и ВВП - https://habr.com/ru/company/ntechlab/blog/586770/
          вполне себе делятся подробностями подходов по распознаванию лиц.


    1. WQS100
      29.10.2021 16:56
      +1

      Но ведь для того, чтобы тебя распознали, в базе должен быть твой профиль с этими сотнями параметров (насколько я понимаю). Сколько данных и времени может понадобится, чтобы его составить, и где эти данные брать?

      На мой дилетантский взгляд, даже сейчас применение таких методов в реальной работе -- задача нетривиальная, с лицом как-то попроще будет.


      1. molnij
        29.10.2021 18:17
        -1

        А профиль успешно сейчас собирают через банки с их биометрической аутентификацией


        1. apapacy
          29.10.2021 20:27
          -1

          Всегда удивляет клиент минусующий утверждение вроде дваждыжвачетыре С мотивацией я не читал смысл сообщения но написанное с ошибками орфографии или пунктуации минусую. Такой я уж рафинированный эстет.


        1. apapacy
          30.10.2021 10:11

          А я понял. Банки нет не могут передавать эту информацию государственным органам и мафии. Разве что по решению суда или через крота.


      1. apapacy
        29.10.2021 20:30

        Отвечу вопросом на вопрос. У вас паспорт есть? Если есть он у Вас фальшивый?


        1. WQS100
          30.10.2021 22:31

          Есть, но при его изготовлении у меня вроде бы не собирали информацию о "походке, манере замедляться/ускоряться при ходьбе и сотне других параметров, при которых хоть полностью голову спрячь, тебя распознают.", а с тем, что можно собрать какой-то профиль из информации, которую мы сами подаём в те или иные гос.органы, я вроде бы не спорил (собственно, я и пишу, что "с лицом как-то попроще будет")


  1. lxsmkv
    29.10.2021 05:24

    Я смотрю на киберпанк (как культурно-общественное явление) и узнаю в нем проекцию тех проблем которые принесла с собой сегодняшнаяя технология. И от этих флешфорвардов перехватывает дыхание.


    1. apapacy
      29.10.2021 08:04

      То ли ещё будет. И дело не только в виде оставляющей. А в каком то скатывании в полный звездец напоминает обстановку предвоенной Германии например в фильме одном из самых жутких Картина не закатного художника.


  1. SomeDD
    29.10.2021 08:21
    +1

    На Ali уже давненько вот такого типа "солнцезащитные очки" продаются:


  1. Germanjon
    29.10.2021 09:21
    +1

    Тестировали недавно один алгоритм. Я был в медицинской маске. Система за 10 секунд пошерстила центральную базу и выдала топ-5 наиболее подходящих кандидатов. Я оказался на первом месте.


    1. apapacy
      29.10.2021 09:33

      Переходите на сторону добра пока не поздно.


  1. andrey78910
    29.10.2021 09:41
    +1

    Все шумы в данных, типа как повороты, макияж, маски с различными рисунками, работают если система не обучалась на похожих данных. Как только об этом написали, или все начали использовать, то и база данных прирастает примерами из этого распределения и все это больше не работает.


    1. RigelNM
      29.10.2021 10:47

      Как с человеком впринципе. При первом взгляде на эти макияжи думаешь "что это за невиданная фигня", а потом начинаешь всматриваться, замечать черты лица...


  1. wastegate
    29.10.2021 12:55
    +4

    На первой картинке изображены на дереве не овцы, а козы.


  1. amarao
    29.10.2021 14:54

    Я правильно понимаю, что достаточно на маске иметь глаза?

    Таких на удивление мало в интернетах.


    1. apapacy
      29.10.2021 20:51

      Ну это сильно зависит от алгоритма. Если даже так тотвсехьс глазами буду останавливать сразу для выяснения личности.


  1. SignallerK
    29.10.2021 15:08

    . Причем, в примере с сервантом мне даже удается посмотреть на эту ошибку «глазами нейронки», но остальные ее ошибки понять не получается.

    В примере с лодочной станцией картинка черно-белая со слабым котрастом. При повороте получается серый фон под углом к белой полосе. Прям классический нож гильйотины.

    Впрочем проблема аффиных преобразований и нейронных сетей не нова, как уже выше отметили в комментариях.


  1. PKav
    29.10.2021 15:59

    Это никак не поможет в поимке преступника, который даже засветившись перед десятком камер просто поймает такси, оплатит наличными и уедет в другой город. А там уж отрастит/сбреет бороду, волосы, нанесет макияж, оденет очки без диоптрий, и всё, след простыл. А вот сколько проблем будет у добропорядочного гражданина, которого система перепутает с преступником представить не сложно. Особенно в России.


    1. apapacy
      29.10.2021 20:23
      +2

      Хм, ваша реплика очень характерна. Для начала в цифровом концлагере если и останутся деньги то точно не наличные. И преступнику в современном смысле нечего вообще будет делать. Преступники будут кибер. И преступления будут в обходе цифровых систем.
      Хотя такой тип преступления как залез в квартиру схватил кусок хлеба и задавал пока приехала милиция будет распространен тоже.


  1. lunacyrcus
    30.10.2021 00:07
    +1

    в устранении последних следов приватности в общественных местах.

    Ну вот в этом по-моему ничего плохого, именно в общественных местах. Сплошь плюсы.

    Правда если страна тоталитарная или ненадежная (коррумпированная, выстроена на "связях" вместо институтов) то да, будет как раз цифровой концлагерь.

    Но по-сути если сравнить, то парадоксально, но вероятно даже нет особой разницы между "цифровым концлагерем", и тем концлагерем что и в аналоговом мире раньше выстраивали. Раньше-то просто вместо камер и аналитики к ним использовали чуть ли не каждого второго соседа и прохожего (и распределенные сети слежки из всяких там "силовиков", покрывавшие практически все население), результат был такой же (а в общем-то намного хуже, ибо в отличие от камер дающих какие-никакие реальные зацепки, это был сплошь человеческий фактор).

    То вот для любителей жить в рабстве и гиперконтроле/маразме, это как ни смешно, прогресс тоже) Благодаря тотальной слежке с камер, нелюбителей демократии их царьки и господа кошмарить теперь будут чуть меньше. Точнее ничуть не меньше (ну вот такая уж судьба у таких, как грится за шо боролись на том и сидят), но меньше и реже будут именно полностью беспричинно, как в аналоговом мире.

    Ну а для приличных стран то тем более прогресс, все же очевидно и очень сильно улучшает безопасность и обстановку во всех этих самых общественных. И конечно все эти трюки и нескучные игры в Неуловимого Джо с обходом камер/алгоритмов/прочего тоже уместны скорее для "приличных" стран, в других-то и за них будут наказывать как только так сразу.


  1. visirok
    30.10.2021 20:49
    +1

    Во-первых, я хочу не согласиться с черезчур резкой критикой этой статьи. Это т.н. «научпоп», поэтому отствание от передового (и во многом пока закрытого для публикаций) фронта техники распознованич на три года (как указывает один из раздражённых комментаторов), вполне допустимо.

    Достоверно известной историей хочу подтвердить тезис статьи. Хотя этот эпизод можно было бы озаглавить: «Большой брат пока туповат и излишне назойлив».

    Итак, в знакомую семью приехала в гости подруга жены. Женщины были в студенчестве очень большие подружки, но потом вышли замуж, разъехались, воспитали детей, а контакты почти прекратились. Не виделись пару десятков лет. И вот встретились. Были искренне рады встрече. Муж хозяйки дома поснимал их, радостных,на фоне местных достопримечательностей.

    Как известно, Apple из хранящихся на его приборах фотографий с некоторых пор делает подборки, которые в немецких приборах называются Rückblick, что можно перевести как «Взгляд в прошлое».

    И вот, спустя два года, Apple сделал подборку с нежным названием «Erste gemeinsame Momentе“, что можно перевисти как «Первые общие мгновения», отобрав туда из многочисленных фотографий те, где подруги стоят очень близко друг к другу или положив руку друг-другу на плечо. Думаю, вы понимаете, что «подумал» Apple, отбирая эти фотографии.

    Нужно отметить, что подобные подборки Apple делает раза два в год и из относительно свежих фотографий. А вот надо же, в этот раз залез в старые из многих сотен отобрал специфический десяток.

    Я не стронник теорий заговора. Но … не надо нам такого ИИ. К сожалению, непонятно, как отключить такие непрошенные фичи.


  1. strlock
    30.10.2021 22:12
    +1

    Вот так когда нибудь и начнется мода делать тутуировки на коже лица.