Это уже есть по всему интернету, но на Хабре не видел. Китайские студенты изобрели пальто, которое делает людей невидимыми для камер наблюдения с искусственным интеллектом. Причем стоит оно совсем недорого, не сильно дороже обычной одежды. А создать его может каждый у себя дома.
Тепловые устройства, прикрепленные к покрытию InvisDefense, позволяют избежать обнаружения камерами наблюдения, использующими инфракрасное тепловое изображение. Невооруженным человеческим глазом эта одежда похожа на любое другое пальто с камуфляжным рисунком. Но для камер видеонаблюдения с ИИ она становится плащом-невидимкой и эффективно скрывает человека, который её носит.
Технология была разработана группой из четырех аспирантов-компьютерщиков из китайского университета в Ухани. Их пальто InvisDefense завоевало первое место на «Кубке Huawei» — конкурсе инноваций в области кибербезопасности, проводимом при поддержке китайского технологического гиганта.
Днем индивидуальные камуфляжные принты пальто, разработанные с помощью специального алгоритма, не обнаруживаются камерами видимого света: они не видят перед собой фигуру человека, только набор разнообразных пикселей. А ночью, когда камеры безопасности обычно идентифицируют людей с помощью инфракрасных тепловизоров, встроенные в пальто тепловыделяющие устройства излучают спектр разных температур. Это создает необычную тепловую картину и не позволяет камерам идентифицировать перед собой что-то конкретное.
Когда студенты проверили пальто на камерах видеонаблюдения у себя в кампусе, точность обнаружения пешеходов снизилась на 57%. Но они говорят, что таким способом можно достигнуть и 80%, и 90% — правда, в таком случае уже людям вокруг станет понятно, что с твоей одеждой что-то не так. Поэтому исследователи пытались найти баланс между обманом камеры и «нормальностью» для человеческого глаза.
«Нам пришлось использовать алгоритм для создания наименее заметного изображения, которое могло бы обмануть зрение камеры и сделать его неэффективным», — сказал Вэй Хуэй в интервью, опубликованном на Baidu. — «Насколько мы видим, InvisDefense внешне не кажется чем-то особенным, но дает способ обойти технологии обнаружения человека, используемые существующими камерами безопасности».
Цифровая тюрьма
Китай «славится» своей глобальной системой государственного наблюдения, которая тотально влезает в частную жизнь своих граждан. Она выявляет «неблагонадежных», в том числе представителей определенных религий и национальностей, а также политических противников коммунистической партии. В 2019 году в стране находились восемь из десяти самых охраняемых городов мира. Причем охраняют их, понятное дело, не от внешней агрессии. Сегодня технологии идентификации ИИ используются правительством и частными компаниями для всего, от выявления «подозрительных» мусульман в Синьцзяне до отучения детей и подростков от компьютерных игр в ПК-клубах.
С этой слежкой бывают послабления. Так, в 2020 году один профессор права выиграл судебный процесс против зоопарка в Ханчжоу за сбор биометрических данных лиц посетителей без их согласия. Это стало первым в стране выигранным делом, оспаривающим повсеместное использование технологии распознавания лиц и идентификации граждан.
Чтобы не доходить до судов, команда Уханьского университета предлагает просто покупать спец.пальто — и ходить где хочется, не волнуясь о повсеместном трекинге. Ожидается, что InvisDefense будет продаваться по цене около 500 юаней ($71).
«Камеры видеонаблюдения, использующие технологию искусственного интеллекта, повсюду. Они пронизывают нашу жизнь», — говорит Вэй Хуэй. — «Наша конфиденциальность подвергается воздействию машинного зрения, даже если мы этого не хотим. Теперь мы можем с этим бороться. Мы разработали этот продукт для противодействия обнаружению вас программами без вашего ведома. Для защиты конфиденциальности и безопасности людей».
Кстати, в Москве такие камеры тоже стоят, в том числе и в метро. Теперь появился способ сделать так, чтобы они тебя не засекли :)
По словам Вэя, будущие планы команды включают в себя создание других объектов, «невидимых» для камер с ИИ. В том числе разных предметов и движущихся автомобилей (а вот это уже, кстати, может быть очень опасно, что если автопилот Tesla не сможет понять, что перед ним автомобиль?). Китайцы также изучают возможности обхода других типов камер — например, тех, которые используют дистанционное зондирование, спутников или специальных самолетов.
Но похоже, что исследователи, живущие в Китае, не собираются бороться именно с государственной системой наблюдения, пронизывающей все слои общества (что и понятно, учитывая, что у них в спонсорах Huawei). Студенты заявляют, что их цель — противодействие неправильному использованию машинного зрения десятками частных компаний. А что касается государственного наблюдения — на самом деле, по словам команды, они надеются его даже усилить.
«Тот факт, что камеры безопасности не могут обнаружить пальто InvisDefense, означает, что в какой-то мере они неисправны», — говорит Вэй. — «Мы занимаемся этим проектом в том числе для того, чтобы улучшить существующие технологии машинного зрения. В основном мы находим лазейки и баги, которые потом можно будет прикрыть».
Так что развитие технологий идёт, и от машинного зрения скоро вообще будет не скрыться. Тем временем у китайских полицейских уже появились «умные» очки с распознаванием лиц. Если кто-то есть в базе, и полицейский посмотрел в его сторону — идентификация неизбежна. Против таких устройств пальто уже не поможет, здесь нужно носить маску, а лучше вообще не выходить из дома.
Комментарии (54)
vikarti
12.12.2022 18:02+1Так. Допустим машина с автопилото не опознала человека в такой одежде и в результате авария. Кто будет виноват?
SuperTEHb
12.12.2022 18:06+11Не думаю, что человек. Так-то автомобилю не стоит сбивать никакие препятствия, тем более выглядящие как минимум в видимом свете как человек.
sets
12.12.2022 18:26+13Тот же, кто будет виноват, если машина с автопилотом не опознала человека в любой другой одежде, либо вовсе без неё.
Tarakanator
13.12.2022 10:04+1Водитель.
12.8. Водитель может покидать свое место или оставлять транспортное средство, если им приняты необходимые меры, исключающие самопроизвольное движение транспортного средства или использование его в отсутствие водителя.Запрещается оставлять в транспортном средстве на время его стоянки ребенка в возрасте младше 7 лет в отсутствие совершеннолетнего лица.
snaiper04ek
13.12.2022 11:43Одежда мешает опознавать людей. Она не мешает распознавать объекты, и расстояние до них.
Как я понял из скринов, ии выделяет фигуры похожие на человека, а с этой одеждой в фигурах появляются чёрные провалы, что рушит картину мира ИИ. Нужно дообучение на новой выборке, и он снова будет опознавать людей даже в этой одежде.
Gryphon88
12.12.2022 18:20+14Борются с организационной проблемой техническими средствами, конец немного предсказуем. В качестве примера: хотя бы историю с VPN в РФ. По конституции «Каждый имеет право свободно искать, получать, передавать, производить и распространять информацию любым законным способом.». Сейчас VPN-сервисы, не захотевшие выполнять закон РФ, становятся «незаконным способом». Так и у ребят «использование методов противодействия распознаванию является незаконным, поскольку мешает оперативно-розыскной деятельности», и приехали.
hollycon
12.12.2022 19:28+2Борются ли? Вы действительно верите что пишут журналисты? А мне думается что основная работа этих студентов - как раз улучшение алгоритмов распознавания человеков. Элементарно нашли в них слабое место и начали эксплуатировать. Почему бы и нет?
Gryphon88
12.12.2022 19:36+1Давайте сойдемся на «говорят, что борются». Повышаем accuracy, жертвуя precision.
savostin
12.12.2022 18:21+1Где же (хотя бы) фото этого замечательного пальтишка?
RealSaniok
12.12.2022 18:28+36Не смогли сделать фото, т.к. оно невидимо для камер
savostin
12.12.2022 18:32-4Как я понимаю, это сарказм. Ибо оно не невидимо для камер, а позволяет запутать камеры так, что она не распознает человека. А невидимые есть:
circuitbreaker
12.12.2022 19:27У вас по ссылке китайский тик-ток прикол с хромакеем. Оно синее, а не невидимое.
savostin
12.12.2022 19:40Так у автора похоже тоже ;)
circuitbreaker
12.12.2022 20:12Да, но автор поступил хитрее. Он вставил только скриншот первого кадра ролика и поэтому, мы не можем утверждать однозначно, что именно он имел в виду.
Вообще я уже сталкивался с историями про анти-ML макияж, здесь, судя по всему, похожая история: какой-то паттерн разбивает человека на куски, которые машина пытается идентифицировать по отдельности, или как-то так. Плюс, принт транслируется как в видимом, так и инфракрасном диапазонах, судя по описанию.
Также, тут важный момент про баланс неадекватности внешнего вида и эффективности принта: тот анти-ML макияж из примера выше выглядит очень по-панковски, с налётом Малевича и самого позднего Пикассо.
mOlind
12.12.2022 18:32+7Они же понимают, что после того как ошибка выберется из трех сигма производитель камер обновит прошивку и надо будет искать новые паттерны?
Tresimeno
12.12.2022 19:12Не думаю что это поможет - https://hightech.plus/2018/11/07/kitaiskaya-sistema-raspoznavaniya-uznaet-cheloveka-po-pohodke-s-50-metrov
Китайское гестапо получило средство распознавания по походке
Didimus
12.12.2022 19:48+2Пружины в подошвы. Новый стартап
sim31r
12.12.2022 22:12Такую специфическую походку можно будет распознать уже не только с камер уличных, но и со спутника... если шаги по 3 метра будут благодаря тем пружинам.
Vsevo10d
13.12.2022 02:11+1шаги по 3 метра будут благодаря тем пружинам
Такое уже было https://ru.wikipedia.org/wiki/Джек-пружинки-на-пятах
fireSparrow
12.12.2022 20:07Я думаю, что система не сможет распознать походку, если она в принципе не может сдетектировать, что в поле зрения есть человек.
circuitbreaker
12.12.2022 20:27+1зависит от алгоритма определения походки в кадре. Не факт, что он сначала ищет целого человека.
Warhammer_iii
13.12.2022 17:17У Питера Уоттса в "Ложная слепота 2" есть об этом. Там один ИИ управляет людьми, чтобы другой ИИ в них не опознал людей.
darthmaul
12.12.2022 20:18-1Дайте угадаю - совершенно случайно эти студенты одновременно подхватили ковид и были изолированы в
концентрационномкарантинном лагере?sim31r
12.12.2022 22:11+6Может наоборот, студенты выполняют задание компартии по автоматическому выявлению подозрительных личностей. По сути они под видом маскировки наносят на себя высококонтрастный QR код и ставятся на строгий учет автоматически. Для вида им отменяют мелкие штрафы и имитируют сбой системы распознавания.
Аналогичные подозрения у меня на счет VPN и анонимных платежей.
Format-X22
13.12.2022 00:43+1Было такое в одном известном фильме где злые машины притворялись что некий сигнал их выключает. А когда все выжившие начали его транслировать - тут то выживших и перестреляли.
anonym0use
13.12.2022 02:01> от машинного зрения скоро вообще будет не скрыться. Тем временем у китайских полицейских уже появились «умные» очки с распознаванием лиц. Если кто-то есть в базе, и полицейский посмотрел в его сторону — идентификация неизбежна.
Конечная цель то в чем? Низвести людей до уровня грязи под ногтями чтобы они максимально ощутили боль и тщетность бытия? Чтобы коэффициент рождаемости стал вместо 1.3 — 0.0? С мальтузианской точки зрения успех.
nixtonixto
13.12.2022 10:07Чем сильнее контроль за обществом — тем легче им управлять и вынуждать делать то, что выгодно властям. Чтобы в худшем случае население реагировало бегством, но НЕ акциями протеста или вообще силовым сопротивлением. А с рождаемостью проблем не будет: «социально незащищённые слои населения» ради бесплатной квартиры или пачки денег охотно нарожают 3...5 детей, да ещё будут восхвалять власть.
transcengopher
13.12.2022 12:20А откуда в таких системах предлагается брать население качеством лучше "социально незащищённого", и желательно на долгой дистанции?
Потому что на одних низах долго не протянешь, и рано или поздно деградировать качеством начнёт и сам аппарат управления/принуждения.anonym0use
13.12.2022 12:45+2Как видим на некоторых примерах, это их сильно не смущает, скатываемся в средневековье, да и ладно.
nixtonixto
13.12.2022 12:55+1Такие системы держатся на полезных ископаемых, географическом положении и подобных нерукотворных преимуществах (проклятие ресурсов), а население им нужно только для обслуживания системы. Поэтому, по принципу «После нас — хоть потоп», они могут существовать довольно долго, а аппарат управления мотивируется пряником и угрозой отлучения от кормушки с потерей всего.
transcengopher
14.12.2022 15:19Ресурсная ловушка — не единственная причина снижения качества населения (на самом деле, ресурсная ловушка вообще может быть следствием). В данном вопросе это скорее декорации, но при объективно низком качестве населения, потоп из той самой фразы может наступить не после нас, а во время. И никакой пряник не поможет, если ограничение эффективности системы управления следует не из низкой мотивированности, а из банального недостатка компетенции.
RealSup
13.12.2022 03:32может быть очень опасно, что если автопилот Tesla не сможет понять, что перед ним автомобиль?
То есть если автопилот не сможет понять что перед ним китаец это не так страшно?
Healer
13.12.2022 11:32Автор ссылку на новость спрятал в середину статьи. Вот источник https://baijiahao.baidu.com/s?id=1751011129145805190
Вот ссылка на видео http://vd3.bdstatic.com/mda-nm0gbvaaf9sxqxy1/360p/h264/1669894352549914557/mda-nm0gbvaaf9sxqxy1.mp4, но в нём ничего интересного, несколько фотографий из статьи и видео как парни стоят перед камерой.
Kozoft
13.12.2022 15:35Сначала искажением видимого силуэта пытались обмануть человека, и даже тогда этот способ считался неэффективным.
Quadrix
Знаете как называют людей, которые вставляют скриншот с видео и кнопкой запуска?
GDragon
"Экий вы шутник, сударь!"? :)
george3
Даздраперды?
Alexufo
Гуманитарии?