12 августа 2019 года на сайте Amazon Rekognition было опубликовано скромное объявление об улучшении системы автоматического анализа лиц Face Analysis. Эта программа обрабатывает видеопоток, выделяет на нём лица и для каждого лица генерирует метаданные: пол, диапазон возраста, эмоции, дополнительные атрибуты, такие как улыбка, положение лица, качество изображения и особенности лица (face landmarks).
Из эмоций до сегодняшнего дня поддерживалось семь: счастливый, печальный, сердитый, удивлённый, отвращение, спокойствие и растерянность. Сейчас к ним добавлена восьмая — страх.
Систему Amazon Rekognition использует в своей деятельности ряд правоохранительных органов, в том числе Иммиграционная и таможенная полиция (ICE), которая по указу Трампа сейчас выявляет и депортирует нелегальных иммигрантов. Судя по всему, Amazon Rekognition помогает автоматически выявить подозрительные лица в толпе: у них проверяют документы — и многие действительно оказываются нелегалами.
Перегибы в действиях властей вызывают недовольство у демократической общественности. Например, что офицеры ICE забирают маленьких детей-мигрантов у родителей. Технологические компании, которые сотрудничают с ICE и предоставляют ей инфраструктуру, подвергаются критике, в том числе компания Amazon (для более подробной схемы взаимодействия Amazon AWS и ICE см. инфографику).
Новость об улучшении технологии Face Analysis вызвало бурю негодования у демократов. Вот что пишет Кори Куинн (Corey Quinn), автор списка рассылки «Эта неделя в AWS»:
«AWS попадает под огонь критики за продажи Rekognition федеральному правительству, которое, в свою очередь, строит концентрационные лагеря для детей, и ответ AWS заключается в улучшении «оценки возрастного диапазона» и в «обнаружении страха»? ВЫ БЛИН ИЗДЕВАЕТЕСЬ?!
ICE работает через частного подрядчика Palantir, который занимается дата-майнингом. Критический компонент инфраструктуры — система Investigative Case Management (ICM). Она интегрирует данные из большого количества государственных и частных источников (см. расследование Intercept 2017 года).
Мало что известно, как на самом деле работает программное обеспечение или как широко ICE использует его. Но в течение первых девяти месяцев администрации Трампа аресты ICE увеличились на 42% по сравнению с аналогичным периодом прошлого года. По словам активистов за гражданские права, ICM представляет собой систему массового наблюдения за населением беспрецедентного масштаба, которая в данный момент нацелена на выявление иммигрантов.
В октябре 2018 года было опубликовано независимое расследование, заказанное активистскими организациями Mijente, Национальным иммиграционным проектом и Проектом защиты иммигрантов. Оно обнаружило, что Amazon играет центральную роль в обеспечении базовой инфраструктуры многих ключевых программ ICE и Министерства внутренней безопасности США (DHS). Близкие отношения с федеральным правительством помогли Amazon обеспечить большое количество государственных контрактов.
Все данные и алгоритмы в основе ICM теперь полностью работают на AWS. По словам авторов отчёта, Palantir платит Amazon около $600 000 в месяц за использование своих серверов.
Кроме ICM, AWS размещает несколько других крупных баз данных и систем DHS, связанных с иммиграцией, включая все основные системы данных для USCIS и биометрические данные на 230 миллионов человек, включая отпечатки пальцев, записи лиц и сканов радужной оболочки глаза, которые играют всё большую роль в отслеживании иммиграции по всей стране.
Нет общедоступных данных о том, сколько Amazon получает от этих контрактов, но полный ИТ-портфель DHS составляет $6,8 млрд, что составляет около 10% от прогнозируемых расходов агентства в 2019 финансовом году.
В прошлом году более 450 сотрудников Amazon подписали внутреннее письмо, требующее от компании прекратить сотрудничество с Palantir, но безрезультатно (если не считать вероятного увольнения сотрудников).
Сотрудники Google и Microsoft также протестуют против спорных контактов своих работодателей с правительством. И более успешно. После интенсивных внутренних споров Google в прошлом году отозвала свою заявку на контракт с Министерством обороны на 10 миллиардов долларов. Через несколько дней сотрудники Microsoft опубликовали открытое письмо с просьбой к своему работодателю сделать то же самое.
Генеральный директор Amazon Джефф Безос пока равнодушен к призывам оппонентов и своих сотрудников отказаться от сотрудничества с Министерством обороны и ICE. «Мы будем продолжать поддерживать Минобороны, и я думаю, что мы должны это делать, — говорил он со сцены конференции Wired25. — Одна из задач высшего руководства — принять правильное решение, даже если оно непопулярно».
«Amazon прямо сейчас разрабатывает, рекламирует и продаёт систему для массового наблюдения за населением», — пишет один из сотрудников Amazon в коллективном письме, призывая общественность задуматься о том, к чему это может привести в будущем, потому что нынешняя охота на иммигрантов пахнет расизмом.
Сейчас система Palantir собирает данные, предположительно, с сотен тысяч видеокамер, и выявляет подозрительные лица. С каждым месяцем Amazon улучшает технологию анализа лиц. В последнем пресс-релизе сказано, что уменьшен диапазон возраста при оценке лица. И она научилась распознавать страх. Некоторые уже сейчас предрекают Amazon судьбу IBM:
Несут ли технологические компании ответственность за использование своих систем в сомнительных целях? Должны ли они фильтровать пользователей? Может ли Cloudflare просто так отказать в обслуживании токсичному имиджборду 8chan (по инициативе нескольких частных компаний 8chan недавно буквально исчез из интернета), правильно ли для Google из демократических соображений отказаться от контракта с клиентом, который ей не нравится? Всё это сейчас является темой широкой общественной дискуссии.
Rive
Что ж, теперь мы знаем, что роботы-убийцы будущего смогут распознавать чувство страха у своих жертв.
perfect_genius
Отсылка на советский мультфильм про танк?
Rive
На сеттинг Терминатора.
Но ход ваших мыслей мне нравится.
perfect_genius
Вот, если кто не видел:
e_fail
Поясните, если не трудно, почему выявление нелегальных иммигрантов — сомнительная цель?
maxzhurkin
Имеется в виду не конечная цель — выявление нелегальных иммигрантов, а промежуточная — тотальная слежка
eexo
Как обычно, не сама цель сомнительна, а её реализация. Если они ловят такого мигранта с маленьким ребенком, ребенка отнимают и отправляют в спец.лагерь пока родитель ждет суда. Для маленького ребенка это вполне себе нормальный такой ад, при том что сам он в общем-то ничего не сделал, кроме того что родился у этих родителей.
Проблема, в общем, комплексная.
megafonishe
Это проблема нелегала, не надо было приезжать.
geirby
Проблема нелегала в том, что он под арестом. Но ребенок-то субъектен по отношению к родителям. Поэтому, когда он оказывается в спец.лагере это проблема конкретно его. И если начинает считаться нормальным "сын за отца отвечает", то уже и наша, поскольку это влечет за собой более кардинальные последствия, чем выдворение нелегалов.
Rive
С одной стороны да, принцип очень опасный и с учётом обратной силы может сделать виновными в обществе почти всех (поскольку рекурсия поколений позволяет обвинять потомков в деяниях предков, которые считаются преступными уже в наше время).
С другой стороны помещение в спец. лагерь хоть и некомфортно, но не является общественным наказанием (как заключение в тюрьму или казнь) — это вынужденные меры из-за того, что его родители поставили окружающих в такую ситуацию.
Если посмотреть на другие ситуации, то например ребёнок в моногороде с разорившимся градообразующем предприятии будет жить бедно и де-факто тоже будет отвечать за поступки своих родителей, которые не уехали в более благополучное место. Однако в этом случае ни на кого не возлагается чётко обозначенной вины. Жизнь в разваливающемся моногороде — это тоже не общественное наказание (хотя она и может быть некомфортна).
eexo
Да, но в лагерь сажают ребенка, который может и не хотел ехать, только его никто не спросил.
Гитлер, когда строил свои лагеря, тоже считал что это проблема евреев что они родились евреями, и что вообще родились. Но как известно из истории широкой поддержки такая точка зрения не получила.
sotnikdv
В какой лагерь-то? Органы опеки, как обычно. За деньги налогоплательщиков, коими нелегальные иммигранты практически никогда не являются. Вы еще до холокоста дометафоризируйтесь, как автор статьи.
В общем, бога ради, но за что боролись, на то напоролись. При последнем рейде ICE, затраханный этими истериками, просто арестовал 650 нелегалов и все. И не стал заниматься вопросом детей, что бы не рассказывали, про плохой ICE и лагеря органов опек. Там потом волонтеры помогали, а истерика продолжилась уже на тему "детей бросили".
Нужно четко понимать, что вся эта политическая борьба идет конкретно за неисполнение законов в отношении нелегальных иммигрантов. Без компромиссов. Даже не за изменение законов, что было бы логично.
eexo
Лагерь органов опеки для детей нелегалов, как ни парадоксально, это лагерь.
Никто их там с особыми удобствами размещать не будет.
Как по мне, так арестовать 650 вместе с детьми вполне себе решение. Ребенок при родителях(ле), и так им спокойнее, насколько там вообще может быть спокойно.
То что из этого раздувают кто что может — так это понятно, политика такая политика.
И относительно законов — да, им бы их надо менять, а не вот это все. Но, думаю, как и у нас, там на каждом варианте кто-то греет свои руки.
maxzhurkin
Нет, это проблема общества, где этические вопросы решаются без учёта существования этической стороны и правила не меняются с тем, чтобы сделать решения, принимаемые на их основе, более этически приемлемыми.
Именно это и пытаются изменить активисты, пытаясь затруднять работу государственной машины с текущими правилами, вынуждая её таким образом изменить эти правила.
Тут, правда, их усилия могут привести лишь к усилению привлекательности страны для нелегалов, поскольку проигрыш в «нелегальной лотерее» становится менее болезненным.
Резюмирую:
Государство пытается увеличить вероятность проигрыша с помощью технологий.
Активистам же не нравится бесчеловечность по отношению к проигравшим и беспринципность средств, в частности, попрание прав в том числе граждан, а так же их сочетание.
sotnikdv
А какие предложения?
Садить в тюрьму с нелегальным иммигрантом?
Не задерживать нелегальных иммигрантов с детьми вообще?
Верить в то, что человек, обманувший пограничников и скрывающийся от властей, будет соблюдать условия домашнего ареста?
Ад и ничего не делал — это садить в тюрьму с родителем. А так, как во всех странах для преступников и задержанных, родитель в тюрьму, ребенок в органы опеки.
Вы не задумывались, что этот случай искусственно раздут, а разрушать систему исполнения законов вообще несет риск для основ государства?
eexo
Предложения, например, те же лагеря для нелегалов с детьми вместе. Дети, как бы взрослым ни казалось и ни хотелось, вообще другие существа и мозги у них другим образом повернуты. И для них, насколько я понимаю, разлучение с родителями это больший стресс, чем с родителями в тюрьму.
Специфика США в том, что там эта проблема массовая — изза границы с Мексикой в частности. И для них имеет смысл сделать специальны способ разруливания такого рода проблем. В отличие от стран где нелегалы единичны.
Насколько я знаком с США, там все что попало в новости — уже раздуто кем-то для какой-то цели. Возможно существуют какие-то местечковые новости для местечков, но у всего, что попало в большой телевизор есть свой бенефициар. И этот случай не исключение. Не очень понятно почему вы делаете из этого какое-то откровение и срыв покровов. Но это не отменяет самой проблемы.
PleaseKING
Еще никогда в истории человечества технологию не удавалось применить только для "хороших" целей и никак не для плохих. Может быть, потому, что плохое и хорошее зависят от точки зрения. Может быть, ещё по какой-то причине...
alex6999
Меня всегда смущают петицию, где можно подписаться только за петицию, 450 сотрудников против сотрудничества с ICE, а сколько за?
ICE нехорошие ребята, не предоставляет понимаешь камеры семейного типа, разлучают семьи.