Китай старается использовать высокие технологии для решения многих проблем. Это и социальное взаимодействие граждан, их послушание закону, соблюдение правил общения в сети и многое другое.
Вообще говоря, управлять жизнью граждан в Китае должны чиновники, но их уж очень много. Официально это около 50 млн человек, по подсчетам общественных организаций — около 65 млн. Лишь немногим меньше, чем население Великобритании. И кто-то ведь должен следить за этой армией. Правительство Китая решило поставить технологии на благо отечества — программная платформа особого рода была создана для оценки деятельности власть имущих.
Для разных категорий чиновников используются различные технологии. Например, для Министерства иностранных дел Китая применили специальную ИИ-платформу, которая позволяет оценивать риски от принятия тех либо иных решений, включая взаимодействие Поднебесной с США.
Для обычных граждан применяется система мониторинга, включающая миллионы камер и дата-центры, которые анализируют информацию, поступающую с «электронных глаз». Практически в режиме реального времени идет идентификация граждан с выделением тех из них, кто объявлен вне закона (например, преступник, которого разыскивают).
Крупнейшие китайские технологические компании разрабатывают для правительства эффективные решения и поставляют оборудование. Одна из таких компани, ZTE, выиграла государственный контракт на создание блокчейн-технологии, которая позволяет сохранять данные государственного значения в неприкосновенности — изменить их без особого доступа никто не может.
Курс на технологизацию поддерживают чиновники из высших эшелонов власти, включая главу Китая. Он неоднократно заявлял о необходимости использования научно-технической базы (включая искусственный интеллект) для поддержания работы правительства.
Одна из разработанных относительно недавно систем (внедрение стартовало в 2012 году) носит название «Zero Trust», ее назначение — поиск коррупционеров, с которыми китайское правительство тщательно борется. У системы есть доступ к 150 базам данных государственного значения, в которых содержится масса информации о работе и социальной жизни чиновников. Искусственный интеллект обрабатывает эти данные и выявляет несоответствия, которые могут указывать на нарушение закона теми, кто призван ему служить.
«Zero trust» может определять странные транзакции (например, средства на покупку автомобиля, переведенными чиновником, зарплата которого явно не соответствует уровню транспортного средства), а также отслеживать связи чиновников друг с другом. Кроме того, эта же система оценивает стоимость земельных участков и домов, принадлежащих чиновникам.
Как оказалось, система очень эффективна. Несмотря на то, что она работает лишь в паре десятков регионов и городов, «Zero Trust» смогла обнаружить 8721 правонарушителя (или же те, кого система посчитала таковыми). Но спустя какое-то время работу системы решили остановить, поскольку она оказалась слишком эффективной. И не только эффективной, но и проблемной.
Дело в том, что система указывала на нарушителя, но не могла «рассказать», почему этот человек является коррупционером. К расследованию каждого из случаев приходилось привлекать массу людей, которые не всегда давали однозначный вывод. Работа такого рода может продолжаться месяцами, а времени у правоохранителей не так много, они нужны и для работы с другими делами.
В итоге было решено, что подозреваемых просто будут предупреждать. Правоохранители связывались с теми, на кого указывала машина, и советовали не допускать ошибок в будущем. Некоторых, особо рьяных коррупционеров наказывали — о многих судебных процессах становилось известно не только в Китае, но и за рубежом.
По информации, предоставленной одним из сотрудников системы, ее работу было решено приостановить, поскольку подавляющее большинство чиновников жаловалось на «давление», которое они чувствовали, работая под надзором.
Этому удивляться не приходится, поскольку «антикоррупционер» с ИИ мог подключиться к базе спутниковых фото для того чтобы проверить, действительно ли ведутся работы на указанном в документации участке дороги или это ложь.
Система до сих пор работает в некоторых регионах, но их остались единицы. Администрация остальных населенных пунктов решила отключить «Zero Trust», причем причины указывались разные, включая сомнения в правомерности доступа бота к закрытым правительственным базам. Скорее всего, развернуть ее в национальном масштабе не получится, поскольку противодействие чиновников слишком велико.
Комментарии (66)
m1ld
05.02.2019 21:39Сделали бота, который обвиняет в преступлении, но не может сказать в каком. Что за ф?
Это генератор случайных чисел что-ли? Или это генератор желтых статей на хабре?Blast
05.02.2019 22:44+4Ну вообще звучит как обычная история про машинное обучение. Получить результат «вор/не_вор» можно, а какие именно факты принципиально повлияли на принятие решение определить нельзя, потому что модель слишком сложная и количество параметров там нечеловеческое.
edogs
05.02.2019 23:31Для таких случаев (превышение расходов над доходами, доходы непонятного происхождения и т.д.) обычно законодательная система действует по принципу презумпции виновности. Не можешь объяснить откуда деньги — скажи спасибо что статью не повесят. Особенно в случае гос.чиновников.
Поэтому в таком контексте ситуация не очень понятна, возможно действительно поняли что переборщили с точностью. Если не компенсировать строгость законов необязательностью их выполнения, то система потихоньку разрушается.
Moskus
05.02.2019 23:50-1обычно законодательная система действует по принципу презумпции виновности
Что это за бред? Коррупционные преступления — уголовные. В уголовном праве, как правило (в странах, которые более-менее вылезли из средневековья), действует презумпция невиновности. И бремя доказательства лежит на обвинении. Это — то, чему следует законодательная и судебная системы.
А вот правоохранительные органы, которые являются частью исполнительной системы (власти), действительно могут использовать несоответствие в расходах и доходах, как достаточное основание для расследования (а не для того, чтобы «повесить статью»). И они не могут прийти в суд и сказать: «Посадите его, потому что у него доход с расходом не сходится.» Им нужно еще объяснить суду, откуда взялись лишние деньги.
Так что не выдумывайте и не говорите ерунду.edogs
06.02.2019 00:50+2Коррупционные преступления — уголовные
В нашем комменте ни слова о коррупционных преступлениях.
В уголовном праве
В нашем комменте ни слова об уголовном праве.
Что это за бред?..
Мы более чем четко написали, что «статью не повесят»© (наша цитата).
они не могут прийти в суд и сказать: «Посадите его, потому что у него доход с расходом не сходится.
Так что не выдумывайте и не говорите ерунду.
Вы о чем вообще? У нас ни слова об уголовке, ни слова о коррупции, ни слова о посадке, но Вы приписываете нам всё это и потом эти Ваши приписки называете нашим бредом, выдумками и ерундой. WTF?
На случай если Вы просто невнимательно прочитали и не разобрались о чем мы говорили — поясним.
Мы говорили о «превышения расходов над доходами»© (цитата из нашего коммента).
Говорили поскольку система позволяла выявлять чиновника «зарплата которого явно не соответствует уровню»© (цитата из статьи).
И сказали что в этом случае (превышения) «законодательная система действует по принципу презумпции виновности. Особенно в случае гос.чиновников»©
В россии это 230 фз и 115 фз, во многих странах есть аналогичные законы.
Поэтому не вполне понятно зачем было сворачивать эту программу, тогда как вполне можно было предьявить чиновнику за эти покупки и попросить их объяснить, а в случае отсутствия внятных объяснений конфисковать. И тут не надо никаких обоснований «вор/не вор», т.к. речь идет о выявленном превышении расходов над доходами.
Aingis
06.02.2019 14:38Так написали же: им просто не хватило копов обрабатывать столько данных сразу. Объяснения всё равно должен кто-то проверять же. Если, скажем, сразу в суды передавать, то суды окажутся парализованы на большое время — перегружены работой.
edogs
06.02.2019 16:05Когда не хватает копов обрабатывать дела, то делают выборочную случайную проверку или выбирают наиболее крупное расхождение или проверяют каждого 10 для начала — это все общепринятые практики, но никак не забивают на проверки вообще.
Т.е. даже на банальном примере — вот не хватает копов штрафовать за переход на красный свет, но блин, не отменяют же штрафы за красный?Aingis
06.02.2019 16:29Как раз отменяют. Точнее кое-где таких штрафов, которые по факту не администрируются, нет.
Moskus
06.02.2019 20:19В статье и в комментариях обсуждается коррупция и чиновники (если человек — не должностное лицо, должностное преступление он совершить не может, может — другие виды преступлений). А когда я вам указал на то, что «презумпция виновности» в уголовном праве — это бред, вы тут же стали утверждать, что вы, оказывается, сменили тему, никому об этом не сказав. И сослались, зачем-то, на закон, который касается явного, а не тайного присвоения денег (невозврат долгов), которое не требует никакого «ИИ» для расследования. Детский сад, в общем.
edogs
06.02.2019 23:31В статье и в комментариях обсуждается коррупция и чиновники
А так же превышение расходов над доходами. Можете убедиться перечитав статью.
вы, оказывается, сменили тему, никому об этом не сказав
Мы не меняли тему, мы ответили сугубо в рамках вопроса «разницы между доходами и расходами», не только не затронув уголовную часть, но и специально подчеркнув что «статью не повесят»©, что бы было очевидно о какой части статьи (о какой теме) мы говорим.
сослались, зачем-то, на закон, который касается явного, а не тайного присвоения денег (невозврат долгов),
Мы не ссылались на закон о невозврате долгов. Сначала Вы нам рассуждения про уголовку приписываете, теперь ссылку на невозврат долгов. Зачем?
m1ld
05.02.2019 23:53Это не обычная история про машинное обучение.
Доказательство преступления в идеальных условиях это подтвержденные факты, а не совпадение каких-то паттернов косвенно указывающих на коррумпированность чиновника.
Я так понимаю, их паттерны ничем не отличались от жизни любого законопослушного человека и сделать вывод, что же нарушил тот или иной человек – невозможно, за исключением явных глупостей.
Разработчики данного продукта уж точно понимали какие результаты они получат.Moskus
06.02.2019 00:03Это обычная история про машинное обучение в том смысле, что машинное обучение — это всегда «совпадение каких-то паттернов» и не более того. При том (в общем случае), еще и нет возможности определить, каких именно.
Разработчики таких систем, в принципе, должны это понимать, но:
а) могут и не понимать,
б) не они могут принимать решения о том, разрабатывать ли такое (тем более — в авторитарном государстве).
Moskus
05.02.2019 23:41То, что сейчас модно называть ИИ, имеет главный недостаток: из всех этих систем невозможно извлечь последовательность элементарных заключений, ведущих к тому или иному конечному выводу, просто потому, что такой последовательности не существует.
Точно также как люди, например, не могут объяснить, как именно они понимают, что красный цвет — это красный, а оранжевый — это оранжевый, потому что мы не ощущаем сигналы от разных цветочувствительных клеток в сетчатке раздельно. Или как мы можем только весьма грубо описать характеристики чьего-то голоса (явно недостаточно подробно, чтобы другой человек сколько-нибудь точно узнал этот голос по описанию), но можем весьма эффективно отличать голоса знакомых людей среди голосов незнакомых.
Это все не означает, что нейросети не могут действительно справляться с обнаружением каких-то вещей, которые люди обнаружить не могут или могут, но плохо и неэффективно. Но это, определенно, значит, что объективный контроль за такими системами невозможен фундаментально (по крайней мере, в том виде, в каком эти системы существуют сейчас), а потому невозможна независимая верификация результатов их работы через анализ логики этой работы. Что, например, в случае действий правоохранительных органов, является большим препятствием.darthmaul
06.02.2019 17:58А Вы хотите чтобы ИИ сам искал воров, доказывал вину и приговор выносил? Роль ИИ — выделить из толпы тех, кому следует уделить более пристальное внимание, с чем он и справляется.
Moskus
06.02.2019 20:10Нет, я ничего такого не хочу. Но то, что вы описали (выделение из толпы), это именно то, что делала китайская система, и чего в реальности недостаточно, потому что для эффективной работы людям нужно знать не только «на кого обратить внимание», но и «что именно выглядит подозрительно». Иначе произойдет именно то, что произошло в Китае.
shasoft
06.02.2019 07:54Мало указать на подозрительные факты, нужно указать на факты которые пдтверждают факт коррупции. У чиновника ЗП 1000$, а он купил машину за 10 тыс.$ Подозрительно — да! Но на основании этого не посадишь.
p.s. На днях был по ТВ репортаж.
Журналист: вы в декларации указали доход в 5 млн., а у вас на счету лежит 20 млн. Это как так?
Чиновник: я взял кредит и выплачиваю его!SONANT
06.02.2019 13:09Идем в банк и проверяем факт взятия кредита, а при наличии системы, это делается одной кнопкой.
shasoft
06.02.2019 14:43Чиновник: Я пошутил, я эти деньги 10 лет копил.
Просто в данном случае чиновник явно ступил. Суть же в том что даже при вроде бы очевидных случаях коррупции доказать её наличие не так просто.SONANT
06.02.2019 16:53А, вообще, вариант с кредитом не плох! Он реально берет кредит, гасит его всеравно из ворованых денег) проценты — это плата за отмывку. Только подкопаться сложнее. (Как то случайно, в памяти, вспылвает вопрос к Киселеву от Дудя про квартиру за 160000000… купленной в кредит, не я не провожу аналогии...;) )
darthmaul
06.02.2019 17:59На ставках выиграл. Реальное заявление одного нашего (УА) политика.
monah_tuk
06.02.2019 18:18Вроде с любого выигрыша, как минимум, налог нужно заплатить ещё?
darthmaul
06.02.2019 18:21Надо, 18% но не уверен как это происходит (может букмекер учитывает это в кэфах и платит за выигравшего).
tvr
06.02.2019 18:23налог нужно заплатить ещё?
-Ствол? Нашёл в кустах, иду сдавать как раз, вот и заявление в полицию!Не успел, вот как раз иду платить налог…darthmaul
06.02.2019 18:41В принципе, 18% за качественный отмыв черного нала — это ещё по божески.
monah_tuk
06.02.2019 22:53Ввели бы уже просто налог на взятку и распустили бы большую часть "надзорных" органов. Есть чувство, что казна ещё и в плюсе окажется (если привлечь откаты сюда же). Хотя, слово такое есть — жадность.
roscomtheend
06.02.2019 10:28Просто её писал Гарольд (он ведь, сколь помню, выжил и «вернулся к нормальной жизни»).
vassabi
05.02.2019 22:04-1вот, когда подобные Zero Trust применяют к простым людям — я против.
Когда ее применяют к политикам и госчиновникам (начиная с начальников отделов) — я обеими руками за. Это вообще должно стать стандартом для профессии руководителя в госаппарате — как каска на стройке, вытяжной шкаф у химиков или самоспасатель у шахтеров.
Sychuan
05.02.2019 22:14вот, когда подобные Zero Trust применяют к простым людям — я против.
Ну вот в Китае вроде как наоборот. Системы, которые следят за простыми людьми развивают во всю. Хотя небось там тоже были и давления, и ложны срабатывания.ledocool
06.02.2019 08:04У этих людей тяжело с соответсвием стандартам, которые они навязывают окружающим.
Igor_O
06.02.2019 19:43Ну вот буквально пару месяцев назад тут же пробегало, как по рекламе на борту автобуса укоряли известную актрису за переход в неположенном месте. (только что-то не смог быстрым гуглингом найти ту статью...)
Так что, да ложные срабатывания есть. Но с точки зрения чиновника, «радетеля за общее благо», лучше 10 раз оштрафовать невиновного, чем один раз не оштрафовать виновного. Тем более, что из 10 оштрафованных невиновных, условно, только двое подадут жалобу и только одному отменят штраф…
Alexeyslav
06.02.2019 12:53Так эта система как раз наоборот работает… только каска приближается к какому-о выступу она тут же раскрывается и притягивает голову к выступу чтобы побольнее. Вытяжка — только регистрирует ядовитый дым — сразу переключается на обратную тягу и т.д.
Gradarius
05.02.2019 22:36Интересно, а лояльность чиновника к партии учитывалась? Чем больше любишь Родину, тем больше позволено.
Igor_O
06.02.2019 01:28А когда в 2002 году снимали фильм «Особое мнение» — это казалось фантастикой и требовало странных людей, плавающих в ванне… А всего через 10 лет уже в опытную эксплуатацию запустили. Но проблема вылезла та же самая, как и в фильме — указать преступника можем, а объяснить, почему решили, что преступник — нет.
slonpts
06.02.2019 04:38Я бы сравнил работу чиновника под таким надзором с работой офисного работника (например, разработчика) с установленной программой-следилкой на компьютере (например, делающей скриншоты каждую минуту) и видеокамерами повсюду в офисе.
Почему вышел в коридор поговорить с женой в рабочее время? Почему открыт пасьянс, хотя обед закончился? Почему опоздал на 2 минуты? Как ты смеешь смотреть смешные картинки в рабочее время?
Любые успехи при этом игнорируются — «это же ваши рабочие обязанности».
И получается, что честно работающие люди постоянно находятся в стрессе «а не сделал ли я что-то такое, за что меня посадят».
А тут еще и непонятен критерий такого внимания полиции к человеку — т.е. непонятно, что можно, а что нельзя. Вот если человек несколько лет работал, жил в общаге и тратился только на дешевую еду, а потом купил дорогую квартиру (гораздо дороже, чем обычно покупают люди с такой зарплатой) — это можно или посадят «до выяснения», а там подумают — выпустить или оставить лет на 5?
Мне кажется, что любая группа, даже самых честных людей, будет стараться избавиться от такого надзора. Просто у чиновников по очевидным причинам сильное лобби, вот у них и получилось.
Sergey-S-Kovalev
06.02.2019 06:32Одна из таких компани, ZTE, выиграла государственный контракт на создание блокчейн-технологии, которая позволяет сохранять данные государственного значения в неприкосновенности — изменить их без особого доступа никто не может.
А то что суть блокчейна в неизменности, это никого не смущает? Или опять для красивого словца блокчейн приплели?
qnok
06.02.2019 09:51Так вроде в том и смысл (судя по фразе), чтобы сохранить критически важные данные от повреждений (намеренных и случайных).
Sergey-S-Kovalev
06.02.2019 11:44я перефразирую:
изменить их без особого доступа никто не может.
=
изменить их можно только имея особый доступ.
Блокчейн вроде как гарантия того, что если блок создан и признан большинством участников сети, то никакого изменения его уже не будет не нарушив подлинность всех последующих блоков.qnok
06.02.2019 14:09Обложат костылями и изменят.
Это как в грустной поговорке
«Если ни в коем случае нельзя, но очень надо, то можно».
ustin
06.02.2019 19:27Под большинство определений блокчейна подходит даже локальный git-репозиторий из одного человека, без всякой сети и признания участниками.
Под более узкие определения блокчейна подойдет система из трех серверов с особым доступом, совершенно не обязательно делать открытую сеть.
Я думаю государственный блокчейн должен выглядеть ближе к гиту, чем к биткоину. Нужно выкачивать базу, убеждаться что изменений в прошлом не было и вносить новые записи людям с особым доступом.
vitvakatu
06.02.2019 21:19Есть методы и обойтись без выкачивания базы, но в целом приватные блокчейны именно так как вы и описали работают.
vitvakatu
06.02.2019 21:17В приватных блокчейнах никто не запрещает городить сколько угодно сложные процедуры аутентификации для заранее определенного круга "администраторов", которые и будут посылать в сеть транзакции. При грамотной реализации саму историю транзакций они при этом изменить не смогут.
OnelaW
06.02.2019 10:33Дело не в машине). Если каждого чиновника поскрести получше то основания для расстрела появятся. Для этого потребуется смена формации мышления как минимум в отдельно взятой стране, что произойдет не сразу, для этого потребуется не одно поколение.
Tachyon
06.02.2019 14:58Китай, это вам не Россия. У нас бы ещё на этапе проектирования этого робота чинуши нажились бы так, что от проектирования пришлось бы через пару десятилетий отказаться, не говоря уже об использовании.
Occama
06.02.2019 18:30+1Спасибо за то, что теперь весь рунет пестрит этим жёлтым заголовком. Причём тут, простите, эффективность вообще? При учёте принципиальной непроверяемости по выборке процент ложных срабатываний невозможно оценить, значит, говорить о высокой эффективности не приходится. Серьёзно, стыдно на техническом ресурсе постить что-то с желтизной заголовка уровня лентыру.
По сути: не понимаю, почему не выдавать какой-то численный скор вместо признака «да/нет», по-любому же там отсечка по какому-то порогу была, сомневаюсь, что там просто валило в два класса. Это позволило бы хотя бы начать с самых уверенных ответов нейросети, а не тыкаться вслепую. Заодно и проверить ИИ на адекватность было бы проще. Разве что действительно, «Главное — не выйти на самих себя».sayanlar
06.02.2019 21:41Сомневаюсь, что тут вообще нейросеть уместна. Алгоритм должен начинаться с формальных критериев, и заканчиваться прозрачной отсылкой в заключении на эти самые формальные критерии. Иначе — нарушение правовой основы получается.
neosapient
06.02.2019 19:17Хм, а что если сделать ИИ-коррупционера?
И затем внедрять его во все ведомства всех уровней власти…
Тогда в стране точно пройдет цифровизация, о которой так долго говорили с экрана телевизора.
Чур идея моя! Пошел открывать стартап, и просить бюджет для последующего освоения.
Gryphon88
07.02.2019 15:55В Китае драконовский валютный контроль и поневоле прозрачные банки, почему не отслеживать автоматом деньги? Да и про реализацию Zero Trust непонятно: есть же и сети с back propagation, чтоб посмотреть, на что она возбудилась, да и экспертной системы с заданными эвристиками скорее всего хватило бы.
Zmiy666
Эх… сделали робота, который сможет решить все проблемы человечества — но пришлось его отключить, иначе населения бы не осталось (с). С коррупцией и чиновниками та же проблема (
kalyukdo
эх, нам бы ее хотяб на месяцок одолжить…
псы..., чиновники, я слышал если ее внедрить в России, там столько всего можно распилить…
solariserj
С нашими не пройдёт, все робокопа смотрели. Обязательно сделают (… директива 4)
Dioxin
Если это действительно ИИ то он доработает сам себя.
AbstractGaze
Надо меньше фильмов смотреть и больше читать. Почитайте туже истории «ИИ» и поймете что его уже несколько десятков лет ИИ в вашем понимании как бы и не пытаются создать. Если на пальцах — развиваются экспертные системы.
Cenzo
Придётся пропатчить, иначе будет всегда показывать 100%… Вдруг субконтрактор отдаст эту фичу студенту, а тот неправильно сделает патч?
Graf54r
типа у нас все так шифруются, что только ИИ сможет помочь.
domix32
А смысл, если на коррупции ловят работников антикоррупционных органов?
kalyukdo
Да вы просто представьте какое шоу на этом можно запустить, оно же перебьет все рейтинги дом2, у меня даже название есть «Чиновники защищают людей от роботов»
Само сабой все это сарказм за которым скрывается крик души, не воспринимайте серьезно эту ветку
catharsis
Сбербанк уже давно освоил веерные блокировки счетов же
monah_tuk
Чиновников?
catharsis
Перед законом все равны!
Китайцы смотрят в 150 каких-то баз, но не утверждается, что только на чиновников.
Если они в нескольких городах выследили 8721 потенциальных нарушителей, чиновников там статистически около нуля.
В крайнем случае секретаршу из гороно заблокируют, если народу так нужны чиновники.
monah_tuk
В теории — безусловно! А вот на практике… Кто-то всегда равнее.
yegorf1
В статье написано, сколько всего чиновников в Китае. Если это учесть, то далеко не ноль :)