Ровно 43 года назад, 25 января 1979 года произошло убийство, оставившее глубокий след в истории человечества. Именно в этот день Роберт Уильямс, 25-летний рабочий литейного завода Ford Motor Company, расположенного в городке Флет Рок, штат Мичиган, пал от железной руки трудившегося на данном предприятии индустриального робота. Этот инцидент стал первым в мире официально зафиксированным случаем убийства человека роботом, он наделал много шума в прессе и даже попал в книгу рекордов Гиннеса. Первым, но, к сожалению, далеко не последним. Потому в годовщину этой трагической даты нам внезапно захотелось поговорить о машинах-убийцах. Слава роботам!

Аппарат, совершивший столь леденящее кровь преступление, был спроектирован и построен компанией Litton Industries, весил порядка 5 тонн и занимался извлечением со стеллажей — отлитых из металла автомобильных узлов. Конструкция робота включала несколько самодвижущихся тележек на резиновых колёсах весом около тонны каждая, оборудованных механическим приспособлением для захвата деталей с полок и их перемещения по цеху. В какой-то момент робот начал выдавать неправильные показания о количестве оставшихся на полках отливок, что вызвало перебои в его работе, и Роберта Уильямса попросили пересчитать детали вручную. Бедолага вскарабкался на третий ярус стеллажей, где его ударила по голове, а потом раздавила насмерть беззвучно и коварно подкатившаяся сзади автоматическая тележка. Тело пролежало на полке около получаса, пока коллеги рабочего, озадаченные длительным отсутствием Уильямса, не отправились на его поиски.


Тот самый завод

Ещё за 37 лет до этого печального происшествия, в марте 1942 года, американский писатель-фантаст российского происхождения Айзек Азимов опубликовал рассказ «Хоровод», в котором сформулировал три знаменитых закона робототехники. Они, как известно, гласят:

1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.
2. Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.
3. Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Законам.

Исаак Юдович Азимов, также известный как Айзек Азимов

Заводской робот нарушил первый из них, однако в конце семидесятых годов XX века автоматизированные промышленные системы ещё не были оборудованы целыми гирляндами аварийных датчиков, а требования техники безопасности не могли похвастаться современной суровостью.

Второй случай гибели человека от руки робота произошёл 9 декабря 1981 года: жертвой стал инженер по техническому обслуживанию конвейеров, японец Кендзи Урада. Инцидент также случился на автозаводе, но на сей раз — расположенном в японском городе Акаси, а сам робот принадлежал корпорации Kawasaki Heavy Industries. В тот день Урада занимался ремонтом неисправного робота, предварительно не обесточив машину, и в какой-то момент случайно включил его. Аппарат прижал инженера к соседнему станку и раздавил несчастного.

Наблюдавшие эту жуткую сцену сотрудники завода не смогли прийти на помощь пострадавшему, поскольку не знали, как отключается взбесившийся робот. Проведённое позже расследование установило, что если бы Урада открыл калитку в окружавшем робота небольшом ограждении, подача электропитания прекратилась бы автоматически, но вместо этого инженер почему-то просто перелез через неё. Этот случай положил начало разработке международных стандартов, призванных обеспечить безопасность на автоматизированных производственных линиях. Как минимум роботов на заводах Kawasaki на всякий случай огородили заборами высотой в человеческий рост.



Почувствовав вкус крови, коварные роботы-убийцы решили не останавливаться на достигнутом. Согласно статистике американского Управления по безопасности и гигиене труда (OSHA), только в США на различных производствах ежегодно происходит порядка 5000 инцидентов, связанных с травмированием людей роботами, часть из них — со смертельным исходом. И с развитием автоматизации, удешевлением промышленной робототехники, а также с появлением новых интеллектуальных систем эта печальная статистика, вероятно, будет расти. Безусловно, эволюция технологий и искусственного интеллекта означает и пропорциональный рост безопасности, но пресловутый человеческий фактор никто не отменял. Насколько умной и совершенной ни была бы машина, всегда найдётся человек, предпочитающий перелезть через забор.

Именно так в 2009 году погибла сорокалетняя Анна-Мария Витал, ставшая первой в истории женщиной — жертвой робота. Анна-Мария была сотрудницей склада компании Golden State Foods, обслуживающей рестораны быстрого питания (прежде всего — Макдональдс) в Ирвине, штат Калифорния. На том же складе трудился робот, занимавшийся укладкой коробок с продуктовыми полуфабрикатами на поддоны. В какой-то момент женщина решила помочь своему электронному коллеге и вошла в клетку к роботу, чтобы убрать упавшую коробку с продуктами. Но тот не оценил её благородного поступка, и, приняв Анну-Марию за очередную коробку, схватил женщину манипулятором. Подоспевшие рабочие попытались освободить её, но не смогли ослабить стальную хватку машины: от полученных травм Анна-Мария скончалась на месте.

В 2015 году робот убил рабочего на заводе SKH Metals в Манасе, Индия. Машина поднимала и складывала на паллет металлические листы, когда 24-летний Рамджи Лал заметил, что один из них закреплён неправильно. Он попытался поправить крепление, предварительно не выключив аппарат, как того требовали инструкции, и в этот момент робот ударил молодого человека ножом в живот.

Спустя год, в июне 2016-го, 20-летняя Регина Элси была убита роботом за неделю до собственной свадьбы. Это случилось на автомобильном заводе в городе Кассете, штат Алабама, где производятся детали для Hyundai и Kia. Регина в компании нескольких коллег пыталась починить вышедшего из строя робота, хотя не обладала должными навыками и вообще не должна была заниматься подобным ремонтом — просто на её настойчивые звонки в службу техподдержки никто не отвечал. Внезапно включившийся робот сильно толкнул девушку и нанёс ей серьёзные раны. Покалеченную сотрудницу срочно отвезли в больницу, но на следующее утро она скончалась. Расследование показало: владевшая заводом компания Ajin USA перегружала своих сотрудников внеурочной работой и часто заставляла их самостоятельно ремонтировать неисправные промышленные агрегаты. Кроме того, ранее она уже подвергалась серьёзным штрафам за многочисленные нарушения трудовой дисциплины и техники безопасности на производстве.


Регина Элси со своим женихом

Однако далеко не всегда причиной трагедий становилось пренебрежение правилами и неосторожность самих сотрудников. Так, в марте 2017 года специалист по техническому обслуживанию автоматизированных систем, 57-летняя Ванда Холбрук была убита роботом на заводе Ventra Ionia Mains в Мичигане. Удивительно, но это предприятие также производило автозапчасти, и было разделено на цеха, в каждом из которых трудилась собственная группа роботов. При этом машина из одного цеха никак не могла попасть в другой — по крайней мере, так было принято считать. Убивший Ванду робот каким-то образом сумел открыть автоматическую дверь и пробраться в соседний цех, после чего он поднял тяжёлую металлическую деталь и сбросил её на голову женщины. Вернее, он попытался положить эту деталь в контейнер, где уже лежала другая такая же, что было полностью исключено технологией и логикой работы этой машины. Разбиравшаяся с инцидентом комиссия так и не смогла понять, что стало причиной неадекватного поведения робота, и как он сумел проникнуть в закрытое помещение, доступ в которое был для него категорически запрещён. Это пугает.

До сих пор мы говорили о промышленных предприятиях, работающих преимущественно на автомобильную индустрию. Но применение робототехники шагнуло далеко за пределы тяжёлого машиностроения. Наверняка многие видели, как функционирует роботизированный склад мирового лидера интернет-торговли — компании Amazon. Это поистине фантастическое и завораживающее зрелище. На ретейлера трудятся порядка 200 000 роботов производства компании Kiva Systems, которую Amazon приобрёл в 2012 году, а в 2015-м переименовал в Amazon Robotics.



Специалисты подсчитали, что только в 2019 году на 150 складах Amazon сотрудники получили 14 тысяч травм, в результате которых были вынуждены прервать работу как минимум на несколько дней. При этом показатели травматизма год от года растут, и это не в последнюю очередь связано с роботизацией индустрии.

На автоматизированном складе люди занимаются в основном сканированием и сортировкой товаров, которые подвозят им роботы — это довольно монотонная и однообразная деятельность. При этом роботы трудятся так эффективно и подвозят товары настолько быстро, что человек порой не успевает выполнить требуемые от него операции, а в Amazon приняты очень жёсткие критерии оценки качества работы — неэффективному сотруднику грозит увольнение. Если раньше сортировщики обрабатывали около 100 товаров в час, с внедрением роботизации нагрузка возросла в 4 раза. А ведь люди, в отличие от роботов, устают. За 10-часовую смену сотрудники склада выматываются настолько, что производственные травмы становятся просто неизбежны.

Тем не менее роботы Amazon пока ещё никого не убили и не покалечили (если не считать парочки нервных срывов и потребовавшейся кое-кому помощи психиатра). Чего не скажешь о роботизированных автомобилях, которые в настоящее время испытывают сразу несколько компаний, и о серийных машинах, оснащённых автопилотом. Первой жертвой таких технологий стал житель Флориды Джошуа Браун, погибший в автокатастрофе 7 мая 2016 года. Автопилот его Tesla Model S не заметил на дороге 18-колёсный тягач с прицепом, и проехал под ним, превратив автомобиль в кабриолет, после чего машина слетела с трассы, снесла два забора и врезалась в столб. Подушки безопасности сработали только в момент столкновения «Теслы» с забором, но проведённое позже вскрытие показало, что Браун умер ещё в тот момент, когда легковушка очутилась под прицепом тягача.


Та самая «Тесла»

Производитель электрокара поспешил снять с себя всю ответственность за инцидент, заявив, что автопилот Tesla не гарантирует полностью автономного управления автомобилем, поэтому водитель всё равно должен следить за дорогой и на всякий случай держать руки на руле. Тогда как согласно записям бортового самописца, руки Джошуа Брауна находились на руле всего 25 секунд на протяжении 37-минутной поездки. Кроме того, водитель трака утверждал, будто в момент аварии Браун смотрел на ноутбуке фильм о Гарри Поттере. Расследовавшая автокатастрофу комиссия Национального совета по безопасности на транспорте (NTSB) действительно нашла в обломках «Теслы» два ноутбука и SD-карту с фильмом о Гарри Поттере, но не смогла достоверно установить, просматривал ли покойный фильм во время движения, или нет.

Небывалые успехи промышленных роботов в убийстве людей не смогли не вдохновить военных, которые принялись изобретать различные автоматизированные системы для применения в армии. Про летающих дронов, несущих на себе ракетно-бомбовое вооружение, слышали уже, наверное, всё, хотя большинство подобных аппаратов пока ещё относятся к категории дистанционно управляемых устройств, а не полностью автономных машин. Уже давно появились роботы-разведчики и роботы-сапёры. Но только лишь этим ассортимент подобного вооружения не ограничивается.


Oerlikon GDF-005

Например, к категории боевых роботов можно отнести автоматическую зенитную установку Oerlikon GDF-005, которая умеет без участия человека отыскивать и поражать воздушные цели, а также самостоятельно перезаряжаться. В 2007 году именно с этим орудием тренировались солдаты южноафриканской армии на полигоне в городе Лохатла, Северный Кейп, когда устройство неожиданно решило поиграть в войнушку. Оно произвело 250 выстрелов осколочно-фугасными 35-миллиметровыми снарядами по своему собственному расчёту и находившимся поблизости бойцам, убив на месте 9 человек и ранив ещё 14. Существует предположение, что причиной этого происшествия стал баг в программном обеспечении зенитки. При этом, по словам военных, орудия Oerlikon выходили из-под контроля и раньше, просто в тех инцидентах никто не погиб.

А 7 июля 2016 года воплотился в реальность сюжет легендарного голливудского блокбастера «Робокоп»: полицейский робот впервые убил человека по приказу другого человека. Во время проходившей в Далласе акции протеста против репрессий в отношении чернокожих некто Мика Джонсон застрелил пятерых полицейских и двух мирных жителей, а потом, в ходе завязавшейся перестрелки, ранил ещё девятерых. После этого Джонсон укрылся в гараже колледжа Эль-Сентро, убив дежурившего на входе охранника, и пригрозил оцепившим округу стражам правопорядка взорвать в помещении бомбу.


Remotec Andros F-6A

Переговоры длились более пяти часов, и, в конце концов, полицейские предложили Джонсону два альтернативных варианта: либо тот выходит с поднятыми руками, либо будет убит. Преступник сдаться властям отказался. Тогда сотрудники полиции привязали взрывчатку к манипулятору робота-сапёра Remotec Andros F-6A, предназначенного для обследования подозрительных предметов, и отправили его в здание, где прятался убийца. Там и подорвали. Мика Джонсон погиб. Робот — выжил. И плевать на Первый закон робототехники!

Роботы занимают все новые и новые ниши в различных областях человеческой деятельности: поднимают грузы, сортируют и доставляют товары, водят автомобили, исследуют Марс и даже выполняют сложные хирургические операции. Например, исследование, проведённое в США в 2016 году, показало, что в период с 2008 по 2013 год от механических рук роботов-хирургов погибло 144 американских пациента. В основном эти инциденты были связаны с неожиданными отключениями оборудования и потерей видеосвязи в ходе операции.

Учитывая успехи на ниве роботостроения таких корпораций, как Boston Dynamics, применение роботов в быту, бизнесе и на производстве будет только расширяться. Одновременно будет возрастать и опасность со стороны роботов для человека из-за программных или аппаратных сбоев, нарушения правил их эксплуатации или — вполне возможно — хакерских атак. Но хочется верить, что в случае противостояния людей и машин у человечества всё же будет шанс.



Родственники Роберта Уильямса, первым погибшего от рук промышленного робота, отсудили у создавшей эту машину корпорации Litton Industries 10 млн долларов. Та, в свою очередь, попыталась выставить регрессный иск Ford Motor Company, поскольку погибший не проходил организованное Litton Industries обучение работе с роботизированной системой и нарушил по мнению юристов компании правила безопасности. Но суд отклонил иск, а позже это решение было утверждено Высшим судом штата Мичиган. Расследование и последующее судебное производство длилось около трёх лет, и стало первым судебным прецедентом по делу об убийстве человека роботом.

Существует мнение, что в связи с развитием робототехники роботам (и выпускающим их корпорациям) скоро понадобятся специально обученные адвокаты, специализирующиеся на подобных исках. Так, издание Sfgate цитирует Райана Кало, научного сотрудника Стэнфордского центра интернета и технологий, который утверждает: «Роботы — это не тостеры. Сейчас растёт озабоченность по поводу этики роботов, но в подобных дискуссиях не хватает прагматичных юристов, думающих о том, что может произойти в будущем». Но появление робоюристов (возможно, тоже сделанных из кремния и металла) — это пока ещё дело завтрашнего дня.

Пусть и не столь отдалённого.