Едва ли среди читателей Хабра, и уж тем более GT возможно найти читателя, который не слышал об интернете вещей (IoT). При этом, наверное, большинство читателей уже хорошо представляют что это, понимают как эта концепция развивается, какие несет нам в будущем блага, и какие есть сложности и даже угрозы.
Однако я еще не встречал нигде термина Internet of Robots (IoR), или «интернет роботов». Являясь представителем сообщества «Роботофоб», основная миссия которого — донести до окружающих то, что развитие робототехники это не только вселенское счастье в будущем, но и серьезные потенциальные угрозы безопасности людей, о которых мы должны серьезно задумываться уже сейчас, на ранних стадиях развития робототехники, я попробую осветить возможное появление такого термина, а также попробую обозначить плюсы, ну и конечно же угрозы которые может нести эта концепция.
Давайте попробуем дать определение IoR. По аналогии с IoT, это концепция вычислительной сети физических объектов («роботов»), оснащённых встроенными технологиями для взаимодействия друг с другом или с внешней средой, исключающее необходимость участия человека из части действий и операций.
В настоящее время мы видим, что одной из основных технологий развития роботов будут облачные сервисы. Облачные технологии действительно очень помогают в развитии робототехники:
— чтобы быть достаточно независимыми от людей, роботам необходимо обрабатывать огромное количество информации. В этих процессах облака берут на себя основную нагрузку, тем самым удешевляя и упрощая железо роботов (вспомните Siri, OK,Google).
— все обновления функционала, прошивок, «обучение» и совершенствование роботов через облачные технологии позволяют роботам улучшаться без необходимости участия их хозяев в этих процессах, получая новые обновления автоматически (т.н. RobotAppStore).
— получив возможность самостоятельно обучаться, роботы через облачные технологии смогут делиться между собой новыми навыками и полученными знаниями, данными, которые они могут собрать при взаимодействии с окружающим их миром, что позволит роботам улучшаться и решать ранее незнакомые задачи без участия их создателей и производителей.
— ну и в конце концов, если робот попадет в затруднительную ситуацию, он сможет обратиться на «горячую линию поддержки», где ему помогут устранить неисправность, дозагрузить нужный плагин и пр.
Наверняка, выше перечислены далеко не все сценарии и возможности, которые IoR дает нам для развития робототехники, однако, как я считаю, сейчас не менее важны другие аспекты такой концепции, а именно — вопросы безопасности. Мы регулярно становимся свидетелями появления новых уязвимостей, новых угроз во всех сферах ИТ, будь то железо, ПО, сервисы, IoT или даже системы защиты информации. Как бы представители информационной безопасности не старались, хакеры находят все новые способы обхода и взлома. Не подумав своевременно о безопасности, в итоге мы несем серьезные потери, информационные, финансовые, репутационные. Подумайте, сейчас взламывают и получают удаленный доступ к системам целых АЭС, Министерств, данным первых лиц государств и шпионским службам. Что тут говорить об устройствах обычных пользователей.
И ведь многих подобных инцидентов можно было избежать, своевременно повысив уровень безопасности, внедряя меры защиты при проектировании, а не накладывая их постфактум.
Мы говорим о компьютерах, серверах, мобильных устройствах, но давайте представим, что может случиться, если есть возможность получить удаленный доступ к роботам — промышленным манипуляторам, автомобилям, медицинским и военным роботам, роботам-помощникам, которые будут находиться среди нас и не просто будут общаться, но и смогут действовать, влиять на окружающую среду и на людей:
— роботы, оснащенные большим количеством датчиков, видеокамерами, микрофонами, подключенные к интернету по сути — идеальное подслушивающее и видеотранслирующее устройство — робот может оказаться в любой необходимой злоумышленнику комнате, помещении, офисе…
— имея манипуляторы, робот, к которому получен удаленный доступ с возможностью управления — это практически оружие — он легко может нанести прямой и косвенный физический вред человеку, переключить не вовремя какой-либо тумблер, напасть, открыть вору входную дверь в конце концов.
— соединенный с интернетом, робот, фактически, открытая уязвимая система — злоумышленник может накатить некорректное обновление, изменить принципы работы, отключить определенные правила, и ограничения, загрузить программу или алгоритмы, которые нацелены не на уход а на нанесение вреда.
— объединенные в единую сеть, роботы могут обмениваться любой информацией, которую могут воспринимать, будь то изображение, звук, другие данные. Представьте, как легко будет найти теперь любого человека тому, кто завладеет удаленным доступом к этой сети.
Опять таки, можно перечислять огромное количество негативных сценариев, которые уже реализовываются в ИТ или которые могут быть реализованы при повсеместном распространении концепции IoR, если мы своевременно не начнем задумываться о безопасности.
Сейчас практически нет никаких стандартов, тем более мировых, которые хоть как-то регламентировали бы эти вопросы. И может случиться так, что в роботах будущего не будет заложено даже правил робототехники Азимова — ведь сейчас всем важно развитие робототехники, а о безопасности, как обычно, мы можем подумать и потом?
Однако я еще не встречал нигде термина Internet of Robots (IoR), или «интернет роботов». Являясь представителем сообщества «Роботофоб», основная миссия которого — донести до окружающих то, что развитие робототехники это не только вселенское счастье в будущем, но и серьезные потенциальные угрозы безопасности людей, о которых мы должны серьезно задумываться уже сейчас, на ранних стадиях развития робототехники, я попробую осветить возможное появление такого термина, а также попробую обозначить плюсы, ну и конечно же угрозы которые может нести эта концепция.
Давайте попробуем дать определение IoR. По аналогии с IoT, это концепция вычислительной сети физических объектов («роботов»), оснащённых встроенными технологиями для взаимодействия друг с другом или с внешней средой, исключающее необходимость участия человека из части действий и операций.
В настоящее время мы видим, что одной из основных технологий развития роботов будут облачные сервисы. Облачные технологии действительно очень помогают в развитии робототехники:
— чтобы быть достаточно независимыми от людей, роботам необходимо обрабатывать огромное количество информации. В этих процессах облака берут на себя основную нагрузку, тем самым удешевляя и упрощая железо роботов (вспомните Siri, OK,Google).
— все обновления функционала, прошивок, «обучение» и совершенствование роботов через облачные технологии позволяют роботам улучшаться без необходимости участия их хозяев в этих процессах, получая новые обновления автоматически (т.н. RobotAppStore).
— получив возможность самостоятельно обучаться, роботы через облачные технологии смогут делиться между собой новыми навыками и полученными знаниями, данными, которые они могут собрать при взаимодействии с окружающим их миром, что позволит роботам улучшаться и решать ранее незнакомые задачи без участия их создателей и производителей.
— ну и в конце концов, если робот попадет в затруднительную ситуацию, он сможет обратиться на «горячую линию поддержки», где ему помогут устранить неисправность, дозагрузить нужный плагин и пр.
Наверняка, выше перечислены далеко не все сценарии и возможности, которые IoR дает нам для развития робототехники, однако, как я считаю, сейчас не менее важны другие аспекты такой концепции, а именно — вопросы безопасности. Мы регулярно становимся свидетелями появления новых уязвимостей, новых угроз во всех сферах ИТ, будь то железо, ПО, сервисы, IoT или даже системы защиты информации. Как бы представители информационной безопасности не старались, хакеры находят все новые способы обхода и взлома. Не подумав своевременно о безопасности, в итоге мы несем серьезные потери, информационные, финансовые, репутационные. Подумайте, сейчас взламывают и получают удаленный доступ к системам целых АЭС, Министерств, данным первых лиц государств и шпионским службам. Что тут говорить об устройствах обычных пользователей.
И ведь многих подобных инцидентов можно было избежать, своевременно повысив уровень безопасности, внедряя меры защиты при проектировании, а не накладывая их постфактум.
Мы говорим о компьютерах, серверах, мобильных устройствах, но давайте представим, что может случиться, если есть возможность получить удаленный доступ к роботам — промышленным манипуляторам, автомобилям, медицинским и военным роботам, роботам-помощникам, которые будут находиться среди нас и не просто будут общаться, но и смогут действовать, влиять на окружающую среду и на людей:
— роботы, оснащенные большим количеством датчиков, видеокамерами, микрофонами, подключенные к интернету по сути — идеальное подслушивающее и видеотранслирующее устройство — робот может оказаться в любой необходимой злоумышленнику комнате, помещении, офисе…
— имея манипуляторы, робот, к которому получен удаленный доступ с возможностью управления — это практически оружие — он легко может нанести прямой и косвенный физический вред человеку, переключить не вовремя какой-либо тумблер, напасть, открыть вору входную дверь в конце концов.
— соединенный с интернетом, робот, фактически, открытая уязвимая система — злоумышленник может накатить некорректное обновление, изменить принципы работы, отключить определенные правила, и ограничения, загрузить программу или алгоритмы, которые нацелены не на уход а на нанесение вреда.
— объединенные в единую сеть, роботы могут обмениваться любой информацией, которую могут воспринимать, будь то изображение, звук, другие данные. Представьте, как легко будет найти теперь любого человека тому, кто завладеет удаленным доступом к этой сети.
Опять таки, можно перечислять огромное количество негативных сценариев, которые уже реализовываются в ИТ или которые могут быть реализованы при повсеместном распространении концепции IoR, если мы своевременно не начнем задумываться о безопасности.
Сейчас практически нет никаких стандартов, тем более мировых, которые хоть как-то регламентировали бы эти вопросы. И может случиться так, что в роботах будущего не будет заложено даже правил робототехники Азимова — ведь сейчас всем важно развитие робототехники, а о безопасности, как обычно, мы можем подумать и потом?
Комментарии (4)
Gorthauer87
05.08.2015 10:23Ещё бы добить запрет на беспилотное оружие, а то иначе вояки будут ощущать, что они в компьютерные игры играют, а не людей убивают.
hungry_ewok
05.08.2015 11:32А еще заставить военных пользоваться мечами и топорами, ага. Той же реальности хотелка.
Robotofob
05.08.2015 11:33Запрет все же не панацея. для начала хотя бы сформулировать правила использования, правила ведения боя так сказать… Но в общем согласен — то, что сейчас вытворяют коптеры, это уже стопроцентный эффект игры. Это захватывает и увлекает, поэтому заиграться вояки действительно могут.
Raegdan
Правила робототехники Азимова на текущий момент и на ближайшее будущее — только для разработчиков роботов, которые обеспечат их соблюдение в области применения конкретного робота. Я даже теоретически не представляю, как заложить в железо правила с таким уровнем абстракции на сегодняшнем уровне ИИ.