Цена трехмерных лидарных сканеров опустилась ниже ста долларов. Появились недорогие энергетически эффективные робоплатформы высокой мобильности, способные, например, пылесосить лестницы. Эта сумма технологий обещает революцию в области домашних роботов.
Лидары широким фронтом ворвались в робототехнику, автомобилестроение и дистанционное зондирование примерно два десятка лет назад. В 2000 году я впервые взял в руки картинку городского квартала, полученную при сканировании самолетным лидаром. В США с 2003 года ДАРПА (Defense Advanced Research Projects Agency) начало финансировать соревнования беспилотных автомобилей, которые, как правило, оснащались лидарами. Это привело к быстрой эволюции самоуправляемых автомобилей и роботов, которые со страниц научно-фантастических романов шагнули в обычную жизнь. Лидары дистанционного зондирования делают порядка сто тысяч выстрелов лазерным лучом в секунду и стоят около миллиона долларов, зато, установленные на небольших самолетах или вертолетах, дают четкую трехмерную картину местности с точностью по высоте в несколько сантиметров. Благодаря узкому пучку и высокой чувствительности приемника, которые могут улавливать считанные отраженные фотоны, лучи лидаров достигают поверхности земли даже в самом густом лесу. Поэтому лидарное сканирование полюбили археологи Центральной Америки, которые могут, после обработки лидарных данных, «убрать» джунгли и обнажить «голый рельеф», на котором появляются следы древних городов майя и других исчезнувших цивилизаций.
Лидары революционизировали и робототехнику. В 2012 году на Хабре мы с Алексеем Аншаковым обсуждали искусственный интеллект и роботов, но разговор был довольно общий и даже глобальный. Сейчас хотелось бы поделиться личным опытом в области лидаров и домашних роботов, которые наступают, эволюционируя буквально на глазах - у кого сейчас нет пылесоса типа «румбы»?
Чтобы быть эффективным помощником, домашний робот должен иметь
а. «глаза» или сенсоры;
б. «мозг» или процессор для обработки информации с сенсоров и для управления движениями робота;
в. «ноги» - или шасси для передвижения робота;
г. «руки» - или манипуляторы для выполнения полезной работы. Для специализированных роботов вроде пылесоса, «руку» заменяет оптимизированный агрегат – например, всасывающий раструб для пылесоса.
Сенсоры делятся на три класса: пассивные (наблюдающие) – например, видеокамеры; активные (лоцирующие) – лидары, радары и сонары; контактные – как усы у таракана или бампер у «румбы». Портативные лидары в робототехнике активно вытесняют традиционные «глаза»-видеокамеры. За 20 лет участия в обработке лидарных данных, я часто втягивался в споры: что лучше для навигации роботов – лидары или стереокамеры, аналогичные бинокулярному зрению человека? В 2002 году я участвовал в таком споре с менеджером ДАРПЫ, который финансировал проекты по созданию роботов, имитирующих животных. Мы с партнером, руководителем исследовательского отдела большой компании, убеждали дарповца, что лидары – это будущее роботехники. Причем мы пророчили не наобум, а на основе оценок, которые доказывали преимущество лидаров над видеокамерами, но менеджер ДАРПЫ был биологом и с цифрами не дружил. Зато знакомые ему университетские профессора обещали сделать навигацию роботов на видеокамерах – и он им верил. Действительно, во второй половине 20 века основные усилия направлялись на компьютерную обработку данных с пассивных видеокамер, которые были дешевы и быстро улучшались. Но, несмотря на множество статей, проектов, диссертаций и грантов, прорыва там не произошло. Почему? Я могу привести для читателей Хабра оценки сравнения эффективности видеокамер и лидаров. Как ни странно, эти оценки за 20 лет практически не изменились, зато сейчас очевидно, кто из тогдашних спорщиков лучше предвидел будущее робототехники.
Глаз человека насчитывает почти сотню миллионов светочувствительных клеток. Это эквивалентно 100 мегапиксельной матрице (10000x10000 пикселов), что все еще больше, чем у лучших и дорогих фотокамер. Если робот будет получать от двух видеокамер, работающих хотя бы с частотой 10 кадров в секунду, поток информации на уровне 2 гигапикселов в секунду, то легко представить трудность обработки такого потока информации даже современными процессорами (а если привлечь облачные ресурсы, то потребуется суперинтернет для постоянного обмена данными). Часто кивают на человека (или на птиц и даже насекомых), который справляется с обработкой даже большего объема видеоданных. Но не надо забывать, что человеческий мозг, который представляет собой мощную видеообрабатывающую систему, совершенствовался и оттачивался многие миллионы лет. И все равно требуется много лет постоянного обучения, чтобы ребенок научился правильно видеть мир. Но даже взрослый водитель легко ошибается, пытаясь отличить опасную дыру в асфальте от обычного пятна мазута. Да и насекомые не очень доверяют своему зрению, дополняя его контактными усиками.
Лидары, в отличие от видеокамер, создают гораздо более компактный набор данных. Даже крупные лидары генерируют «всего» сто тысяч трехмерных координат точек отражения в секунду (если лидар дает информацию о первом и последнем отражении каждого луча, то это число надо умножить на два). Этот объем информации на 4 порядка меньше, чем объем данных со стереокамер, подобных человеческому глазу. Даже если уменьшить разрешение видеокамеры до 1000x1000 пикселов, то все равно стократная разница в объеме данных останется, а проблемы с качеством изображения вырастут. При этом видеокамера дает набор двумерных картинок, которые требуют сложного анализа по распознаванию объектов и определению расстояния до них. Достаточно ошибки хотя бы в одном из ста случаев – и такая система будет непригодна для практического использования, которое предполагает принятие сотен навигационных решений в течение короткого времени мобильности. А лидарные данные – это уже трехмерная картина. Даже без обработки она дает хорошее представление о среде.
Распространено мнение о высокой стоимости лидаров. Это верно в отношении автомобильных лидаров, которые должны работать быстро и сканировать обстановку на расстояниях в сотни метров – см. полезную статью Тимоти Ли (в переводе Вячеслава Голованова): «Как десяток ведущих компаний пытаются создать мощный и недорогой лидар» (2019). В статье отмечается, что «лидар, или световой радар, это технология, критически важная для создания робомобилей». Так что история рассудила спор двадцатилетней давности. Действительно, лидар имеет значительное преимущество не только перед видеокамерами, но и перед радарами и сонарами, у которых нет узкого пучка, и они дают более грубую картину окружающей среды.
Для домашних роботов, которые двигаются достаточно медленно и сканируют обстановку на десяток метров, лидары существенно дешевле. Такие лидары работают с помощью простого триангуляционного метода определения расстояния, когда точка отражения луча фиксируется камерой с приемной матрицей, смещенной на некоторое расстояние от выходного отверстия невидимого лазерного луча. По получившемуся треугольнику «лазер-точка отражения-приемник» определяется расстояние до объекта. На Рис. 2-4 показаны cканы помещения, полученные портативным (размером с кофейную чашку) RPLidar, который дает до 8000 выстрелов в секунду и стоит всего 99 долларов (при розничной закупке на сайте robotshop; при оптовой закупке или при собственном производстве, эту цену можно понизить еще в несколько раз). Этот лидар одиночным лучом делает двумерный скан на 360 градусов. Чтобы получить трехмерный скан, нужно добавить еще одну степень свободы. Это можно достигнуть значительным наклоном плоскости 2D сканирования и вращением ее вокруг вертикальной оси пошаговым мотором стоимостью несколько долларов. Рис. 2-4 были получены именно таким способом, хотя он не единственно возможный. Вращение на один оборот вокруг вертикальной оси двумерного сканера дает, как несложно понять, двойное покрытие окружающих поверхностей точками отражения (см. Рис.3).
Для функционирования домашнего робота достаточно иметь один лидар, с желательным добавлением дешевых сонаров или каких-то других вспомогательных сенсоров близкого действия, потому что лидарам трудно ловить отражения от стекол и зеркал - см. Рис.4.
Уже сейчас распространились роботы-пылесосы с двумерным лидаром, который надежно определяет расположение стен помещения. Но этого недостаточно, чтобы хорошо ориентироваться в сложной 3D среде жилой квартиры, уверенно передвигаться под мебелью и не упасть в проем лестницы. Робомобили и роботы, которые работают на улицах, стараются иметь более широкий спектр сенсоров – для взаимной подстраховки и распознавания таких специфических уличных элементов, как огни светофора. Пример: уличный робот-курьер Яндекса вооружен сенсорами до зубов:
9 ультразвуковых сонаров
Два радара
Лидар (вращение головы с 64 лучами)
6 видеокамер
Процессоры и софт для обработки данных с лидаров и сенсоров – это большая тема, которой надо посвящать отдельную статью. Отмечу, что алгоритмы обработки данных зависят от задач, которые стоят перед роботом, и от набора сенсоров, которыми он вооружен.
Кроме сенсоров, важно обсудить и «ноги» – еще одно узкое место домашних роботов. Обычные роботы на колесиках, бродя по квартире, легко застревают в проводах, носках, тапочках, а уж про лестницы и говорить не приходится. Каждый владелец «румбы» знает, что если не подготовить комнату для робота-пылесоса, в котором из сенсоров может быть один бампер, то очень скоро он запутается в шторах или наглухо залезет под какую-нибудь тумбочку. Я организовал в социальных сетях опрос сотни собственников робо-пылесосов и потенциальных покупателей таких устройств. 70 опрошенных обладали опытом владения роботами-пылесосами – как обычных, так и с двумерным лидарным сканером (роботов-пылесосов с трехмерными лидарными сканерами на рынке еще нет). Оказалось, что около 30 процентов владельцев румбо-подобных пылесосов без лидара были недовольны их работой – и отказались от их использования или купили модель с лидаром. Зато почти все владельцы робота с двумерным лидаром были удовлетворены его работой. Многие опрошенные отмечали проблемы с мобильностью робота в захламленной комнате, а также выражали желание купить робота, который мог бы ходить по лестницам или преодолевать барьеры между комнатами. Хотя на Западе большинство жилых домов имеют 2-3 этажа, роботов-пылесосов, способных передвигаться по лестницам (и пылесосить их) на мировом рынке не существует. Есть гусеничный робот, который может ездить по лестницам, но он неуклюжий, как танк, и меняет наклон своего корпуса при передвижении по лестницам. Заставить его пылесосить лестницу невозможно, для этого нужны дополнительные сложные манипуляторы. Созданы двуногие человекоподобные роботы, которые теоретически могут ходить с пылесосом по лестницам дома, но в обозримом будущем они будут стоить больше самого дома.
Это заставило меня вспомнить свою идею робота, который легко передвигается по лестницам, сохраняя удобное для работы горизонтальное положение корпуса, а уж тапочки ему вообще нипочем. Такой робот может менять высоту своих колес, располагая их, если нужно, сразу на трех уровнях. А если он ездит по обычному полу, то энергетически эффективен также как обычный колесный робот. После адаптации к случаю домашнего робота-пылесоса, получился легко реализуемый проект (Рис.5).
Вокруг этого проекта удалось собрать небольшую команду инженеров и инвесторов, с помощью которых были созданы три прототипа робота. Первый прототип робота AUR1 тащил за собой несколько проводов для питания и управления и даже не умел делать повороты, но он уже мог забираться вверх по лестнице и принес ценный опыт. Второй прототип AUR2 сканировал среду с лучшим качеством (сканы на рисунках 2-4 сделаны им), и не только поднимался, но и уверенно спускался по лестнице, а также поворачивал и держал связь с оператором по WiFi. За ним тянулся лишь один силовой провод (Рис.6).
Третий прототип AUR3 учитывает весь опыт предшественников, имеет собственные аккумуляторы и обладает полным функционалом робота-пылесоса (Рис. 7).
Эта разработанная и апробированная технология робота, способного двигаться по лестницам, сейчас запатентована (US патент номер 11198218) и открыта для компаний, которые захотят её реализовать в массовом масштабе. Патент включает описание, как компактного домашнего, так и более крупного робота, а также кресла для перемещения пациентов или инвалидов по лестницам. Такой робот хорошо подходит для квартир с двумя уровнями или для уличных доставок по сложной трассе с бордюрами и лестницами.
Можно уверенно предсказать, что мы стоим на пороге массового появления домашних роботов с 3D лидаром и повышенной мобильностью – никаких технических или ценовых препятствий для этого нет. Дешевые лидары и новые технологии для движения роботов обеспечат скачок на рынке домашних роботов, который уже хорошо развит робо-пылесосами первого поколения. Домашние помощники нового поколения будут умны, не будут бояться захламленных комнат (даже смогут прибирать разбросанные вещи), и будут пылесосить не только пол в самых укромных углах, но и мебель, а также выполнять другие задачи по дому – при оснащении их «руками»-манипуляторами (для роботов с «руками», как у робота Alphabet, лидары для создания трехмерной картины среды оказываются совершенно необходимыми).
Думаю, что это предсказание будет проверено уже в ближайшие годы.
Николай Горькавый, д.ф.-м.н.
Комментарии (36)
vanxant
17.12.2021 03:30+6Оффтоп: Николай Николаевич, добро пожаловать на хабр!
Slasher111
17.12.2021 18:54+3Николай Николаевич, большущее вам спасибо за "Астровитянку"! От идей, описанных вами в этой трилогии, я получил в своё время огромное удовольствие!
sidorovmax
17.12.2021 08:55Вчера встретил похожее шасси.
Sony показала робота с шестью выдвижными колесами
https://nplus1.ru/news/2021/12/16/sonyroverseti
17.12.2021 09:04Интересно, а есть ли возможность защитить русский патент от японского? Или россияне не получили патент в америке? Думаю , что скорее будет использоваться японский патент.
LevPos
17.12.2021 09:37В статье же написано:
US патент номер 11198218
Из патента:
Mobile robotic system and method
A robotic system and method having a movable and adjustable platform with a plurality of vertically-adjustable legs depending from the platform, the legs having wheels for moving and turning, and a plurality of sensors incorporated with a 3-D model program and movement algorithm that utilizes the information and data collected by the sensors for directing the motors and controls units to move and adjust the robotic system and the system device provided herein.
Gorkavyi Автор
17.12.2021 18:42+1Очень близкая идея! Но сони-робот не сможет забираться по лестнице, только на один уступ. И наклон ног усложняет конструкцию. Интересно, что и релиз, и патент вышли одновременно - 14 декабря 2021.
vkni
17.12.2021 09:00+1Очень здорово! А как там с высотой робота, которая должна быть достаточно низкой, чтобы под кроватями ползать? Можно ли вот эти штанги делать телескопическими?
iliasam
17.12.2021 09:48А что за лидар использован на AURobot?
Замечу, что в статье не упомянуты времяпролетные камеры, а они сейчас активно развиваются.
Уже даже в IPhone встраивают.
У Intel довольно интересное устройство есть: habr.com/ru/company/intel/blog/480682 и примеры использования: www.intelrealsense.com/lidar-camera-l515-at-ces-2020Gorkavyi Автор
17.12.2021 18:32"RPLidar, который дает до 8000 выстрелов в секунду и стоит всего 99 долларов (при розничной закупке на сайте robotshop..."
iliasam
17.12.2021 19:33+1Спасибо. Видел упоминание RPLidar в тексте, но совершенно не узнал его на «Рис. 6», поскольку он там наклонен на 90 градусов.
Получается, что сейчас роботу приходится довольно долго поворачивать лидар, чтобы получить 3D скан помещения.
Китайцы в плане производства дешевых лидаров очень сильно продвинулись за последнее время. Мне вот такой нравится: LD06 LIDAR — импульсный (то есть точность не так сильно зависит от расстояния, как в триангуляционных), маленький, относительно дешевый.Gorkavyi Автор
17.12.2021 20:20"Получается, что сейчас роботу приходится довольно долго поворачивать лидар, чтобы получить 3D скан помещения".
Верно, но домашнему пылесосу спешить обычно некуда, тут цена важнее.
extempl
17.12.2021 10:01Подкину идею - идеальный робот-пылесос должен состоять из двух частей - невысокий, собственно, пылесос способный пылесосить под диваном и платформа-лифт для подъёма по лестнице. Скрещивать их - бессмысленно и бесперспективно.
c_kotik
17.12.2021 10:44Любопытно выходит со сканированием местности... и водоемов! Есть ли материалы по сканированию водоемов именно лидарами?
LevPos
17.12.2021 12:15Есть ли материалы по сканированию водоемов именно лидарами?
Yes, lidar can penetrate water but can be quite a challenge. Mainly due to various limitations such as refraction and light absorption.
Greenlight (infrared wavelength of 532nm) from Lidar sensors can penetrate water the best and farthest due to its wavelength. It can penetrate ocean water of up to hundreds of meters (up to 300m).
Gorkavyi Автор
17.12.2021 18:37Да, есть батиметрические лидары, их (вместе с другими лидарами) активно делает канадская фирма Optech
Gorkavyi Автор
17.12.2021 18:35+1Когда лидарный скан имеет дело с водной поверхностью, то происходит обычно две вещи: лидарный луч отражается от воды в сторону и не возвращается к приемнику: следовательно на скане темное пятно. Но если геометрия и волны так расположены, что отражают луч назад, то наоборот - на скане появляется яркая дорожка, часто с аномально высоким коэффициентом отражения.
malyazin_2010
17.12.2021 12:12В технологическом противостоянии лидаров и камер автор явно на стороне лидаров. И поэтому ситуация в этой сфере описана необъективно.
Объективно ситуации такая: стерео камеры могут позволить себе использовать только Tesla, DJI и партнеры Nvidia. ( причина: слишком высокие требования к вычислительной мощности)
(Недавно автоблогер Давидыч показывал робота со стереоскопическим зрением: https://youtu.be/QijDwUjg4mE на компонентах Nvidia)
Все мелкие компании, стартапы и индивидуальные изобретатели используют лидары. (У Яндекса и гугла вычислительные мощности есть, но по каким то причинам они их не используют для стереоскопического зрения, а предпочитают использовать лидары)
Gorkavyi Автор
17.12.2021 18:38Тесла не базируется на одном стереоскопическом зрении, а дополняет его радарами.
malyazin_2010
18.12.2021 10:01Новые Теслы выпускаются без радаров. https://nplus1.ru/news/2021/05/26/tesla-camera-only
Gorkavyi Автор
18.12.2021 20:18Это будет здорово, если команда Маска решит классическую проблему навигации на стереокамерах, но эта новость от последних месяцев и сначала надо накопить статистику аварий, чтобы убедиться в надежности этих решений. В любом случае, навигация домашних роботов заметно отличается: там лидары дешевы, а мощных дорогих процессоров для обработки видеоизображений нет, плюс трехмерная среда захламленной комнаты, заставленной мебелью, гораздо сложнее набора объектов на шоссе. Полагаю, что лидары в обозримом будущем будут входить в арсенал сенсоров домашних роботов.
vkni
18.12.2021 21:45+1Там вообще несколько дикая для жителя того же СПб идея управлять машиной, базируясь на дорожной разметке.
Gorkavyi Автор
19.12.2021 00:18Когда такси везет меня по Москве, я часто наблюдаю картину, как по двухполоске движутся три потока машин. Автопилот Маска тут может серьезно заболеть.
balamutang
17.12.2021 13:11Благодаря узкому пучку и высокой чувствительности приемника, которые могут улавливать считанные отраженные фотоны, лучи лидаров достигают поверхности земли даже в самом густом лесу.
Если увеличить мощность лазера лидара до 10-20 кВт то лучи лидара в густом лесу будут достигать поверхности земли почти 100%
RalphMirebs
17.12.2021 15:26Хорошая штука, но робот демаскирует себя сразу. Для части задач применение будет сомнительно и пассивные стереокамеры технология не вытеснит полностью.
DROS
18.12.2021 11:08Тут кто-то сказал про лидар и трехмерное сканирование?
Пару лет назад на основе RPLidar A2 городил установку по сканированию 360 гр. пространства. Вот даже картинка с первых испытаний есть. Потом забил на все это дело на долгое время и сейчас разрабатываю сканер (чисто для себя, без перспектив) на Benewake TF02-Pro в качестве сканирующей головы, так как качество RPLidar-а не устроило из-за невозможности задания шага сканирования в рабочей плоскости головы.
Gorkavyi Автор
19.12.2021 00:25Очень близкая картинка. Вы подтверждаете мысль, что трехмерный лидар для домашних роботов - вещь реальная и недорогая. Я лично мечтаю о времени, когда моя "румба", которая сейчас работает только в одной комнате, потому что в других комнатах за ней нужен глаз да глаз, а о лестницах и мечтать не приходится, сменится роботом, который всех "пылевых зайцев" со ступенек убирает сам. А под диванами я готов сам убирать раз в полгода!
lunacyrcus
Ну это крутая тема конечно, но пф пылесосы это так банально и зачем они нужны какие пылесосы кому нужна вся эта пыль. Было бы круче даже если бы просто дополнять человеческое зрение лидаром и в реальном времени получать например автоматический расчет расстояний-размеров обьектов и так далее (ну в общем чуть ли не картинка зрения "терминатора").
Когда уже будет полноценный нейроинтерфейс то с такими-то улучшениями наверно будет возможностей надолго и на много.
Kodim
Тут важен сам принцип - предложен роботом лидером+инновационным способом перемещения по уровням. Это открывает перспективы разработки, навскидку, роботостюардов, робопомощников для пожилых/больных, как дома, так и на улице (сопровождение, поддержка) и т.д. Пылесос - самое простое и на виду применение.
n0isy
Примерно в 10 раз дешевле завести 10 пылесосов-роботов на каждом этаже и они будут заезжать под кровати и мебель.
Kodim
По оценкам в статье, робот, умеющий ходить по лестницам, будет стоить около штуки зеленых, попробуйте найдите приличного робота с лидером за $100