Женщина за рулём машины в момент аварии опустила глаза на смартфон и не успела среагировать на препятствие, неожиданно выскочившее из темноты в круг ближнего света.
Наиболее оживлённую дискуссию вызвал тот факт, что автопилот врезался в пешехода на полном ходу, даже не попытавшись снизить скорость или уклониться от столкновения. Это удивительно, учитывая большое количество оборудования для компьютерного зрения. Ведь женщина переходила дорогу прямо перед лидаром и несколькими видеокамерами автомобилями, а судя по видеозаписям других участников дорожного движения, участок был неплохо освещён.
«Ложноположительное срабатывание»
По мнению экспертов, судя по отсутствии реакции автопилота на препятствие, можно предположить два варианта проблемы:
- Неисправность в системе распознавания объектов, которая не смогла классифицировать женщину и её велосипед как пешехода. Но такой вариант кажется маловероятным, потому что велосипеды и люди принадлежат к тем классам объектов, которые система должна распознавать лучше всего.
- Ошибка в более высокой логике автомобиля, которая принимает решения, на какие объекты обращать внимание и что с ними делать. Например, нет необходимости замедляться из-за припаркованного велосипеда на обочине дороги, но малейшей маневр другого транспортного средства в полосу перед автопилотом является причиной для немедленных действий. Здесь логика автопилота следует механизму работы человеческого внимания и принятию решений живым водителем. Система оберегает автомобиль от паники на каждом обнаруженном объекте.
Судя по поступившей сейчас информации, в случае с Uber возникла проблема второго типа: автопилот посчитал пешехода с велосипедом «ложноположительным срабатыванием» (false positive) системы компьютерного зрения и в соответствии с программными установками проигнорировал его. О предварительных результатах сообщило издание The Information со ссылкой на два конфиденциальных источника, знакомых с ходом расследования.
Судя по всему, причина фатальной аварии — ошибка программы. В частности, некорректная работа функции, которая определяет, какие объекты игнорировать, а на какие следует реагировать. Если комиссия по расследованию придёт к таким выводам и утвердит их окончательно, то встанет вопрос о прямой ответственности компании Uber за инцидент. Впрочем, компания заранее заключила досудебное соглашение с семьей сбитой велосипедистки, так что судебного разбирательства не будет.
Кроме того, данный случай позволяет предположить самое слабое звено в системе компьютерного зрения: это высокоуровневая система логики, которая обрабатывает информацию с лидара, камер и сенсоров — и принимает решения в реальном времени. Если сравнивать сенсоры и камеры с «глазами», то ошибка в данном случае произошла в «мозге» автопилота.
Компания Uber опубликовала заявление по поводу новой информации о ходе расследования: «Мы активно сотрудничаем с Национальным советом по безопасности на транспорте США (NTSB) в расследовании инцидента. Из уважения к этому процессу и доверительных отношений с NTSB, мы не можем комментировать специфику инцидента. В то же время мы начали сквозной аудит безопасности нашей программы автопилота, а также пригласили бывшего руководителя NTSB Кристофера Харта для консультаций об общей культуре безопасности. Мы пересматриваем все аспекты, начиная с безопасности системы и заканчивая процессами обучения операторов транспортных средств, и надеемся, что вскоре сможем больше сказать по этому поводу».
Совместное расследование Uber и Национального совета по безопасности на транспорте продолжается.
Комментарии (168)
rub_ak
08.05.2018 17:50-1Вы даете ссылку на обсуждения записи с камер, где в комментариях не раз выложили записи с других регистраторов, где видно, что участок хорошо (если не отлично) освещён.
А потом пишите: «неожиданно выскочившее из темноты в круг ближнего света.»
Неожиданно выскочила она только для водителя который не смотрел на дорогу совсем.
ks0
08.05.2018 17:52-1Искусственный «интеллект» «смотрит в книгу-видит фигу». И не понимает разницу между пакетом и велосипедом. Потому что в своей «жизни» не ходит за продуктами, и на велосипеде не ездил никогда.
Говорить о логике «ИИ» можно бесконечно, но логика эта ему не принадлежит, потому что интеллекта у него нет.
Поэтому автомобильные автопилоты, и прочие скайнеты, можно оставить для Голливуда.demimurych
08.05.2018 19:42+2А Вы занете сколько аварий происходит по причине того что человек за рулем отвлекся, устал, заснул, перепутал газ с тормозом? А ведь с автопилотом такого быть не может — он не устает и не засыпает, и тем более не путает газ с тормозом.
Я думаю управление автомобилем человеком можно оставить для голивуда.quwy
08.05.2018 23:46Прилетит неудачно мюон из космоса в кристалл процессора или ОЗУ, и робомобиль прекрасно перепутает газ с тормозом. А если еще и сам кристалл не очень (причин масса), то и без мюона перепутает.
chig00
09.05.2018 07:03+2Уже сейчас очень много машин (если не большинство) управляется по проводу, и прилетевший мюон мог бы создавать проблемы, но вроде проблем не возникает.
quwy
09.05.2018 14:46Еще как возникает, просто эти случаи списываются как не имеющие видимых причин сбои. Ну дернуло машину неожиданным кратковремнным импульсом в цепи «газа», не смертельно и забудется через пол часа. Если же электронный болван будет совсем вместо водителя, то подобный отказ уже может поразить и систему управления, что приведет к неиллюзорной аварии, вместо экстренного торможения и благого мата на всю округу.
Плюс не знаю как там во всяких поршах, но в машинах среднего и начального класса всегда есть прямая связь критических органов управления с исполнительными механизмами (руль и тормоз хоть как-то, но работают без поддержки автоматики).l_o_d
11.05.2018 09:27Даже в машинах начального класса есть АВС, электронная педаль газа и усилитель руля (электро или гидро). Вот прилетит частица из космоса куда не надо и элекроусилитель дернет машину на скорости в сторону, прямо в столб. Или АВС врубится без необходимости и не даст вам эффективно затормозить. Если при этом еще электронная педаль газа решит поднажать то спасет вас наверное только катапультирование.
quwy
11.05.2018 09:57Как я уже сказал, тормоз и руль имеют прямую связь между органами управления и исполнительными устройствами. АБС не давит на колодки, а наоборот ослабляет давление и только до определенного момента. ГУР же можно удержать просто руками.
Да и не нужно забывать, что уровни интеграции простого автомата АБС и компьютера с нейросетями отличаются очень сильно. Для реализации АБС достаточно сдвоенного операционного усилителя из десятка транзисторов, выполненного по нормам 100 мкм, а для автопилота?l_o_d
11.05.2018 10:14Слов нет можно удержать. Когда ты готов. Но есть всякие внезапные стечения кучи обстоятельств как вот с этим робомобилем. Убрал одну руку с руля чтобы переключить передачу, второй держишь руль не так крепко и вот оно. Да и ситуация когда машина решила газануть и включить АБС удлинит тормозной путь очень сильно. Это все очень маловероятно, но все же может произойти
HowManyHugoes
09.05.2018 09:26Случится неожиданно у водителя инсульт, инфаркт, приступ нарколепсии — тут уж не только газ с тормозом можно перепутать. А про вероятность встретить водителя, который сам по себе «не очень» в сравнении с такой же для кристалла даже и говорить не хочется.
poznawatel
09.05.2018 07:04+1Автоматика ещё как газ с тормозом путает! На ГТ уже обсуждались проблемы с ПО Тойот, которые внезапно ускорялись в неподходящий момент и улетали с дороги.
JediPhilosopher
09.05.2018 22:26Так тут автоматика даже не нужна. Такое случалось и из-за какой-то хитрой формы коврика, который мог попасть под педаль тормоза и не дать ее нажать. Или если дизельный двигатель идет в разнос — его становится невозможно остановить пока он в стену не влетит.
poznawatel
10.05.2018 05:22Не сертифицированные производителем коврики — зло, которое приходится применять из-за нашей повсеместной грязищи, белковый водитель тянет ручник в такой ситуации. Если дизель пошёл вразнос, нужно просто выжать сцепление и тормоз, хотя, конечно, дурацкая ситуация — пока было механическое управление ТНВД, обрыв управляющей рейки случался реже, чем программный глюк в той же Тойоте, где больше 3 тысяч ошибок нашли.
hatari90
10.05.2018 10:41+1программный глюк в той же Тойоте, где больше 3 тысяч ошибок нашли
Это тот случай, когда они отвечали «да вы просто педали перепутали», когда сигнал педали тормоза блокировался из-за ошибки контроллера?
JediPhilosopher
10.05.2018 12:55Ручник на большой скорости = с высокой скоростью неуправляемый занос и удар боком в какой-нибудь столб. Да и банально тросик может оборваться, т.к. не рассчитан он на большое усилие.
А с дизелем в случае АКПП где сцепления нету, ничего не сделаешь. Разве что сразу в стенку зарулить пока не успел разогнаться.
Можно конечно что-то изобретать типа перехода на пониженные передачи (если такие режимы есть в КПП), тот же ручник, и т.п., но в ситуации стресса на это уйдут лишние секунды, которых в плотном городском трафике может и не быть, и в любом случае это не избавит от ДТП, только лишь возможно сократит его последствия.
nikolayv81
09.05.2018 09:14А с человеком и помощником который 1. Следит за водителем, 2. Тормозит при виде препятствия. Будет ещё лучше. Но продать то хочется замену а не помощника.
LaFleur
10.05.2018 12:52абсолютно и полностью с вами согласен.
но есть одна беда. автопилот создан человеком. тем самым, который отвлекся, устал, заснул, перепутал газ с тормозом и тд. совершенный автопилот от несовершенного человека? только в голивуде. в реальности все это должно пилиться очень-очень долго. и не факт что запилится до идеала
Zmiy666
08.05.2018 18:40+1очень странно, я всегда думал, что система автоторможения при возникновении любого физического объекта на траектории движения автомобиля является одной из базовых и не требует наличия высокой программной обработки. То-есть тормоз включится всегда, как только объект перекроет траекторию движения.
muhaa
08.05.2018 19:13Поэтому все это похоже на простейший баг, типа не обработанного null, без сложных теорий AI. Что признавать не выгодно: люди испугаются. Машина с автопилотом должна восприниматься как дверь лифта, которая всегда открывается обратно, если подставить ногу. Если она будет восприниматься как-то подругому, все будут против таких машин на дорогах.
Nordosten
09.05.2018 15:22Действительно похоже на плохое тестирование от Убера. Несложные алгоритмы при наличии объекта на дороге и лидаре получающем информацию о положении тысячу раз в секунду может вычислить вектор движения и где будет находиться объект.
cyberly
08.05.2018 23:11+1Тоже так думал… Но с другой стороны, там при внедрении вполне могло оказаться, что простая логика в реальности работает не так, как хотелось бы. Ну, например, оказалось, что надо отфильтровывать летящие поперек дороги опавшие листья, чтобы не тормозить в пол каждые 50 метров. Или же, что нужно учитывать траекторию движения, чтобы при достаточно крутом повороте эта система не срабатывала, увидев отбойник, который при этом окажется как бы перед автомобилем.
numitus2
09.05.2018 00:57Ага. С второстепенной дороги выезжает автомобиль и поворачивает налево, он пересечет траекторию вашей машины всего на секунду, и тормоз должен жать в пол?
Zmiy666
09.05.2018 02:03эм… ну например еду я по шоссе 90 км в час и за 200м на перекресток с грутовки выкатывается камаз и собирается переехать шоссе. — естественно любой водитель начнет сбавлять скорость. Пусть он умом понимает, что камаз сейчас уедет дальше и тд, но мало ли какая херь с ним может случится, поэтому лучше снижать скорость в таком темпе, чтоб остановится до контакта с препятствием, а как оно уедет — можно и снова разогнаться.
Любой водитель, увидевший какое-либо препятствие на дороге или перестроится на свободную полосу, или начнет тормозить. Неважно, какие у препятствия характеристики. А уж плавно или резко, зависит только от расстояния до препятствия и скорости ТС.numitus2
09.05.2018 02:52Сбавлять это не значит что вы сможете остановиться если он заглохнет. Зачастую машина может проехать быстрее чем я успею среагировать.
Ckpyt
09.05.2018 12:35Мой первый день за рулем запомнился мне на всю жизнь. Еду я значит с инструктором по городу, 45км.ч. и тут внезапно на МОЙ зеленый сбоку вылетает фура и начинает ТОРМОЗИТЬ. Его поцеловали все три ряда. Открываем дверь, а оттуда такая пьянь вываливается… Менты приехали, а он песни орет.
Понимаешь, дочь родилась, в дороге начал отмечать…
antonksa
08.05.2018 19:16-3Весело конечно, что семья женщины предпочла продать ее труп Уберу, чем посадить уродов, включая курицу, которая тупила за рулем и обсуждала какую-то пое… нь по вацапу.
Ну и автопилот, который не тормозит в случае появления на пути препятствий?.. Жаль что это была велосипедистка, а не прицеп какой-нибудь выкатившийся, тогда бы пострадали те, кто должен был а не посторонние.nomadmoon
08.05.2018 19:33+1Велосипедистка была бездомной, сомневаюсь что родственники питали к ней теплые чувства.
StSav012
08.05.2018 19:22Может ли статься так, что контуры человека с велосипедом и качающимся шлемом на руле более размытые на уровне капота, чем отдельно человека, велосипеда и велосипедиста? Например, система плохо натренирована на них. Днём она их распознаёт хорошо с камер, а с лидара ночью — не очень надёжно. Тогда для такой системы это будет то же самое размытое пятно, как и пакет. И, что хуже, из-за этого может быть сложно определить скорость движения человека с велосипедом и её направление.
1Fedor
08.05.2018 19:37+1То что вина автопилота или водителя — не вызывает сомнений.
Вина водителя: сложные дорожные условия, условия ограниченной видимости. Автомобиль необходимо вести скоростью позволяющей остановить транспортное средство перед препятствием появившимся в свете фар ближнего света. Водитель обязан был видеть, что скорость для данных условий превышается(56 км/час).
Вина автопилота: примерно на 7-ой секунде отчетливо видно препятствие на полосе, никаких мер к ээкстренному торможению не предпринимается, на 9-ой секунде наезд на пешехода. Даже если бы 1 секунду производилось торможение, вероятно пешеход был бы жив. Замедление для машин с дисковыми тормозами на асфальте не менее 10м/с2, скорость снизится с 15 м/с (56 км/ч) до 5 м/с2 (9км/час), а учитывая время дополнительное при замедлении, то и больше. Возможно пешеход покинул бы опасную зону.
Или я неправ?gohan
08.05.2018 23:14То что вина автопилота или водителя — не вызывает сомнений.
Сбитая женщина переходила в неположенном месте. Конечно, водитель всё равно должен смотреть, но без таких вот переходящих где попало безопасность на дорогах была бы выше. Например, элементарно можно выскочить перед быстрым потоком так, что даже самый внимательный водитель окажется перед выбором — сбить нарушившего пешехода, или устроить массовую аварию из-за резкого торможения, либо поворота.Stalker_RED
09.05.2018 16:28окажется перед выбором
Выбрасывайте свои права и идите сдавать повторно. По ПДД водитель нажимает тормоз, а не сбивает пешехода по свому выбору и не поворачивает.
И если сзади кто-то влетит — это его вина, бзв.
Nordosten
09.05.2018 22:36сбить нарушившего пешехода, или устроить массовую аварию из-за резкого торможения, либо поворота
А что в 100% случаев на дороге за вами будет строй машин? И дистанцию надо соблюдать.
teifo
09.05.2018 01:45Автомобиль необходимо вести скоростью позволяющей остановить транспортное средство перед препятствием появившимся в свете фар ближнего света.
Это ПДД? И по своему опыту и по опыту других людей это очень маловероятно, что будут так делать. У нас пьяных не могут победить, а тут надо заставить ездить в сумерках и темное время суток не более 20-30 км в час. Даже сложно представить как этого добиться, чтобы радикально не снизить количество машин на дорогах. Что-то типа спец. разрешений для нахождения на дорогах. Но в таком случае трафика так мало будет, что роботы будут не нужны.barbanel
09.05.2018 12:21надо заставить ездить в сумерках и темное время суток не более 20-30 км в час.
Очень просто. Поставить знаки и фиксаторы скорости. Если это начнет спасать жизни даже ценой ярости некоторых водителей — цель достигнута.
PS Работаю в маленьком городке в Германии, путь от дома до офиса проходит через через несколько улиц с ограничением в 20! км и 30 км (могу предоставить пруфы если нужно) и на этих участках никто не превышает (ну ок, никто = 99% водителей).braineater
10.05.2018 12:00+1И зачем тогда машина нужна? 20-30 км/ч это скорость велосипеда. И никаких налогов. И никакого бензина. Такие ограничения это издевательство и глупость. В итоге машины все равно есть, что, во первых, дает некоторый выхлоп которым дышат пешеходы, а во вторых этим пешеходам мешает. Но при этом скорость настолько смешная что в автомобиле и смысла то особо уже нет. В таких случаях логичнее делать велопешеходные зоны.
ainoneko
10.05.2018 07:27Замедление для машин с дисковыми тормозами на асфальте не менее 10м/с2
То есть, одно «же» и больше? Как они достигают коэффициента трения больше единицы? (Антикрыло и якоря с гвоздями?)cyberly
10.05.2018 07:47При торможении загружается передняя ось. Масса остается той же, а вот сила прижатия колес к асфальту — растет.
ainoneko
10.05.2018 08:44При торможении загружается передняя ось.
(1) На чём основано это утверждение?
(2) Как это может улучшить торможение всего автомобиля до 1g+?cyberly
10.05.2018 09:261. Да хотя бы на практическом опыте. Или, например, на обжатии передних стоек при торможении.
2. Тем, что максимально возможная сила, которая будет тормозить автомобиль, равна коэффициенту трения, умноженному на силу, с которой колеса давят на асфальт. Увеличивая силу давления, можно сделать ее больше веса автомобиля и получить ускорение больше 1g.
Cast_iron
10.05.2018 10:15Инерция. При разгоне загружается задняя ось, при торможении — передняя, при повороте — сторона противоположная направлению поворота.
inferrna
08.05.2018 20:05+1Можно так:
1. Сигналим всем «пакетам» и «солнечным зайчикам» на пути.
2. Если реагируют — значит живые, пытаемся объехать.
Ещё вариант — отслеживать подозрительные объекты на далёком расстоянии, заранее предвидя, например, что это велосипедист, вдруг решивший перебежать дорогу, а не внезапно нарисовавшийся пакет.
Эти оба варианта можно даже очень эффективно отладить, используя непосредственно авторов кода в качестве манекенов, внезапно переходящих дорогу в тёмное время суток.Evir
09.05.2018 04:11+4Во-первых, по ПДД (нашим, по крайней мере; как у них — не знаю) нельзя сигналить, за исключением случаев, когда это нужно для избежания аварийной ситуации. Сигналить нужно будет минимум секунд за пять (живое должно успеть среагировать, система должна среагировать на реакцию живого, затем машина должна успеть затормозить до столкновения); сомневаюсь, что такая система в итоге в ПДД будет укладываться хоть как-то.
Во-вторых, если побибикать пакету в то время, когда поменяется ветер — может показаться, что он среагировал (например, он «начнёт перелетать дорогу быстрее», или развернётся, или «застынет перед машиной от недоумения или страха»). В общем, пакет якобы будет живой.
uhf
08.05.2018 20:22Отговорки какие-то. Как можно было не распознать идеально узнаваемые силуэты — велосипед и человека в профиль, на идеально ровной дороге, при отсутствии других участников движения, ветра, дождя, снега, и любых других помех?
Или у них лидар слепой, или программист индус, но скорее всего, и то и другое.ploop
08.05.2018 21:10Как можно было не распознать <...>
Собственно, об этом и пост — всё было точно распознано, но проигнорировано. Почему — другой вопрос, потому и говорится, что косяк в «высокоуровневой системе логики». Кстати, с обычными водителями тоже бывает, не раз приходилось слышать что-то подобное:
— Ты что, меня не видел?
— Видел, хорошо видел
— Что же не притормозил?
— Хз, затупил что-то…uhf
08.05.2018 21:32всё было точно распознано, но проигнорировано
Я не очень доверяю такому объяснению. Даже если это и правда, тот факт, что в логике автопилота есть «игнорирование ложноположительных срабатываний», говорит о том, что ложноположительные срабатывания вообще бывают, а значит, распознавание класса препятствий очень неуверенное — не узнали велосипед и человека, а «увидели какой-то предмет на пути, но это не точно».
Потому что в жизни у водителя не бывает кейсов «вижу на дороге препятствие, но можно ехать, не снижая скорости». Летящий пакет, или солнечный зайчик, как пишут выше, на велосипед и пешехода ну ни разу не похожи, да и по размерам сильно отличаются.ploop
08.05.2018 21:47Как я понял, тут было что-то из ряда «предмет опознан, но не мешает проезду». Например, находится не на траектории движения (в этом примере будет ошибка в местоположении объекта, а не в распознавании).
Или ещё банальнее — баг, когда который при некотором стечении логических условий просто не подаст никакого управляющего сигнала.
LeonidI
08.05.2018 22:47У водителя кейсы с плохо распознанными препятствиями очень даже бывают. Едешь зимой с работы — темно, возле пешеходного перехода растут деревья. Подъезжая — присматриваешься, если есть ощущение движения какой-то тени между деревьев, то притормаживаешь. Когда осознаешь что «да вроде нет ничего» — опять нажимаешь на газ. А есть там пешеход, или нет, или он замер там в черной курточке и джинсах — это уж как повезет. От внимательности водителя сильно зависит.
И это не говоря о прочих препятствиях — пакетах, ямах, раздавленных котах, деталях подвески и чем угодно, неизвестно как оказавшемся на дорогах. Водитель решает эти ребусы с некоторой вероятностью.uhf
09.05.2018 07:21Допустим, тогда каким образом пешеход и велосипед в идеальных условиях (лидар же видит в темноте) были отнесены к плохо распознанным препятствиям?
И лично я всегда сбрасываю скорость при затруднениях с классификацией препятствия. Предварительно посмотрев в зеркало заднего вида.
wataru
09.05.2018 18:07всё было точно распознано, но проигнорировано.
Тут вся новость вида "ученый изнасиловал журналиста". Кто хоть раз работал с классификаторами и машинным обучением, кучу раз видел такую конструкцию: классификатор выдает какой-то сигнал — совсем грубо говоря — вероятность, что он видит объект. Для решения есть ли объект или нет, эту вероятность сравнивают с каким-то заранее выбранным числом. Если это число очень маленькое, то будет куча ложноположительных, если число большое — ложноотрицательных. Идеальных классификаторов для сколько-нибудь нетривиальных задач нет. Всегда можно подобрать входные данные на границе.
Классификатор убера выдал некоторое число, меньшее границы принятия решения. Это значит только то, что классификатор недостаточно точный.
Cast_iron
08.05.2018 21:26Мне одному первая версия кажется бредом?
Неисправность в системе распознавания объектов, которая не смогла классифицировать женщину и её велосипед как пешехода. Но такой вариант кажется маловероятным, потому что велосипеды и люди принадлежат к тем классам объектов, которые система должна распознавать лучше всего.
События не было, потому что его не должно было быть?
Т.е. в причине так и не разобрались (что «увидела» машина)...?allter
09.05.2018 00:42Версия нормальная — вспомним историю, когда автопилот Гугла воспринял велосипедиста в сюрплясе как пешехода с велосипедом. Сколько таких ложных срабатываний программистам пришлось отфильтровать, что бы машина, вообще, поехала, несмотря на снег или листопад?
А по поводу причин — уже была статья, где автор сетовал о проблеме того, что нейросети не могут объяснить принятые ими решения.
BSW
08.05.2018 22:41Правила работы с электричеством написаны кровью электриков.
Инструкции по разминированию написаны кровью саперов.
Логика работы автопилота будет обильно полита кровью пешеходов…Old_Chroft
09.05.2018 01:00Логика работы автопилота будет обильно полита кровью пешеходов
А Вас не смущает то обстоятельство, что простые правила дорожного движения дляискусственного интеллектабиологических идиотов тоже политы кровью? Не помню где читал, что первые ПДД обязывали ездить что то вроде не более 4 км/ч, и впереди еще должен идти сигнальщик с флагом. Ибо автомобиль был в диковинку, а «непуганых идиотов» хватало всегда и везде. Сейчас в диковинку беспилотные авто, и взаимодействовать с ними мы еще не научились. Хотя в любом случае — переходить дорогу ночью около города Темпе (штат Аризона) (да и около любого другого города) в темное время суток — не самая хорошая идея.
ALexhha
09.05.2018 07:03+1Мне вот интересно — а кто является ответственным в такой ситуации? Допустим, автопилот сбил насмерть человека/группу людей. Комиссия доказала, что вина автопилота, не важно баг это или что то иное. Кто в таком случае должен нести криминальную ответственность? Фирма разработчик по/программист, тестировщик или сервис, который использует автопилотов?
imanushin
09.05.2018 11:58+2ALexhha, вы еще раз подсветили пока еще не решенную, однако фундаментальную проблему автопилотов в машинах — отсутствие ощутимой ответственности.
Живой водитель может ехать агрессивно, может затупить, чихнуть, однако почти всегда сохраняются правила:
- Человек не хочет умирать
- Человек не хочет сесть/получить штраф за свои действия
Ну то есть резкий поворот или перестроение совершается только тогда, когда человек думает, что всё будет хорошо. Да, он ошибается. Однако в большинстве случаев у человека есть стопор.
У менеджера среднего звена в отделе разработки такого нет. У него нет желания сохранять жизнь ни водителю, ни пассажиру, ни пешеходу. Он не будет отвечать за убийство. Однако у него есть обещания перед начальством, личные амбиции и зачастую непонимание всей системы в целом. Помрет или нет водитель еще неизвестно, а вот алгоритм выдачи квартальных премий четко обозначен.
Факты ваше приводят нас к главному: в нынешней ситуации автопилоты будут убивать в том числе и потому, что всем было плевать на качество, на проверку и тестирование. Однако компании будут разводить маркетинговую полемику (причина — см. комментарий от muhaa выше).
Как исправить эту проблему? Только законодательно. Я вижу, например, то же решение, как и с медицинскими приборами: жесткая сертификация, тестирование и страхование. Возможно, достаточно лишь последнего (страховые компании сами найдут способ).
killik
09.05.2018 16:39Я даже не вижу, что тут ужесточать — тут наоборот надо. Боты уже водят лучше мяса. А вот возможностей в законе меньше не пущать нету. Есть только больше налогов, сборов, пошлин, и акцизов.
balamutang
10.05.2018 11:44лучше мяса они водят в сферическом вакууме и виртуальной реальности, а в реальной жизни они даже на ровных дорогах США умудряются терять разметку и не видеть грузовиков на фоне неба. Что будет когда они приедут в условный Саратов даже представить трудно. Маршрут в сервис по ремонту подвески скорее всего будет добавлен в «Избранные» :)
braineater
10.05.2018 12:08Полагаю что расположение ям они будут запоминать тоже лучше мяса. Для маленького города задача помнить основные ямы на дорогах выполнима, а вот для миллионников я смутно себе это представляю. И поделиться смогут, опять таки.
balamutang
10.05.2018 15:17ну это вы себе представляете свои желания, а есть ли такой кейс как обработка ухабов в автопилотах — неизвестно (публикуется ли где-то todo list для автопилотов?).
вполне может случиться так что разработчики даже мысли допустить себе не могут что яму не заделают за 2 недели и поэтому считают что смысла запоминать ее координаты нет.braineater
10.05.2018 15:54Ну нет, мое желание все таки чтобы ям не было (особенно с учетом конских транспортных налогов), но реальность такова что приходится запоминать. При достаточном распространении автопилотов в России наверняка появятся соответствующие прошивки.
cyberly
10.05.2018 17:28>> а вот для миллионников я смутно себе это представляю
Зато некоторые ямы имеют аккаунт в Twitter
balamutang
10.05.2018 11:34не факт что это исправит проблему. допустим на случай бага в автопилоте заложен страховой фонд 30 миллионов долларов (и соответственно каждый из владельцев беспилотного авто платит в год 1000$ страховки)
в год автопилот давит 20 человек, родственникам выплачивают 1 миллион $ и заминают дело. (цифры с потолка, не в них суть)
при таком балансе корпорациям нет никакого стимула что-то радикально менять, ведь и так баланс сходится.
собственно подобные случаи уже бывали, когда крупным производителям авто было проще выплатить семьям жертв компенсацию нежели делать отзыв сотен тысяч авто всей модели с редким критическим багом (навскидку вспоминается тойота с заклинивающей педалью газа, причем кроме всего прочего баг еще старательно заминался в стадии экспертизы и даже потом в СМИ).braineater
10.05.2018 12:17Такое и в авиации случается, которая зарегулирована донельзя и люди боятся самолетов больше чем автомобилей вопреки статистике. Например случай с DC-10.
Although many carriers voluntarily modified the cargo doors, no airworthiness directive was issued to require reworking of the locking system, due to a gentlemen's agreement between the heads of the FAA, John H. Shaffer, and McDonnell Douglas, Jackson McGowen. McDonnell Douglas did make modifications to the cargo door, but the basic design remained unchanged and problems persisted.
Джентельменское соглашение, ага.
Sonatix
10.05.2018 12:03Наоборот вся прелесть автопилота что у него нет никаких предпочтений, что в логике прописали соответственно и действует, и не важно какое у него сегодня настроение или чего он боится.
gasizdat
09.05.2018 10:01+1Стало известно, почему автопилот Uber не затормозил перед пешеходом
можно предположить два варианта
мы не можем комментировать специфику инцидента
alizar прошел преподготовку на курсах, где учат как из кликбейта, говна и домыслов создать статью, набирающую плюсы на гике. Отличная иллюстрация к вопросу о качестве статей на гике, спустя пару лет после разделения.LaFleur
10.05.2018 12:59нам с вами кажется это деградацией. но ведь мы не знаем целей. вдруг это и было целью? главное что есть плюсы и поток
super-guest
09.05.2018 13:28А мне одному кажется, что машина взяла правее непосредственно перед ударом сильнее, чем если бы просто входила в поворот?
serlys
09.05.2018 14:13Это лищь одна авария, а от авто управляемых людбми гибнут милионы ежегодно. Надо всеми силами способствовать выходу автопилотов на улицы городов и стран.
з.ы. конечно нельзя пускать автопилот от Васи на улицу без водителя, каждый автопилот выпущенный на улицу должен сдать слегка услоднённый тест на права.
C_21
09.05.2018 14:37Около двадцати лет я уже велосипедист. По тротуарам ездить не всегда удобно, очень сильно мешают пешеходы, то ребенок норовит под колеса прыгнуть, то мамаша с коляской начинает странные маневры совершать. Предпочитаю проезжую часть, так скорость можно набрать в разы выше чем на тротуаре и меньше вероятность того, что кто то выскочит под колеса. По моему личному опыту такой езды по дорогам, могу сказать что примерно процентов 50 водителей не признают велосипед за участника движения. Очень много разных нарушений от мелких до лишения прав.
Автопилот сейчас не идеален, но он по крайней мере сознательно не идет на нарушение прав ПДД и сдается мне, что даже такой кривой автопилот в процентном соотношении будет меньше давить людей, чем живые водители.killik
09.05.2018 16:43+1По тротуарам ездить не всегда удобно, очень сильно мешают пешеходы,
Чота ржу с такого подхода.
littorio
10.05.2018 02:32Что здесь смешного? Скорости велосипедиста и пешехода сильно отличаются, велосипед сильно уступает в маневренности. Недаром в Европе везде строят велодорожки. И на них не место уже пешеходам.
Glays
10.05.2018 10:4024.6. Если движение велосипедиста по тротуару, пешеходной дорожке, обочине или в пределах пешеходных зон подвергает опасности или создает помехи для движения иных лиц, велосипедист должен спешиться и руководствоваться требованиями, предусмотренными настоящими Правилами для движения пешеходов.
Прочитайте правила дорожного движения.
Использовать тротуар велосипедист старше 14 лет может, только если перевозит ребёнка меньше 7 лет или в случае невозможности проехать по правому краю проезжей части.cyberly
10.05.2018 10:47Ну, по факту, в России «не хочу» и «боюсь» — достаточные обоснования для «невозможности проехать по правому краю проезжей части»
unel
10.05.2018 13:24или в случае невозможности проехать по правому краю проезжей части.
Пункт, встречающийся достаточно часто на наших дорогах (припаркованные машины или просто машины на аварийках), плюс его весьма широко можно трактовать
C_21
11.05.2018 03:22Тут не ржать, а плакать надо от того, что людям не создают нормальные условия для езды на велосипеде. Езда на велосипеде это здоровье, экономия и экологически чистый транспорт, но мы будем ржать с нахального велосипедиста которому мешаю пешеходы.
nomadmoon
09.05.2018 19:29Сэр, вы не пробовали ездить по тротуарам медленнее 15 км/ч?
JediPhilosopher
09.05.2018 22:35Скорость пешехода все равно ниже скорости велосипедиста. А делать широкие тротуары у нас не любят даже там где это казалось бы нужно и можно (большой трафик + куча свободного места). В итоге постоянно приходится маневрировать, тащиться за пешеходами, тормозить-разгоняться и т.п.
А ездить по нашим дорогам вместе с автомобилями — надо на мой взгляд самоубийцей быть (и время от времени на нашем Петргофском шоссе, дороге со скоростным активным движением, я таких самоубийц наблюдаю упакованных в черные пакеты)littorio
11.05.2018 00:03Широкие тротуары не выход — пешеходы ненавидят ходить упорядоченно, и занимают любой, даже самый широкий тротуар. Большие группы будут идти шеренгами, маленькие и отдельные пешеходами — уступами/в шахматном порядке, и т.п.
Только велодорожки, причём отделённые желательно не разметкой (на неё пешеходам всегда наплевать), а бордюром или газоном.
cyberly
09.05.2018 20:44А вы автомобиль не водите? Лично я заметил, что после того, как стал водить машину, уровень «непризнания» очень заметно снизился. Думаю, манера езды на велосипеде несколько поменялась. Ну и еще, я стал лучше понимать, в каких случаях и по какой траектории я смогу ехать по дороге, никому не мешая, а в каких — предпочтительнее тротуар.
teifo
10.05.2018 12:30Если примут закон или поправку на сужение полос, то веселья велосипедистам и мотоциклистам это еще больше добавит. Так что все еще впереди.
alcanoid
10.05.2018 17:15Справедливости ради, стоит отметить тот факт, что многие велосипедисты как на дороге, так и на тротуаре также ведут себя довольно безответственно и неосторожно, нарушают ПДД — а у них даже права не отберёшь.
(Это не предвзятость, я участвую в движении во всех трёх перечисленных ипостасях: как пешеход, как велосипедист и как водитель.)
msatersam11
09.05.2018 15:06А какая разница, «ложно-положительное» или нет?
-Речь о том, что, т.н «ИИ» не среагировал на препятствие, непосредственно преграждающее ему путь.
Не могут подобное обработать? Так пускай датчики приближения нацепляют( как на тех барахлящих китайских игрушках ), на основе данных от которых, авто будет стремиться объехать препятствие, а не ехать на него.
Вроде бы, и на мусорные баки автомобилю внимание можно не обращать, но, если он будет стоять посреди дороги, тот кончится это, в лучшем случае, разгромленным баком и машиной.
Равно как и с чем угодно другим.
На самом деле, даже не ожидал такой эпичной тупости от полномасштабных испытаний на реальных дорогах с реальными людьми — это ведь уровень внутренних испытаний( если вообще не на эмуляторе с подачей записанных «видосиков» реальных поездок на вход камеры и отслеживание корректности реагирования… реагирования на препятствия при езде )
А что будет, когда господа начнут тестировать «реальный супер-ИИ»… или, привет, скайнет :)
Mox
09.05.2018 18:39Я смотрел тот видос — я бы точно также не успел бы среагировать, хотя я бы сбавил в том месте скорость.
fukkit
09.05.2018 19:33Вы бы за это сели, а другим, узнавшим, было бы неповадно в таких случаях расслабляться. Здесь ответственность не понесет никто. Денежная компенсация для Убера, что слону дробина.
WraithOW
10.05.2018 17:57Посмотрите остальные видео с этого места, например, вот это https://www.youtube.com/watch?v=1XOVxSCG8u0. На ролике из поста явно зарезан динамический диапазон, в реальности это место гораздо светлее.
fukkit
09.05.2018 19:03Имхо, нельзя эти сырые поделия на дороги с живыми людьми выпускать.
Многие инфантилы тут с умным видом поддерживают типа технический прогресс, во чтобы то ни стало, не представляя себя на месте его жертвы.
Ребята, взрослейте быстрее.Abiron
11.05.2018 08:17Например, признак взрослости — не ходить ночью с велосипедом по дороге смотря себе под ноги...
Diordna
10.05.2018 00:44ошибка в данном случае произошла в «мозге» оператора, кстати сколько ей дали за ДТП?
mytsyk
10.05.2018 08:33То самое видео аварии появилось почти сразу после инцидента. Чб картинка очень тёмная, однозначно дающая понять что человек не успел бы среагировать. Но это — не человек. Где поинтклауды с лидара, картинка с ИК камер(ы), ведь у автопилота было гораздо больше данных чем эти видео с регистратора. Хотя с репутационой точки зрения слив того видоса — вин.
qwabez
10.05.2018 15:23А зачем автомобили с АСУ на обыкновенной дороге? Это тоже самое, что на одном сборочном конвейере поставить на одной и той же операции и людей, и манипуляторы с АСУ. Зачем смешивать? Есть сборочные конвейеры с ручным трудом для каких-то операций, есть с роботизированным. Всего лишь для автомобилей с АСУ надо либо специализированные дорожные сети, либо вообще переводить железные дороги на локомотивы с АСУ.
qwabez
10.05.2018 23:29У меня вопрос как такою поделку выпустили на дороги общего пользования? Какой вообще юридический статус этого автомобиля? По правилам к управлению ТС допускаются люди, достигшие 14 (15,16,17,18) летнего возраста, сдавшие экзамен и прошедшие медицинскую комиссию, в том числе и психиатра. Кому сдавал экзамен автопилот, как его освидетельствовал на адекватность психиатр и как установили его возраст, как установили, что АСУ может нести ответственность за свои действия? На заводе виноват фактически тот, кто, грубо говоря, нажал кнопку, независимо от сложности механизма и его ПО. Де-юре это дорожное препятствие, подобно случайно покатившемуся автомобилю с неисправным стояночным тормозом или обученным цирковым медведем за рулем, случайно попавшим на автостраду. Как это вообще произошло, что мэр разрешил ставить опыты над горожанами и санкционировал допуск неуправляемого автомобиля на дорогу? Американцы должны требовать отставки мэра этого города и губернатора штата.
Areso
11.05.2018 10:06Мэр, между прочим, заинтересован в процветании всего города. Ну или большей его части.
А потому отпугивать из города компанию, которая сорит деньгами [инвесторов], это глупо. Поэтому в развитых странах города и области(штаты) соревнуются друг с другом, кто сможет привлечь более жирного якорного налогоплательщика. Некоторые города специально правят налоговую нагрузку или законы, чтобы привлечь тот или иной бизнес.
glycol
Очень странно. Мне кажется, при обнаружении любого плюс-минус крупного препятствия на пути следования, автопилот обязан как минимум затормозить, а не лететь вперёд на полном ходу. Без включения "логики высокого уровня". Лидар засёк препятствие на пути- тормозим.
NewStahl
Ну вылетел на дорогу полиэтиленовый пакет, бывает. Выглядит большим и грозным, но не стоит ради него ставить раком всю дорогу.
Всё сложно. Будь всё просто — давно бы уже сделали.
glycol
Ну лучше в 1% случаев понапрасну затормозить перед пакетом, чем в 1% случаев не затормозить перед пешеходом. Да и все-таки пакет значительно меньше человека с велосипедом.
balamutang
затормозив перед пакетом или солнечным зайчиком мы можем на ровном месте спровоцировать аварию, уйдя в занос или просто собрав сзади «паровозик» из других машин.
к сожалению приходиться констатировать что обычные дороги не подходят для автоматического транспорта, цена обучения ИИ автопилота — жизни людей.
В идеале транспорт должен уйти под землю, где в уютных тоннелях никто не выбежит на дорогу, нет перекрестков со светофорами и можно двигаться с максимальной скоростью все время.
nomadmoon
Ну вот почему люди считают что система которая может:
а) определить возможную необходимость торможения и подать сигнал следующим водителям (зажечь стопари) намного быстрее чем человек
б) определить дальность до препятствия и вектор его движения и рассчитать необходимое ускорение торможения
в) мгновенно определить наличие транспортных средств сзади и дистанцию до них
будет при каждом удобном случае тормозить в пол?
P.S. Транспорт под землю это очень круто, но обслуживание тоннелей это очень дорого.
allter
Проблема не в том, что роботы этого не могут.
Проблема в том, что общество не договорилось о конкретном решении «проблемы вагонетки» — и, соответственно, нет ТЗ проектирования/обучения автопилота.
К слову, в правилах чётко написано, что в (почти) любой непонятной ситуации надо тормозить, если надо — экстренным торможением. Но на практике многие ДТП избегаются (или уменьшается их последствия) другими манёврами (хотя на ютюбе очень много иллюстраций, того, что нужно именно «умирать в своей полосе»)… И вот, если человек-водитель может отклониться от правил, то как обучить этому робота, если это прямо противоречит закону?
stalinets
«Паровозик» будет сам виноват. Нужно держать дистанцию.
Dvlbug
Как и эта велосипедистка, прямо нарушившая кучу правил: запрещающий знак перехода, не смотря по сторонам, без светоотражающих элементов.
Но тут резко стал «виноват» Uber, сперва заключивший досудебное соглашение с семьей, потом (возможно) Коммисией по расследованию.
nikolayv81
Какие светоотражатели? Интересно если убер по результатам проверки опубликует что МО данным сенсоров объект был виден за километр а задавили из-за подписания вы будете продолжать утверждать что сама виновата? В следующий раз будет стоящая по правилам машина с аварийкой и знаком а робот впечатается на полной скорости, только потому что любое дело можно замять деньгами(что убер и сделал).
Firz
Они замяли претензию родственников к уберу(точнее они просто сразу им дали то, что они бы и требовали), но так уже не замять претензию погибшей(чьи интересы будет представлять прокуратура) к уберу.
OnYourLips
В этом случае погибшей Убер ничего не должен — мертвец не может иметь материальных претензий.
А для нематериальных со стороны государства нужно, чтобы она была не виновна в ДТП, а это не так.
Более того, авто в США не является источником повышенной опасности (иначе родственники могли бы требовать деньги даже в случае вины погибшей, как принято в России и Европе), а родственникам просто дали денег, чтобы они не поднимали шумиху.
Seregaalex
То есть предполагаете, что сначала подписали соглашение, а потом задавили? Застрахуй братуху©
allter
И что, если она ошиблась, её нужно осознанно и целенаправленно мочить (отказываясь тормозить)?.. Я думаю, если человек-водитель сядет на
КамазCaterpillar, начнёт наматывать круги по городу и будет отказываться тормозить перед зазевавшимися перебегающими пешеходами, то его моментально посадят за умышленное убийство. А чем ситуация Uber от этой отличается?FirExpl
Я более чем уверен, что в ПДД США есть подобный пункт, возможно с незначительными различиями. Понимаете, никто не пытается сказать, что Убер имел право не тормозить и убивать нарушающих ПДД человеков. Тут фишка в том, что в ситуации когда нарушают оба, страдать будет именно пешеход, а потому именно он наиболее сильно заинтересован в соблюдении ПДД.
«Пешеход! Умирая на пешеходном переходе ПОМНИ: Ты был прав!» (с)
Politura
Как минимум в Калифорнии, в любой ситуации пешеход будет всегда прав, ему водители даже сигналить права не имеют. Хотя, конечно-же, подавляющее большинство пешеходов соблюдают правила, но бывает, когда кто-нибудь вылазит на дорогу и прет даже не смотря по сторонам, или молодняк катит по среди проезжей части на скейте.
vsapronov
Так не только в Калифорнии, но и во всех штатах: в ситуации, когда нарушают оба, пешеход будет прав. Штаты, такие штаты....
FirExpl
Да поймите же, пешеход может быть бесконечно прав, но какой в этом толк, если именно его тушку сейчас везут в морг, а водитель просто хлопает глазами с видом «а что это сейчас было»?
Цель ПДД в первую очередь — сохранение жизней и здоровья. Выяснение кто прав, а кто виноват — это уже вторичная функция.
Нет смысла шагать под несущуюся на огромной скорости машину, даже если для неё горит красный, для вас зелёный, а под вашими ногами разметка пешеходного перехода.
uanet
Толк — финансовый для родственников пешехода. А из наших ПДД я понял, что водитель имеет полное право давить на газ, видя старушку на 4+-полосной дороге с двойной осевой не на переходе. Поэтому бегать через проспект на 6-8 полос мне в голову не приходит. Кстати, в Китае выгоднее «додавить», если с первой попытки не получилось, а то пожизненно содержать калеку — дорого.
Cast_iron
А есть еще ПДД 10.1.
Нарушение ПДД — административная и уголовная ответственность при наличии вины.
Повреждения нанесенные ТС — гражданская ответственность — владелец ТС виновен всегда.
vilky
Интересно, почему грабители и насильники не обосновывают свою невиновность рассуждениями: «Поймите, пострадавший мог быть бесконечно прав, но что ему стоило не надевать свободную одежду/ не выходить из дома после 10 вечера/ не ходить по моему району? Что толку говорить, если мы с вами живы, а он валяется изнасилованный, ограбленный и дохлый?» А когда так говорят водители, это воспринимается как нормальный аргумент.
FirExpl
О! Это прямо любимый «аргумент» очень большого количества людей. Его, «аргумента», проблема в том, что он делает акцент на эмоциях, а не на здравый смысл. Ну и классический приём с ложной аналогией. Ведь это так адекватно сравнивать водителей с грабителями и насильниками.
Я выше привёл выдержку из ПДД, в которой чёрным по белому написано, что обеспечение безопасности пешехода — это прямая обязанность пешехода. Не водителя, не дяди Стёпы, и даже не того регулировщика в погонах на перекрёстке который вместо прописанных в ПДД жестов крутит полосатой палкой на верёвке. Но если водитель таки нанёс вред здоровью или жизни человека, он несёт за это ответственность в 99% случаев, кроме ситуаций когда он «не имел физической возможности предотвратить ситуацию» (читать как «пешеход бросился под колёса»), а это ещё доказать надо.
Ну и да, если вы идёте ночью по неосвещённой улице, на которой было 10 ограблений за месяц, и освещаете себе дорогу новеньким айфоном, то вы таки не самый умный человек, пусть грабитель и «не имел права вас грабить».
vilky
В большинстве случаев, пока ты не шагнёшь на дорогу, ни один четырёхколёсный мудак не начнёт тормозить. Сама проверяла: подходила к пешеходному переходу и ждала, пока «переход не будет безопасен». За всё время экспериментов случаев, когда, после ожидания, не пришлось шагать под едущий автомобиль (если они были на дороге), было так мало, что они воспринимались как чудо, а к водителю возникала [в общем-то, не заслуженная им] благодарность.
Cast_iron
Видимо Вас окружают… удаки за рулем, либо Вы на них зацикливаетесь. Потому что я вижу и тех и других.
Если Вы не уважаете человека за рулем, то почему он должен уважать (либо оказывать уважение пропуская на ПП) Вас? Потому что так в ПДД написано или штрафы для него высокие?
QDeathNick
Почему вдруг возник разговор про уважение?
Меня вот раздражают водители, которые ведут себя на дороге не по правилам, а по совести или по уважению. Пропускают в зависимости от пола или расы, или останавливаются и пропускают, когда я стою не на переходе и на сплошной. И пешеходы бывают странные, которые стоят и машут на пешеходном переходе, чтобы проезжал.
Cast_iron
Отношение пешехода к водителям: «ни один четырёхколёсный мудак».
Лично я не выделяю водителей и пешеходов, а только нарушителей, хамов и др.
Пропустить водителя на левый поворот, разворот и выпустить с прилегающей и второстепенной, моргнуть фарами/поворотниками никто не обязан, но пропускают из вежливости, хотя в ПДД (российских) это не регламентировано.
l_o_d
А вы за руль попробуйте сесть. Ситуация прям обратная. Пешеходы прут на дорогу отовсюду откуда только можно и нельзя. Дойти пять метров до пешеходного перехода для них сложно. Причем прут не глядя по сторонам, с колясками и маленькими детьми за ручку. Перекладывают ответственность за свою жизнь на водителя.
principality_of_sealand
В идеале, необходимо полностью запретить выход людей на трассы, сделав его тяжелым нарушением, и сняв любую ответственность с водителей. Таким образом, количество задавленных станет околонулевым.
allter
Верно. И такие системы уже существуют, называются PRT. Путепроводы, которые они используют — не предназначены для движения других транспортных средств и пешеходов. И некоторые из них существуют чуть ли не с 70х годов прошлого века.
littorio
Вот, кстати, про поведение велосипедистки известно крайне мало. Вдруг она подошла к середине дороги, и встала там? Тогда автопилот вполне резонно воспринял её как стоящего на обочине пешехода, и не стал снижать скорость.
А если потом, например, не оценив дистанцию, она резко пошла вперёд (классическое «бросилась под колёса»), то тут уже автопилот должен править законы физики, инерцию
транклюкироватьуменьшать.LuckyLy
Тут автопилот всё равно должен хотя бы попытаться отреагировать экстренным торможением на внезапно начавшееся движение крупного объекта, распознанного как велосипед и/или пешеход, в текущей полосе движения. Никто не говорит, что автопилот обязан не совершить дтп, нарушив законы физики, но он обязан сделать всё возможное для минимизации последствий
Cast_iron
В моем понимании, даже если автопилот не смог определить объект на дороге, всё равно надо сконцентрироваться на наблюдении за ним и приготовиться к любым ситуациям, вплоть до экстренной остановки. Адекватные водители же используют правило «не вижу — не еду».
braineater
Много-ли тех адекватных водителей? У многих любимая мантра есть «не ты так в тебя» и «всего предусмотреть невозможно». Это то что я слышу регулярно. И с наступлением весны правило «не вижу — не еду» в моем городе стало выполнять затруднительно, за листвой ничего не видно, приходится вслепую аккуратно «выползать» на перекресток.
Cast_iron
«не вижу — не еду» не стоит воспринимать буквально. вы же сами написали «аккуратно выползать». Я подобное и имел ввиду — соблюдать меры предосторожности, а не ехать с максимально разрешенной на данном участке, не учитывая условия видимости и погодные условия.
braineater
Все таки ключевым моментом моего комментария было то что мало кто из водителей может похвастать адекватностью и желанием учиться. Регулярно на дорогах откровенно глупые вещи делаются, вплоть до совсем упоротого «мы в дождь на лысой резине 190 разгонялись, быстрее страшно» (И это реальная фраза, я не придумал).
Conscience
А в реальности, когда машины станут достаточно умными — под землю уйдут люди.
dernuss
Эх, в идеале бы телепорт…
Cast_iron
А в один прекрасный момент (как у Д. Симмонса в «Песнях Гипериона») его отключат.
dernuss
Нужен такой, чтобы не отключили, децентрализованный.
Memiy
Хммм… Я уже вижу попытки заблокировать телепортацию по подозрению в том, что ей могут пользоваться террористы
dernuss
И наверное знаете в каких странах такое возможно?
Memiy
Есть у меня одно предположение. Но только тсс…
NiTr0_ua
так же как и цена обучения живых водителей. только с той разницей, что одна авария ИИ — обучает все ИИ этого производителя, а одна авария живого водителя — «обучает» только его одного.
не обязательно под землю — можно и наземный, но — на огороженных магистралях с развязками, без перекрестков.
samodum
Транспорт под землю? Разве что только в городах.
Хотя лучше огородить дороги так, как они огорожены на МКАДе и ТТК в Москве, например
roscomtheend
Солнечный зайчик не проблема, первые поколения CitySafety реагировали на облака пара и стопорили машину в пол, потом научили этого избегать.
braineater
Что, в общем-то, ничем не отличается от живых водителей. Там тоже цена обучения зачастую жизни. Только ИИ учится более-менее централизованно, а для человеков обучение каждый раз заново.
Areso
Рыть тоннели довольно дорого. Бетонировать, поддерживать, откачивать воду. Иначе бы в каждом Кукуево был бы метрополитен или сеть подземных дорог.
vsb
Тут надо мерять не в «1%», а в километрах. Помимо прочего автопилот это коммерческий проект, который должен приносить деньги. То бишь потребителю должно быть приятно им пользоваться. Утрирую: если ездить со скорость 2 км/ч, то можно вообще не тормозить, от тебя все сами отойдут :) Но потребителю такая система скорее всего будет не интересна. Потребителю интересна система, которая максимально похожа на то, как водят люди или даже лучше. Если убер будет тормозить каждые двести метров, пугаясь повернувшегося на тротуаре человека, его пассажир будет недоволен и в следующий раз может предпочесть живого водителя.
Мой анекдот: я когда-то интереса ради таксовал. Поскольку я езжу очень аккуратно, некоторые пассажиры выражали недовольство: они привыкли, что таксист нарушает ПДД, подрезает окружающих, пролетает по свободной полосе и вклинивается перед перекрёстком, тем самым всё же увеличивая свою среднюю скорость движения и ожидали подобного от меня.
Человеческая жизнь, как ни печально, стоит определённых денег, когда это рассматривают руководители компаний, и эти деньги будут сравнивать с упущенной выгодой и тд. Вот уже и в статье написано, что в любом случае никто наказан не будет, семье уже заплатили. Честно говоря удивлён, что в США так можно, конечно.
mikeee1
Я так полагаю, что судя по предидущим постам, тетенька перебегала дорогу в неположенном месте. Поэтому уберу и так не грозило уголовное преследование, а вот родственники могли попытать счастья в судах дабы поиметь баблишка, но видимо адвокаты убера таки уговорили их этого не делать и просто взять кэш.
Вероятность успеха родственников была не велика, но мало ли какие подробности могли вскрыться в ходе суда… вот посему адвокаты убера дали денюжку.
vsespb
нет, не лучше. очень быстро вам в зад въедут, и хорошо так въедут. с травмами для вас.
numitus2
Кстати помимо того, сколько ДТП произошло по вине роботомобиля надо считать сколько произошло не по его вине. Может оказаться что манера езды робота провоцирует ДТП. Конечно вы виноваты не будете но мало кому понравится постоянно терять время из за резких торможений заметившего пакет робота.
rub_ak
Пакет не является крупным препятствием, а те которые могут за него сойти не летают ( по крайне мере я больших летающих пакетов не видел), а если и будут летать, то лучше тоже затормозить.
Old_Chroft
SegreyBorovkov
Я как-то принял за пакет слетевший с тентовой газели прозрачный плоский кусок льда размером 40-40-3 см. Кусок льда летел и кувыркался. Прилетел он мне аккурат в лобовик, ибо я не стал тормозить перед «пакетом».
Лобовик — в мелкую крошку, естественно.
Так что летают :-)
saboteur_kiev
А если бы за рулем были вы, и вдруг внезапно на все лобовое стекло вам полиэтиленовый пакет прилетает.
Вы распознаете, или начнете резко тормозить?
killik
Вообще-то стоит.
engine9
У сбитого пешеброда с велосипедом не хватило вычислительных мощностей машину заметить (как и спрогнозировать последствия своей безалаберности), а вы от робота требуете.
killik
Только что дошло, по опыту Ворлд ов Танкс. Если туда-сюда дергаться, навестись на тебя сложно.