image

В США полным ходом идет расследование ДТП с участием робомобиля Uber и велосипедистки. Как уже сообщалось, женщина погибла через некоторое время после того, как ее практически на полном ходу сбил автомобиль с автопилотом от Uber. Это случилось в середине марта текущего года. Расследование аварии ведет Национальный совет по безопасности на транспорте (англ. National Transportation Safety Board, NTSB).

Как оказалось, датчики машины выявили присутствие пешехода на дороге за шесть секунд до столкновения. Но из-за совокупности ряда факторов (темное время суток, темная одежда велосипедистки, переход ею дороги в неположенном месте и т.п.) программная платформа робомобиля никак не могла определиться с тем, что именно находится впереди. В конце концов компьютер сформировал «мнение», что впереди — неопределенное препятствие, которое можно игнорировать.

Оператор робомобиля тоже среагировала, но произошло это слишком поздно — примерно за секунду до столкновения. Автомобиль, который ехал со скоростью в 70 км/ч, просто не успел остановиться. На видео, где зафиксировано поведение оператора, видно, что женщина за рулем не обращает никакого внимания на происходящее на дороге. Она смотрит куда-то вниз, после чего обращает внимание на дорогу и спохватывается, когда уже слишком поздно.

По словам полиции, голова оператора была опущена в течение 5,3 секунд. Сотрудники правоохранительных органов, не поверив в слова женщины о том, что она следила за показаниями приборов, решили проверить все самостоятельно. Каким-то образом им пришла идея проверить активность аккаунта оператора на Hulu, сервисе трансляции различных ТВ-шоу и сериалов. Как оказалось, в ночь столкновения женщина смотрела шоу «Голос» в течение 42 минут. Просмотр был завершен лишь в 21:59, что коррелирует со временем столкновения.

Представители компании Uber пока никак не комментируют отчет полиции. Известно, что компания запрещает водителям своих робомобилей использовать в дороге мобильные устройства. Операторам говорят, что в случае нарушения этого правила их могут уволить. Запрет был сформирован именно по причине опасения, что водители будут отвлекаться. Робомобили во многих случаях работают весьма неплохо, «уверенно чувствуя» дорогу. Оператор может расслабиться и заняться своими делами — например, начать отвлекаться в телефон или планшет.

Полиция решила проверить Рафаэлу Васкез (именно так зовут водителя) после многократного просмотра видео с ее реакцией на происходящее. По мнению правоохранителей, оператор явно не наблюдала за приборами робомобиля, поскольку спектр ее эмоций указывал на то, что наблюдает она за чем-то приятным и интересным. Вряд ли кто-то способен в течение всего рабочего дня с радостью смотреть на показания бортового компьютера. Несколько раз Васкез улыбалась, что, по мнению полиции, подкрепляет их точку зрения.

Ну а после получения отчета от Hulu все сомнения пропали — водитель явно занималась не выполнением своих рабочих обязанностей, а пыталась развлечь себя, за что поплатился относительно невиновный человек (велосипедистка мало того, что переходила дорогу в неположенном месте, на ее одежде и самом велосипеде начисто отсутствовали светоотражатели. Кроме того, в крови женщины обнаружены наркотические вещества, что, возможно, и стало причиной ее не совсем адекватного поведения на дороге).

Роботизированная система машин Uber включает радар, камеры и лидар, который использует лазерное излучение для обнаружения объектов. Система позволяет выявлять препятствия вокруг машины без «мертвых зон».

Uber и некоторым другим компаниям, ведущим работу в сфере роботизации машин, пришлось приостановить работу. Кроме названной компании испытания собственных машин с автономной системой управления прекратили компания Toyota, Nvidia и некоторые другие организации. Возможно, через некоторое время испытания на дорогах общего пользования будут возобновлены, поскольку ясно, что вина автопилота весьма слабая. Да, комплекс несколько странно среагировал на проблему, но если бы оператор повела себя адекватно, проблемы бы не было и ДТП могло не произойти.

Комментарии (151)


  1. idiv
    24.06.2018 13:14
    +3

    С одной стороны оператор, безусловно, виновата. Но с другой стороны ее работа — сидеть и осмысленно смотреть в окно поезда, замечая каждую деталь контролировать автомобиль и быть готовым перехватить управление. Это явный недосмотр Uber, практически все подобные деятельности выполняются минимум двумя людьми (хотя бы дублируются, если не сидят вместе).


    1. DanilinS
      24.06.2018 13:57
      +7

      Я вообще не представляю, как сохранять внимание оператору целый день. При том не вмешиваясь в управление.


      1. dkv
        24.06.2018 19:10
        +1

        Ровно так-же как машинистам поездов, полагаю.


        1. Monoroch
          24.06.2018 19:29
          +1

          У машиниста поезда, в процессе столько задач, что без дела он не сидит вообще никогда.


          1. Monoroch
            24.06.2018 19:38

            И раз уж с редактированием опоздал, там ещё со времён ссср стоят системы контроля бдительности. Нет подтверждения -> срыв эпк -> остановка поезда.


            1. sevikl
              25.06.2018 14:50

              удивительно, что у убера такого не было. и вот это:

              что впереди — неопределенное препятствие, которое можно игнорировать

              вообще какая-то дикость.


        1. artyums
          24.06.2018 22:04

          Лучше привести пример летчиков ГА. Когда в компьютер забит маршрут, самолет вышел на нужный эшелон, полет трансконтинентальный (да даже когда пару часов)… Летчик абсолютно ничего не делает, кроме употребления пищи/чая/кофе и редких контактов с диспетчерами.
          И вот тут для сохранения бдительности на случай проблем — действительно нужно мастерство и опыт.


          1. eoffsock
            24.06.2018 22:31

            Ну так их не просто так двое, а на длинных полетах вообще четверо емнип, двое плюс двое сменных. Потом за погодой смотри, по сторонам смотри на всякий случай, за самолетом самим смотри, за состоянием систем и все такое. Так-то там есть чем заняться. Бумажки опять же заполняют, пока летят.


            1. artyums
              24.06.2018 22:59

              Погода в сводках и в процессе полета редко изучается, разве что диспетчер обратит внимание, а так метеорадар работает при необходимости — но, опять таки, на эшелоне редко происходят какие-то серьезные метеоявления.
              Собственно говоря и по сторонам можно смотреть только ради любования красотами — на таких высотах и с такими скоростями это особого смысла не имеет, не зря там полеты только по IFR (по приборам), никакого VFR (визуального).
              Смотреть за самолетом особо тоже смысла нет — всем же ведь управляет автопилот (и если на малой авиации надо хоть двигателем управлять, то на авиалайнерах и автоконтроль тяги тоже есть). Состояние систем опять же контролируется компьютером, который при отклонениях уведомляет. Да и просто так — быстро наскучит смотреть почти статичную картинку на мониторчиках :)
              Ну а бумажки — да… Бумажной работы достаточно. Но это опять же равноценно просмотру телешоу :) Просто последствий таких серьезных быть не может.


              1. eoffsock
                24.06.2018 23:03

                В целом разумно. Про погоду я имел в виду погоду в пункте прибытия, это может повлиять на маршрут уже на эшелоне.

                Но тут есть еще один фактор. Насколько я слышал и общался с пилотами, там по большей части люди, которые горят своей работой, горят небом. Возможно, это спасает их от фатальной потери внимания.


                1. artyums
                  24.06.2018 23:18

                  Да, только, мне кажется, чуть по другому — когда «горишь» своей профессией, то чувствуешь ее «в подкорке», знаешь где и чего ждать загодя (это для любой профессии характерно). Поэтому и фатальной потери внимания не происходит :)


            1. river-fall
              25.06.2018 14:10

              ну и там необходимое время реакции всё же не секунды, а десятки секунд в большинстве случаев. На дороге ситуация более напряженная


          1. Welran
            25.06.2018 08:54

            А еще пилотам самолетов платят на два если не на три порядка больше чем тестеру робомобиля убера.


            1. Igorjan
              25.06.2018 09:08
              -1

              На 3 порядка?
              средний негр в гарлеме не работая получает ~1000 баксов в месяц. Накинем 3 порядка. получается миллион. долларов. в месяц.
              Либо математика не та, либо ты балабол.


              1. vesper-bot
                25.06.2018 09:50

                Порядки бывают и двоичные. Тем более мы на Хабре.


              1. roscomtheend
                25.06.2018 12:21

                3 порядка — это и 8 раз тоже, хотя и это выглядит много.
                PS. Вот так открыть утром и добраться только сейчас.


          1. zim32
            25.06.2018 10:48

            Нельдя сравнивать. В небе вокруг ничего нет. Тысячи диспетчеров следят за воздушным пространством. Летишь себе болтаешь со вторым пилотом. А тут вокруг постоянно что-то происходит. Пешеходы, машины, собаки, светофоры. Постоянный стресс. Ну его нафиг такие автопилоты вообше.


            1. artyums
              25.06.2018 10:56

              Вот, так в этом и вся проблема с этими автопилотами!
              В самолетах автопилот лишь помогает пилоту, выполняя за него поддержание запланированного пилотом профиля полета. Причем, насколько я знаю ситуацию, авиастроители не сильно то стремятся к тому, чтобы научить автопилот чему-то большему — хотя, теоретически, эта задача проще, чем в случае с автомобилями. Как раз ввиду бо'льшей стандартизации движения и меньшему числу его участников на единицу объема пространства даже с учетом более высокой скорости.


              1. zim32
                25.06.2018 11:38

                Дам там за весь полет в штатной ситуации ниодного пересечения траекторий нет. Встречные самолёты летят на разной высоте. Взлет посадка стремно да но это пару процентов от общего полета


        1. Igor_O
          24.06.2018 23:56
          +1

          Я тут последнее время залипаю в видеоблог одного машиниста поезда… Там с одной стороны реально нужно управлять поездом — подъемы, спуски, стрелки, светофоры, которые требуют действий от машиниста. Плюс к этому есть системы контроля машиниста. Проезд светофора — должен подтвердить нажатием определенных кнопок. Плюс, нужно примерно раз в 20 секунд отпускать и нажимать специальную педаль. Если проезд светофора не подтвержден, или педаль не отпустили-нажали за заданное время — автоматически включается режим экстренного торможения.
          Почему подобных систем не сделали «оператору» в Убер? Видимо, сложное сочетание самоуверенности, самонадеянности и необразованности.
          Как минимум, обнаружив «неопределенное препятствие» автомобиль должен был просигналить оператору и, в случае бездействия оператора, прибегнуть к экстренному торможению. Что было бы логично… Но… Проще всех собак на оператора повесить.
          (Ну и да, не смотрела бы она шоу на телефоне, так спала бы… Может быть даже с открытыми глазами. Это никого бы не спасло.)


          1. rub_ak
            25.06.2018 04:33

            Он? www.youtube.com/channel/UCejoGyQkUdFk327WIpM5mEw
            Реально залипающие видео.


            1. Igor_O
              25.06.2018 14:18

              Ага. Он. Но после «повышения квалификации» редко новое выкладывает.


          1. burzooom
            25.06.2018 08:30

            Законов робототехники на Убер нету

            Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.


            1. Areso
              25.06.2018 08:42

              Потому что эти законы — вымысел фантаста. Хороший, кстати, вымысел, мне нравится. Основание так вообще одна из моих любимых серий книг.


            1. freecoder_xx
              25.06.2018 12:21

              Робот просто не понял, что это был человек.


            1. black_semargl
              25.06.2018 12:24

              Нужно сначала опознать что перед роботом человек…


      1. SinsI
        26.06.2018 05:27

        1. Можно через случайные промежутки времени возвращать управление от компьютера — оператору.
        2. Можно добавить оператору какую-нибудь постоянную задачу, связанную с управлением но не требующую прямого вмешательства — например, не давать указывать сразу конечный пункт маршрута, а требовать каждую сотню-другую метров указывать следующую точку.


    1. F0iL
      24.06.2018 15:23
      +5

      Напрашивается идея какой-нибудь периодичной «проверки бдительности» — например, раз в N минут на короткое время на приборной панели или проектором на лобовое стекло выводится сообщение, и оператор должен отреагировать на это (нажать кнопку, совершить маневр, и т.д.). Если есть пропуски — отправляем оператора на повторный инструктаж или применяем административные меры.


      1. Maximuzzz
        24.06.2018 16:57
        +3

        На железной дороге подобная система давно применяется — машинисты должны проходить регулярную проверку внимания реагируя на специальный сигнал. Если реакция отсутствует, то включается аварийное торможение.


        1. JediPhilosopher
          24.06.2018 18:09

          Но на железной дороге требуется (как мне с дивана виднеется) совершенно другая скорость реакции. Там не нужно реагировать быстро — все равно тысячетонный состав моментально не остановится, и вильнуть в сторону не сможет. Поэтому реакция на этот сигнал там вроде в течение нескольких секунд требуется. Этого вполне достаточно чтобы проверить, что человек не заснул.
          В случае с автомобилями такое не будет работать, так как там требуется быстрая реакция. А если включить такую проверку на очень короткий срок (человек должен нажать например в пределах секунды на кнопку после сигнала) то собственно все внимание человека будет направлено на этот сигнал чтобы успеть среагировать, а не на обстановку на дороге. Что к повышению безопасности опять-таки никак не приведет.


          1. Popadanec
            24.06.2018 19:07
            +1

            У дальнобойщиков есть системы слежения за направлением глаз.


            1. Iv38
              24.06.2018 21:19

              Опять же, у дальнобойщиков цель системы другая. Надо только следить, что человек не заснул. Если не заснул, то скорее всего он более-менее внимателен, ведь машина сама не управляется. Но если человек освобожден от управления, то концентрироваться трудно. Можно смотреть прямо через лобовое стекло и ничего не видеть, думая о своем.

              Я пробовал сидя на пассажирском сидении активно наблюдать за дорожной обстановкой. Через несколько минут всегда обнаруживаю себя внутри своих мыслей.


              1. artyums
                24.06.2018 22:13

                Пробовали ли Вы ездить с самым простым классическим круиз-контролем на дальнее расстояние по трассе? Когда я впервые испытал это, сначала почувствовал как же это удобно, а затем — что расслабляешься и несколько теряешь контроль за дорогой (как минимум из-за того, что нога оказывается физически дальше от педали тормоза/газа, оперативно затормозить/ускориться сложнее). В итоге стал включать круиз эпизодически, чтобы передохнуть, а затем вновь переключаться в обычный режим.

                Не представляю, насколько расслабляет адаптивный круиз-контроль или, тем более, автономная система. Честно говоря, пока производитель не готов гарантировать безопасность каким-то образом (страховкой там, например), я бы не смог, как героиня статьи, смотреть ТВ-шоу в движении, слишком уж ответственность за себя, пассажиров и окружающих чувствую…


                1. NightGhost
                  24.06.2018 22:47

                  По поводу круиза хочу не согласиться. Из собственного опыта:
                  1. На круизе обычно едешь по трассе. Когда едешь без круиза – фактически нога на педали находится в одном и том же положении, по этому в целом никакой разницы нет, залипать что так что так начинаешь.
                  2. Чтобы не было проблем с «нога оказывается дальше», я держу её на педали газа, не нажимая на неё. Обратного сопротивления педали хватает, чтобы нога без приложения усилий лежала на ней, при том не было элемента нажатия.
                  3. На абсолютно пустой трассе с ногой можно сделать что-то ещё, чтобы размяться.
                  4. Проездив не один год с круизом, возьмусь утверждать, что это гораздо выгоднее и с точки зрения штрафов (отвлёкся, чуть на педаль нажал, попал на камеру), и с точки зрения времени (сложно всегда держать 108-110 км без круиза, обычно получаетя медленнее, так как лучше меньше, чем больше).


                  1. artyums
                    24.06.2018 23:16

                    1. Без круиза мне приходится «подгазовывать», потому что дорога плавает-вверх вниз, ты отпускаешь педаль, чтобы не превысить скорость на спуске, а потом нажимаешь на подъеме, чтобы удержать темп…
                    2. У Вас электронная педаль газа? У меня педаль легко нажимается уже под весом ноги, если ее расслабить. Чтобы не нажимать, но держать над педалью — приходится напрягать. Я в таком случае ставлю ногу на тормоз, который как раз более «упругий», но эта педаль выше и на ней нога еще больше устает… Замкнутый круг)
                    4. Про временную и экономическую выгоду полностью соглашусь с Вами, особенно в части времени!
                    Ехал я тут, правда, каюсь, ибо грешен, 148 км/ч по участку М11 с ограничением 130 км/ч (по GPS скорость была 142 км/ч), пришел штраф с мобильного комплекса фиксации за 156 км/ч… Пойди, вот, докажи теперь, что ехал с круизом и насколько превысить не мог… Посмотрел еще запись с видеорегистратора, график скорости представляет собой идеальную прямую на одном и том же значении, никакого намека на 156 км/ч… Так и заплатил штраф ни за что…


                    1. NightGhost
                      24.06.2018 23:25

                      1. Хм, странно. Держу педаль в одном положении, на подъёмах теряю максимум 2-3км, на спусках скорость стабильно держится.
                      2. Педаль газа электронная, но сопротивления хватает.

                      У меня с круизом так бывает, что он в горку пытается набрать обороты, и немного выходит за 110 (разгоняется до 112 и сбрасывает). Несколько раз попадал, когда сверху подъёма стоит камера, и я в неё на 112 влетаю. Стал ездить 108 по трассе ) По времени эти 2км ничего не дают совсем.


                    1. Igor_O
                      25.06.2018 00:08

                      Это у нас любят… Я год назад получил смешной штраф — 500 рублей, как за от 20 до 40 км/ч превышения, при этом скорость «измеренная» была 132 км/ч на трассе с ограничением 90 км/ч… При этом я ехал с включенным ограничителем скорости на 110 км/ч, что значит, что ехал не быстрее 106 км/ч…


                    1. johndow
                      25.06.2018 11:13

                      Не знаю, как у вас, но у меня (Skoda, электронная педаль) нет ничего особенного в том, что педаль газа может быть чуть нажата при езде на круизе. Фактически, она и так нажата самими мозгами круиза, мы лишь слегка выбираем её свободный ход.


                1. Visphord
                  25.06.2018 09:06

                  На эту тему есть отличная ф-ция «ограничитель скорости», которая не даёт разгоняться выше установленного лимита. Есть на многих машинах, где есть круиз. На трассе всегда настраиваю её на лимит дороги и еду держа педаль у «кик-дауна». При этом не надо контролировать скорость (не нарушишь), не так устаешь ибо не надо точно дозировать усилие на педаль и нога не устает, всегда можешь быстро ускориться (если надо на обгон) — нужно всего-то дожать до кик-дауна.

                  да и в городе сильно спасает от штрафов, но приходится чаще включать-отключать и менять лимиты =)


          1. Igor_O
            25.06.2018 00:03

            Как бы так сказать… Когда обнаруживается баг в работе диспетчеров и светофоров в виде мчащей в лоб на 150 км/ч электричке — реакция должна быть молниеносная — врубить экстренное торможение и валить во вторую кабину…
            В случае Убера — достаточно бы было показывать оператору все «неопознанные препятствия» с подтверждением действия. Секунда — это очень много. Секунды более чем достаточно для того, чтобы понять, внимателен ли оператор, и начать торможение при необходимости.


            1. Barafu_Albino_Cheetah
              25.06.2018 03:54

              Я был в экстренно тормозящем поезде. Валить в нём можно только по направлению движения.


              1. Igor_O
                25.06.2018 14:22

                Это да. Но по идее, там есть порядка 5 секунд от момента перевода крана в «экстренное торможение» до развития полного тормозного усилия пока сбрасывается давление во всей магистрали.


    1. vladob
      26.06.2018 02:37

      выполняются минимум двумя людьми (хотя бы дублируются, если не сидят вместе).

      Да.

      И в недоосознании этого принципа я вижу одну из главных опасностей хайпа вокруг нынешней волны роботизации всего и вся.

      У машиниста поезда, в процессе столько задач, что без дела он не сидит вообще никогда.


      Спросите у машинистов что такое «Рукоятка Контроля Бдительности». Если мне память не изменяет — так называлось это устройство, которое я имею ввиду.
      (я говорю о 80-х и Белжд)

      уже упомянули в комментах выше…


  1. mwizard
    24.06.2018 13:29
    +4

    Почему для робомобиля стали проблемой «темное время суток» и «темная одежда»? Разве сонарам/лидарам не плевать на оптические характеристики среды? В ультазвуке, и при активной подсветке, эта дамочка выглядела, как огромный кусок мяса. В чем была сложность в таком случае?


    1. fapsi
      24.06.2018 19:10

      Автомобиль, который ехал со скоростью в 70 км/ч

      Почему для робомобиля проблемой стала адекватная для тёмного времени суток скорость?

      А так. Пересмотрел видео несколько раз. Есть там один момент — слева по курсу автомобиля куст, который, вероятно, и не дал обнаружить женщину за достаточное расстояние. А далее — непонятный сбой алгоритма, но времени при 70 км/ч было критически мало.


  1. mad_god
    24.06.2018 13:32
    +9

    впереди — неопределенное препятствие, которое можно игнорировать

    Что могло пойти не так? Отличный алгоритм.


    1. DanilinS
      24.06.2018 13:55
      +1

      Вокруг автомобиля обычно куча обьектов. И естественно отслеживать все принципиально невозможно. Скорее всего оптика не смогла «выцепить» силуэт человек, лидар скорее всего просто определил как неподвижное не индентифицируемый обьект. И естественно этот обьект был проигнорирован.


      1. DenVdmj
        24.06.2018 14:43

        ANN иногда ошибаются, и как правило «видят» они не как люди. Так что силуэт мог быть вполне человеческий и вполне отчетливый на наш взгляд.


      1. daiver19
        24.06.2018 15:29

        Так это вокруг, а впереди него, обычно, либо ничего, либо другой автомобиль. Так что алгоритм кривой, по крайней мере по описанию.


        1. Maximuzzz
          24.06.2018 17:00

          Там не прямо перед автомобилем было «неопределённое препятствие», а в соседней полосе, с краю дороги. Видимо алгоритм «решил», что ничего в ближайшее время на пути автомобиля не появится.


    1. F0iL
      24.06.2018 15:25

      Я так понимаю, имелось в виду не «впереди на пути траектории машины», а «впереди сбоку» (т.к. за 6 секунд до столкновения пешеход двигался от края проезжей части, а не стоял посреди дороги)


    1. GeekberryFinn
      24.06.2018 17:10

      впереди — неопределенное препятствие, которое можно игнорировать

      Что могло пойти не так? Отличный алгоритм.

      Если «неопределенное препятствие» = Лось, то это крайне стрёмный алгоритм.


  1. Camrad_RIP
    24.06.2018 14:17
    +4

    М-да.
    — Впереди ХЗ что.
    — Продолжаем движение не снижая скорости.


    1. Maximuzzz
      24.06.2018 17:04

      Не впереди в смысле прямо по траектории автомобиля, а впереди в соседней полосе. Вы же, когда управляете автомобилем, не тормозите перед каждым идущим по обочине пешеходом и не ждёте, что они кинутся вам под колёса. Хотя такое иногда и происходит, к сожалению. Хотелось бы, конечно, чтобы робомобили могли с большей уверенностью предсказывать такое поведение.


      1. Dobby007
        24.06.2018 17:53

        Ну она же двигалась по направлению к полосе движения автомобиля. При этом относительно траектории движения авто оставалась неподвижной. Насколько я понял, было целых 6 секунд, чтобы понять, что то самое "неопределенное препятствие" движется и что столкновение с ним неизбежно, если сохранять текущие параметры. Даже за секунду она проделывала какую то пути. И вовсе она не кидалась, судя по видео. Так что алгоритм — кривой.


        1. MiB_K
          24.06.2018 18:42

          Согласен с Вами. Электроника должна уметь «предсказывать» положение объекта, основываясь на его текущих параметрах движения. Это не так уж сложно реализовать и если бы это было сделано, то мы бы сейчас не обсждали эту статью


        1. black_semargl
          24.06.2018 20:27

          Как я понимаю — по причине темноты не были чётко определены границы объекта и он был воспринят как неподвижный.


          1. GeekberryFinn
            24.06.2018 20:33

            Если человек стоит на разделительной линии — это не значит, что будет стоять бесконечно, а значит, то что находится в процессе перехода дороги.

            PS а человека стоящего возле пешеходного перехода, Убер тоже воспринимает как неподвижного и гонит не сбавляя скорости?!


            1. black_semargl
              24.06.2018 22:31

              Там не было разделительной линии, дороги «туда» и «обратно» разделены нехилым «островом» с растительностью.
              На который пешеход вообще не может попасть соблюдая правила (но об этом автопилот конечно знать не мог)
              Т.е. велосипедистка шла с края дороги.

              Насчёт PS — вопрос очень интересный.
              Возможно если переход отдетектирован — то замедлит, а если просто у края дороги стоит — нет.


              1. Dobby007
                24.06.2018 23:41

                Имхо, это обычная дорога с двумя полосами. Я сейчас на секунду оставлю в стороне способность предсказывать развитие событий. Соблюдал пешеход правила дорожного движения или нет, здесь не имеет значения. В наших реалиях тем более. Я это к тому, что машина сбила "неопределенное препятствие", когда велосипедистка находилась прямо перед ней, даже не замедляя скорости. Т.е. будь это кусок арматуры, мирно катившееся колесо или танк она бы повела себя точно также? Ну как ни крути, даже восприняв объект как неподвижный шесть секунд назад, этот самый объект через какое-то время оказался около бортика авто, а потом и вовсе прямо перед ним. Ну замедлить скорость машина же должна была, видя перед собой препятствие вовсе немаленького размера.


                1. black_semargl
                  25.06.2018 04:15

                  Я смотрел то место в гугльмапе — обычная односторонняя двухполосная дорога.
                  В общем никто и не спорит что автопилот сглючил. Но как препятствие на дороге она могла в самом деле за 6 секунд до столкновения появиться.


                  1. Welran
                    25.06.2018 09:05

                    Странно что он за 6 секунд до столкновения идентифицировал объект как неподвижный неопределенный объект и больше не следил за ним хотя за эти 6 секунд объект активно перемещался.


                    1. Maximuzzz
                      25.06.2018 10:55

                      При условии, что автомобиль и пешеход двигались в одном направлении, строго параллельно, определить двигался ли пешеход действительно трудно. Сравните скорости и прикиньте на сколько сильно поменяются относительные габариты пешехода и, например, столба за 6 секунд. Авто проедет 116 метров, человек около 5 метров, в состоянии алкогольного/наркотического опьянения ещё меньше.


                      1. Areso
                        25.06.2018 13:00

                        Только она двигалась под углом, близким к 90 градусам. Она же не ехала по дороге, а пересекала её.


                        1. black_semargl
                          25.06.2018 21:37

                          Но направление на неё оставалось постоянным, скажем 5 градусов влево.


        1. shaggyone
          25.06.2018 07:13

          Вот да, даже если это не человек, а любой другой предмет, базовой установкой для автопилота должно быть ожидание, что из за этого предмета вылетит хоть человек, хоть животное. Т.е. сбавляем скорость, до такой, на которой авто успеет затормозить перед внезапно возникшим препятствием, проезжаем препятствие, ускоряемся.


          1. Maximuzzz
            25.06.2018 10:22

            Вы перед каждым столбом предлагаете тормозить?


            1. shaggyone
              25.06.2018 10:32

              Перед каждым столбом, кустом, коробкой, сбитой лисой и ещё чем, стоящими на обочине авто и вообще всем, что на проезжей части и рядом с ней неожиданно появляется.

              Не понимаю, что в нормальных условиях может делать столб на разделительной полосе.


            1. Areso
              25.06.2018 13:03

              Между прочим, правила так и предписывают действовать, только не тормозить, а выбирать такую скорость, которая
              «Скорость должна обеспечивать водителю возможность постоянного контроля за движением транспортного средства для выполнения требований Правил
              При возникновении опасности для движения, которую водитель в состоянии обнаружить, он должен принять возможные меры к снижению скорости вплоть до остановки транспортного средства».
              п 10.1 ПДД РФ
              Т.е. в условиях ограниченной или недостаточной видимости, надо выбирать безопасную скорость движения, которая позволит вам контролировать ситуацию.


              1. Maximuzzz
                25.06.2018 14:05

                При возникновении опасности для движения, которую водитель в состоянии обнаружить

                Если водитель не предположил, что из-за куста может кто-то выскочить, то он так и поедет не снижая скорости. Что и сделал робомобиль. Это, конечно не корректная оценка обстановки зачастую приводящая к печальным последствиям и такого не должно быть ни в том ни в другом случае, но, к сожалению, случается.


                1. Areso
                  25.06.2018 14:56

                  У меня слабое зрение. Если я вижу что-то, а что это оценить не могу (и тем более не могу оценить скорость), я сбавляю скорость. Учитывая размеры (сопоставимо с лосем) все могло кончиться действительно плохо. И нет, она не из-за куста выпрыгнула (такое бывает, да, но тут совсем иной случай).


            1. BigBeaver
              25.06.2018 14:39

              Если обьект правда неопознан, то оттормозиться до 40 не грех — это лишь немного снизит комфорт езды, радикально снизив вероятные последствия.


        1. Maximuzzz
          25.06.2018 10:46

          Да, алгоритм — кривой ну или по крайней мере не идеальный. По видео и объяснениям мне показалось, что пешеход двигалась параллельно движению автомобиля (видимо в течении этих 5-6 секунд) и сменила направление в последний момент. Да, не кинулась в буквальном смысле, но для алгоритма это оказалось неожиданным событием. Человек, скорее всего, распознал бы пешехода на дороге и предположил, что тот может «выкинуть» что-то непредсказуемое раз уже идёт в странном месте дороги. Хотя… если посмотреть ночные записи с регистраторов.


      1. JediPhilosopher
        24.06.2018 18:11

        Вы же, когда управляете автомобилем, не тормозите перед каждым идущим по обочине пешеходом и не ждёте, что они кинутся вам под колёса

        Вообще-то жду. И если проезжая часть там достаточно узкая (т.е. он сможет сигануть мне под колеса за один шаг) то я даже скорость сброшу и ногу на педаль тормоза перенесу. Потому что придурков, шагающих не глядя на проезжую часть хватает.
        От автопилота разумно ожидать похожего поведения.


        1. technic93
          24.06.2018 22:30

          Согласен. Особенно если пьяный на обочине или дети.


      1. GeekberryFinn
        24.06.2018 19:03

        Вы же, когда управляете автомобилем, не тормозите перед каждым идущим по обочине пешеходом и не ждёте, что они кинутся вам под колёса

        Она не по обочине шла, а по разделительной полосе, тут даже дурак догадается, что она переходит дорогу.

        PS Если кто-то идёт рядом с нерегулируемым пешеходным переходом, то это тоже ситуация в которой стоит ожидать перехода дороги и нужно подъезжая сбросить скорость. Как и в случае когда рядом со школой стоит знак «осторожно дети!».


      1. zerg59
        24.06.2018 20:54

        Таких пешеходов, шарахающтхся в тёмное время суток по краю проезжей части на пригородных дорогах регулярно привозят уже не живыми в городской морг. Мне знакомый показывал видео со своего регистратора, где он просто чудом не сбил такого.


        1. Popadanec
          24.06.2018 22:25

          Ага в темной одежде без световозвращателей и ладно бы еще на обочине. Порой на пустынной трассе посреди дороги. Чем такой смертник думает перебегая дорогу, где машина проезжает раз в пять минут, решительно не понятно.


          1. burzooom
            25.06.2018 08:58

            машина проезжает раз в пять минут,

            что машина проезжает раз в 5 минут, что же тут нелогичного?


      1. mikelavr
        25.06.2018 06:05

        На третий день после получения прав, при обычной поездке по Москве, один такой пешеход просто упал с пешеходной дорожки на дорогу мне под колеса. Расстояние было приличное, я легко остановился. Но пешеход и не думал вставать! Упал он при причине отказа вестибулярного аппарата при интоксикации алкоголем.


      1. shaggyone
        25.06.2018 10:42

        Лично я, в норме, перед велосипедистами и пешеходами перестраиваюсь, либо притормаживаю и увеличиваю боковой интервал. Если вечером, пару раз подвозил, но сейчас подвожу только тех, кто явно голосует, по личному опыту, вдоль дороги вечером в основном, выпившие в неадеквате разной степени ходят.


  1. rexen
    24.06.2018 14:18

    И? А если бы на месте велосипедистки была бы корова? В Финляндии вон «тысяча чертей, проклятые лоси...»

    Т.е. система полюбому требует какой-то доработки. Мало ли чего может выпереться на трассу посреди леса в любых метеоусловиях.


    1. demimurych
      24.06.2018 17:31
      +1

      Я когда то был в Грузии. Там этих коров, гуляющих вдоль и по дорогам ооочень много. А на обочине очень много сбитых коров. Особенно это заметно когда едешь ранним утром. Ехав около часа между двумя небольшими городами я насчитал 8 тел.
      Это я к тому, что грузинские водители прекрасно осведомлены о коровах, и имеют большой опыт взаимодействия с дорогой в таких условиях, что не мешает им регулярно их сбивать.


      1. xztau
        24.06.2018 20:03

        Если Вы считаете, что боулинг на дороге — это нормально, то подскажите мне, на какой машине ездите. Буду обходить Вас за километр.


        1. demimurych
          24.06.2018 20:11

          О нет, нет. Вы меня не так поняли. Я это скорее к тому, что есть люди, которые идеализируют других людей, наделяют их супер-способностями объезжать всех коров на дороге или велосипедисток, ощущающих себя ракетами.

          Я в том смысле, что изначальная попытка сравнивать ошибки людей и ошибки современных алгоритмов порочна. И вести диалог в ключе, существующая система автопилота ущербна — «вон видите человека сбила которого зафиксировала за 6 секунд до» не имеет под собой никаких оснований, в силу принципиальной разницы в том, кто и в какие внештатные ситуации попадает, и каким обладает способами их разрешения.

          И начинать подобные обсуждения нужно с формальной статистики накатаных километров к количеству ДТП.


  1. nathanael
    24.06.2018 14:22

    Но из-за совокупности ряда факторов (темное время суток, темна одежда велосипедистки, переход ею дороги в неположенном месте и т.п.) программная платформа робомобиля никак не могла определиться с тем, что именно находится впереди. В конце концов компьютер сформировал «мнение», что впереди — неопределенное препятствие, которое можно игнорировать.
    Что очень смущает понимание алгоритмом термина «впереди», зачем он продолжает ехать на то, что впереди или 6 секунд недостаточно, чтобы затормозить или сменить траекторию?
    А вдруг там бы просто бочка нарисовалась посреди дороги или небольшое полено, просто знак аварии в конце концов.
    Если объект неподвижен, это же вроде не означает, что на него нужно ехать?


    1. Ivanii
      24.06.2018 15:09
      +2

      Миои догадки — человека с велосипедом из-за необычной формы, низкой скорости и недостатка освещенности система распознала как неподвижное препятствие на разделительной…


    1. Maximuzzz
      24.06.2018 17:08

      Заметка «кривая», в ранних сообщениях говорилось, что велосипедистка шла не прямо перед автомобилем, а по краю дорожного полотна и внезапно начала пересекать дорогу в результате чего пересекла траекторию движения авто. Робомобиль, не поняв, что это человек (или вообще живое существо) видимо решил, что спокойно минует «объект».


  1. tcapb1
    24.06.2018 14:34
    +2

    Одно дело — оператор. Не отвлекаться от дороги — это его прямая обязанность. Но я не очень понимаю как можно включать автопилоты 2 и 3 уровня (автопилот большую часть ведёт автомобиль сам, но водителю нужно постоянно быть начеку на случай непредвиденных ситуаций) на коммерчески выпускаемых машинах.

    В этом случае водитель переключается в режим пассажира, и наблюдение за дорогой становится тяжёлой работой. Представьте себе, что вы за рулём, и едете по скоростной магистрали на скорости 130 км/ч. Вы отвлекаетесь от дороги? Вряд ли. А если вы стоите в пробке и машины перед вами еле ползут, а то и вообще стоят на месте. Отвлекаетесь? Думаю да. Мозгу становится скучно, и он начинает искать себе другое занятие. Даже если не смотреть сериалы можно задуматься, залюбоваться пейзажем, уснуть в конце концов.

    Т.е. с одной стороны мы провоцируем водителя быть менее внимательным, а с другой стороны в случае аварии говорим, что вся вина на водители, который не уследил за автопилотом.


    1. shaggyone
      25.06.2018 07:21

      Думаю, тут важно, сколько времени оператор уже была «за рулём». Помнится, человек может удерживать внимание в течении 2-х часов. После чего нужен перерыв в пару часов. Инфа, от военных, дескать, именно поэтому часовых на посту каждые 2 часа меняют.

      Вернее так, скорее всего оператор смотрела ТВ шоу в рабочее время не впервые. Т.е. вина руководства в том, что это дело вовремя не отследили и не пресекли. Но если руководство построило рабочий график оператора с нарушением эргономики, то, на мой взгляд, вина оператора уменьшается, а руководства увеличивается.


      1. sashabeep
        25.06.2018 18:52

        Зачем тогда у всего транспорта запас хода такой, если дольше 2 часов не рекомендуете ездить?


        1. shaggyone
          26.06.2018 05:32

          Тут я говорю только про оператора, который следит за системой и вмешивается, судя по всему, не каждую неделю. Водителю легче, он может ускориться и притормозить просто потому, что так захотелось. Может остановиться, в конце концов, его внимание требуется для того, чтобы принимать мелкие решения. Т.е. он решает не долго одну большую задачу, а много мелких.

          Даже по себе и супруге судить могу. Если куда то долго едем, то тот кто не за рулём к середине дороги обычно засыпает, и к концу пути устаёт больше, чем тот, кто за рулём был.


        1. Areso
          26.06.2018 07:09

          Чтобы иметь возможность приехать обратно, с дикого отдыха, с турбазы или из деревни Малые Пикуля.


    1. burzooom
      25.06.2018 09:05

      Кстати, все забывают, что раньше на дорогах как раз были именно такие автопилоты.
      Конные повозки с кучером. Выехал на дорогу между городами… и что дальше? лошадь идет себе, а кучер дремлет


      1. Welran
        25.06.2018 09:13

        Ну дык скорости поменьше были, да и интеллект «автопилота» и его способность определять движущиеся препятствия, имхо, были повыше чем у современных.


        1. Areso
          25.06.2018 09:44

          Когда-то давным давно читал среднеазиатскую книгу, там была следующая история:
          мужчина путешествовал с сыном где-то за городом, как водится, в качестве транспорта был осёл. И вот дошли они до дерева с раскидистой кроной и ослик сам остановился. Сын спросил отца, почему ослик встал. Отец ответил, что год назад он путешествовал этой же дорогой и сделал привал под этим деревом и ослик запомнил это место.
          А далее был случай с мальчиком, когда он попал в неловкую ситуацию, потому что ему дали поручение, касающиеся отца и третьего человека, а он забыл детали и не смог его выполнить. И автор как бы проводил параллель между ребенком и осликом.
          Жаль, не вспомню как называлась книга… я бы с удовольствием перечитал ее еще раз.


  1. agmt
    24.06.2018 15:08
    +1

    6 секунд наблюдали крутые датчики, а когда мог заметить человек? Я на видео заметил за 0.5с, если не меньше.
    Да и при таких данных «велосипедистка мало того, что переходила дорогу в неположенном месте, на ее одежде и самом велосипеде начисто отсутствовали светоотражатели. Кроме того, в крови женщины обнаружены наркотические вещества» было бы грустно, если б признали водителя и uber виновными.


    1. Ivanii
      24.06.2018 15:13

      На мой взгляд оператор/водитель виноват в невыполнении своих прямых служебных обязанностей, Убер виновата в отсутствии контроля за персоналом, велосипедистка виновата в отсутствии светоотражающих элементов и нарушении ПДД…


      1. agmt
        24.06.2018 16:15

        Вероятно, если б автоматика запищала «Обнаружен неизвестный объект возле трассы» и начала б плавно тормозить до взятия управления человеком, было б лучше. Грубо говоря: а может ли человек несколько месяцев смотреть за скучной дорогой, чтобы однажды обнаружить проблему и затормозить? Да, работница нарушила трудовой режим, но где гарантии, что другие не нарушают (и главное, а может ли вообще человек работать в таком режиме?).


    1. Taciturn
      24.06.2018 15:25

      Запись крайне некачественная, на самом деле с освещением там всё Ok, человек бы нормально увидел и без светоотражателей.
      www.youtube.com/watch?v=CRW0q8i3u6E


      1. dreesh
        24.06.2018 18:01

        Вангую: Велосипедистка шла медленно, а машина ехала быстро и алгоритм решил, что препятствие не подвижно и не на пути движения.


  1. andreysmind
    24.06.2018 15:18
    +1

    «Глупый» Mobileye начинает истерично пищать если ему кажется, что впереди человеческий силуэт.
    В данном автопилоте не предусмотрены звуковые сигналы?


    1. dkv
      24.06.2018 20:32

      Нет, не предусмотрены: habr.com/post/374531/#comment_16590641


    1. Hardcoin
      24.06.2018 22:45
      +1

      Езда по городу с ним, наверное, сплошное "удовольствие"?


      1. nochkin
        25.06.2018 06:39

        Если не ехать по тротуару, то он не мешает. Сенсор смотрит вперёд, а не по сторонам.


      1. andreysmind
        25.06.2018 08:31

        Да не, нормально. Он расчитывает скорость сближения, интенсивность писка зависит от скорости и потенциальной опасности. Ну и если перестраиваться без поворотников, но в этом случае он тише сигналит. Если ездить спокойно и соблюдать дистанцию он не мешает.


  1. agaruppa
    24.06.2018 16:01

    Оператора делают крайней. Если кто-то делает самоуправляемый авто, встаёт вопрос кто должен нести ответственность. Производители нести ответственность не хотят, для этого и посадили человека. По этой же причине все самоуправляемые автомобил требуют держать руки на руле. То есть ненадежность по перекладывают на того кто это по в глаза не видел. Если начнут массовое производство авто без водителей, вопрос юридической ответственности встаёт на первое место. С хрена ли я должен платить страховку и нести ответственность за криворукого робота и его создателя?


    1. tcapb1
      24.06.2018 16:11

      Пока ещё не создано автопилотов 4 уровня, которые 100% (или 99.9999%) ситуаций смогут разруливать сами. Для того, чтобы такой автопилот рано или поздно появился и проводятся все эти испытания. Оператор отлично знала, что автомобиль не во всех случаях отреагирует как надо, но всё равно предпочла смотреть шоу вместо наблюдения за дорогой. Хотя я отлично понимаю как это сложно пялиться в одну точку ничего не делая.


    1. DrPass
      24.06.2018 16:53

      То есть ненадежность по перекладывают на того кто это по в глаза не видел.

      А много ли водителей видели в глаза софт своих обычных автомобилей? Автопилот пока что всего лишь вспомогательная система, никто этого не скрывает, и да, поэтому там должен быть живой человек, который следит за дорогой, имеет руль и педали и может забрать управление на себя. В этом нет ничего крамольного.


    1. xztau
      24.06.2018 20:09

      Если бы у оператора хотя бы «руки на руле» были, то да — спорим о крайности. Тут же оператор пялился в ТВ-шоу во время работы. Как бы неисполнение своих обязанностей.


      1. Welran
        25.06.2018 09:22

        Сдается мне что большинство операторов вели (и наверняка до сих пор ведут) себя точно так же. И тогда это вина убера раз не обеспечивает и не контролирует работу операторов.


  1. Spline
    24.06.2018 18:01

    Стандартная проблема обученной нейросети — человек с велосипедом уже и не человек вовсе. То ли еще будет.


  1. muhaa
    24.06.2018 18:49

    Мне кажется все оправдания Uber — это просто отговорки для отвлечения внимания от того факта, что автопилот не отработал корректно в простейшей ситуации в которой он мог и должен был отработать. Автопилот должен: 1.определять координаты, габариты и траекторию движения всех обьектов вокруг; 2.избегать столкновения с опасными объектами если траектории автомобиля и объектов пересекаются. Объект размером с женщину на траектории достоен экстренного торможения чем бы он ни был. Если автопилот не справляется с этой общей задачей всегда, то это не автопилот а русская рулетка. Хочется надеяться, что с этой задачей автопилот убер как раз справляется, но произошел некий простой сбой в котором пока не хотят признаться. Хуже если автопилот едет вслепую, не имея полной модели движения объектов вокруг.


  1. Slavik7
    24.06.2018 19:02

    Может робомобилю просто стоило бы комментировать свои решения оператору, а в случае любых «неопределенных препятствий» и вовсе требовать внимания оператора?


  1. Arbane
    24.06.2018 19:02

    Выскажу еще одну мысль. 70 км/час и 6 секунд реакции, это значит, что за 70 метров до препятствия автомобиль его видел, а раньше — нет. Это как очень густой туман, я в таком еду не 70 км/час. Если бы машина ехала 40/20 км в час было бы нормально. Но какие 20км в час на дороге? — спросите вы. Тогда ответ — машина должна выдеть обстановку дальше, чем на 60 метров для уверенной езды (должен на сотни метров), либо снижать скорость и отключать автопилот, чтобы человек рисковал сам.


    1. black_semargl
      24.06.2018 20:33

      6 секунд — это вполне достаточно, чтобы пересекающий дорогу человек пересёк полторы полосы.
      Т.е. до того возможно велосипедистка находилась вне дороги.


    1. wataru
      25.06.2018 11:59

      Откуда вы 70 метров взяли? 6 секунд на скорости 70 км/ч — это 70/3,6*6=116.7 метров. И 6 секунд — достаточное время, чтобы остановиться (торомозной путь на скорости 60км/ч на мокром асфальте — 92м. Тут скорость чуть больше, но зато погода хорошая).


      1. Arbane
        25.06.2018 12:59

        Видать был сонный. Вы правы — ~117 метров. А теперь представьте, что у вас на расстоянии 117 метров перед машиной стена — комфортно ездить? Я к тому, что машина должны была заранее (на максимальной видимости, доступной минимум глазу человека) видеть препятствие и анализировать его движение. Так как обычно делает водитель. Вряд-ли водитель посчитал бы женщину за столб, а был бы готов к внезапному изменению траектории, как мы бываем готовы, когда на шоссе стоит человек и явно хочет его перебежать в неположенном месте (и может он и бухой, и обкуренный, но надо быть готовым). Я поднимаю не сколько вопрос виновности, сколько вопрос общей недоработки автопилота. Он хорошо подходит и подходил (помните, как показывали площадки, где тестируют?) для небольших скоростей. В пробке: там где нудно. Но (сложную) трассу ему еще рано. Это мое мнение по автопилотам.


  1. EugeneButrik
    24.06.2018 21:18

    По-моему этот случай вскрывает ещё одну серьёзную проблему, вдобавок к проблеме определения ответственного.
    Если рассмотреть ситуацию, например, с точки зрения однозначной вины «автопилота» (собственно алгоритма или разработчика этого алгоритма, не суть), то что это меняет для человека-оператора? На первый взгляд, конечно же, существенно всё меняет — человек не виновен в гибели другого человека. Но будет ли он чувствовать себя невиновным? Думаю, вряд ли.
    Полагаю, эта женщина до конца своих дней будет возвращаться к мысли о том, что было бы, если бы она держала руки на руле, а ноги на педалях? Или даже о том, что было бы, если бы она просто не смотрела это шоу.
    Скорее всего, в подобных ситуациях человек всегда будет спрашивать себя, а сделал ли он всё, чтобы предотвратить ошибку машины. вне зависимости от того, сколь совершенна бы эта машина не была.


    1. Cast_iron
      24.06.2018 21:55

      Ваша ошибка в мнении, что всех мучает совесть (за причинение вреда другому).
      В данном случае женщина — не совсем женщина (в прошлом мужчина) и не обычный человек (ранее судимый).


      1. EugeneButrik
        24.06.2018 22:38

        Ваша ошибка в мнении, что всех мучает совесть...
        А зачем «всех»? Я верю, что не всех, но многих. Этого уже достаточно для того, чтобы это считалось проблемой.
        В данном случае женщина — не совсем женщина (в прошлом мужчина) и не обычный человек (ранее судимый).
        Ну, это вообще не имеет никакого отношения к предмету разговора о «муках совести». Ничего не мешать ей/ему испытывать или наоборот не испытывать эти муки.


    1. sets
      24.06.2018 22:00
      +1

      Если бы этой женщине продали автомобиль и сказали, что он ездит сам, вы только адрес укажите, она может и была бы не виновной. А тут ее посадили контролировать недоработанную технику, которая может быть опасна для окружающих, если что-то пойдет не так. Что-то пошло. Весь смысл наличия там оператора, единственная причина, по которой она оказалась в салоне — не дать автопилоту совершить дтп. Разумеется, она виновна. Тот факт, что алгоритм и/или железо оказались говном этой ситуации не меняет.


      1. EugeneButrik
        24.06.2018 22:42

        Разумеется, она виновна.
        А я этого и не отрицал. Мне даже кажется, что вполне возможно, что и она этого не отрицает (ну, может быть не вслух). Об этом и был мой комментарий.


        1. sets
          24.06.2018 23:06

          Простите, я неправильно понял ваш комментарий.
          Но теперь совсем запутался — в чем же проблема? По крайней мере в данном случае.


          1. EugeneButrik
            24.06.2018 23:23

            Проблема в том, что в случае связки человек-машина, при различных трагических происшествиях машине в любом случае по фигу виновата она или нет, а человеку наоборот, в любом случае может быть не по фигу. И простое перекладывание ответственности на машину или её разработчика может не решить проблему и люди всё чаще не будут доверять машинам операции, которые могут привести к подобным трагическим последствиям.
            Для решения этой проблемы машина и её разработчики должны не просто взять ответственность на себя, а полностью забрать её у пользователя.


  1. Stas911
    24.06.2018 21:49
    -1

    Виноват, как мне кажется, скорее Убер — ну как можно предполагать, что оператор, который почти нефига не делает весь день, будет сохранять концентрацию и внимание? Нужны какие-то меры контроля, нужно его чем-то занимать все время (хоть ту же статистику собирать вручную, да что угодно, лишь бы занять его чем-то)


    1. technic93
      24.06.2018 22:37

      Ну эти операторы там на самом деле сидят для того чтобы уберу было легче потом избежать правовых последствий. Я не думаю что кто то ожидает от них полного внимания. Я предполагаю что набирали туда людей тоже без разбора и на маленькую зарплату.


  1. VMichael
    24.06.2018 22:22
    +1

    Да, комплекс несколько странно среагировал на проблему,

    Замечательная фраза. Адвокатская такая.


  1. Alcpp
    24.06.2018 23:46

    Система не смогла распознать человека с велосипедом.

    Но виноватым делают стрелочника, который предпринял бы действие на 0,5 секунды быстрее, если бы смотрел на дорогу.

    А если бы за секунду до этого взглянул на экран смартфона, то результат все-равно был таким же из-за перепада яркости.


  1. ankh1989
    25.06.2018 01:57

    Ага, то есть они теперь пытаюсь спихнуть вину на некую Васкез. Очень круто. Сколько они там ей платили, кстати? 15 в час? Судя по всему дело было так. Убер наговнокодил нейросеть которая более-менее распознаёт человеков на дороге: то есть камера смотрит на дорогу, а нейросеть выдаёт число от -1 до +1, где -1 это «точно не человек» а +1 это «точно человек». Как обычно, нейросеть выдаёт в основном пограничные значения, скажем 0.6: такое значение может выдать картинка велосипедиста или картинка дерева. Проблема известная. Сроки как обычно поджимали, хотелось выйти на рынок как можно быстрее, и Убер выпустил на дороги недопиленную версию. Чтобы избежать проблем с законом в случае аварии, а также сохранить репутацию, в машину посадили стрелочника за смешные деньги. Уберу ничего не стоило посадить туда двух водителей по ставке $1000 в час, чтобы они были ппц как внимательны, но Убер этого не сделал — хотелось как обычно сэкономить на булавках. Ну а «в крови женщины обнаружены наркотические вещества» — совсем дешевая лажа (простите за выражение, но других слов у меня нет) потому что если Убер нанимает условных прокуренных уборщиц за минимальную ставку следить за машиной которая может сбить кого то (при этом зная, что софт недопилен), то виноват тут только Убер. Это как если бы самолёт во время приземления въехал в терминал и убил несколько пассажиров, а компания-владелец самолёта начала плести лапшу на тему «ну… пилот смотрел нетфликс в этот момент и вообще был под веществами и вообщем он во всём виноват» то летать бортами этой компании лучше не надо — у них там серьёзные проблемы с набором персонала и махровая экономия на безопасности.


    1. littorio
      25.06.2018 07:38

      Всё верно, но "ничего не стоило" и "экономия на булавках" у меня вызывают сомнения. Сколько там этих машин ездит, по $1000 в час не наплатишься. Тем более, масштабы роботизации наверняка предполагались гигантские.


      1. ankh1989
        25.06.2018 08:32

        На тестировании на дорогах можно было и не экономить. Пусть будет 100 в час (это нехилая ставка даже для продвинутого спеца) и пусть будет два водителя: то есть один может управлять, а у второго есть педаль тормоза. Пусть они чередуются в смотрении. И добавим ещё датчик внимания по типу грузовиков. Итого: 250 в час, пусть даже 24 часа в день, 6 месяцев = 1 миллион за одну машину. Пусть таких машин будет сто. Итого: 100 миллионов. Это крохи для компании которая ворочает миллиардами. Почему это не было сделано? Потому что жадное руководство сделало эти рассчёты и решило, что 100 миллионов в виде бонуса гораздо приятнее чем абстрактная безопасность.


        1. zxweed
          25.06.2018 09:58

          вообще-то, убер убыточная компания с самого своего основания и экономить на спичках — это всё, что они могут сделать


          1. ankh1989
            25.06.2018 21:25

            Говорят, что в Убер уже вложили больше 10 млрд, а оценка всей компании превышает 50 млрд. Убер — одна из немногих компаний которая может предложить больше Гугла. так что 100 млн это лишь 1% от того, что им уже дали.


    1. Welran
      25.06.2018 09:29

      Наркотические вещества нашли у женщины с велосипедом, а не у оператора. А так да убер просто нанимает стрелочников за гроши. Вряд ли 15, а раза в два меньше (минималку). А так могли бы контролировать работу вплоть до того что бы заставить оператора считать сколько людей было на обочине. И платить им нормально.


      1. iproger
        25.06.2018 17:13

        Сейчас минималка в Аризоне 10/час. Скорее всего, именно 15 и платили.


      1. ankh1989
        25.06.2018 21:27

        Упустил этот момент. Впрочем и тут Убер слажал: олени вон на дорогах можно сказать, что под веществами 24 часа в сутки — им ничего не стоит перебежать дорогу в любое время когда им удобно. Надо полагать, что если автопилот Убера въедет на полной скорости в оленя то виноват будет олень который не соблюдал правила.


  1. 3aicheg
    25.06.2018 06:10

    Надо оператору робомобиля виртуальное ружьишко давать. Выскакивает кто-то на дорогу перед робомобилем — бздыщ из ружья. В конце смены — премия по результатам подсчёта фрагов. Вот и не будут отвлекаться.


  1. Nick_Shl
    25.06.2018 06:38

    Интересно, как они собираются использовать "радар… и лидар", когда на дороге будет не один автономный автомобиль(и ни одного подобного вокруг), а десятки.


    1. littorio
      25.06.2018 07:33

      Летучие мыши же как-то справляются.


  1. RomanPokrovskij
    25.06.2018 09:55

    Может кто-то прочел больше чем эта статья (спасибо автору) и может объяснить зачем вообще Uber'у свой автопилот? У них бизнес модель такая что они последние перейдут на роботакси (бабушки себе студентов заказывать будут до последнего, а студенты будут последние кто купит новую машину с автопилотом) и если перейдут это будет совсем другой бизнес.

    Теперь взяли и подставили свой доход под удар. Голова не знает что делает хвост… Или это такой панический страх? А и подсознательное: «насбивать побольше — нарождающуюся индустрию заторомозить»…


  1. Lexxnech
    25.06.2018 11:32

    Виноват Убер, целиком и полностью. Причем не в багах автопилота а в полном пофигизме при организации тестирования опасной технологии.
    С самого начала нужно было не набирать кого попало с водительскими правами и сажать в автомобили с инструкцией «вы уж там, пожалуйста, следите за дорогой» а разрабатывать систему, при которой оператор (а лучше два) будет действительно все время следить за работой автопилота. Что бы любая ошибка автопилота была им замечена. Причем не только те ошибки которые привели к аварии, а желательно все. Например автопилот «не заметил» знак ограничения скорости, но правила не нарушил, потому что поток двигался медленно, такие ошибки тоже должны отслеживатся. И с самого начала нельзя давать оператору возможность забивать на свою работу, это должно быть заложено в архитектуру тестирования.
    Но дешевле, разумеется, набрать людей по объявлению и надеятся что пронесет.


  1. Tachyon
    25.06.2018 12:08

    Какая то странная формулировка- Незначительное препятствие, можно игнорировать. По моему на первых этапах развития автономных автомобилей почти любое препятствие- важное.

    Случись это всё в России, сейчас бы депутаны запрещали шоу «Голос»…


  1. Gokudera
    25.06.2018 14:20

    По моему на первых этапах развития автономных автомобилей вахно понимать что это ассистент водителю.
    Имхо вина полностью «Оператора робомобиля». Система очень не совершенна и для этого его туда и посадили. Вы же не будете гаишникам доказывать что это навигатор сказал повернуть на лево где это запрещено, что случается довольно таки часто!? (Это не повод вставлять палки в колеса разработчикам навигаторов)
    А вот для того что-бы понять степень вины водителя есть следственный эксперимент. Достаточно при тех же условиях определить за какое время до столкновения водитель мог увидеть пешехода. И что-то мне сдается в данной ситуации могло обойтись даже без резкого торможения.


    1. Areso
      25.06.2018 15:21

      И некоторые «блондинки» именно это и говорят. Одна такая даже будку ГИБДД снесла.


    1. ankh1989
      25.06.2018 23:26

      Такое объяснение не катит потому что водитель этот ничего не понимает в том как работает автопилот. Если бы за рулём сидел ML Research Scientist, он бы руль вообще из рук не выпускал, потому что знает как эти нейросети работают, точнее не работают.


  1. 14th
    25.06.2018 18:05

    И сказано напрашивается Рафик пешеход был неуиноват хоть и переходил в темноте, в темной одежде в неположенном месте.

    Вообще-то ответственность несут все участники движения, а не только те, кто на автомобилях.


  1. bobermai
    25.06.2018 18:21

    Прошлым летом немного побыл в состоянии, близком к этим операторам — брал в Европе в прокате машину с активным круиз-контролем (поддержание скорости + контроль дистанции до впередиидущей машины) и системой удержания на полосе. Несмотря на то, что проехать за один день надо было километров 700 — поигрался с этой системой минут 10 и выключил, далее включал только круиз. Оно действительно неплохо удерживается на полосе (только немного покачивает в поворотах), но возможности до конца не понятны, и на поддержание нужной концентрации уходит куда больше сил, чем на обычное вождение.


  1. serafims
    25.06.2018 18:23

    В принципе, требование регулярно голосом сообщать дорожную обстановку в черный ящик «скорость 70, слева никого, справа кусты, дорога прямая, виден впереди автобус» и контролировать это — показания спидометра можно считать, контроль зеркал — по движению глаз, упростило бы такие случаи… Также, как и с вариантом, когда человек купил себе робомашину. По идее, он мог мы некими маркерами ее даже обучать: машина сомневается, впереди ремонт дороги или мусор, и спрашивает, как поступить, или считывает управление водителем в данной ситуации.


    1. Areso
      25.06.2018 18:38

      Тогда отпадает вариант продажи авто людям без прав. В ПДД далеко не все вещи очевидны. Или можно продавать, но без вот этой вот обучающейся штуки от водителя, потому что водителя нет, есть пассажир.


  1. Wizard_of_light
    26.06.2018 00:19

    Чем дальше в лес, тем больше душераздирающих подробностей. Дважды судимый 44-летний трансгендер испытывает для транснациональной корпорации экспериментальный робомобиль, но, засмотревшись на телешоу, не успевает исправить ошибку автоматики…
    Мы живём в чёртовом фантастическом фильме категории Б.