В предыдущих сериях: о нерешаемых проблемах автопилотирования и плохих датчиках систем предотвращения столкновений.

За прошедший месяц мало что изменилось. Теслы все так же попадают в аварии в режиме автопилотирования, на этот раз первая авария в режиме автопилота случилась в Китае.

Из комментариев к предыдущему тексту Элон Маск не узнал, что ему нужно допилить алгоритмы. Поэтому решил добавить еще камер и радаров для улучшения автопилотирования. Напишите ему кто-нибудь.

Случилось вот что:



Сложно не заметить аналогий с майской аварией:



Догадаться о причине аварий несложно. Она в недостатке информации, а именно:

  • Угол обзора радара по центру автомобиля слишком узок, чтобы видеть автомобили по краям полосы.
  • С помощью камер невозможно понять габариты статического препятствия и динамический коридор автомобиля

Тесла и не поняла.

Пока автопилоты — это совокупность костылей, с помощью которых решают частные дорожные ситуации. Так, они оперируют дорожной полосой как неразрывным целым. Полоса занята или свободна целиком, препятствие не может занимать часть полосы слева или справа. Препятствие не может занимать часть полосы сверху (см прошлую аварию с прицепом). Одно из многих допущений, которые сужают задачу пилотирования и делают ее как-то решаемой.

Воспользуемся еще одной витающей в умах идеей, сделаем дорогу, по которой едут только автопилоты. Включим им ИТС (интеллектуальную транспортную систему). Пробежимся по возможному сценарию, кажется это сработает.
  1. Автомобиль понимает, что сломался.
  2. Автомобиль сообщает интеллектуальной транспортной системе, что встал в левой полосе. Техпомощь уже выехала.
  3. ИТС ставит метку аварии в этом месте и рекомендует движущимся сзади перестроиться правее.
  4. Автомобили приняли информацию, перестроились или поехали по другому маршруту

Если по пунктам?

1. Автомобиль может понять, что его неисправность препятствует движению. За исключением аварии (когда срабатывают подушки безопасности) человек подтверждает вызов оператору. Так уже работает ЭРА-Глонасс или eCall .
Все хорошо, ставим галочку.

2. Автомобиль передает свою координату и факт поломки. Сообщить, какую часть дороги он занял, пока нельзя. Навигации недостаточно, да и автомобиль — не материальная точка, может встать поперек дороги или под углом. Точную информацию можно понять по камерам или радарам дорожной инфраструктуры, но в таком случае ими должна быть закрыта вся дорога.
Галочку не ставим, до полного покрытия даже городских дорог еще очень далеко.

3. Сигнал от автомобиля получен, место поломки нанесено на сетку дороги. ИТС отправила информацию другим автомобилям. Протокол обмена информацией есть, выдавать информацию даже в двадцати разных форматах разным автомобилям не проблема.
Если еще не решено, то будет. Галочка.

4. Получить информацию о том, что в определенной координате находится помеха не проблема, но что делать остальным?

4а. Каждый автомобиль должен быть оснащен навигацией. Просто чтобы сопоставить свой маршрут и проблему на пути.
Не решено, навигацией оснащены менее 20% всех автомобилей.

4б. Автомобиль не понимает, по какой полосе двигается, точности навигации недостаточно. Необходимо прибегать к косвенными измерениями (если слева автомобили идут навстречу, ты в крайней левой полосе), сверке по биконам (могут стоять на разделителе) или сопоставлением данных объектов со сверхточной картой. Скорее всего стоит ожидать комбинацию всех трех вариантов.
Это тоже не работает.

4в. Перестраиваемся в свободные полосы или встаем при невозможности продолжить движение. Автопилот должен понимать, сумеет он проехать в свободном пространстве, или нет. Инфраструктура не располагает нужной информацией нужной точности.
Не работает!

В результате практическая реализация такого элементарного сценария, как объезд сломавшегося автомобиля, приводит к необходимости полностью завесить всю дорогу радарами или камерами, дополнительными метками навигации, не говоря о разметке и всем остальным.И все равно автомобилю нужны будут свои датчики, чтобы ориентироваться.

И в этом нет проблемы. Просто такая умная дорога автопилотам не-нуж-на!



ДОРОЖНАЯ ИНФРАСТРУКТУРА


Почему все так вкладываются в самоуправляемые автомобили? Потому что автопилотам не нужно строить инфраструктуру. Все уже построено и это дороги общего пользования.

С точки зрения технологии в сто раз проще автоматизировать поезда, метро и трамваи, у которых одна степень свободы в рамках рельс. Работы ведутся, но даже с точки зрения применения систем предотвращения столкновений автомобили лет на десять впереди рельсового транспорта.

Выделенные дороги дороги (ударения расставить по вкусу) или просто невозможны. Представьте себе выделенную сеть рельс до подъезда каждому. Трехмерного пространства не хватит.

Поэтому никто не вкладывается в автопилот-only магистрали или выделенные полосы. Это бесполезные с точки зрения экономики проекты. Контроль скорости, подсчет автомобилей, общение между собой? Другое дело.

Вывод:

Выделенных полос для автопилотов не ждать, весь смак автопилота в самодостаточности.



V2X


Идея дать автомобилю дополнительную информацию о дороге хороша и технически осуществима. Говоря о семействе интерфейсов V2X, обычно подразумевают V2I (машина-инфраструктура) и V2V (машина-машина). Предусмотрены и другие случаи, как V2B (машина-велосипед) или V2P (машина-пешеход).

На первый взгляд с V2X все обстоит неплохо. С протоколом низкого уровня договорились. Несколько частных применений, как оплата проезда, тоже согласованы. Все, кто пользуется транспондерами на М4 и других платных трассах, используют V2I.

Решения высокого уровня каждый автопроизводитель пишет сам и с другими не делится. Отсюда несовместимые стандарты, которые тормозят развитие V2X. Кругом дураки, не понимающие преимуществ открытых стандартов? Вряд ли дело в этом. Все пользуются одними заправочными пистолетами, и типоразмеры шин тоже универсальны.

Предположу, что автопроизводители боятся “коммодитизации” транспорта, то есть превращения автомобилей в безымянные тележки, которые выбирают без оглядки на бренд. Тогда придется соревноваться одной лишь ценой, что быстро выжжет рынок. Потребитель недолго будет радоваться, за падением прибылей следует резкое падение бюджетов на разработку. Машины станут хуже.

Как это выглядит в реальности? Самое известное соревнование — это Euro Truck Platooning. В нем участвуют несовместимые между собой грузовики, которые уже в состоянии ездить по дорогам общего пользования конвоем, с одним водителем на 4-5 грузовиков. Тем, кто интересуется темой, рекомендую почитать свежий отчет с испытаний 2016 года. В нем много фактуры, интервью и всего, что мы так любим. Для остальных резюме: проблем еще многовато, но они решаемы, особенно если вспомнить что platooning собираются запускать в… 2025 году. Это к вопросу о горизонтах автопилотирования.

Технически к тому, чтобы отдавать данные другим машинам, V2X готовы уже сейчас. Передавать информацию о светофорах, знаках, ограничения скорости — тоже. Вот так:



Вывод:

V2X уже используется и будет использоваться в дальнейшем. Как расширение информации с карт — уже, как способ обмена realtime-информацией об автомобилях — в будущем.



ДОСТОВЕРНОСТЬ ДАННЫХ


Проблема не выглядит масштабной, но и не обозначить ее нельзя. Использование некорректных данных быстро приведет к аварии.

Подделку данных с инфраструктуры уже обсудили в комментариях, это возможно. С собственными датчиками получше, вот свежий опыт нарушения работы автопилота Теслы. Камеру выжигают диодами, но она справляется. Радары глушат дорогим спецоборудованием, но только в статике. А ультразвук просто дерьмо :).

Так что за основу автомобиль будет брать собственные радары и камеры, которые отчасти дублируют друг друга, учитывать информацию от V2X и принимать решение. Заодно отдавая обезличенные данные обратно в ИТС, чтобы та сравнила информацию от автомобилей с собственной. Хороший канал обратной связи.

Что будут использовать для повышени точности и детализации информации?

Вывод:

Автопилот всегда будет иметь собственные датчики и мудреную систему принятия решений с учетом достоверности разных источников.



МОРАЛЬ И ЮРИДИЧЕСКИЕ АСПЕКТЫ


Допустим, технически мы уже плюс-минус готовы к автопилотированию. А морально? Думаю, что нет: действия автопилотов начали обсуждать публично всего год-два назад.

Главных темы для обсуждения две и потеря мест дальнобойщиками в их число не входит.

Во-первых, давайте понимать, что автопилоты будут убивать людей никаким не косвенным образом, а прямо в авариях. Каких именно людей? КАМАЗовский опросник показал, что найдутся желающие приговорить человека ради спасения жизни собаки. Почти 3/4 опрошенных считают, что автопилот должен убить своего пассажира, спасая группу людей. Справедливо? Ровно пока когда в беспилотнике не сидит отвечающий. Ценой своей жизни спасать других готовы меньше четверти.

Самая мякоть начинается дальше. Замечательная MIT moral machine (пройдите опрос, это недолго) показывает, что мы готовы делегировать автопилоту выбор жертвы, принимая во внимание ее ценность для общества. Проще говоря, лучше сбить старого преступника, чем молодого вундеркинда. По ссылке выше детализация более подробная, но учитывая некоторые расовые особенности преступности автопилоты должны убивать черных впятеро чаще, чем белых. Я бы не хотел объяснять это со сцены на презентации новой модели BMW.

Во-вторых, автопилот все же уменьшит совокупные потери человечества от аварий. Число жертв снизится на 30-90 процентов (да, оценки разнятся). Это в любом случае много, но количество жертв аварий в развитых странах и так вдвое уменьшается за десятилетие, к чему автопилоты не имеют никакого отношения.



Внимание, вопрос. Какое количество аварий мы вообще считаем допустимым для автопилота? Исследований на этот счет нет, но скорее всего подход сохранится. “В среднем” людей устроит даже 10-процентное снижение числа жертв, но только если автопилот не убьет именно их родственника. Как только счет жертв автопилотов пойдет на сотни и тысячи (вопрос времени), нас ждет дискуссия некислого градуса.

Раз уж коснулись вопроса ответственности. Ответить на него глобально сможет определение робо-личности, которое европейцы даже предлагают обсудить. Только не прямо сейчас, а с горизонтом в 50 лет. Автопилоты ушли не сильно дальше. Американская NHTSA как бы допустила беспилотное вождение, но та же Калифорния от желания видеть за рулем беспилотника оператора не отказалась.

Кстати, в качестве идеи: вопрос ответственности можно перевести в денежную плоскость. За счет снижения общего количества аварий аффилированные с автопроизводителями страховые смогут выплачивать колоссальные компенсации родственникам жертв, что снизит уровень негатива.

Вывод:

До полного понимания моральных и этических последствий запуска автопилотов нам еще очень далеко, хорошо хоть начали обсуждать.



ЭКОНОМИКА


Последняя тема, она же самая важная. Все-таки весь бизнес — про деньги.

У автопилотов положительная экономика, заметная в масштабах планеты. Крупные компании и фонды свободно вкладывают миллиарды в R&D, потому что все это окупится сторицей. Morgan Stanley считает, что при 100-процентном распространении дорожные автопилоты сэкономят миру порядка 5,6 триллиона долларов ежегодно. Это 5% мирового ВВП к тому моменту, ни разу не игрушки.

Озвучу некоторые экономические последствия автопилотирования.

В чем все согласны:

Пострадают топливные компании. В рамках Штатов экономия составит до 160 млрд долларов. Вместе с распространением электрмобилей это важный фактор давления цен на нефть и разные энергетические сверхдержавы. Да, шейхи читали этот доклад Морганов.

Перевозки станут дешевле и проще. В стоимости перевозки три четверти — это труд водителя. Упростятся интермодальные перевозки, отсюда внимание к стартапам в этой области. В целом по миру стоимость перевозок снизится примерно вдвое, а их прибыльность повысится. Ценой высвобождения 90 процентов водителей, sorry. Какой-нибудь йогурт подешевеет на процент. А в цене песка или бетона стоимость доставки более 50%, то есть таким образом подешевеет вся стройка в мире.

Будет меньше аварий и счетов за лечение. Экономия оценивается в 180-190 млрд долларов только в США. Кстати, именно на эту сумму упадет ВВП и этих же денег не получат сервисные компании и медучреждения.

Неявные моменты:

Автопроизводители — в нынешней модели бизнеса скорее проиграют, раз автомобилей потребуется меньше. Но ими будет оказываться больше услуг. Отсюда внимание к любым авто-стартапам, автогиганты столбят места. Чтобы все понимали, рынок автомобилей — это примерно 2 триллиона долларов ежегодно, которые еще и продолжают расти.

У человека высвободится примерно 50 минут времени в день. Скорее всего этим воспользуются производители инфотейнмента и алкоголя. В прессе, конечно, все пишут о повышении производительности и лишнем часе в день, которые можно будет потратить на работу.

Высвобождение территорий от дорог и парковок — причем это земля в основном в городах. 5,7 млрд кв.м., посчитать в деньгах сложно. Недвижимость должна подешеветь.

Решается важная проблема последней мили в доставке товаров. Она важна и повлияет на безумное число компаний. К примеру:

“Бизнес-модель: 25-30% комиссии на еду и 2.5 евро за доставку с клиента. Звучит выгодно. Но на самом деле нет, потому что курьерам надо платить из расчета 15 евро/час, что при существующем среднем чеке должно составлять больше 1.5 доставок в час.
Предыдущие деньги с двух раундов инвестиций суммарным объемом 16 миллионов евро закончились, а нужная «плотность» доставок так и не набралась. Третий раунд инвестиций обещали, но после дьюдила отозвали свое предложение обратно.
Два вывода:
1. Логистика способна сожрать все деньги.“

Можем ждать распространения новых сервисов, о которых сейчас даже не задумываемся. Самое простое — это дешевая (в районе 1 доллара) доставка круассанов утром в тысячи домов.

Вместо вывода:

Консенсуса по будущему автопроизводителей и страховых компаний НЕТ. Вроде бы неплохой отчет Munich RE (одна из крупных компаний перестраховки, 130 лет, 280 млрд евро активов) в котором написано много, а не сказано ничего. Так что заранее респектую экспертам, которые в каментах в три строки распишут, что будет с рынком.

И, наконец, резюмируем.

  1. Люди только-только начинают задумываться о том, как автопилоты встроятся в существующие финансовые, юрдические и многие другие аспекты жизни. Никто особенно не спешит, лет 15-20 у нас есть.
  2. Автопилотируемый автомобиль не зря выходит таким сложным — это запрограммированный «гордиев узел», в который слили все проблемы сопутствующих рынков. Например, инфраструктуры.
  3. Эффекты применения автопилотов сложно понять до конца, настолько сильно и по-разному влияет автопилотирование на десятки сфер. Если интересно мое мнение — как и другая роботизация, это приближает человечество к безусловному доходу.
  4. Да, и забудьте уже наконец про выделенные дороги.
Поделиться с друзьями
-->

Комментарии (209)


  1. seminole
    17.08.2016 21:56
    +22

    гипотетический сценарий
    1 — Алиса страшно ненавидит Боба и хочет его убить
    2 — Боб ездит на машине с очень продвинутым и умным автопилотом запрограммированным спасти как можно больше людей
    3 — Боб ездит по трассе где свернуть с дороги можно только в стену или обрыв
    4 — Хитрая Алиса берёт на руки малолетнего Владимира и выскакивает на дорогу в момент когда по ней едет ненавистный Боб.
    5 — Автопилот правильно взвешивает все за и против, спасает Алису и Владимира и убивает Боба об стену.
    6 — У аморальной Алисы всё получилось!


    1. Saffron
      17.08.2016 22:12

      Хорошее дополнение к дискуссии. А что если автопилот учитывает ценность, а потом бросает рандом с посчитанными весами?


      1. seminole
        17.08.2016 22:39
        +5

        тут проблема не в рандомности а в причинности, кто кого убил и за что, умышленно или нет, и кто виноват.
        какой-то абстрактный кусок программного кода принимает решения кого убить а кого оставить в живых.
        Такое решение даже не всякий суд присяжных имеет право принимать.
        БТВ я не автопилотный хейтер, мне нравятся автопилоты, я просто пытаюсь понять где предел автоматизации принятия решения и как определить ответственность за неправильно принятое решение


        1. Ruckus
          18.08.2016 10:51
          +1

          Да, вы правы. Но как бы и что не случилось — один (или более) участник заданного вами сценария с высокой вероятностью расстанется с жизнью. Вам будет проще, если это будете решать вы? Вы задавите двух человек (по сценарию) или улетите в стену? За какой промежуток времени вы сделаете данный выбор и успеете ли среагировать? Возможно в результате ваших действий погибнут все, это тоже надо учесть.
          PS Я сторонник автопилотов, но в данном случае я не на их стороне, решать кому жить, а кому нет они возможно не должны, по крайней мере не хотелось бы, чтобы меня убил собственный автопилот. Мне просто интересно как вы поступили бы в заданном вами сценарии без автопилота, учитывая, что сейчас можно сделать такую же подставу.


          1. StjarnornasFred
            18.08.2016 14:53
            +1

            Давайте попробуем подойти к вопросу по-инженерному.
            Во-первых, изначальное условие — соблюдение автопилотом ПДД, распознание всех знаков и разметки, а также наличие навигации с отмеченными типами дорог, переходами и т. д. Если автопилот не распознал знак — вина его (производителя). Если знака нет, а должен быть, значит, вина дорожников.

            Теперь подходим к собственно ситуации. Пешеходы на переходе? Не сбить: знак за 100 м, разметка видна, скорость снижена, тормоза работают. Как у людей.
            Пешеходы вне перехода? Нарушают, ну да ладно: камеры их видят, тормознуть можно, скорости-то чай не под сотню. Все перебегают через городские улицы, никто никого не сбивает (кроме очень редких случаев): пешеход либо не дурак и выбежит далеко от машины (можно затормозить), либо сам дурак (ситуация С1).
            Скорости под сотню? Трасса, видать. Какого, спрашивается, пешеход делает среди трассы? Нарушает. Если перебегает — так значит либо задолго до машины (можно затормозить), либо сам дурак (ситуация С1).
            Массовые гуляния, митинги, все лиди на дороге? Информация есть заранее, этой дорогой не едем. Если поехали — всё равно люди видны с далека, затормозить можно, никаких аварий.
            Кто-то ломанулся на машине под красный, поперёк дороги? Виноват+дурак, ситуация С2.
            Кто-то мчит по встречке? Он виноват+дурак. Ситуация С2.
            Скорая/пожарная мчит по встречке? Такое если и бывает, то всё равно они соблюдают осторожность и не несутся напролом не глядя, видны и слышны издалека, можно затормозить и уступить дорогу.

            Таким образом, все ситуации, обходимые живым шофёром, обходимы и автопилоту, только лучше за счёт мгновенной реакции и гарантированного ненарушения (когда ты сам летишь под сотню в городе, то естественно перед другим нарушителем не успеешь). Рассмотрим опасные ситуации С1 и СНГ, которые невозможно обойти и авария почти неизбежна.
            С1: внезапный пешеход перед носом. Тормозим (насколько успеем), уходим в сторону, если свободно (кювет, обочина, соседняя полоса). Если некуда-есть 2 варианта: либо давить (сам дурак, нет нарушения моральных норм), либо в препятствие (высока вероятность обойтись без жертв: ремень+подушка=жив на 70 в стену, если подушек несколько — есть шанс почти без травм). В любом случае виновник очевиден.
            С2: дурак на машине. Ситуация полюбому опасная для пассажира автопилота. Варианты: либо в него (если встречный — скорость сложится, опаснее), либо в препятствие (аналогично С1). Виновник очевиден.
            В обеих случаях нельзя ехать на посторонних людей, они не участвуют в ситуации и пострадать не должны. Если нет вариантов — ехать на дурака.


            1. xxvy
              18.08.2016 19:13

              если встречный — скорость сложится,

              Вообще-то нет. Точнее не совсем (зависит от контекста). В интернете было пролито много срачей на эту тему.
              На самом деле столкновение двух одинаковых встречных автомобилей, едущих с одинаковой скоростью, для каждого из них эквивалентен столкновению с неподвижной стеной, но не бетонной, а выполненной из сминаемого материала, похожем по характеристикам сминаемости на корпус автомобиля.
              </зануда_моде>


              1. xxvy
                19.08.2016 05:25

                Поясню для минусующих о сложении скоростей (не из-за минусов. но может я чего не знаю?).
                Результат столкновения двух автомобилей одинаковой конструкции и массы, движущихся с одинаковой скоростью (допустим 60км/ч), но навстречу друг другу, для каждого из них эквивалентен столкновению на скорости 60 км/ч с таким же неподвижным автомобилем, забетонированным колёсами в землю (эквивалент стены). Но никак не 120 км/ч!
                Это же физика.


                1. mayorovp
                  19.08.2016 06:27

                  Хотите сказать, что скорость столкновения вообще не играет роли? Не верю.


                  1. xxvy
                    19.08.2016 06:43
                    +1

                    нет. я не хочу это сказать. скорость играет роль, конечно же. Но она не складывается вот просто так, как представляется это обычно в головах.

                    Скажем так. столкновение двух авто на скоростях 60 и 60 эквивалентно столкновению одного авто на скорости 120 в стоящий неподвижно но не закреплённый (это важно) на месте автомобиль. Вот здесь можно с чистой совестью сложить. (т.к. стоящий авто после столкновения получит импульс и улетит дальше)

                    Но когда речь идёт о неподвижной стенке (естественно не бетонной. а что-то вроде сминаемого барьера на краштестах), то тут столкновение с таким барьером на скорости 60 эквивалентно лобовому столкновению двух автомобилей, со скоростью каждого тоже 60.


                    1. black_semargl
                      19.08.2016 09:30

                      Нет — встречный автомобиль, хоть и сминается — но при этом гасит только свою энергию, а не встречного автомобиля…
                      Т.е. при абсолютно симметричной ситуации — ни один атом не пересечёт плоскость столкновения ни с одной стороны. А это и есть «бетонная стена»


                      1. xxvy
                        19.08.2016 09:41

                        Возможно вы правы. Пойду сегодня, куплю пластелина. Будем с сыном краш-тесты делать :)


                        1. kaichik
                          19.08.2016 10:30

                          Зря вас заминусовали, но это всегда происходит при обсуждении столкновения автомобиля с другим автомобилем или стеной :).

                          В основном вы правы, столкновение двух автомобилей со скоростью 60 примерно эквивалентно по последствиям столкновению каждого из них с неподвижным деформируемым барьером. На этом основана теория всех краш-тестов, например EuroNCAP.

                          В свое время в качестве автожурналиста я общался с конструкторами многих европейских марок, они говорили что на практике удар двух автомобилей на скорости 60 кмч примерно эквивалентен удару о стену на скорости 52-54 кмч. То есть при столкновении двух автомобилей энергия рассеивается лучше. Точной математической модели деформации автомобиля нет (отсюда невозможность полностью отказаться от краш-тестов даже сейчас), но в целом это правило выполняется.

                          И когда говорите о последствиях столкновений, помните, что кинетическиая энергия — это mv2/2, то есть тяжесть столкновения зависит от квадрата скорости.


                      1. DouTro
                        19.08.2016 12:33

                        Ну вот и получается, что второй автомобиль гасит свой удар, а мы свой. И каждый гасит по 60 км\ч(вот 120 на двоих и выйдет), а не суммарные 120.


            1. DouTro
              18.08.2016 20:31
              +1

              Кстати влететь в машину встречную, если у тебя и у неё скорость 60, это лучше чем в стену на скорости в 60. Проверяли не раз.
              встречное столкновение на скорости 60 это далеко не тоже самое, что 120 в стену(там вообще ничего от машины не остаётся)+ встречная машина тоже аммортизирует, в стену вы запредельные перегрузки испытаете.

              А вообще верно сказано, тоже похожим способом рассуждал когда тест «кого убить» проходил


        1. FirExpl
          18.08.2016 11:16
          +12

          ИМХО, опросник МИТа и подобные ему — хрень. Единственное чем должен руководствоваться автопилот — ПДД, и никаких моральных/этических аспектов не надо. Лично я не понимаю, почему человек, который едет по правилам в своём «умном» авто, должен умирать из-за, например, группы дебилов, которые грубо нарушая ПДД вылезли под колёса. Всё что должен сделать автомобиль в описанной выше ситуации — снизить скорость вплоть до полной остановки оставаясь в своей полосе, как и написано в ПДД.
          Заодно глядишь люди научатся соблюдать ПДД. Естественный отбор, так сказать.


          1. NeuroHunter
            18.08.2016 14:55

            Именно.
            Идея автопилота — заменить водителя. Водитель должен ехать по ПДД (то, что это не совсем так, оставим за скобками). Значит и автопилот должен ехать строго по ПДД. А с учетом того, что его время реакции предсказуемо, шансов на столкновение будет меньше.


          1. kaichik
            19.08.2016 10:34

            Приоритет ПДД и так понятен, речь о другом.

            Исследователи исходят из того, технологии должны делать этот мир лучше, ну или по крайней мере более гуманным. Отсюда и опросник.

            То есть если 3-летний малыш выскочил на дорогу за бабочкой, его нужно стараться спасти за некую разумную цену (железо и вред здоровью других людей), а не класть книжку с Правилами на гробик.


            1. hokum13
              19.08.2016 11:52

              С какого перепугу? Вы уверены, что Ваш поступок спасет его жизнь и не угробит жизнь кого-то еще? Ок, ребенок выскочил на дорогу, Вы пустили авто в кювет, а там семья этого ребенка (ну он же не один у дороги ошивался). Или куском разлетающегося стекла посечет яремную вену, вроде царапина, а все. Лучше получилось?

              Дорога относительно безопасное место благодаря предсказуемости. Предсказуемость достигается если все соблюдают правила. Если кто-то не соблюдает правила — ситуация становится непредсказуемой! Но вместо сохранения предсказуемости, пусть и ценой аварии (и чьей-то жизни) Вы предлагаете еще чуть чуть увеличить непредсказуемость! А значит падает безопасность для всех, кто движется по этой дороге!

              Вы сейчас рассуждаете, также, как противники вакцинации. Да, есть шанс завакцинировать до смерти, но шансов не выжить без вакцины куда как больше. Так же и тут, да, ребенок станет жертвой правил, зато тысячи других выживут!


              1. ploop
                19.08.2016 13:45

                Думаю, имелась ввиду ситуация, когда есть возможность 100% безопасного манёвра. К примеру, встречка чистая на километр вперёд и назад. В этом случае не стоит уподобляться грузовому поезду и давить всех подряд.


                1. hokum13
                  19.08.2016 17:17
                  +1

                  Он уже прозевал появление ребенка на дороге. Значит неправильно выбрал скорость, либо неисправны датчики. В первом случае он неправильно рассчитал свои возможности (по ПДД он должен выбрать скорость, при которой успеет остановиться), уверены что он сможет рассчитать маневр и перестроиться безопасно? Во-втором не увидел слева/справа вероятное препятствие в десятке метров, о каком знании безопасности маневра на встречную полосу можно говорить, когда дистанция должна быть в сотни метров?


        1. diaskzn
          18.08.2016 11:32
          +4

          Я вам опишу текущую юридическую коллизию в законодательстве.
          Человек решил перейти с одной платформы на другую по рельсам, попадает под электричку и погибает. Водителю электрички, даже несмотря на то что он управляет средством повышенной опасности, за это ничего не будет.
          Теперь другая ситуация. Человек резко решает перейти дорогу в неположенном месте перед легковым автомобилем и погибает. Водителя легковушки отправят в тюрьму (и ещё надо будет деньги родственникам компенсировать за потерю кормильца), так как он управляя средством повышенной опасности и не предусмотрел что на дорогу может выскочить «олень», и не выбрал соответствующую скорость.
          В обоих случаях виноват «олень», но ответственность разная. Вот пока не устранят такую коллизию (юридическую и моральную) и будут вестись разговоры о морали автопилотов. А по сути логика проста: нарушил правила — умер. Мораль должна быть направлена на то, чтобы невиновный не отвечал за нарушения другого человека.
          Однако, не надо рассматривать мой пост как призыв к убийству пешеходов на дороге. Понятное дело если есть какая то помеха на дороге (человек, животное, большой камень, выпавшая стиральная машина и т.п.) на неё не надо наезжать. Мой посыл к снятию ответственности за убийство «оленей» (пешеходов нарушающий правила).

          Выбор спасти 10 или 1 человека неверен в корне, так как тот 1 вполне может через 3-4 года спасти 1000 человек, как впрочем и среди 10 может оказаться тот кто спасет ту же тысячу. Поэтому, повторюсь, спасать надо соблюдающих правила. Как только «олени» услышат что их можно давить безнаказанно, число «оленей» резко сократится, сработает инстинкт сохранения.


          1. vp7
            18.08.2016 12:34
            +2

            Эта коллизия всё-таки объяснима — тормозной путь электрички исчисляется сотнями метров, может даже достигать километра.
            Машинист едет по расписанию и при всём желании ничего не сможет сделать в такой ситуации.


            1. diaskzn
              18.08.2016 13:50

              У меня тоже расписание. В 7.30 я выезжаю из гаража, в 7.50 паркуюсь у конторы. Почему я должен ехать с такой скоростью, чтобы успеть затормозить, а поезд нет?


              1. Scarred
                18.08.2016 20:29

                Ну наверно потому что длина тормозного пути зависит не только от скорости, но и от массы транспортного средства.
                А масса состава и автомобиля отличается на 3-4 порядка примерно… А длина тормозного пути отличается всего на порядок…
                На вскидку, что бы поезд тормозил за те же 20-200 метров что и автомобиль, скорость должна быть примерно 5-30 км/час… Экономическую целесообразность подобного можете прикинуть сами.
                И все равно найдутся идиоты которые попадут под поезд, даже на таких скоростях…


            1. 1_admin_1
              18.08.2016 15:39
              +2

              Расписание вообще никак не влияет на то, что поезд не должен останавливаться при обнаружении человека на путях.
              Ничего страшного не произойдет, если поезд остановится. Да, в дальнейшем прийдется машинисту этого поезда и следующим — нагонять потерянное время, возможно они опоздают по времени прибытия на нескольких станциях.

              В случае, если наезд на человека (группу людей) происходит со скоростями движения ЭВС «САПСАН» 141 км/ч и выше, машинист, не останавливая поезд, немедленно сообщает о случившемся по поездной радиосвязи ДСП ближайшей станции и машинистам встречных поездов. В случае наезда на человека или группу людей при скорости до 140 км/ч включительно, машинист применяет экстренное торможение. После остановки поезда помощник машиниста следует к пострадавшему с аптечкой и переносной радиостанцией.


              1. quwy
                19.08.2016 16:15

                Помнится, применять экстренное торможение пассажирским поездам дальнего следования из-за оленя на путях было запрещено с гораздо меньшего предела скорости. При таком торможении с полок попадает и поубивается на порядок больше народу, чем один олень (который к тому же ССЗБ).


          1. Eklykti
            18.08.2016 12:43
            +2

            Водителя легковушки отправят в тюрьму

            Если докажет, что пешеход выскочил неожиданно и не было возможности избежать, то не посадят. Страховая оплатит похороны, на этом все претензии к водителю по идее заканчиваются.


            1. bobermai
              18.08.2016 12:49
              +1

              В пределах РФ претензий к водителю не будет только в случае, если он сможет доказать, что пешеход намеренно выскочил под колеса. «Неожиданно» — не является оправданием.


              1. Eklykti
                18.08.2016 12:52
                +1

                Не является оправданием для гражданской ответственности, по которой страховка водителя оплатит лечение или похороны пострадавшему. Уголовная же наступает только в том случае, если виноват сам водитель.


            1. Pakos
              19.08.2016 16:08

              Могут не закончиться из-за управления средством повышенной опасности. Ну тут, говорят, мнение судей бывает различным — так что могут и закончиться. Но там ответственность в любом случае административная.


          1. vibornoff
            18.08.2016 12:48
            +2

            Пример с электричкой не совсем корректен. Есть два вида ответственности — уголовная и гражданская.

            Уголовная возникает в связи с нарушением правил. Гражданская — в связи с причинением ущерба средством повышенной опасности.

            В обоих примерах уголовная ответсвенность у водителей не возникает, т.к. правила нарушает «олень».

            Но гражданская ответственность есть в обоих случаях и возникает она у владельца «средства повышенной опасности», т.е. в случае с электричкой — у РЖД, а с автомобилем — у водителя (т.к. скорее всего водитель и является владельцем авто).


            1. diaskzn
              18.08.2016 13:15
              -1

              РЖД выплачивает пособие по утрате кормильца? Очень сильно сомневаюсь.
              Пусть даже только гражданская ответственность. Почему водитель легковушки (не страховая! водитель в любом случае косвенно оплачивает через повышенные коэффициенты) должен оплачивать лечение/похороны «оленей», а РЖД не должно?


          1. hokum13
            18.08.2016 13:28

            Полностью поддерживаю. В случае вины «оленя» отвечать должен «олень», даже если цена наказания — его жизнь. А автопилот в сомнительных ситуациях до буквы должен соблюдать ПДД. Правда одно замечание: водителя посадят только если нет доказательства его невиновности. Т.е. если ребенок выбежал из-за фуры прямо под колеса и это заснял регистратор, то водителя почти наверняка не посадят.

            В автошколе приводили такой пример: в дождливую погоду водитель задавил выпавшего (да да!) ему под колеса «оленя», на камере видно что тот спокойно стоит у края проезжей части, а за секунду до столкновения падает. Водителя спасли регистратор и свидетели, видевшие как «олень» пытался проделать такой же фокус несколько раз подряд до этого. Т.е. совершил самоубийство, а отвечать должен был водитель.


          1. rttm
            18.08.2016 14:54

            Если водитель не нарушал ПДД, а пешеход пьяный, то не должны посадить. Работал аваркомом, осматривал машину после наезда на пешехода. Так вот хозяин сказал, что в полиции говорили, что если бы были нарушены ПДД, то не важно в каком состоянии пешеход, где он переходил и т.д… Вообще ничего не важно, нарушил ПДД — виновен.
            Не с пьяными пешеходами разве не такая же ситуация?


          1. kaichik
            19.08.2016 10:43
            -1

            Вы правы в оценке ситуации, она в общем соответствует букве ПДД и автопилоты будут ей соответствовать. Но речь немного о другом, когда с точки зрения ПДД прав водитель (как минимум — не виноват), но технологии могут позволить минимизировать негативные последствия ситуации.

            Пара подобных ситуаций (их больше, конечно):

            1. На дорогу выскочил ребенок. Он виноват с т.з. Правил, но разве вы не будете уходить от столкновения при возможности?

            2. На пешеходный переход быстро выбежал человек. Он спокойно может сделать это на такой скорости и в такой момент, что вы физически не сможете предотвратить столкновение. По Правилам вы будете стопроцентно виноваты, может лучше уехать в столб в такой ситуации?


            1. ZhenyaZero
              19.08.2016 13:43

              2. Честно признаюсь, я не знаю ПДД, но вроде бы водитель обязан сбавить скорость перед пешеходным переходом, если рядом с ним стоят люди (даже не собирающиеся с виду перебегать дорогу) или ограничена видимость. Никаких «не сможете предотвратить столкновение» не должно быть в принципе. Если водитель не сбавил скорость до такой, чтобы даже желающий умереть под колёсами на пешеходном переходе человек не смог этого сделать, то он однозначно виноват. В этом и есть вся суть пешеходного перехода.


              1. Ruckus
                22.08.2016 13:15

                Вам стоит почитать ПДД… «Суть» пешеходного перехода в том, что если пешеход на него вышел — его обязаны пропустить, но если он прыгнул под колеса — сам виноват. Вне пешеходного перехода пешеходов быть не должно вообще и по ПДД задавленый далее, чем 5 метров от перехода пешеход будет сам виноват в своей смерти за исключением наличия знаков «осторожно — дети» и прилегающей/дворовой территории.
                Не знаю на сколько авторитетен источник, но вот ссылка, ключевые слова «пешеходам, переходящим дорогу или вступившим на проезжую часть».
                А для пешеходов пункт 4.5:
                «На нерегулируемых пешеходных переходах пешеходы имеют право выходить на проезжую часть (трамвайные пути) после того, как оценят расстояние до приближающихся транспортных средств, их скорость и убедятся, что переход будет для них безопасен. При переходе дороги вне пешеходного перехода пешеходы, кроме того, не должны создавать помех для движения транспортных средств и выходить из за стоящего транспортного средства или иного препятствия, ограничивающего обзорность, не убедившись в отсутствии приближающихся транспортных средств.»
                Так что те, кто не глядя выходит на переход автоматом нарушители, так как не убедились в том, что автомобиль успеет затормозить до столкновения с ними. Правда доказать без регистратора или свидетелей все это крайне сложно.


                1. ploop
                  22.08.2016 14:43

                  Правда доказать без регистратора или свидетелей все это крайне сложно.
                  Зависит от места и обстоятельств, если это загородная трасса, то в большинстве случаев суд оправдывает водителя, у которого практически нет шансов избежать ДТП (не сбить человека). Ситуаций может быть много, к примеру, идёт поток где-то на 80 км/ч, и пешеход выскакивает из-за только что прошедшей фуры. Его видеть физически невозможно заранее, единственный шанс — на скорости уйти на встречку, угробив себя и ещё N невинных людей.


                1. Saffron
                  25.08.2016 11:32
                  +1

                  > Вне пешеходного перехода пешеходов быть не должно вообще
                  Если пешеходных переходов нет, то переходить можно где попало.


                  1. Scarred
                    26.08.2016 13:11
                    +1

                    Но убедится в безопасности должен пешеход.


            1. Pakos
              19.08.2016 16:15

              1. Уже предлагали при объезде выехать на обочину и задавить его родителей, увеличив непредсказуемость поведения ТС
              Ребёнок увидел машину, побежал обратно/на встречку, а мы вместо торможения начали манёвр и настигли его. Или вместе с торможением и ушли в занос, устроив кегельбан из пешеходов, или чуть подтормозили, не теряя сцепления, но из-за манёвра торможение вышло не столь эффективным.


    1. aduchi
      17.08.2016 22:13
      +4

      7 — полиция находит запись проишествия в черном ящике в машине Боба
      8 — Алиса садится в тюрьма за предумышленное убийство


      1. seminole
        17.08.2016 22:34
        +3

        9 — Алиса нанимает адвоката, максимум что ей могут пришить это выход на дорогу в неположенном месте.
        10 — Суд действуя исключительно в рамках закона возмещает Алисе моральный, материальный и судебные издержки
        11 — Боб к сожалению не может подать в суд ни на Алису ни на производителя автопилотов.


        1. edogs
          17.08.2016 23:05
          -3

          9. Не. Непредумышленное или убийство по неосторожности — повесят.


          1. APLe
            17.08.2016 23:13
            -1

            Или даже умышленное, если доказать смогут.

            В общем, в современном мире достаточно способов убить человека так, чтобы умысел было тяжело доказать; одним больше, одним меньше — не велика разница.


            1. Vlad_Hm
              18.08.2016 08:39

              Да, способов много. И ещё, поскольку данный метод является довольно сложным, он будет предполагать высокий риск срыва, и появления прямых и косвенных улик о намерениях, и не будет применяться для аффективных, непреднамеренных убийств, которые составляют большинство случаев.


        1. Vlad_Hm
          18.08.2016 08:26
          +1

          Боб подать конечно уже не может, но может производитель автопилотов возбудить встречный иск, и, с учётом разницы финансовых возможностей, для Алисы всё может весьма грустно кончиться, особенно если будут найдены даже косвенные факты, свидетельствующие о намерениях Алисы (получение информации о алгоритмах автопилотов, съёмка с камер наблюдения, показывающая, что Алиса всячески подстраивает свой график в этот день, чтобы быть в нужном месте в нужное время, что-то в соц-сетях, история активного поиска в Сети подобных случаев для анализа, и прочая). После чего адвокаты производителя авто нанимают лучших адвокатов, формируют для Алисы подходящую психологическую модель, которую ненавязчиво и косвенно продавливают в СМИ, и, даже не имея прямых доказательств, направляют судебное рассмотрение на суд присяжных.
          Где Алисе может выпасть «чёрный лебедь» — запросто.
          На месте Алисы я бы не рисковал.
          Сложное убийство всегда оставляет следы.


        1. SuhoffGV
          18.08.2016 10:54

          9 — Алиса нанимает адвоката, максимум что ей могут пришить это выход на дорогу в неположенном месте.
          10 — Суд действуя исключительно в рамках нового закона сообщает Алисе… что в случае выхода пешехода в неположенном месте на трассу по которой разрешено движение автопилотируемых ТС виновным в дтп признается пешеход назначает Алисе 5 лет тюрьмы с отсрочкой до достижения Владимиром 14 лет.


    1. ilya_1
      17.08.2016 22:30
      +13

      Ну тут по моему все просто, ПДД никто не отменял, перед пешеходами тормоз в пол, если пешеходы на переходе и правил не нарушают летим в кювет, если нарушают оттормаживаемся как получится, на встречку ни-ни — подвергать опасности ненарушающих нельзя. А про «ценность» вообще глупости какие-то, которые породят вседозволенность и безнаказанность


      1. mayorovp
        17.08.2016 22:53
        +1

        В том-то и проблема подобных обсуждений моральных вопросов — что обсуждается тут, по сути, именно отмена ПДД.


        Я тоже сторонник ПДД, а не Алгоритмов Вычисления Ценности Жизни — но на вопрос "не отменить ли нам ПДД" отвечать "ПДД еще никто не отменял" — нельзя.


        1. DrZlodberg
          18.08.2016 09:34
          +2

          Отменять их нельзя как минимум до тех пор, пока у пешеходов тоже не появится автопилотов (мало ли кому какая мысль взбредёт по апгрейду). Смысл ПДД даже с учётом того, что ВСЕ машины будут ездить на автопилоте в том, что их поведение остаётся предсказуемым постороннему. С правилами — видя, что назревает столкновение я могу хотя бы примерно предсказать движение машины и убраться с траектории их разлёта например. А без — попытаюсь уйти, а она в меня повернёт.


          1. mayorovp
            18.08.2016 10:01

            … а теперь попытайтесь объяснить про важность предсказуемости фанатам задачи о вагонетке :)


            У меня не получилось.


            1. DrZlodberg
              18.08.2016 10:51

              Элементарно. Просто пусть представят себя стоящими на тупиковом пути, куда ВНЕЗАПНО свернул скоростной поезд объезжая толпу алкашей стоящих на его пути. Отойти проблем никаких, всего один шаг в сторону. Вот только успеть сообразить сделать этот шаг…


        1. kaichik
          19.08.2016 10:50

          Вы совершенно правильно понимаете главный вопрос moralmachine — это по своей сути реформа ПДД и механизмов ответственности.


      1. anatoly314
        17.08.2016 23:38

        Дико плюсую и добавляю еще необходимость учитывать опасность что-бы сзади никто не въехал, потому что если сзади многотонный грузовик и скорость не маленькая и пешеходы нарушают правила, то я лучше буду горько оплакивать пешеходов чем мои родственники мою тушку.


        1. Odrin
          18.08.2016 11:24
          +1

          Это тоже вопрос соблюдения ПДД.

          9.10. Водитель должен соблюдать такую дистанцию до движущегося впереди транспортного средства, которая позволила бы избежать столкновения, а также необходимый боковой интервал, обеспечивающий безопасность движения.

          При движении в плотном транспортном потоке необходимо прогнозировать возможное экстренное торможение движущегося впереди транспорта и обращать внимание на ТС, движущееся сзади.

          Т.е. если автопилоты строго соблюдают ПДД, то всем хорошо (ну кроме любителей переходить дорогу а неположенном месте). А если все автомобили поддерживают «контакт» с ближайшими авто, то позади идущие узнают об экстренном торможении даже раньше, чем определят его по камерам/датчикам.
          А определение ценности и оценка последствий автопилотом — действительно бред. Может он еще будет кубики кидать, как в D&D?


      1. dem1urg
        17.08.2016 23:44
        +4

        А мне кажется, что автопилот должен просто ехать соблюдая все правила, а если случается какая-то лажа, которая этими правилами не предусмотрена, то он конечно старается что-то сделать, но ни в коем случае ни в ущерб водителю и не подвергая его риску для жизни. Допустим, на дороге возникла толпа людей. Что она вообще там делает и как так получилось, что машина мчится на них с такой скоростью, что не может затормозить? Ну ОК, допустим так получилось. Машина пытается тормозить по максимому, но должна давить этих людей вместе с детьми и собаками если ей некуда больше деваться. Почему? Потому что тогда всё понятно. Тогда виноват либо производитель автопилота, который не предусмотрел выход из этой ситуации или неправильно оценил ситуацию (возможно он просто не заметил временный знак 20км/час на этой дороге), либо люди, которые там оказались. Либо не виноват никто, просто так получилось. И кто будет использовать автопилот, который может пожертвовать собой и водителем ради кого-то?
        А сколько людей погибло в авиакатастрофах из-за разных мелочей, в которых были виноваты проектировщики этих самолётов? Кто-то запретил самолёты? Что говорят родственникам погибших? Мы всех уволим и больше не будем делать эти самолёты? Нет, им говорят, извините, мы учтём данную проблему и другие самолёты будем делать лучше.
        И так же с автопилотом, извините, но эта ситуация не была учтена, мы всё доработаем.
        Если конечно с автопилотами ситуация будет такой, что смертность в авариях возрастёт, то тогда разговор другой, но ведь никто не верит, что так будет.
        Все эти акты самопожертвования ради других точно не нужны ни автопилоту, ни его водителю.


        1. Saffron
          18.08.2016 03:45
          -4

          > Допустим, на дороге возникла толпа людей. Что она вообще там делает и как так получилось, что машина мчится на них с такой скоростью, что не может затормозить?

          Митинг у этих людей. Или народные гуляния в Ницце.


          1. General_Failure
            18.08.2016 07:11
            +5

            Для народных гуляний дороги должны быть перекрыты
            И митинги вряд ли будут проводить на трассе, скорей в городе, где скорости не такие чтоб не успеть затормозить
            Тем более тормозить приходится на каждом светофоре и на многих перекрестках (автопилот может быть вообще на каждом будет тормозить на всякий случай, даже если у него преимущество)


          1. Pakos
            18.08.2016 11:42
            +2

            Если они проводят митинг "«не трамвай — объедет» на федеральной трассе, то пусть попробуют его провести на ж/д ветке на пути грузового состава. Тоже будет весело (им).


        1. Goodkat
          18.08.2016 10:51

          А сколько людей погибло в авиакатастрофах из-за разных мелочей, в которых были виноваты проектировщики этих самолётов? Кто-то запретил самолёты?
          Собственно, так обычно и происходит, если выясняется, что виноваты именно проектировщики, то полёты всех самолётов с этой неисправностью приостанавливают до её устранения. Жаль, что с людьми так нельзя.


        1. VoidEx
          18.08.2016 16:24
          -1

          Тогда виноват либо производитель автопилота, который не предусмотрел выход из этой ситуации или неправильно оценил ситуацию (возможно он просто не заметил временный знак 20км/час на этой дороге), либо люди, которые там оказались.

          Почему в случае бага в ПО вы по умолчанию выбираете вариант, при котором страдать будут люди, которые это ПО не купили, т.е. пешеходы? На мой взгляд, разработчики алгоритма не имеют права исходить из того, что он [алгоритм] безошибочен, т.е. изначально надо предполагать, что он может ошибаться, а потому что тогда делать в спорной ситуации?
          В ситуации, когда авто едет строго по ПДД, всё понятно, а вот когда нет?


          1. mayorovp
            18.08.2016 21:04

            Не "в случае бага в ПО", а "в случае нештатной ситуации". Есть там баг в ПО или нет — автопилот сам определить не может, вероятность же вины людей впереди выше чем вероятность бага в алгоритме.


            Крайние и редкие случае, безусловно, надо рассматривать — но оптимизировать нужно все-таки общий случай.


            1. VoidEx
              19.08.2016 02:45

              вероятность же вины людей впереди выше чем вероятность бага в алгоритме

              В любом случае? Если они там на красный идут, это одно, а если на зелёный, но как-то так получилось, что машина на них мчится и не успевает затормозить, тогда кто вероятнее всего ошибся?


              1. mayorovp
                19.08.2016 06:29

                В условиях того, что неизвестно, идут ли в такой ситуации они на красный или на зеленый — вероятнее, что на красный. Потому что обе ситуации нерормальны — но в первом случае виноваты люди, которые ошибаются часто — а во втором случае виноват автопилот, который протестирован.


                1. VoidEx
                  19.08.2016 12:07

                  Ну а если таки на зелёный, всё равно их давить?


                  1. mayorovp
                    19.08.2016 13:54

                    Если автопилот (и светофор) исправны — то он остановится перед переходом, ибо ему-то красный.


                    А если техника неисправна — то и проанализировать состояние светофора не сможет.


                    1. ariklus
                      19.08.2016 14:09
                      +1

                      Vашина — система комплексная и потому вполне может возникнуть ситуация когда распознаватель светофоров работает а тормоза — нет.


                      1. mayorovp
                        19.08.2016 14:16

                        Внезапно не работающий тормоз не даст времени на реакцию даже автопилоту.


                        1. ariklus
                          19.08.2016 14:57
                          +1

                          Почему это? Между обнаружением поломки и моментом выхода на одно или другое развитие событий может пройти до секунды. А автопилот — не человек и ему хватит куда меньшего промежутка времени.


                        1. Pakos
                          19.08.2016 16:19
                          +1

                          При неработающем тормозе автопилот остановится и дальше не поедет — датчик определит когда давление в системе упадёт и затормозит (с использованием рекуперативного торможения — при массовости уже будут электрокары, их и заправляться самим проще) и остатков рабочей тормозной системы. Вот живой водитель может не обратить внимания на лампочку и «ой, тормозов нет, превед, пешеходеги».


                    1. VoidEx
                      19.08.2016 15:47

                      Подменяете понятия, я говорил о багах, а не неисправностях.
                      Если уж доводить до абсурда, так до конца, отчего ж вы остановились на «не сможет проанализировать состояние»? Сказали бы сразу «неисправен — не может принять решений, ничего не может, так что как карта ляжет». Или это было бы слишком утрированно? :)
                      Между «безошибочен» и «ничего не работает» есть целый спектр состояний.

                      Речь о рабочем алгоритме, в котором есть баги, и это нормальная ситуация.
                      Обнаружил такой алгоритм людей на переходе, переходящих на зелёный сигнал светофора, но авто едет слишком быстро. Что делать? Например, возможно, что алгоритм не распознал знак перед светофором, ограничивающий скорость, вполне вероятная ситуация. При этом он вполне уверен (т.е. отчётливо видит, хотя вероятность ошибки есть и тут, но она крайне мала), что там люди, и идут они на зелёный. Так что делать в таком случае?

                      Вторая ситуация — знака и не было, виноваты дорожные службы, но пострадать кто должен, невиновные пешеходы или невиновный водитель?


      1. 9_pm
        18.08.2016 11:32
        -1

        1. Исходим из того, что погибнут все.
        2. Выбираем варианты, при которых не погибнут пассажиры.
        3. Из них выбираем те, при которых не умрут те, кто не нарушил ПДД.
        4. Из них выбираем те, при которых минимизируются жертвы.
        5. Из них выбираем те, где меньше действий (по возможности не поворачивать, предпочитать простые действия сложным во избежание непредвиденных ошибок)
        6. И вот только когда выбор стоит между повернуть направо и сбить одного пешехода, идущего на красный или повернуть налево и сбить одного пешехода, идущего на красный, можно размышлять, кто тебе больше нравится, или кто полезнее для общества. Это вообще можно рандомом решать, или личными настройками — все равно к консенсусу по поводу того, кого сбивать при прочих равных — мальчика или девочку, общество не придет.

        Как-то так.


        1. 9_pm
          18.08.2016 11:42

          Ну, в случае, если транспорт общественный, то второй пункт пропускаем.


        1. vilky
          18.08.2016 12:07

          За владение транспортом, действующим по этому алгоритму, нужно сажать сразу.


          1. 9_pm
            18.08.2016 12:22

            Да, порядок второго и третьего пункта дискуссионен. Я исходил из следующих двух соображений:
            1. Если потенциальные обладатели атопилота будут знать, что в случае чего их автомобиль их убьет чтобы спасти пешеходов, то покупать автомобили с автопилотом будут гораздо менее охотно. А если правы исследования, которые говорят, что чем больше автопилотов, тем меньше аварий, то в целом это приведет к лишним жертвам.
            2. Спорный момент, к сожалению, не могу привести исследований, но есть общее ощущение, что большая часть живых водителей предпочтут сбить двух пешеходов, даже если они на пешеходном переходе, тому чтобы слететь вдвоем с пассажиром с моста. Их же мы не сажаем.


    1. flx0
      17.08.2016 23:44
      +8

      Я вообще не понимаю этих дискуссий о «спасении». Если отбросить возможные сбои, то автопилот по определению едет по правилам. Значит тот, кто под него вылез, делал это не по правилам. Он с тем же успехом мог выйти на рельсы или намотать шарф на шпиндель токарного станка. Нарушаешь ТБ — сам дурак. Точка.


      1. Metus
        18.08.2016 00:00
        +1

        Всё так просто? Да первое что в голову приходит — светофор глючит или знак приоритета сломался.


        1. Eklykti
          18.08.2016 00:42
          +6

          Определять такие ситуации — не задача автопилота. При невозможности избежать дтп — давим предполагаемого нарушителя, если потом суд определит, что где-то там знак неправильно стоял, значит, организация, ответственная за установку знака, оплатит ему лечение и ремонт.


          Максимум, что можно посчитать автопилотом — въезжаем в нарушителя на 60 км/ч или в стену на 10, но для этого нужны нормально работающие суды, а не «контактанебылозначитсамдурак»


          1. Metus
            18.08.2016 09:12
            -3

            Задача автопилота — довезти пассажиров/груз с минимальным риском как для них так и для окружающих, учитывая то, что автомобиль — это средство повышенной опасности.

            А вот эти «сам дурак», «предполагаемый нарушитель», «автопроизводитель/дорожники оплатят похороны» — это всё от лукавого.


            1. Pakos
              18.08.2016 11:46

              Именно следование правилам даёт минимальный риск. Поломка светофора и нарушитель — это риск, хаотичные действия (которые надо ещё протестировать, протестировать сочувствующий ИИ, тянущий руль вправо, протестировать запрос к федеральной базе, выбирающий менее ценных членов общества, тянущий руль влево, протестировать эхолокатор, сканирующий по отражению дорогу за поворотом, подталкивающий транспорт на встречку и их взаимодействие. И этот хаос рисков только добавляет, причём всем.


      1. ivlis
        18.08.2016 00:57
        +1

        Конечно, вы же никогда не видели ни одного бага в ПО. Компьютер не может ошибаться. Точка.


        1. vmarunin
          18.08.2016 01:21
          +1

          Ну я видел. Даже сам делал.
          Внештатная ситуация, и балансировщик нагрузки «спасая» ситуацию положил всю систему (кинул весь трафик двадцати-серверного кластера на один сервер).
          Или почитайте про японский телескоп, который разорвало на куски когда ПО его спасало.

          IMHO обработка внештатной ситуации всегда сложнее чем штатной. Их больше, действовать надо сложнее и быстрее чем в нормальной. И внештатные ситуации хуже! Просто потому что их на порядки больше.

          Поэтому тормоз в пол и всё. И потихоньку описываем ситуации когда надо действовать по-другому. Увы, каждая такая ситуация будет стоить жизней, иногда десятки жизней.
          Ну так и ПДД писались, и авиационные правила, и противопожарные…


          1. Metus
            18.08.2016 10:34

            В прошлом обсуждении было популярно мнение, что так не пойдёт, если летит по встречке фура.


            1. Pakos
              18.08.2016 11:49

              Поэтому надо самому стать такой фурой. Сравним (раз уж тут так любят сравнивать) — одна фура на 10к летит на встречку, все 10к при угрозах (и тех самых багах в ПО) норовят лететь на встречку, обочину и куда угодно. Мне кажется первый вариант (с щансом встретиться с другой фурой, уклонившись от первой) не лучший.


      1. omikad
        18.08.2016 08:49
        -4

        Допустим автопроизводитель сделает по вашему, тогда, как только на дорогу выбежит ребенок, и автопилот его собьет в хлам, сразу общественность потребует модуль уклонения и модуль оценки важности жизни. Если ребенок выбежит на скоростное шоссе — ну понятно, что ничего не сделать, а если это второстепенная дорога и авто едет со скоростью 30 кмч и можно даже в бетонную стену вырулить, никто не умрет. Все равно придется решать все эти вопросы морали и оценки


        1. mayorovp
          18.08.2016 10:07
          +7

          А если автомобилям добавят модули уклонения от детей — то дети быстро выучат новую веселую игру "напугай бибику". После чего о передвижении со скоростями больше 20 км/ч придется забыть навсегда.


          Почему-то когда ребенок выбегает на ж/д пути и его сбивает поезд — никакая общественность не требует добавить поездам какие-то модули, вместо этого напоминают родителям, что за детьми надо следить. Почему с автомобилями тогда все с ума посходили?!


          1. ploop
            18.08.2016 10:56

            Потому, что с поездами аксиома: не может он затормозить при всём желании. Не дошло до кого-то — сам себе буратино, хорошо, если без рук/ног, а то и без головы. Вот когда к автомобилям так же будут относиться, тогда и понимание придёт. Туго доходит до людей, что тонну железа остановить с каких-то 60км/ч до нуля невозможно за секунду.


            1. diaskzn
              18.08.2016 13:22
              +1

              Пусть тогда поезда едут с такой скоростью на которой смогут остановить поезд.
              Сейчас именно такая логика действует для автомобилей. Почему для поездов делать исключение?


              1. niknamezanat
                19.08.2016 14:31

                «Не трамвай, объедет!»


          1. k102
            18.08.2016 11:30
            +1

            Потому что автомобиль — частная собственность, чаще всего не самая дешевая. Автомобиль с автопилотом — первое время точно уж будет предметом роскоши.


            1. black_semargl
              19.08.2016 09:26
              +1

              Поезд нынче — тоже частная собственность. И гораздо более дорогая.


              1. k102
                19.08.2016 10:48

                Немного не то имел в виду — поезд управляется машинистом, которому поезд не принадлежит, а дорогая машина — «буржуем», хозяином этой самой машины.


          1. omikad
            18.08.2016 13:08
            -1

            Это очень жестокая и злая позиция.
            Я уверен, все же будут и модули уклонения, и модули выбора наименьших потерь, а если дети будут играть — ну и ладно, штрафы можно наложить, воспитание через штраф лучше чем воспитание через физический ущерб


          1. kaichik
            19.08.2016 10:59

            Потому что количество сбитых поездами детей мало до той степени, когда проблема не вызывает общественного резонанса. Ну и очевидно, что цена дальнейшего уменьшения числа жертв путем снижения скорости движения поездов, тотального закрытия ЖД путей или одевания на детей браслетов с индикацией поезда неприемлема. Увы, да, у всего есть цена.

            И так же очевидно, что в случае с автомобилями возможности по снижению числа жертв еще есть.

            "The maturity level of children under 10 years of age makes them less able to correctly gauge road dangers and puts them at greater risk for injury and death." — дети до 10 лет не адекватно оценивают дорожные опасности и с этим ничего сделать нельзя.


            1. mayorovp
              19.08.2016 11:23

              Да, поэтому нельзя отпускать детей до 10 лет бегать вдоль дорог.


              1. ariklus
                19.08.2016 15:00
                +1

                Следить за моими детьми? Да вы гоните! Нет, пусть все остальные за ними следят, вписываются в ограждение и не дают прыгать с моста пока я в фейсбуке сижу. А если не справятся — под суд!


    1. MegaVaD
      18.08.2016 11:15
      +1

      Что поменяется, не будь автопилота?


    1. 3aicheg
      18.08.2016 11:15

      При этом у аморальной Алисы всё могло с большой вероятностью получиться даже если бы Боб сам, вручную управлял автомобилем. Прецедентов полно.


      1. Eklykti
        18.08.2016 12:51

        Если Боб сам, есть вероятность, что он не станет уворачиваться, а выполнит минимально необходимое по пдд торможение в своей полосе. А если про автопилот заведомо известно, что он всегда пытается уворачиваться, то всё становится гораздо проще.


    1. zyph
      18.08.2016 11:23
      +2

      Автопилот должен ездить по ПДД. К черту сопливую мораль. ПДД в РФ предписывает тормозить, не меняя полосы. Если хитрая барышня при этом будет не на пешеходном переходе — ССЗБ. Если на переходе и водитель нарушал — ССЗБ аналогично. Возможно, это жестоко, но весь этот моральный выбор ведет к тому, что в итоге у всех свое мнение, одни сплетни и вообще ничего не ясно. Также я за введение обязательного «черного ящика» даже для ТС с органическим пилотом с видеозаписью за последние хотя бы 30 минут и обязательное видеонаблюдение за всеми ПП с захватом 50-100 метров до ПП со стороны подъезжающих ТС. Я вообще не понимаю, зачем придумывать что-то новое. Если робот не может выполнять ПДД, значит, это плохой робот. Пусть корпорации думают дальше. Отсутствие технической возможности — это стимул к развитию технической части и программистского мастерства, а не причина переписывать ПДД, опираясь на зыбкую мораль. По моему скромному мнению.


      1. Metus
        18.08.2016 11:40

        Соглашусь. Только не стоит забывать, что просто торможение может быть фатально и для водителя с пассажирами.
        И надо отбросить при проектировании автопилота мысли вроде:
        * нужно куда-то выруливать чтобы спасти (хотя бы потому что неизвестно кого это может ещё убить)
        * нужно спасать водителя потому что машина его и она ему должна
        * и т.д.


    1. tossshik
      18.08.2016 13:27

      Решается заплаткой в коде: если нет безопасного способа объехать препятствие (даже людей), тормозим по прямой до полной остановки, а там уж как получится. По факту на наших дорогах сейчас так и есть.


      1. kaichik
        19.08.2016 11:00

        Критерий безопасности? На дороге вообще очень мало решений, которые с единичной вероятностью безопасны.


        1. tossshik
          19.08.2016 12:26

          В обсуждаемой ситуации автопилот уже знает, что объезд препятствия скорее всего приведет к гибели водителя. Исходим из этих данных.


    1. ariklus
      18.08.2016 16:56

      Поэтому только кастомизация этики автопилота под пользователя с личной ответственностью водителя.


    1. yurror
      19.08.2016 16:24

      Все ныне живущие поколения людей родились, выросли и живут бок о бок с автомобилями. Все знают ПДД. Все знают опасность автомобилей. Все так же знают как опасны циркулярные пилы и не прыгают на них. И на дорогу тоже не прыгают.
      Автопилот по определению не нарушает ПДД (если прошивка пиратская после ДТП это докажут и ответственность понесет тот кто с ней шаманил).
      Всякие выскакивающие перед автомобилями Алисы, новорожденные дети, просто дети, собаки, мошки и прочая ересь в соответствии с ПДД идет в расход. Да, автопилот будет применять экстренное торможение даже с учетом что в него сзади приедет другой автомобиль, но ни о каких вариантах с самостоятельным съездом в кювет или стену быть не может.
      За Алису отвечает она сама раз прыгает на дорогу в не положенном месте.
      За младенца/малолетнего Владимира у нее на руках/за руку отвечает тоже целиком и полностью Алиса.
      За малолетнего Владимира самостоятельно ломанувшегося под колеса тоже отвечает Алиса ибо нефиг детей в местах повышенной опасности отпускать. (мы о трассе сейчас а не о дворовой территории где автопилот будет красться со скоростью подстреленной черепахи при которой ребенок может нанести автомобилю ущерба больше чем авто ребенку).
      Любые животные из любых красных книг рассматриваются как препятствие и решения принимаются исключительно с целью минимизации собственного ущерба (ну чтобы лось в лобовуху не влетел и не раздавил пассажиров).
      Насекомые смываются омывайкой не тормозя.
      Предыдущий сценарий для внезапно выскочил/свалился/материализовался, да хоть из-за глючащего датчика слишком поздно опозналось препятствие.
      Если что-то там на полосе впереди и есть попутные свободные полосы автопилот просто штатно заранее перестраивается.
      Если нету свободных полос нормально останавливается до препятствия.
      Если физика уже не позволит безопасно остановиться/перестроиться просто оттормаживается не меняя полосы и будь что будет.
      А будет в основном ответственность Алисы если не доказано вмешательство в программный код автопилота или глюк железа.
      Испорченный софт — расследование уголовного дела и куча экспертиз, как итог вполне вероятно, что Боб ехал с подключенным к машине отладчиком ;-)
      Кривой датчик — ну техногенная катастрофа, увы, с тем же успехом автокран опустит на Алису рояль потому что у него управляющая кнопка закоротила, шланг гидравлики порвало, оператору крана оса в рот залетела (пакет из супермаркета камеру авто закрыл)
      Если автопилот спасая Алису резко тормозит, а сзади фура выталкивает автомобиль на встречку, то родственники жертв (Боба и Била во встречной) по результатам расследования уголовного дела могут рассчитывать что Алису посадят по статье убийство 2х и более совершенное общественно опасным способом (а там чуть-чуть и уже терроризм могут натянуть).


      1. seminole
        19.08.2016 16:51

        Если следовать вашей интерпретации ПДД то любой относительно трезвый водитель баклажана может спокойно давить всё живое, за исключением тех кто на пешеходном переходе. Увидил пешеходе не на переходе — рэп погромче, тапку в пол!

        Кстати Алиса в суде рассказала что она по жизни парикмахер, судимостей не имеет, детективы не читает, про автопилоты никогда в жизни не слышала, просто дорогу переходила и не может понять как кто-то мог вообще подумать что она, чистый ангел, Боба уделала умышлено.


        1. yurror
          20.08.2016 20:40

          Подпитый водила баклажана нарушает как бы очевидно. Почему ему это вдруг сойдет с рук? Где я такое написал?

          Мы же вроде бы про автопилот который не нарушает.
          Если на горизонте есть люди автопилот их учитывает, пропускает на переходах (ну или местах где им разрешено бегать) и давить не собирается.
          Если на горизонте нет людей то двигается с максимальной разрешенной скоростью.

          Если на траектории внезапно появляется человек автопилот оттормаживается и сбивает его (ну мы про плохой вариант да?)
          Тогда уголовное дело, расследование, экспертизы. Экспертиза покажет что асфальт сухой, тормозной след присутствует до контакта с тушкой, дампы датчиков покажут когда опозналась кегля, датчики поверят и поймут что с ними полный ок, видео с камер автопилота покажет, что пешеход вышел из за ларька «666».
          Далее выяснится что некий ландух из архитектуры города получил взятку от владельца этого ларька и утвердил его там где должен был быть просматриваемый зеленый газон с клумбами. Садится ландух за взятку и предумышленное убийство (ибо знал почему там должен быть газон, а не ларёк) и директор ларька за взятку и непредумышленное.
          Ну может быть вариант что пешеход вышел из за памятника архитектуры в старинной застройке города и дорога там еще со времен царя Гороха (ну сложилось так), значит садится ландух из дорожного управления который за знаки на дороге отвечает ибо нефиг оставлять дефолтные 60 там где и 10 много
          Ну не должен автопилот бояться каждого ларька или куста. Если переход никак не обозначен то пешеход должен подойти к краю дороги и убедиться что он может перейти безопасно, обозначить себя убедиться что его видят (посмотреть по сторонам). Обозначенный переход автопилот будет учитывать. Прыгающие пешеходы сами себе злобные буратины, ну и кого-нибудь из администрации полезно отправить на нары чтобы слуги народа не расслаблялись.

          Алису в суде внимательно выслушают и отклонят весь ее монолог нафиг. Парикмахер не пуп земли и должен дорогу переходить правильно. Ну значит будет первая судимость. Ее любимые литературные жанры не имеют отношения к делу, автопилоты вроде бы тоже ибо тормозить не меняя полосу предписано ПДД. Но таки уделала, и Боба и Била, с огромным сопутствующим ущербом, да еще и общественно опасным способом. Умышленно или нет кода есть два труппа всех будет волновать в последнюю очередь. Ей все равно много светит. Прыгая на трассу из за угла (а иначе бы ее увидел автопилот) она не могла не знать о последствиях см начало моего предыдущего сообщения:
          «Все ныне живущие поколения людей родились, выросли и живут бок о бок с автомобилями. Все знают ПДД. Все знают опасность автомобилей. Все так же знают как опасны циркулярные пилы и не прыгают на них. И на дорогу тоже не прыгают.»


          1. Eklykti
            21.08.2016 18:25

            Алису-то выслушают, но доказать. что она это умышленно, вряд ли удастся, поэтому статься будет про нарушение пдд, приведшее по неосторожности к блаблабла, и срок, скорее всего, условный. Поэтому при невозможности избежать либо хотя бы уменьшить последствия столкновения (приехав в стену на 10км/ч, а не в Алису на 60, например) автопилот должен тупо тормозить, а дальше как получится.


    1. rfvnhy
      19.08.2016 17:16

      Машина соблюдая ПДД начинает тормозить что бы минимизировать вред.

      А дальше смотря что в автопилот заложили создатели, кач-во датчиков и их загрязненность, вирусы в ПО и тд и тп

      не стоило Алисе с такими шансами выбегать на дорогу…


  1. kloppspb
    18.08.2016 03:45

    >Почти 3/4 опрошенных считают, что автопилот должен убить своего пассажира, спасая группу людей. Справедливо?

    Да. Пирогов ещё в позапрошлом веке эти правила заложил.


    1. kaichik
      19.08.2016 11:01

      Речь о том, что мнение людей резко меняется, когда ради общественного блага придется жертвовать собой.


  1. AllexIn
    18.08.2016 04:09

    А в цене песка или бетона стоимость доставки более 50%, то есть таким образом подешевеет вся стройка в мире.

    Только не из-за водителя, а из-за амортизации огромного тяжеленного автомобиля.
    И это никуда не денется. Так что этот пункт мимо.


    1. kaichik
      18.08.2016 05:59
      +2

      Первая попавшаяся ссылка на тему перевозки нерудных материалов: http://www.bestreferat.ru/referat-210157.html, 55% приходится на ФОТ и топливо, 30% на амортизацию и ТО. И это в России, где доля оплаты труда традиционно низка и топливо дёшево. Так что оценка пойдёт.


      1. igruh
        18.08.2016 11:05

        А лихо вы 37% топлива накинули к оплате труда в 20%. Прямо-таки ни разу не сжульничали.


        1. kaichik
          19.08.2016 11:03

          Я — ни разу.

          Утверждение:
          «Только не из-за водителя, а из-за амортизации огромного тяжеленного автомобиля.
          И это никуда не денется. Так что этот пункт мимо.»

          Опровержение:
          «30% на амортизацию и ТО»


          1. igruh
            19.08.2016 11:27

            где доля оплаты труда традиционно низка и топливо дёшево
            Топливо будет тратиться примерно одинаково и не должно плюсоваться. Там, где оно дорогое — вклад оплаты будет только меньше.


            1. kaichik
              19.08.2016 11:39

              Да обратитесь вы уже к цифрам, не надоело выдумывать?


      1. Pakos
        18.08.2016 11:53

        ФОТ — это не только водители, но и механики, а крутить гайки старому Камазу и разбираться с электронными мозгами, датчиками (и более современными двигателями и прочим) — немного разная квалификация и цена. Т.е. удешевление доставки будет процентов 5-10, цена песка уменьшится на 2-5%, бетона — и того меньше (водитель разгружал, а теперь на стройке будет тот, кто управляется с разгрузкой). Да и на площадке надо будет вручную управлять — потому как эту кучу туда, эту — туда, а эту на себе насыпь.


        1. black_semargl
          19.08.2016 09:42

          Только не забываем ещё:
          1) Крутить гайки Камазу в котором живой водитель сидит и роботу работающему на безлюдном объекте — совсем разная ответственность.
          2) На стройке разгрузкой может заниматься один человек рулящий дистанционно, а не водитель в каждой машине.


        1. kaichik
          19.08.2016 11:17

          Ну и аргументация у вас.

          Смотрите An Analysis of the Operational Costs of Trucking: 2015 Update, большое и свежее исследование американского рынка перевозок.

          Из него:

          image

          То есть в среднем по рынку 35% затрат прямо приходится на водителя, еще 35% на топливо и только 13+9=21% на амортизацию (она отражена в лизинговых платежах) и обслуживание.

          Применение автопилотов уберет затраты на водителей, снизит (консенсус по отрасли — на треть) затраты на топливо и снизит амортизационные и страховые платежи (за счет снижения стоимости грузовика и отсутствия аварий). Пожалуйста, 50-процентная экономия в среднем по рынку.


          1. Pakos
            19.08.2016 16:38

            Снизит затраты на топливо — сильно радикально, сейчас всё так неэффективно при движении на крейсерской скорости? Амортизация снизится за счёт большей цены (оборудование-то для автопилота не бесплатное, а кресло и спальник не шибко дорогие, тем более кресло всё равно нужно для манёвров на объекте)? 35% (т.е. при 50% вкладе перевозки это выльется в 17) экономии. При увеличении цены обслуживания (узлы те же+дорогие новые), всё равно нужен водитель, пусть и один на несколько грузовиков на каждой площадке. Т.е. вот эти (27+8)% не просто убираются, а прибавляется пусть 1/20 от них. или 1/10. Да, я исходил из сообщения о 20% вкладе водителя в цену, но на 50% — это слишком громко сказано.


  1. DrZlodberg
    18.08.2016 09:37

    У интерфейса машина-машина может быть один занятный побочный эффект. Машина в случае

    Камеру выжигают диодами, но она справляется. Радары глушат дорогим спецоборудованием, но только в статике. А ультразвук просто дерьмо
    может передвигаться используя навигацию остальных машин. Хотя тут, естественно, нужна их поддержка.


    1. kaichik
      18.08.2016 12:09

      Как раз V2X и заглушат первым, это сделать проще всего перечисленного выше.


  1. Epoiiika
    18.08.2016 10:00
    -3

    В этическом аспекте, считаю что нужен просто переключатель который выставляет приоритет — кому жить, кому умирать. Почему производитель должен за тебя решать?


  1. Kolyagrozamorey
    18.08.2016 10:33

    А от мне интересно автопилот сможет отличить человека от другого препятствия? Или он будет спасать неживой предмет случайно попавший на дорогу?
    Или такой вариант есть выбор либо таранить деревянный забор или бетонною стену. В первом случае пострадает забор, фары и краска, во втором случаи от удара расплющит автомобиль вместе с водителем. Водитель выберет первый вариант, а что выберет автопилот?


    1. Tsvetik
      18.08.2016 11:23
      +2

      Еще интреснее что выберет автопилот в этом случае )
      image


      1. yurror
        20.08.2016 20:45
        +1

        Рискну предположить, что правый в ИК диапазоне будет примерно как трава на горизонте


  1. RusikR2D2
    18.08.2016 10:46

    А может изменить инфраструктуру, конструкцию автомобилей и «сознание» людей?
    Чтобы никто не выскакивал на дороги, нужно «вбить» в голову, что выскакивать на дорогу нельзя. Нужно учить ПДД с детского сада, ввести жесткие меры наказания за нарушения ПДД уже сейчас.
    Изменить дороги. Вынести скоростные дороги на эстакады, в тоннели, огородить высокими гладкими заборами. Уменьшить разрешенную скорость в населенных пунктах (за счет отсутствия пробок общая скорость все-равно вырастет) на тех дорогах, которые остаются легко доступными для пешеходов.
    Уменьшить массу автомобиля. Травм от столкновения 300кг автомобиля будет меньше, чем от 1300кг. Да и затормозить он сможет значительно быстрее. Уменьшить лобовое сечение 1-2 местных автомобилей, посадив людей друг за другом, а нос машины сделать более «острым», тогда вероятность объехать препятствие или ударить по нему «вскользь» будет гораздо выше.


    1. diaskzn
      18.08.2016 13:30

      Обучение ПДД не поможет. Намного эффективнее учить через кошелёк. Для интереса поищите какая ответственность предусмотрена КОАПом за то что пешеход не убедился что его пропускают и переход безопасен.

      Ответственность
      Ответственности за нарушение пункта 4.5 никакой


      1. yurror
        20.08.2016 20:47

        Ответственность самой жизнью и физикой прописана. Выскочил под колеса — раскатали вот и вся ответственность.


        1. ploop
          22.08.2016 09:38

          А если повезло, и НЕ раскатали, и даже не поцарапали, то неплохо бы и по кошельку проехаться. А то пару матюков в сторону невиновного водителя и полная уверенность в своей правоте.


    1. Tsimur_S
      18.08.2016 20:28

      1) Думаю это невозможно, причины этого описаны в статье. Машина(без разницы с автопилотом или без) должна максимально пользоваться текущей инфраструктурой а не подгонять инфраструктуру под себя.
      2) Они будут банально неудобны- куда вы поставите покупки/коляску/вещи при переезде? К тому же уменьшив массу новых автомобилей вы ставите их в невыгодное положение. Ваши 300 кг(для такого веса машина должна быть сделана из пластика) будут размазаны двухтонным аггрегатом при лобовом столкновении. Хотели бы вы ехать в такой машине или предпочли бы быть внутри старенького внедорожника?


      1. RusikR2D2
        19.08.2016 05:57

        1. Я как раз про то, что нужно изменять постепенно инфраструктуру для повышения безопасности, как для автопилотируемых машин, так и для обычных. Ведь с ростом скорости автомашин и их количества, люди придумали ПДД, знаки, подземные переходы, развязки, стоянки т.е. полностью новую инфраструктуру, а не решили, что следует пользоваться старыми грунтовками и узкими улочками, а водителям тренироваться объезжать машины и людей.
        2.1 Я не про все машины абсолютно. Сейчас есть и грузовики, и микроавтобусы, и двухместные автомобили.
        2.2 Мы предполагаем, что все автомобили будут заменены робомобилями и все они будут из пластика. А старенькие прочные внедорожники и так скоро исчезнут, их заменят программируемо-деформируемые машины из «фольги», как раз для уменьшения вреда при столкновений. Вполне возможно, что их запретят законодательно.


        1. Tsimur_S
          19.08.2016 15:30

          1)ПДД и прочее это была постепенная эволюция. На протяжении десятилетий менялся облик городов(если только город не разрушен в результате войны). Что бы поменять ментальность нужны поколения. Да если бы автопилот ожидался лет через 100 то мы могли бы сейчас думать о том как нам соломки подложить. Но автопилот вот он уже тут, практически готов к использованию через лет 10 и нужно что-то придумывать что бы работать с текущими дорогами и современными людьми.
          2.2) ну нельзя взять и сразу запретить машины старого образца. Можно запретить выпускать такие машины например. Тогда вы ставите людей покупающих новые машины в позицию уязвимых, а в машинах старого образца в позицию защищенных. Поэтому я все таки повторю вопрос, купите ли вы себе такую машину что бы возить свою семью или поищите старый внедорожник зная что вы можете встретиться на дороге с таким же внедорожником?


          1. RusikR2D2
            19.08.2016 17:34

            всякие Евро и пр запреты на старые машины как раз напрямую запрещают эксплуатацию машин, которые не соответствуют определенным критериям.
            не предполагается никаких «защищенных», т.к. первый же работник ГИБДД отправит машину на штраф-стоянку.

            Выберу пластиковый робомобиль, т.к. он будет водить лучше меня, и вероятность уцелеть будет больше.


            1. idiv
              19.08.2016 22:59

              >>всякие Евро и пр запреты на старые машины как раз напрямую запрещают эксплуатацию машин, которые не соответствуют определенным критериям.

              Кто вам такое сказал? Я видел тут Бугатти довоенный на дороге. В оригинальном состоянии. Их не запрещают, просто сборы соответствуют экологическим нормам. Потому как если допустили на дорогу, то закон обратной силы не имеет.


    1. white_tiger
      18.08.2016 21:55
      +1

      Травм от столкновения 300кг автомобиля будет меньше, чем от 1300кг. Да и затормозить он сможет значительно быстрее.

      Обоснуйте, пожалуйста, это заявление.

      Кроме того, сделать автомобиль очень легким довольно сложно, иначе это давно было бы сделано. Да собственно о чем речь, сколько весят двигатель + коробка? Они же никуда не денутся. Даже если это будет электромобиль, то там точно не меньше будут весить электродвигатели и батареи. Можно сделать корпус из пластика, но он все равно будет достаточно тяжелым. Впрочем, это все совершенно неважно, потому что в режиме «педаль тормоза в пол» современные автомобили массой 300, 1300, 2000, 5000 кг пройдут одинаковый тормозной путь.


      1. RusikR2D2
        19.08.2016 06:13
        -1

        Впрочем, это все совершенно неважно, потому что в режиме «педаль тормоза в пол» современные автомобили массой 300, 1300, 2000, 5000 кг пройдут одинаковый тормозной путь.


        я имел ввиду не аварийное торможение, а плановое замедление-ускорение.

        Кроме того, сделать автомобиль очень легким довольно сложно, иначе это давно было бы сделано.

        пока автомобиль должен быть достаточно мощным, чтобы ездить за 100км\ч. поэтому он прочный и имеет мощный тяжелый мотор и тяжелые батареи. Но для городского электромобиля с небольшой массой и ограничением скорости 40-60км\ч (сейчас в городе скорость ограничена 60 км\ч, кроме исключений), управляемых компьютером, будет достаточно маломощного двигателя (на уровне мопеда-мотоцикла) и легкого корпуса. К примеру, масса С-3Д (отечественный двухместный четырёхколёсный автомобиль-мотоколяска) 498кг. максимальная скорость 70 км\ч.
        на всякий случай напомню, что я предлагаю полностью заменить обычные машины на легкие (и небыстрые) робомобили, и вариант столкновения пластиковой машины и тяжелого внедорожника исключается.


        1. bobermai
          19.08.2016 11:09

          Хотел написать стандартное «За МКАДом жизни нет», посмотрел в профиль — Пушкино. Удивился.


      1. kaichik
        19.08.2016 11:21

        Ага, так и есть. Даже больше похожий на мотоколяску Tata Nano весит около 600 кг

        image


        1. tormozedison
          21.08.2016 22:47

          Так он официально квадроциклом считается.


    1. k102
      19.08.2016 11:13

      Про вес автомобиля — очень спорно. СТокновение с велосипедистом, который вместе с великом весит меньше сотни кг может быть куда хуже, чем столкновение с машиной на одинаковой скорости (например 40 км/ч).


      1. rfvnhy
        19.08.2016 17:21

        Забываете что в современных авто сейчас всякие демпферы, сминаемые конструкции и тд и тп
        В итоге машины могут «в смятку» размазаться на достаточно небольшой скорости.
        С ситуацией авто-авто — если у них одинаковые системы — на обоих будут смяты например бамперы. Велосипедист же попадает на капот и тд и тп, там где этого нет или оно направлено на минимизацию вреда _сбиваемого_.
        Т.е. капот сильно промнется что бы спасти жизнь сбитого человека.


  1. Bergh
    18.08.2016 11:23

    Также не стоит забывать, что всегда найдутся люди с очень тугими кошельками, которые захотят, чтобы в любом случае автопилот их не убил. И спрос породит предложение.


    1. bobermai
      18.08.2016 11:35

      Что значит «в любом случае»? Автопилот, который соблюдает ПДД, «в любом случае» не может намеренно убить пассажира, спасая кого-то еще, ПДД такого не предусматривает в принципе.


      1. mayorovp
        18.08.2016 14:29
        +1

        Перевожу: в случае, если кто-то все же придумает и воплотит в автопилоте Великий Алгоритм Оценивания Жизни — обязательно найдутся Способы Монетизации.


        1. StjarnornasFred
          18.08.2016 16:53

          Такой алгоритм никто не придумает ввиду его ненадобности. Как уже говорилось, строго соблюдая ПДД, невозможно убиться, даже если кто-то олень: скорость на то и ограничена, чтобы можно было затормозить перед большинством оленей, а пассивная безопасность — на случай, если затормозить всё же не удалось. Откуда тогда смертельные случаи?
          1) Нарушал, врезался, дурак.
          2) Дорожная обстановка. Яма среди дороги, нет знаков (нарушил сам того не зная), светофор не работает. Виноваты дорожники, с них и спрос. Ну и водятел тоже, раз гнал по колдобинам.
          3) Стихия. Камнепад, обвал дороги, волной смыло, ураганом сдуло. Это не ДТП, это стихийное бедствие.
          4) Техника. Тормоза отказали, руль заклинило. Виновных нет, если, конечно, водитель не знал о том, что всё гнилое (иначе нарушил ТБ и ПДД, дурак).
          5) Из-за других дураков, от которых невозможно спастись. Из числа тех, кто пьяный или без тормозов. Они и виноваты.


          1. xxvy
            18.08.2016 20:17
            +1

            Такой алгоритм никто не придумает ввиду его ненадобности

            Да ладно вам. Начнётся всё очень просто — «Нам надо защитить детей..»


          1. mayorovp
            18.08.2016 21:07

            Тем не менее, десяток человек только в комментариях в этому посту отстаивают позицию, противоположную вашей, и требует с автопилота что-то иное, отличное от простого соблюдения ПДД.


          1. black_semargl
            19.08.2016 09:58

            5) «я был не виноват» — плохая надпись на могиле.


  1. shadovv76
    18.08.2016 11:23

    Сам занимаюсь автоматизаций опасных объектов, тоже считаю, что проблема надуманная:
    — автопилот-инструмент;
    — ответственность несет оператор;
    — как и в жизни человек сам решает по: инстинкту самосохраниться или направить авто в отбойник; (ПДД здесь не причем)
    — при использовании автопилота он настраивается водителем, который сам решает какую стратегию поведения автопилота задать;
    — при рассмотрение ДТП режим «сохранить себя» — отягчающее и порицаемое публично :(, сохранить других участников — смягчающее обстоятельство.


    1. bobermai
      18.08.2016 11:40

      Последняя идея крайне оригинальна. Почему мысль о том, что соблюдающий правила находится в приоритете перед несоблюдающим должна быть порицаема публично, не поясните?


      1. shadovv76
        18.08.2016 12:13

        Вы домысливаете, ради того чтобы пообщаться :).
        Последняя мысль не касается соблюдает ПДД или нет.
        Возникновение ситуации в автопилоте когда ДТП неизбежно (несовершенство датчиков, инфраструктуры дороги, не адекватное поведение других участников или даже животных) ни коим образом не зависит от соблюдения Вами ПДД.
        Если Вы имели ввиду требование ПДД уходить от ущерба (тут я домысливаю), то требование ПДД уходить от ущерба, не требует уходить от ущерба ценой своего здоровья или жизни. Данное решение в момент ДТП за водителем, но будет объективно рассмотрено при разборе ДТП.
        Конечно, нанесение ущерба здоровью даже при отсутствии Вашей вины в большинстве случаев придется компенсировать.
        Ну, а в части порицания самосохранения см. оценку поста
        Epoiiika 18 августа 2016 в 10:00 ?(-3) ?
        в котором, впервые была упомянута возможность выбора заранее:)
        Приятно, что кто-то читает мои комментарии.


        1. bobermai
          18.08.2016 12:21
          +1

          Я не понимаю, что означает режим «сохранить себя» или «сохранить других». Есть только «сохранить тех, кто не нарушает ПДД», других вариантов быть не должно. Не припомню ПДД никаких требований «уходить от ущерба», и такие действия не рассматриваются в качестве смягчающего обстоятельства. Могут не рассматриваться как нарушение, разве что, если не привели ни к каким последствиям.
          Кстати, компенсацию причиненного ущерба независимо от вины лично я считаю популисткой ошибкой.


          1. shadovv76
            18.08.2016 12:35

            «уходить от ущерба» — по моему ПДД написаны с данной целью :)
            Следует отметить, что для исключения нанесения ущерба (ухода от ДТП) Вы можете нарушать правила ПДД.
            Где есть такой режим? «Есть только «сохранить тех, кто не нарушает ПДД», „
            Почему Вы так категоричны: “и такие действия не рассматриваются в качестве смягчающего обстоятельства» Вы практикуете в суде по делам о нарушении ПДД или причинения ущерба?
            Компенсация это результат презумпции виновности водителя.


            1. bobermai
              18.08.2016 12:43

              Ваше первое предложение прямо противоречит второму, не замечаете?
              А где есть режим «сохранить себя» — «сохранить других»? Мы, кажется, обсуждаем логику действия будущих автопилотов.
              Потому что мне не известно ни одного случая, когда уход на встречку для предотвращения дтп в своей полосе с дтп на встречке не был бы расценен как 100% вина вылетевшего на встречку. Если вы знаете такие примеры — приведите.
              Презумпция виновности водителя — и есть та самая популисткая ошибка.


              1. shadovv76
                18.08.2016 13:06

                Согласен, что обсуждаем будущее.
                Я вел диалог с целью раскрыть свою точку зрения потому, что вы уточняли почему я так написал/думаю, а не с целью Вас убедить.
                А теперь Вы навязываете свою точку зрения.
                Я обратил внимание не на то что я против того что у Вас есть своя точка зрения, а на то что Вы не допускаете существование другой.
                Имел опыт оспаривания объезда обвалившегося колодца коммуникаций на своей полосе по встречной с целью исключить ДТП. Естественно когда на дороге никого не было, кроме камеры :).


    1. ploop
      18.08.2016 11:53

      при рассмотрение ДТП режим «сохранить себя» — отягчающее и порицаемое публично
      Интересно, а почему? Если не было нарушений, естественно. Выходит, поплатиться здоровьем/жизнью за какого-то «оленя», не знающего правил, нормально?


      1. shadovv76
        18.08.2016 12:23

        это наблюдение за реакцией на оценку постов выше.
        повторюсь:
        Ну, а в части порицания самосохранения см. оценку поста
        Epoiiika 18 августа 2016 в 10:00 ?(-3) ?

        хочется добавить, что категории прав/не прав(олень) чисто субъективные, а жив/мертв объективные.
        Поплатиться или нет об этом я и писал это не ПДД, а выбор каждого водителя самостоятельный.


        1. ploop
          18.08.2016 12:51

          хочется добавить, что категории прав/не прав(олень) чисто субъективные, а жив/мертв объективные.
          Не совсем. Прав/не прав в большинстве случаев выясняется вполне объективно. Бывают, конечно, очень сложные ситуации, но они редкость. И я знаю несколько дел со смертельным исходом пешеходов, когда водителя полностью оправдывали. И это были не «шишки», а вполне обычные водители.


          1. shadovv76
            18.08.2016 13:20

            хочется внести позитив:
            иногда даже жив/не жив бывает не объективным :) (например летаргический сон), а вы про прав/не прав.
            водитель не имеет достаточной информации для принятия объективного решения в момент ДТП о том насколько прав другой. Эта категория оценки — роскошь для принятия в ДТП нанести вред другому или нет. Напомню я писал первый пост к неизбежному ДТП, а значит никто не готовился к нему.
            Простые примеры из жизни когда меняется режим приоритета на существующих дорогах главная/на главная поворачивает. Три месяца водители по памяти едут со второстепенной и сигналят тем кто по главной. Разве можно в такой ситуации водителю принять решение что другой прав и соответственно решить, что нанесенный вред оправдан. Тоже отсутствие знаков по вине дорожников или вандалов.


            1. ploop
              18.08.2016 14:18

              Да всякое бывает, кто ж спорит? Но «разбор полётов» происходит уже по факту ДТП, и этих фактов очень часто бывает достаточно для объективной оценки. Что там видел и думал водитель уже значения не имеет.


  1. Cryvage
    18.08.2016 11:39
    +2

    Замечательная MIT moral machine (пройдите опрос, это недолго) показывает, что мы готовы делегировать автопилоту выбор жертвы, принимая во внимание ее ценность для общества. Проще говоря, лучше сбить старого преступника, чем молодого вундеркинда. По ссылке выше детализация более подробная, но учитывая некоторые расовые особенности преступности автопилоты должны убивать черных впятеро чаще, чем белых. Я бы не хотел объяснять это со сцены на презентации новой модели BMW.

    Попробовал тест, и могу сказать, что он совершенно неверно истолковывает предпочтения. Я специально выбирал, руководствуясь простой логикой: в любых ситуациях спасать жизни пассажиров, остальное не важно. Чтобы избежать недопонимания отмечу отдельно: это просто для проверки самого теста, моя личная мораль к этому не сводится. Хотя и логику в этом можно усмотреть. Реальный водитель, с высокой вероятностью, инстинктивно будет спасать себя. Автомобиль, спасающий водителя ведет себя как живой водитель. Следовательно, его поведение предсказуемо и понятно с точки зрения водителей-людей. Это может быть довольно важно, пока у нас далеко не все автомобили автопилотируемые.
    И что же выдал тест? Оказывается я предпочитаю спасать больше жизней (хотя и не так сильно как большинство). Что еще интереснее, я предпочитаю спасать женщин. Между людьми и животными отдаю гораздо большее предпочтение животным. Сильно предпочитаю спасать молодых. А толстяки, по моему мнению должны умереть.
    Еще раз повторю, я всего лишь, во всех случаях выбирал спасение пассажиров не смотря ни на что. Все прочие корреляции абсолютно случайны. Исходя из этого, могу сказать, что тест нужно существенно переделывать, он цепляет слишком много лишних корреляций.
    З.Ы. А еще, в графе «Species Preference», слово «Humans» написано как «Hoomans». Видимо автор теста предпочитает животных.


    1. mayorovp
      18.08.2016 14:38

      Да там первый же вопрос (с пешеходами на переходе) не имеет верного ответа в принципе.


      Как в анекдоте:


      — Кого из них будешь давить?
      — Старушку.
      — Дурак ты! Тормоз давить надо, ТОРМОЗ!


      Где этот вариант в тесте? Одни ложные дилеммы.


    1. kaichik
      19.08.2016 11:23

      Хорошее замечание!

      Вы не найдете время прогнать по тесту несколько сценариев и описать полученные результаты? Я бы включил это в заглавный пост — или можете написать свой.


      1. mayorovp
        19.08.2016 11:26

        Да там нет смысла особо гонять сценарии, разве что поиздеваться.


        9 параметров оценки — и всего 13 испытаний! Статистическая значимость исследования отсутствует.


        Вот хорошая публикация: http://scinquisitor.livejournal.com/10224.html


        1. kaichik
          19.08.2016 11:48

          Не каждое исследование должно двигать вперед мировую науку. Иногда достаточно написать о неоднозначности теста и показать на примерах. Это даст куда большую отдачу, чем самый выверенный доклад — просто потому что это хоть кто-то прочитает).

          Впрочем, up to you.


  1. Tsvetik
    18.08.2016 12:08
    +1

    Поведение автопилота должно быть детерминированным, предсказуемым и как можно более простым. Как у товарного поезда. Никаких случайностей и эвристик.

    Например: при возникновении препятсвия всегда тормозить никуда не сворачивая, как в современных пдд.
    Тогда остальные белковые участники дорожного движения смогут предсказать действия автопилота и спланировать свои действия. Автопилот для них будет предсказуемым.

    В противном случае для стороннего наблюдателя действия автопилота будут выглядеть случайными и непредсказуемыми.

    Далее, автомобиль — это имущество. Если человек не поставил автомобиль на ручник, и он скатился с горы, задавив пару человек, то отвечать человеку, даже если он сидел на пассажирском сиденье.
    Точно так же за все, что происходит с автопилотом отвечает человек.
    Действия автопилота = действия человека-хозяина автомобиля. Хозяин может доверить свое право морального выбора давить-не давить автопилоту, но обязанность отвечать за последствия этого выбора человек никому передать не может.


  1. Aversis
    18.08.2016 12:14

    Послушайте, а вот эти голубые круги над машинами, светофорами, это что — КДПВ или имеет реальный смысл? Лазеры, радары — слышал о них. Но вот эти круги, что они значат?


    1. kaichik
      19.08.2016 11:24

      В основном для привлечения внимания)
      А вообще радиоволны систем V2X.


  1. MaximChistov
    18.08.2016 12:25

    А что делать если на тебя в лобовую несется фура(уснул дальнобой например, и она тебя гарантировано в фаршик раздавит), на встречке еще одна фура(то есть на встречку от нее не вырулить), а на обочине люди? А, знатоки пдд?


    1. shadovv76
      18.08.2016 12:49
      +1

      полицейский разворот :)


    1. gsaw
      18.08.2016 13:42
      -1

      Давить, адназначна!

      По мне так все просто, те кто в машине должны иметь приоритет перед теми, кто с наружи. В остальном все равны. Мал, стар, баба, мужик. Автопилот должен попытаться меня спасти, в пределах правил и этого приоритета. В идеальном случае, грузовик тоже оснащен автопилотом и такой ситуации просто не возникнет. В неидеальном случае, я схвачусь за баранку и выверну на тротуар. Пускай осудят, но я жив буду.

      Зачем все усложнять? Давайте еще заставим отдельно взятый автомобиль просчитывать судьбу человечества. Отличника не давим, двоечника давим, для этого опросим школьные отметки в школе. Если оба отличника сравним возраст, запросим возрастные данные, тот что постарше должен умереть, пожил достаточно. Если оба в один день родились, запросим данные в медучереждении. Тот что чаще кашляет, того давить однозначно. Оба кашляют, тогда посмотреть сколько у него братьев и сестер. Давить того, кто из многодетной семьи, их там много — не жалко.


    1. white_tiger
      18.08.2016 21:59

      Начать эстренное торможение в пределах своей полосы, включить аварийку, моргнуть дальним светом, подать звуковой сигнал? Кажется, все это ПДД делать не запрещает.

      А почему обязательно раздавит в фарш? Ваш автомобиль начнет экстренное торможение до полной остановки, он это сделает в среднем быстрее человека, значит суммарная скорость будет недостаточно большой чтобы вас убить? Я просто к чему, все те жуткие аварии с грузовиками, это как правило лобовуха, где два автомобиля несутся на чудовищных скоростях. Естественно дтп при суммарной скорости в районе 200 км/ч превращает автомобиль в стальбой блинчик на обочине. Кроме того, куча таких дтп, попадающих в сводку новостей или в видосики на ютьюбе, происходит с участием автомобилей разработки 20-30-40 летней давности. Такие автомобили уже давно не соответствуют требованиям безопасности. Мы же не будет предполагать, что у нас вазовская классика с автопилотом?)


  1. Idot
    18.08.2016 13:29
    +1

    МОРАЛЬ И ЮРИДИЧЕСКИЕ АСПЕКТЫ

    Правильным ответом на вопрос «кого давить будешь?», является «давить на тормоз». Ну и скорость должна зависеть от видимости на дороге и состояния самой дороги, чтобы успеть уверенно затормозить в случае необходимости.

    Пусть тогда поезда едут с такой скоростью на которой смогут остановить поезд. Сейчас именно такая логика действует для автомобилей. Почему для поездов делать исключение?

    Если автомобиль на 120км/ч столкнётся с лосём, то у водителя могут случиться летальные для него последствия, поезду же от такого столкновения ничего не будет. Что касается лобового столкновения двух поездов, то оно куда менее вероятно лобового столкновения двух автомобилей. Логика понятна?


  1. great_unicorn
    18.08.2016 13:39
    -1

    С точки зрения этики есть ещё такой аспект: люди, вероятно, будут ожидать от автопилота сверхчеловеческих водительских скиллов и безошибочности выборов. Хотя бы в силу стереотипов о сверхрациональных ИИ. Поэтому в случае аварийной ситуации спрос с них будет выше, чем с людей, управляющих любым транспортным средством.
    Относительно легко понять и посочувствовать дальнобойщику, который заснул за рулём, потому что хотел доставить груз в срок и заработать денег для семьи. А вот бесчувственная неживая машина, без устали выполняющая 100500 операций в секунду, как будто должна всё успеть, предусмотреть и всех правильно спасти.

    Так что наверное, действительно имеет смысл больше ориентироваться на ПДД, просто чтобы всегда иметь возможность ответить родственникам потерпевших, почему машина в данном случае не приняла в расчёт бесценную человеческую жизнь потерпевшего. Жертвы всё равно будут, а так хотя бы можно будет объяснить широкой публике, что происходит и почему здесь нет какого-нибудь ужасного заговора.


  1. oconal
    18.08.2016 14:53

    ПДД и только ПДД.
    Автопилот — это только бонус к средствам слежения за трафиком вокруг и помощь в решении задач по уменьшению вероятности ДТП. Полемика на тему моральных аспектов — это уже от лукавого. С тем же успехом можно требовать запрета использования автомобилей внутри населенных пунктов (исключения — грузоперевозки внутри населенного пункта, и то до момента пока не придумают альтернативную транспортную сеть, безопасную для населения), чтобы пешеходы/дети/собаки/пенсионеры чувствовали себя в безопасности и не обременяли себя изучением и запоминанием ПДД. Но, это, ИМХО, полный абзац.
    Учите ПДД, учите детей, напоминайте родственникам. Сэкономленные 1-2 минуты, чтобы дойти до перехода (в городе) не стоят ни жизни, даже если есть получить выговор за опоздание на работе/учебе/еще где. А от дурака, который мчит на красный — не застрахован никто. Но, с автопилотом таких дураков, надеюсь, поубавится. В той же степени, как и уснувших за рулем, или кому стало плохо. Кстати, в этом случае, мне кажется, задача автопилота вывести автомобиль на обочину, остановить его и передать данные с координатами о происшествии в экстренные службы, а для автомобиля сделать какую-то фигню, которая привлечет внимание ближайших стражей порядка/прохожих для оказания помощи водителю и пассажирам.


  1. Akon32
    18.08.2016 14:55
    +2

    Насчёт спасения чужих жизней автопилотом.

    Автопилот не должен ничего решать, он должен следовать непротиворечивому закону.

    Лучше относиться к автопилотам как к бездумной полностью автоматической системе (или стихии), которая в 100% случаях способствует выживанию своих пассажиров, а разных личностей, нарушивших правила — как получится. Тогда никто в здравом уме не будет лезть под колёса, надеясь, что с ним всё будет в порядке. Сейчас мало кто лезет руками в циркулярную пилу, или шахту лифта, или гуляет по полю в грозу, так как ясно, чем это закончится.
    Что делать с людьми, которые по каким-либо причинам себя не контролируют? Максимально затруднить доступ к автоматическим дорогам абсолютно всем, как это сделано с шахтами лифтов (возможно, достаточно забора на высокоскоростных участках и надземных переходов).

    Если автопилот решает, а не убить ли ему пассажиров, это может быть использовано для преднамеренных убийств, ключик для принятия «нужных» решений так или иначе найдётся. Я бы не захотел пользоваться таким транспортом. Почему должны погибать пассажиры, если они не нарушали правил и вообще не имели контроля над ситуацией, а не те, кто контролировал ситуацию и правила нарушил?


    1. Metus
      18.08.2016 15:29

      Выше приведёт пример с фурой на встречке. И согласно ПДД автопилот не должен спасать пассажиров.


      1. Akon32
        18.08.2016 16:09

        Как я понял, этот?
        В идеальном мире с автопилотами, никаких фур на встречке и обочин людей на обочинах автоматических дорог быть не должно. В случае серьёзного сбоя — да, жертв не избежать. Наверное, страдать должны в первую очередь нарушители правил, во вторую — имеющие отношение к транспорту (кто им пользуется, а не просто идёт мимо). Вопрос сложный.
        Можно привести примеры безвыходных ситуаций, когда человек вообще ничего не контролирует, но получает вред здоровью (2 автопилота не поделили дорогу; либо 2 бензовоза столкнулись и взрывом зацепило пешеходов за ограждением). Но это сбои систем автопилотирования или недостатки инфраструктуры, которые нужно предотвращать.


        1. Metus
          18.08.2016 16:58

          Тем не менее мы живём не в идеальном мире и в ближайшее время не станем.
          И давать возможность выбирать автопилоту кто должен страдать тоже не стоит ввиду того, что автопилот (как и водитель) не обладает полнотой информация для принятия хоть насколько то объективного решения. Потому правила должны быть едины независимо от того кто будет страдать в конкретном случае, а кто нет.


          1. Akon32
            18.08.2016 18:15

            Согласен. Автопилот должен руководствоваться чёткими правилами (законами). Никакого выбора, тем более случайного.


        1. kaichik
          19.08.2016 11:26

          Да полно ситуаций, которые были и будут.
          У 50-тонного грузовика лопнула шина, его повело на встречку, оснастить все дороги разделителями все равно невозможно.


          1. idiv
            19.08.2016 23:05

            >>У 50-тонного грузовика лопнула шина, его повело на встречку, оснастить все дороги разделителями все равно невозможно.

            А для этого есть ограничения скорости на не разделенных дорогах.


            1. kaichik
              21.08.2016 20:52

              То есть на скорости 70 кмч (меньше на загородных дорогах вообще не делают), при скорости сближения 40 метров в секунду, это резко стало безопасно?


              1. idiv
                23.08.2016 10:24

                Для того, чтобы это стало опасно должно быть стечение нескольких факторов — колесо лопнуло в машине очень близко к вам, должно лопнуть переднее колесо и так далее.
                Если машину понесло далеко от вас, то вы успеете затормозить и если не в какой-нибудь «капсуле смерти» то это не так опасно, так как ваша скорость 0, а у встречного уже не 70 (он же тоже тормозит).
                Если лопнуло не переднее колесо, то это одно из двух спаренных колес, машину не поведет.


              1. hokum13
                23.08.2016 10:46

                Суть в том, что действия по уходу на обочину или встречку могут привести к еще большим жертвам. И скажем съезд на обочину может оказаться опаснее чем оказаться под фурой. Да, она Вас сомнет и протащит метров 20, но съехав под откос вы можете перевернуться на крышу (на что не рассчитаны 99% авто), нырнуть в канаву/реку, где при глубине в 1.5 метра просто утоните или въехать в молодой лес, где Вас насадит на березку как на шампур… А к лобовым столкновениям машины все-таки готовят. И тестирование по различным NCAP тому доказательство.
                Опять же 50-тонный грузовик — тягач с фурой, если у него даже переднее колесо разлетится, то нагрузка по идее на задние колеса и увести его резко не должно.


          1. Eklykti
            21.08.2016 18:31

            Если у грузовика лопнула шина с толстым, сцуко, железным кордом, значит, с этой шиной что-то делали не так, либо она изначально была ненадлежащего качества. Чаще бывает ситуация, когда водитель грузовика внезапно просыпается, обнаруживает стоячую пробку, и выруливает от неё на встречку абсолютно самостоятельно.


            1. Scarred
              22.08.2016 10:01

              Я периодически вижу фуры на обочине трассы которые меняют колеса. И иногда попадаются ошметки шин раскиданные на десяток другой метров…
              Не сказать что очень часто, но я и за городом бываю относительно редко…
              Так что не важно была ли шина повреждена или некачественная, но шины лопаются на скорости. И хотя далеко не каждая лопнувшая на скорости шина приводит к выезду на встречку — это случается… И опять же далеко не каждый выезд на встречку от лопнувшей шины приводит к лобовому столкновению… но и такое бывает…

              Хотя фуры которые обгоняют другие фуры, так что приходится притормаживать или почти останавливаться что бы их пропустить, встречаются все же чаще… Хотя не притормозив заранее пришлось бы уходить от столкновения на обочину, а дальше как повезет…


  1. Arqwer
    18.08.2016 20:28
    +1

    На счёт недостатка информации с камер — я не согласен. Я прекрасно вижу, что места не хватит проехать, значит алгоритмы тем более могут это увидеть. Посмотрите как работает, на пример, LSD SLAM:
    На видео демонстрируется результат обработки кадров со стерео камеры, GPS не используется.

    Сообщить, какую часть дороги он [автомобиль] занял, пока нельзя.

    Можно.


    1. kaichik
      19.08.2016 11:37
      +1

      Спасибо за ремарку, не слишком пристально слежу за компьютерным зрением.

      И все же к рассмотренной задаче показанная реализация метода не слишком применима. То, что я увидел и прочитал, больше похоже на формирование сверхточных 3d-карт, а они слабо помогают в случае появления неожиданных препятствий.


      1. LittleSquirrel
        21.08.2016 01:20

        SLAM используются и чтоб уточнить/подтвердить свое месторасположение относительно статических обьектов. Так позицию «по навигации» до суб-сантиметровой точности можно уточнить.


        1. kaichik
          21.08.2016 20:50

          Насколько это уже работает в серии?


          1. LittleSquirrel
            21.08.2016 23:30

            В серии, насколько я знаю, пока не работает, только прототипы. Для хорошей работы SLAM нужны точные измерения по достаточно широкому FOV, это пока дорого.


  1. DrGluck
    18.08.2016 20:28
    +1

    Поскольку тут сейчас обязательно останется срач на тему самолётных автопилотов, сразу приложу ссылку на пост denokan-а Пилот самолета VS автопилот. Закат профессии «пилот гражданской авиации»?


  1. u1789
    18.08.2016 20:34
    +1

    > Почти 3/4 опрошенных считают, что автопилот должен убить своего пассажира, спасая группу людей. Справедливо?
    В базовой комплектации автопилот будет спасать группу людей. Но, всего лишь за $50к, вы можете проапгрейдить автопилот и он будет спасать водителя!


    1. xxvy
      18.08.2016 20:39

      Каждый дополнительный пассажир вашего авто, спасаемый автопилотом, оплачивается отдельно. (А что? Сейчас с подушками безопасности именно так)


      1. u1789
        18.08.2016 21:28

        Прям сюжет для Чёрного Зеркала:
        Подушки безопасности как сервис: подушки в такси на пассажирском сиденье сработают, только если ехали по двойному тарифу.
        А в случае с робомобилями: безопасность на дорогах как сервис. Чем дороже страховка, тем больше у вас приоритет при расчёте кого спасти. Зачем спасать группу детей из бедных семей? Лучше богатого дядьку, который много денег на страховку отдаёт.

        Остаётся надеяться, что до этого не дойдёт. По крайней мере при нашей жизни.


  1. tormozedison
    19.08.2016 07:07
    -1

    Представим себе, что мы живём в период времени, когда самоуправляемые транспортные средства совсем недавно полностью легализовали во всём мире, причём такие, в которых нет ни руля, ни педалей, ни даже грибовидной кнопки, то есть, владелец на процесс влиять не может никак вообще, может только задавать пункт отправления и назначения.
    Ситуация 1. Человек купил самоуправляемое транспортное средство в личную собственность, не лазил в его прошивку, дал ему задание доехать от пункта А в пункт Б, а оно кого-то задавило на ровном месте, когда экстренное торможение могло бы спасти всех, и водителя, и пешехода. Суд оправдал владельца ТС, наказал производителя за ошибку в прошивке, но родственники пострадавшего продолжают преследовать владельца: звонят ему в три часа ночи, ломают ТС, и так далее.
    2. Всё то же самое, но самоуправлемое ТС взято напрокат.
    3. Всё то же самое, но самоуправлемое ТС позиционируется как такси. При самоуправляемости разница между прокатом и такси будет состоять лишь в том, что прокатное ТС надо самому найти рядом с собой и залезть в него, а такси подъедет само, больше отличий нет. Но так как самоуправляемые ТС только-только легализованы, в сознании родственников пострадавшего разница будет. Эту ситуацию можно разделить на две подситуации: если живой диспетчер есть, но грибовидной кнопки у него нет, и картинки с камеры тоже (но поди это объясни родственникам пострадавшего), и если живого диспетчера нет, распределение такси между заказчиками осуществляет сервер.
    4. Всё то же самое, но самоуправляемое ТС маршрутное, пассажиров в нём 30. Отличие от обычного маршрутного ТС только в том, что вместо водителя — охранник, сидящий в середине салона. Грибовидной кнопки у него нет, но в сознании родственников пострадавшего…


    1. NeuroHunter
      19.08.2016 12:08
      +1

      От нынешней ситуации со сбиванием «по правилам» (т.е. когда однозначное нарушение правил было совершено пешеходом, а водитель, тем самым, получил только гражданскую, а не уголовную, ответственность) описанный период времени не отличается ничем.


  1. kh0
    19.08.2016 16:23

    Вангую. В недалёком будущем просто выведут закон о том какой должен быть автопилот, методологию его тестов и лицензирования. Если автопилот накосячит, но не выйдет за рамки закона, автопилот не виноват, жертвы — неизбежное зло. Это как с железнодорожным транспортом: шел глухой по рельсам, его переехал тепловоз. Машинист не виноват, даже если он электрический, если принял все меры к экстренному торможению — у него есть правила он их соблюдает. Еще будет специальный лицензионный центр, который будет тестировать автопилоты на стендах, анализировать исходный код. И выдавать лицензию на «прошивку». Если автомобиль с лицензионным автопилотом накосячит, ну, будет штраф и компенсация, но сажать будут только за нарушения явно прописанных правил создания и тестирования, приведших к жертвам.


    1. LittleSquirrel
      21.08.2016 01:13
      +1

      Не надо ванговать, они уже почти есть, просто вбейте в поисковик ISO 26262 и Automotive Spice. К этому добавятся только де юре нормы на минимальную «производительность» автоматических/автономных систем.


  1. rfvnhy
    19.08.2016 17:30
    -1

    Прошу прощения, если кто-то в комментах уже предложил.
    Я пару лет назад (другой ник был, сейчас тот коммент удален) уже предлагал оптимальный вариант автоматического движения для города.

    Это локальные автопилоты связанные в сеть + (!) центральная диспетчерская.
    Для минимизации посторонних объектов на дороге она должна быть тщательно огорожена, в местах где будут переходы (если нет подземных/мостов) будут прорехи, но если кто-то пойдет вдоль дороги — о нем в диспетчерскую будет сообщаться любыми авто.

    В итоге автопилот будет прекрасно осведомлен и «что там за углом» и что там в его слепой зоне и что ожидается через 20км на другой стороне города…

    Дальше — диспетчерская «рулит» потоком оптимизируя пробки и ожидания на светофорах, с точки зрения 1. экстренных служб, 2. минимилизации ождания и времени передвижения.

    Все же наиболее оптимально — общественный транспорт для 75-85% населения, с возможностью вызвать «такси» для особых случаев, службы доставки из магазинов, в тч для продуктов…
    Возможно для мелких товаров будет что-то вроде пневмопочты индивидуальной для каждой квартиры…

    В итоге частный транспорт останется для или очень богатых (увеличенный налог, ...)
    или в случаях когда без него ну никак.
    Хотя последнее все же лучше заменить на «такси».

    Стоянок станет меньше, пробки исчезнут.


  1. LittleSquirrel
    21.08.2016 01:07
    +2

    Жаль поздно руки до статьи дошли, но таки откоментирую:

    Инциденты с роликов могут иметь ( и я почти уверен что имеют ) и другие причины. Для меня оно выглядит как типичная ошибка в sensor fusion с неправильной ассоциацией обьектов. Например если у Теслы используется track-to-track fusion (аггрегация на уровне обьектовых интерфейсов, каждый сенсор предоставляет результаты работы внутреннего треккера) то показаный результат получится так:
    1. Машина в нашей полосе идет с «нашей» скоростью, подтверждается радаром(R1) и камерой(C1), действия по торможению не требуются.
    2. Впереди идущая машина отклоняется влево(и соответствующие обьекты приходят от камеры и радара), камера распознает т/с стоящее у обочины(C2), радар его пока не распознает(там хуже/дольше со статическими обьектами). Обьект от радара R1 ассоциируется с новосозданным камерой обьектом C2, из С1 создается новый обьект. В результате логика автопилота видит перед собой две цели, движущиеся примерно с «нашей» скоростью (по факту оба получат скорость C1/R1). Торможение/уклонение не требуется.
    3. Продолжать 2 до столкновения.
    Обьяснение схематично, там много зависит от настроек алгоритмов, но общий принцип такой.


    1. kaichik
      21.08.2016 20:47

      Александр, машина из п.2 не может отклоняться влево, там уже стоит сломанный автомобиль. Может вправо? Или речь о том, что автомобиль остановился и сломался?


      1. LittleSquirrel
        21.08.2016 23:19

        Да, пардон, вправо отклоняется. Полуночная потеря пространственной ориентации.


  1. tormozedison
    21.08.2016 22:53
    +1

    Интересно, как писатели-фантасты бывают непоследовательны в описании вымышленных самоуправляемых транспортных средств.
    Флип в «Гостье из будущего». Органы управления — клавиатура для задания пункта назначения и рычаг регулировки высоты. Хочешь, можешь вообще ничего не делать во время полёта, хочешь — лети пониже, но по той же траектории.
    Но когда во флип сели космические пираты, они, не имея перед собой никаких других органов управления, кроме описанных, повели флип в ручном режиме, а мальчишка, за которым они гнались, тут же сделал то же самое, причём без предварительного обучения, с ходу.
    Такой киноляпик.