Классический мысленный эксперимент, известный как «проблема вагонетки», ставит вопрос: должны ли вы переключить стрелку, чтобы отклонить несущуюся вагонетку, чтобы она убила одного человека, а не пятерых? В качестве альтернативы: что, если вам придется столкнуть кого-то на рельсы, чтобы остановить вагонетку? Какой выбор сделать в такой ситуации? (Проблема вагонетки сформулирована впервые в 1967 году английским философом Филиппой Фут. Примечание переводчика)
Десятилетиями философы спорили о том, следует ли нам предпочесть утилитарное решение (то, что лучше для общества, то есть меньше смертей) или решение, которое ценит права личности (например, право не подвергаться преднамеренной опасности).
В последние годы разработчики автономных автомобилей также размышляли о том, как беспилотники могли бы решать аналогичные дилеммы, когда столкнутся с непредвиденными дорожными ситуациями. Например, что должен сделать беспилотный автомобиль, если на его полосу внезапно выезжает велосипедист? Свернуть на полосу встречного движения или столкнуться с велосипедистом?
Крис Гердес, заслуженный профессор инженерных наук и содиректор Центра автомобильных исследований в Стэнфорде (Center for Automotive Research at Stanford, CARS), считает, что решение находится прямо перед нами. Оно встроено в общественный договор, который у нас уже есть с другими водителями и сформулированный в наших правилах дорожного движения и их толковании судами. Профессор Гердес совместно с сотрудниками Ford Motor недавно опубликовал решение «проблемы вагонетки» в контексте беспилотных автомобилей. В нашей статье Гердес рассказывает об этой работе и предполагает, что она вызовет большее доверие к беспилотному транспорту.
Как наши правила дорожного движения могут помочь в определении этического поведения для автономных автомобилей?
Корпоративная политика Ford гласит: «Всегда соблюдайте закон». Наш проект вырос из нескольких простых вопросов: применима ли эта политика к беспилотному вождению? И когда, если вообще когда-либо, для автономного автомобиля этично нарушать ПДД?
Когда мы исследовали эти вопросы, мы поняли, что в дополнение к правилам дорожного движения существуют апелляционные решения и судебные инструкции, которые помогают конкретизировать общественный договор, сложившийся за те сто с лишним лет, что мы водим автомобили. И ядро этого общественного договора заключается в выполнения обязанности соблюдать интересы других участников дорожного движения, следуя ПДД, за исключением случаев, когда нарушение ПДД необходимо для предотвращения столкновения. Другими словами, в тех же ситуациях, когда кажется разумным нарушить закон с этической точки зрения, также разумно нарушить ПДД на законных основаниях.
С точки зрения человеко-ориентированного искусственного интеллекта, это важный момент: мы хотим, чтобы системы автономного вождения в конечном итоге были подотчетны людям. И уже имеющийся у нас механизм для привлечения их к ответственности перед людьми заключается в том, чтобы заставить их соблюдать ПДД. Тем не менее, этот основополагающий принцип — что беспилотные автомобили должны следовать закону — не полностью принят в нашей отрасли. Некоторые люди говорят о «натуралистичном» вождении, имея в виду, что если водители вокруг ускоряются, то и беспилотный автомобиль должен ускориться. Но нет никаких правовых оснований для этого – ни для автономного транспортного средства, ни для компании, которая заявляет, что соблюдает закон.
Так что, на самом деле, единственным основанием для нарушения закона беспилотным автомобилем должна быть только необходимость избежать столкновения. И оказывается, что закон в значительной степени с этим согласен. Например, если встречного движения нет, и беспилотный автомобиль пересекает двойную сплошную, чтобы избежать столкновения с велосипедистом, возможно, он нарушил правила дорожного движения. Но он не нарушил закон, потому что сделал все необходимое, чтобы избежать столкновения, сохраняя при этом свою обязанность соблюдать интересы других участников дорожного движения.
Какие этические проблемы должны решить разработчики автономных автомобилей?
Этические дилеммы, с которыми сталкиваются программисты автономных автомобилей, в первую очередь связаны с исключительными дорожными ситуациями — теми случаями, когда автомобиль не может одновременно выполнять свои обязательства перед всеми участниками дорожного движения и своими пассажирами.
До сих пор было много дискуссий вокруг утилитарного подхода, при котором производители автономных автомобилей должны решать, кому жить, а кому умирать в ситуациях моральной дилеммы — например, велосипедисту, пересекшему дорогу перед беспилотником, или людям, движущемся во встречном потоке. Но я считаю глубоко ошибочным сам постулат о том, что машина должна решать, чья жизнь дороже. В конечном счете, производители автономных автомобилей отказались от утилитарного решения. Они ссылаются на то, что на самом деле они не решают «проблему вагонетки», а программируют безопасный беспилотный автомобиль. Так были разработаны различные методологии, в том числе система RSS (Responsibility-Sensitive Safety, безопасность с учетом ответственности) – попытка создать набор правил для поддержания определенной дистанции вокруг автономного автомобиля таким образом, что, если бы все следовали этим правилам, столкновения бы не происходили.
Проблема вот в чем: даже если система RSS не решает напрямую ситуации этической дилеммы, связанные с неизбежным столкновением, автономный автомобиль должен будет все равно как-то отреагировать и что-то сделать — независимо от того, сознательно ли это поведение спроектировано или просто вытекает из запрограммированных правил. И хотя я думаю, что со стороны отрасли справедливо говорить, что мы на самом деле не решаем «проблему вагонетки», справедливо будет все же задаться вопросом: «Как поступит автономный автомобиль в таких ситуациях?»
Так как же запрограммировать автономный автомобиль для обработки ситуаций с неминуемым столкновением?
Если беспилотный автомобиль можно запрограммировать соблюдать законную обязанность учитывать интересы всех участников дорожного движения, то столкновения будут происходить только в том случае, когда кто-то другой нарушает свою обязанность по отношению к автономному автомобилю, либо в результате механической поломки, упавшего на дорогу дерева, внезапного дорожного провала. Но предположим, что другой участник дорожного движения нарушает свою обязанность учитывать интересы нашего беспилотника и проезжает на красный свет или подрезает его. В таком случае принципы, которые мы сформулировали, говорят, что беспилотник, тем не менее, обязан соблюсти интересы этого нарушителя и должен сделать все возможное — в рамках физических ограничений транспортного средства — чтобы избежать столкновения, не втягивая в него кого-либо еще.
В этом смысле у нас есть решение «проблемы вагонетки» для автономных автомобилей. Мы не оцениваем вероятность, получит ли травму один человек или несколько людей. Вместо этого мы говорим, что нам не разрешено выбирать действия, которые нарушают нашу обязанность соблюдать интересы других людей. Таким образом мы пытаемся разрешить конфликт напрямую с человеком, который его создал — человеком, который нарушил свою обязанность соблюдать наши интересы, — не вовлекая в этот конфликт других людей.
И я бы сказал, что это решение соответствует существующему общественному договору. Водители ожидают, что, если они будут соблюдать ПДД и выполнять все свои обязанности по отношению к другим, они смогут безопасно передвигаться по дороге.
Почему вдруг считать нормальным решение автономного автомобиля избежать столкновения с велосипедистом, если при этом он должен резко вывернуть на встречку и врезаться в другой автомобиль, движущийся в рамках закона? Зачем принимать решение, которое вредит постороннему человеку, не являющемуся участником этой дилеммы? Должны ли мы предполагать, что при этом нанесенный вред может быть меньше, чем вред велосипедисту? Я думаю, это трудно оправдать не только морально, но и практически.
В любом дорожно-транспортном происшествии есть много неизвестных факторов. Вы не знаете, каковы будут действия различных участников дорожного движения, и вы не знаете, к какому результату приведет отдельное действие. Разработка системы, которая утверждает, что способна мгновенно выполнять эти утилитарные вычисления, не только сомнительна с этической точки зрения, но и практически невозможна. И если бы автопроизводитель действительно разработал автономный автомобиль, который отнял бы одну жизнь, чтобы спасти пять, этот автопроизводитель, вероятно, столкнулся бы с серьезной ответственностью за это, потому что в нашем общественном договоре нет ничего, что оправдывало бы такое утилитарное мышление.
Поможет ли ваше решение «проблемы вагонетки» представителям общественности поверить в безопасность беспилотных автомобилей?
Если вы читали некоторые исследования, вы можете подумать, что автономные автомобили используют этический краудсорсинг и обучаются принимать решения, основанные на ценности человека для общества. Я могу представить, что люди очень обеспокоены этим. Люди также выражают некоторую озабоченность по поводу автомобилей, которые могут пожертвовать своими пассажирами, если решат, что это спасет большее количество жизней. Это тоже звучит нелицеприятно.
Мы же полагаем, что наш подход хорошо структурирует ситуацию. Если автомобили запрограммированы так, чтобы всегда соблюдать свои обязанности по отношению к другим участникам дорожного движения, представители общественности могут прийти к пониманию, что, если они сами следуют правилам, то им нечего бояться беспилотных автомобилей. Кроме того, даже если люди нарушат свой долг соблюдать интересы беспилотника, он будет запрограммирован на использование всех своих возможностей, чтобы избежать столкновения. Я думаю, это должно успокоить людей, потому что ясно дает понять, что автономные автомобили не будут взвешивать их жизни в рамках какого-то запрограммированного утилитарного расчета.
Как ваше решение «проблемы вагонетки» может повлиять на дальнейшее развитие автономного транспорта?
Я думаю, что наши обсуждения с философами, юристами и инженерами достигли той точки, когда мы можем наконец провести четкую параллель между тем, что требует закон, как наш общественный договор реализует наши этические обязанности и реальными техническими требованиями, которые мы можем написать.
Таким образом, теперь мы можем передать список этих технических требований человеку, который программирует автономный автомобиль, для воплощения нашего общественного договора в компьютерном коде. И оказывается, что, когда вы разбираете основные аспекты ответственности автомобиля за соблюдение интересов других участников дорожного движения, все сводится к нескольким простым правилам: таким как соблюдение безопасного расстояния и вождение с разумной и уместной скоростью. В этом смысле, решение начинает немного походить на RSS, потому что мы можем принципиально задавать различные пределы безопасности для автомобиля.
В настоящее время мы применяем это решение в Ford для разработки некоторых требований к автоматизированным транспортным средствам. И мы публикуем нашу статью в открытом доступе, чтобы поделиться с остальными участниками отрасли в надежде, что, если другие сочтут наши доводы убедительными, они могут быть включены в лучшие практики.
**********
Полную публикацию научной статьи можно найти здесь:
A. D'Amato, S. Dancel, J. Pilutti, L. Tellis, E. Frascaroli & J. C. Gerdes, Exceptional Driving Principles for Autonomous Vehicles, 2022 J. L. & MOB.
Available at: https://repository.law.umich.edu/jlm/vol2022/iss1/2
Комментарии (155)
Angeld
01.02.2023 21:41+23в том что тут описано нет никакой делемы, правила четко предписывают тормозить при появлении препятствия, и явно запрещают выезжать на встречку не убедившись в безопасности маневра
какие-то обсуждения могут быть с случае когда требуется нарушить правила( пересечение сплошной например) которые помогут избежать ДТП
в случае когда нарушение правил также ведет к ДТП, решение однозначно
BobovorTheCommentBeast
02.02.2023 02:00+2Вам со встречки выехала фура, будете ли вы виноваты, тоже выехав на встречку и попав в дтп, возможно с чьей то смертью? По пдд будете.
msmsnik
02.02.2023 05:41+1Если причиненный вред явно является менее значительным, чем предотвращенный вред, и если опасность не могла быть устранена другими способами, то применима "крайняя необходимость", освобождающая от уголовной/административной ответственности.
BobovorTheCommentBeast
02.02.2023 10:03Знаете, какая проблема, никто вообще даже примерно не знает последствия. И даже прикинуть не может. Нет на это времени и данных.
Тормозить перед несущейся на тебя фурой это сорт суицида. Но этого требуют пдд.
Выехать через 10 сплошных на встречку, это спасение себя, но потенциальное убийство 3х лиц. Но по пдд будешь виноват ты.
А это про крайнюю необходимость и прочие слабо работающие вещи. https://www.insur-info.ru/press/141351/#:~:text=Невиновному в ДТП водителю придется платить пострадавшему пассажиру%3F,-Ответ редакции&text=Да%2C если в автомобильной аварии,компаний всех остальных участников ДТП.
PrinceKorwin
02.02.2023 10:47+1Тормозить перед несущейся на тебя фурой это сорт суицида. Но этого требуют пдд.
А может и нет. Пример - вы дернулись на встречку и водитель фуры тоже. В итоге безопаснее было бы остаться в своей полосе.
Весь цимес в том, как вы и указали. Слишком мало вводных данных и времени чтобы принимать идеальное решение. Но решение принимать нужно. И лучше придерживаться того, что прописано в ПДД. Просто потому, что так шансов в сумме у всех больше.
msmsnik
02.02.2023 12:49ПДД обязывают водителя "при возникновении опасности принять меры к снижению скорости вплоть до полной остановки", однако сами по себе маневрировать для избежания ДТП не запрещают.
Гражданская ответственность в виде возмещения вреда пострадавшим - "это другое". В РФ владелец источника повышенной опасности всегда должен возмещать причиненный вред, независимо от факта нарушения и наличия вины, с некоторыми оговорками.
А вот уголовная/административная ответственность за нарушение ПДД, в том числе повлекшее последствия, в том числе тяжкие - возникает только если нет обстоятельств, исключающих преступность деяния. Действия в состоянии крайней необходимости как раз являются одним из таких обстоятельств. Если доказано что опасность не могла быть устранена иными средствами и причинённый вред явно менее значительный, чем предотвращенный, то лицо является действующим в состоянии крайней необходимости, и ответственности не подлежит. Устанавливается это всё судом на основе следственных действий, экспертиз и т.д. Понятно, что на месте в момент события на принятие решения есть доли секунды, и водитель действует рефлекторно/интуитивно, всесторонне и объективно оценить обстановку и принять решение он не может, это всё решается постфактум.
Это как с пилотами, у пилота есть пять секунд в стрессовых условиях, чтобы принять решение, от которого зависит его жизнь, а потом комиссия из десяти человек в теплых кабинетах месяцами решает, правильно пилот действовал или нет.
P.S. Естественно это всё в теории, на практике засудят и разбираться не будут.
Angeld
03.02.2023 22:43и в чем тут проблема, любые последствия решения нарушить пдд есть вина того кто принял такое решение. и за него придется отвечать, в суде конечно будет учитываться то что это была крайняя необходимость, но результат зависит от конкретного случая.
для автопилота не стоит таких задач, пользователям возможно этого хотелось бы, чтобы автопилот спасал их всем средствами, но автопилот который будет нарушать правила никто не допустит на дороги.
автопилот должен всегда соблюдать правила, другого в ближайшее время не будет. Никакой дилемы кого давить для автопилота нет, давить надо тормоз как предписывают правила. Если маневр не безопасен ( а в случае "давить" это именно так) пдд маневр запрещают.
agat000
02.02.2023 05:14+1Не все люди водят сами авто и изучают ПДД. Для многих не-изучавших дилема существует, поскольку они рассматривают с житейской позиции, а не правовой.
BobovorTheCommentBeast
02.02.2023 10:08+1Согласно исследованиям, маневрирование при аварийной ситуации уменьшает шанс и тяжесть дтп. Это если что и было стимулом развития АБС, а не неуправляемость заносов.
Пдд не жс фреймворк блин, они много где рудиментарны.
BugM
01.02.2023 21:52-8А потом начинаются краевые случаи. Ночь, снег/дождь, автопилот, да и человек, видит что-то достаточное для безопасного движения со скоростью 40. А поток едет 80-100. Одна полоса.
Что делаем? Ехать 40 это неправильный ответ.
TimsTims
01.02.2023 22:08+11Постоянно такое везде на дальних однополосных дорогах - ты вроде мчишься, но рано или поздно упираешься в караван, который ползет за автобусом/грузовиком.
Почему вариант ехать 40 не правильный?
BugM
01.02.2023 22:24-11Почему вариант ехать 40 не правильный?
Это провоцирование опасных обгонов и вероятно смертей на них. Что быстро повлечет запрет вашего автопилота со словами "Требуется доработать, чтобы он не создавал таких ситуаций и не был косвенной причиной гибели людей"
Постоянно такое везде на дальних однополосных дорогах - ты вроде мчишься, но рано или поздно упираешься в караван, который ползет за автобусом/грузовиком.
И автобусы и грузовики скорость 80 уже освоили. Развалины не могущие так ехать встречаются все реже. Можно считать что их почти нет, а оставшиеся единицы обгоняются всеми не скидывая скорости.
Areso
01.02.2023 22:50+9Ехать 80 при сухой дороге и отличной видимости это одно.
Ночь, снег/дождь
Лучше ехать 40.
BugM
01.02.2023 23:00-5Предлагаю в начале убедится что большая часть людей так ездит, а потом внедрять автолилот так ездящий. Пока я вижу на дорогах скорости 80-100 в таких условиях.
agat000
02.02.2023 05:18+8За рулем стадные инстинкты должны быть отключены. Каждый выбирает свою скорость персонально. А не "Все побежали - я побежал". Это как раз путь в морг.
dolgov_vv
01.02.2023 23:03+13Это провоцирование опасных обгонов и вероятно смертей на них.
А продажа и ношение ювелирных украшений это "провоцирование нападений с целью кражи и вероятно смертей от них"? Запретим носить ювелирные украшения? А может перестаним оправдывать нарушение общепризнанных правил общественной безопасности вызванные соревновательностью и стадным инстинктом?
Если правила не запрещают ехать 40 км/ч и автопилот считает, что именно такая скорость в данных условиях безопасна, значит мнением остальных водителей автопилот должен пренебречь. Хотят опасно обгонять, - это их дело. И ответственность за безопасность в этом случае должна полностью (включая финансово) лежать на обгоняльщиках.
BugM
01.02.2023 23:20-3При этом нормальные люди для ограничение зоны тестирования автопилота в Сан-Франциско используют именно то что он мешает обычным людям. Мир он для людей, а не для роботов.
Вы с подходом "и пусть все люди страдают" не наберете популярности для разрешения эксплуатации такого. Придется как-то учить автопилот ездить не медленнее людей и думать что делать с тем что это не полностью безопасно.
dolgov_vv
01.02.2023 23:27+6Если выполнение правил автопилотом приводит к тому, что "люди страдают", то это не об автопилоте, а о том, что с правилами что-то не то и должен быть общественно согласованный договор о том, что их нужно менять.
BugM
01.02.2023 23:31-1Правила разрешают ехать 80-100, не проблем. Обычная дорога, деревни какие-то леса, поля и тому подобное. Ни один полицейский не придерется, пока аварии нет. А вот если случится авария, то есть шанс что напишут скорость была выбрана не в соответствии с дорожными условиями и тому подобное.
Люди просто берут на себя этот риск. А что делать автопилоту непонятно.
DGN
02.02.2023 06:22+4Автопилоту есть смысл видеть лучше человека, реакцию иметь лучше и просчитывать лучше. И тут вылезает обратная проблема, если лидер автономен и задает темп выше чем способен поддержать человек. К примеру, на дороге рассыпаны кирпичи, лидар дает четкую обстановку, комп считает маневр безопасным и едет 90 по ПДД, а для человека машина спереди чуть дернулась влево-вправо в рамках полосы (нормальное в принципе поведение) и из под нее показываются кирпичи, человек это ситуацию обработать уже не сможет.
Обратная ситуация - рассыпан пенопласт, люди видят и едут, для лидара это непреодолимое препятствие, автономные машины встают.
shiru8bit
01.02.2023 23:32+7ПДД требуют от водителя выбирать скорость в зависимости от условий для обеспечения именно безопасности движения. То, что многие водители нарушают правила направо и налево, и гоняют 80-100 там, где погодные условия требуют ехать 40, не должно быть поводом учить автопилот ездить так же.
BugM
01.02.2023 23:37-4Предлагате автопилоту мешать примерно всем обычным водителям? Такой автопилот запретят примерно сразу. Просто из-за повышения аварийности там где он есть. Заставлять страдать и иногда умирать примерно всех водителей никто не будет.
Видимо это последний комментарий на эту тему. Платить столько кармы я не готов. Всем минусующим привет, вы победили на форуме.
shiru8bit
01.02.2023 23:40+10Каждый день видя то, что творится на дорогах, я бы предложил ввести регулярную переэкзаменацию всех обычных водителей, чтобы они начали наконец соблюдать ПДД хотя бы на уровне плохого автопилота. Ваша риторика строится на том, что вам кто-то 'мешает'. Это случайно не вы бибикаете одновременно со включением зелёного сигнала светофора?
Areso
02.02.2023 01:22+5Флегматично: есть люди, которые бибикают до того, как включился зелёный...
3aBulon
02.02.2023 15:20Знаете, переехал в другой регион и увидел множество людей которые едут до того как включится зеленый. Те кто бибикают были бы тормозами в этой ситуации :)
agat000
02.02.2023 18:57+1Видел такое в Казахстане. Зато на желтый все встают колом. Прямо как в анекдоте "щас оттуда джигит пролетит".
Будучи за рулем там впервые,. пару раз чуть не поймал местных бортом, когда пытался проскочить на желтый. ПДД у нас одинаковые, а местные традиции разные. Как такому учить ИИ - не представляю.
vassabi
02.02.2023 00:40+3вы против повышения аварийности среди лихачей, превышающих разрешенную скорость движения по городу в дождь ?
IvanPetrof
02.02.2023 03:47Проблема в том, что лихачи не всегда "выпиливаются" в одиночку.
vassabi
02.02.2023 10:09+61) лихачи выпиливаются о дерево на повороте, забирая встречку и еще 100500 иных разнообразных вариантов. Вы будете идти по пешеходному переходу или вообще по тротуару - и все равно шанс попасть под колеса лихачей - огого
2) однажды меня вез очень аккуратный таксист. Он соблюдал все правила, ехал спокойно и не перестраивлся между рядами, не рвал со светофора. Когда я поинтересовался, он мне ответил, что у него была прокачанная бэха и он очень любил возить в аэропорт "с ветерком". Но пару месяцев тому назад, когда он ехал за пассажиром, то он попал в лужу на скорости 250 км/ч и "улетел в поля". С огромным чуством благодарности к немецкому чуду качественного автопрома он вышел из останков машины без единой царапины. И теперь ездит .... во общем, очень спокойно ездит и без спешки.
Так что я бы не стал недооценивать чуство собственного сохранения.
3) если бы можно было иметь "кнопку запиши видео с автоситуацией" для видеорегистратора. Т.е. обгоняет тебя в потоке какой-то "шахматист" - автопилот притормаживает и уступает место, а ты как пассажир - в это время жмешь "поделиться" в местный канал видеклипов "идиоты на дороге"
IvanPetrof
02.02.2023 13:30так я ж не спорю. Ваш первый пунк про то что я имел в виду. Только я хотел сделать акцент на том, что лихачи иногда выпиливают нормальных людей. Иногда вместе с собой, иногда только их (в том числе и благодаря немецкому автопрому, который не виноват, конечно же)
alcanoid
02.02.2023 00:05+11А вы уверены, что это нормальные люди? Если ты в своих эгоистичных целях хочешь нарушать правила, но тебе мешает робот, то проблема не в роботе.
DGN
02.02.2023 06:11+3Это решается введением коэффициента безопасности, к примеру, системы предупреждения столкновений в ряде авто, не гарантируют их отсутствие, а лишь безопасность.
Но мне видится правильным полная безопасность, да, будет поток ехать 40 а не 70, но не будет и пробок из за аварий. Представьте, какие проблемы создаст авария на узкой дороге, многочасовая пробка. Видел такое.
Angeld
03.02.2023 22:48водитель новичок, или просто осторожный так же будет мешать рисковым торопыгам. пассажирам автопилота это не мешает. почему все должно вертеться вокруг интересов тех, чьи действия назовут причиной аварии в случае если таковая случится?
x86d0cent
02.02.2023 00:38+2И автобусы и грузовики скорость 80 уже освоили.
Где освоили? ПДД РФ, п.10.3, грузовики, пригородные/дачные/etc автобусы, легковые авто с прицепами - 70 км/ч, автобусы при организованной перевозке групп детей (и грузовики при перевозке людей в кузове) - 60 км/ч.
Это тоже "провоцирование обгонов", да?IvanPetrof
02.02.2023 02:41грузовики при перевозке людей в кузове
Хм. А так ещё можно? Кузов не должен быть оборудован ремнями безопасности? </почти шутка>
иногда, когда вижу в старых советских фильмах, как целый открытый кузов детей радостно едет по просёлочной дороге в какой-нить пионерлагерь, сразу вспоминаю какой квест нужно пройти чтобы организованно перевести группу детей из пункта А в пункт Б внутри города.
Ds02006
02.02.2023 04:03Дети в кузове? Так то было раньше... Раньше и в самолётах курить не запрещалось...
x86d0cent
02.02.2023 11:20Дети даже в школьном автобусе, оборудованном хоть ремнями, хоть чем, при организованной перевозке - 60 км/ч. Сейчас, в РФ, по ПДД.
А в кузове - в РФ сейчас это больше про всяких мобилизованных лиц, и лиц, сопровождающих груз. В открытом кузове в РФ сейчас детей возить запрещено. В закрытом (например, в фургоне) - разрешено.
Exchan-ge
02.02.2023 01:53+1но рано или поздно упираешься в караван, который ползет за автобусом/грузовиком.
«Но есть ответственность и для водителей медленных машин. Речь идет о случаях, когда водитель тихоходного средства, или перевозящего крупногабаритный груз, или транспортного средства, двигающегося со скоростью, не превышающей 30 км/ч, не пропускает другие автомобили.
Для таких установлено наказание в виде штрафа от одной до полутора тысяч рублей» (с)
zlat_zlat
01.02.2023 22:09+1Перестаем требовать от автопилота, и принимаем решение, что он должен быть не хуже среднестатистического водителя?)
Хотя по сути именно ехать 40 - правильное решение, как для человека, так и для автопилота.
agat000
02.02.2023 05:28+1Почему среднестатистического? Так то мы выдаем права и свободно выпускаем на дороги "птенцов водятлов" после 50 часов (по 45 мин) с инструктором, и сдачи простейшего экзамена. По логике - автопилот должен быть просто не хуже такого уровня.
Сможет ли нынешний автопилот сдать экзамен в ГАИ? Теория - ок, 4 упражнения на автодроме - запросто, 10 минут езды по городу по окраине - не проблема. Единственное препятствие - справка от психиатора.
Darth_Anjan
02.02.2023 06:54+6Приходит автономный автомобиль к психиатору за справкой. Тот на него смотрит, смотрит и задумчиво говорит: «Так, голубчик, как же я вам выдам справку, если мне теперь самому эту справку никто не даст?..»
materiatura
01.02.2023 22:11+12Про автопилота не скажу, а для человека ехать необходимо с той скоростью, которая обеспечивает безаварийное вождение. Если эта скорость 40, то значит - это правильный ответ. Поток, количество полос и подзадоривания пассажиров не имеют значения. Нас так учили.
BugM
01.02.2023 22:25-4Вы ездили по реальным дорогам? Видели как ездит основная масса людей?
Автопилот не должен им мешать. А значит ехать примерно так же. Иначе запрет такого автопилота пока не доработают чтобы не мешал людям это логичный шаг.
tark-tech
02.02.2023 00:15+6Ездил, видел.
Автопилот, который будет ездить строго по правилам должен быть доработан и оснащен еще и пулеметом, чтобы мешать кожаным идиотам нарушать оные правила.
x86d0cent
02.02.2023 00:26+3Видели как ездит основная масса людей?
А вы видели? Ну если глобально брать. Или судите об "основной массе" по всего лишь какой-то одной стране, например (на которую производители автопилотов могут и вовсе не обращать внимания)?
§ 3 Abs. 1 Satz 3 f. StVO:
Beträgt die Sichtweite durch Nebel, Schneefall oder Regen weniger als 50 m, darf nicht schneller als 50 km/h gefahren werden, wenn nicht eine geringere Geschwindigkeit geboten ist. Es darf nur so schnell gefahren werden, dass innerhalb der übersehbaren Strecke gehalten werden kann.
Как-то так. При плохой видимости - 50 км/ч, а за 80 - штраф больше 100 евро и 1 штрафной балл.
Angeld
03.02.2023 22:55+1большое количество камер обеспечивающий неотвратимость наказания прекрасно учат соблюдать правила. Это очень хорошо заметно в Москве обвешенной камерами. Стиль езды кардинально изменился. А автопилоты которые регистрируют все вокруг, могут помочь с воспитанием правильных традиций вождения.
ReadOnlySadUser
02.02.2023 00:11+1Открываем ПДД, пункт 10.1
10.1. Водитель должен вести транспортное средство со скоростью, не превышающей установленного ограничения, учитывая при этом интенсивность движения, особенности и состояние транспортного средства и груза, дорожные и метеорологические условия, в частности видимость в направлении движения. Скорость должна обеспечивать водителю возможность постоянного контроля за движением транспортного средства для выполнения требований Правил
А затем пункт 10.5
10.5. Водителю запрещается:
...
создавать помехи другим транспортным средствам, двигаясь без необходимости со слишком малой скоростью;
В связи с чем заключаем, что если на дороге всё ровно, видимость "приемлемая" (для ИИ это оч растяжимое понятие) и все едут 80, ничего не нарушая, то ИИ вроде как обязан двигаться со скоростью потока, ибо это безопаснее с учётом всех факторов, которые нужно учесть.
Shpakov
02.02.2023 09:54+6Там же - "не превышающей установленного ограничения"...
Никогда не понимал, почему когда говорят про "скорость потока" всегда подразумевают превышение над разрешенной скоростью, а не наоборот. Несколько раз на КАД в Питере встречал ситуацию - разрешенная 110, а поток движется 90, а бывало и 70 (сумерки и дождь).
На мой взгляд, в такой ситуации (скорость потока ниже разрешенной) как раз для ИИ обязательно соблюдать скорость потока, а не двигаться с максимально разрешенной...
kometakot
01.02.2023 22:28+3По моему — вполне правильный. В чём я не прав? А по поводу опасных обгонов — если будет несколько робоводителей в полосе движения — они психологически будут подавлять желание обгонщиков ехать быстрее. Ещё можно угрожающе мигать и гудеть сигналами, при попытке таковых совершить суицыд. Можно даже блокировать обгоняющего, перекрывая ему путь, как сейчас это делают грузовики, которые видят, что по встречной приближается машина, а сзади не осматривающий встречку лихач уже поворотом мигает.
BugM
01.02.2023 22:31-1В том что люди так не ездят. И это будет помеха на дороге повышающая аварийность, например, из-за опасных обгонов.
alcanoid
02.02.2023 00:11+6Реальной помехой на дороге будет пробка из-за идиота, собравшего несколько автомобилей на встречке и на своей же полосе, потому что всегда кому-то кажется, что автомобиль впереди едет медленнее, чем нужно.
Angeld
03.02.2023 22:57достаточно фиксировать нарушения и отправлять в соответствующие органы.
неотвратимая финансовая ответственность прекрасно работает.x86d0cent
04.02.2023 00:38неотвратимая финансовая ответственность прекрасно работает.
Для этого надо, чтобы, во-первых, ответственность была предусмотрена за соответствующее нарушение, во-вторых, чтобы ответственность была значительной, и в-третьих, чтобы те самые органы работали нормально. И да, есть страны, в которых это прекрасно работает. А есть те, где во многих ситуациях даже первого пункта нет, а со вторым и третьим все может быть еще хуже... и у меня возникает ощущение, что мноие комментаторы "примеряют" автопилоты в первую очередь почему-то именно к таким странам.
Angeld
04.02.2023 12:10ответственность за нарушения правил вполне себе предусмотрена, и если не будет нарушений за которые есть штрафы ситуация на дорогах значительно улучшится
те-же обгоны через сплошную, езда по обочине
значительность совершенно не обязательна, если регулярно приходят штрафы на 500р это прекрасно работает, подтверждается камерами в Москве
как и то что соответствующие органы выполняют свою работу
откуда фантазии, что с этим плохо непонятноx86d0cent
04.02.2023 13:32ответственность за нарушения правил вполне себе предусмотрена
Если говорить про РФ - то далеко не всегда. Напрмер, если стоит знак "40", то ПДД запрещают ехать быстрее. Но если ехать даже в полтора раза быстрее, 60 км/ч, то никакой ответсвенности за это не предусмотрено. Равно как и за обгон в проливной дождь на загородной дороге на скорости 100 км/ч при видимости в 30 метров (примерно с этого, собственно, начался этот тред, в который вы пишете).
значительность совершенно не обязательна, если регулярно приходят штрафы на 500р это прекрасно работает, подтверждается камерами в Москве
Как раз камерами в Москве подтверждается, что это работает лишь отчасти, и случаи, когда люди в конце месяца просто оплачивают по тарифу несколько тысяч рублей (а то и больше, или просто не оплачивают), не единичны. Если вы называете это "прекрасно работает" - вероятно, у вас какое-то свое представление о "прекрасной работе".
откуда фантазии, что с этим плохо непонятно
Если уж вы полагаете, что вправе в данном контексте делать такие неуместные заявления о якобы "фантазиях" (при том, замечу, что в общем-то говорилось личшь, что есть страны, в которых с эим плохо, даже без упоминания конкретных стран), я задам вам один простой впрос: известна ли вам хоть какая-то статистика по проценту случаев, в которых "фиксация нарушения и отправка в соответствующие органы" заканчивается привлечением водителя к административной ответственности хотя бы по РФ (раз уж вы Москву упоминаете)? Очень похоже, что вы просто не представляете ситуации в целом.
solderman
01.02.2023 22:35+13Если видимость 20-30 метров, то я буду ехать 30кмч и никто не заставит меня ехать быстрее. Причем еще и дистанцию буду держать безопасную, исходя их состояния дорожного полотна. Ибо скорость и дистанция должны быть адекватными видимости и управляемости.
И буду крыть последними словами идиотов, которые будут пытаться обгонять и вклиниваться.
s_f1
01.02.2023 22:36+3Знаете, частенько бывает такое – ночью над речкой посреди леса туман, метров не более 200, но видимость реально около 0. И формально по правилам нужно остановиться, не меняя полосы движения, и включить аварийку. Но кто думает, что это оптимальный вариант – не видел, видимо, как потом HOWO, который в принципе остановиться до 0 и не успел бы, собирает гирлянду из 10-15 машин. Плюс ПДД-шного варианта – вы не виноваты в ДТП.
DGN
02.02.2023 06:05+2Почему неправильный? Пару дней назад так и ехал, темно, видно плохо, ремонт дороги... Скорость 20 и смотреть в оба, не обращать внимания на гудки.
Otard
01.02.2023 21:59+16ПДД РФ
10.1.При возникновении опасности для движения, которую водитель в состоянии
обнаружить, он должен принять возможные меры к снижению скорости вплоть
до остановки транспортного средства.Никаких манёвров кроме торможения российские правила движения не предусматривают.
Поэтому если велосипедист выехал перед автомобилем, он может надеятся только на то что автомобиль успеет остановиться.
RealSaniok
02.02.2023 01:15Даже объехать нельзя на пустой дороге?
vassabi
02.02.2023 01:36-1снизить скорость до безопасной и медленно + осторожно объехать
RealSaniok
02.02.2023 11:49Усложняем.. Объехать по встречке через двойную сплошную при пустой дороге и невозможности обьехать справа?
Otard
02.02.2023 07:30Текст правил перечитайте, там нет ни слова про объезд и пустую дорогу.
SergeyMax
02.02.2023 09:39-1А в белой рубашке можно ездить? Перечитал текст правил, там нет ни слова про белую рубашку.
Otard
02.02.2023 09:45+1Плохо читали.
1.1. Настоящие Правила дорожного движения устанавливают единый
порядок дорожного движения на всей территории Российской Федерации.То есть ПДД регулируют движение на дороге, а не дресс-код.
SergeyMax
02.02.2023 09:59-1Ну, дак можно ли двигаться на дороге в указанных условиях, если про эти условия нет ничего в ПДД?
Otard
02.02.2023 10:08+1Читайте ПДД, там все ответы на Ваши вопросы.
SergeyMax
02.02.2023 10:44+1Вот именно, нужно читать ПДД, а не выдумывать правила, что если там чего-то нет, то это запрещено.
YMA
02.02.2023 11:05Не согласен с вами. Почитайте про диспозитивные и императивные нормы права. У нас в РФ преимущественно первые, в том числе ПДД.
Указано ли в ПДД - что я могу ездить на машине зеленого цвета? Нет. Всех зеленых перекрасить в белый цвет, как в Туркмении?
msmsnik
02.02.2023 13:06+1Разрешено всё, что не запрещено. ПДД обязывают тормозить, при возникновении опасности, но не запрещают маневрировать. Естественно своими маневрам водитель не должен нарушать другие пункты ПДД, например через сплошную выезжать.
Но даже если сманеврировал в нарушение ПДД, то всё ещё можно признать такие действия крайней необходимостью, если будет достоверно установлено, что предотвращенный вред явно более значительный, чем причиненный в результате нарушения, и достоверно установлено что опасность нельзя было устранить иными средствами. А если деяние совершенно в состоянии крайней необходимости, то оно не является преступлением/правонарушением, и уголовная/административная ответственность за него не наступает.
lamerok
01.02.2023 22:11+10Я так и не понял, почему это называется дилемой. Тут просто надо тормозить. Дилема будет у автопилота, когда у его грузовика на горке откажут тормоза, и по ПДД будет 2 варианта либо въехать взад впереди идущей машине, где сидит старичок, либо в кювет, где стоит малыш.
AcckiyGerman
02.02.2023 10:44У грузовиков (а помоему и в легковушках сейчас тоже так) двойная система тормозов, и если откажут обе - то виноват будет механик.
DaneSoul
02.02.2023 11:26А что считать двойной системой? Так-то «ручник» в легковых точно есть.
shiru8bit
02.02.2023 13:09+2Ну вроде как двухконтурная рабочая тормозная система на легковушках давно уже стандарт.
Angeld
03.02.2023 23:02ручник особо не останавливает, у новичков частая проблема езда с неснятым ручником. всего лишь чуть тяжелее трогаться если на ручной коробке.
YMA
04.02.2023 17:24Это значит - ручник неисправен. Исправный держит машину на уклоне 45 градусов без каких-либо проблем.
У меня было на первой машине - поначалу забывал сняться с ручника, вперед машина ехала с заблокированными задними колесами, назад - вообще не трогалась с места. :) Передний привод, легкий зад (Toyota Spacio).
s_f1
01.02.2023 22:15+1Тут ещё с другой стороны интересно посмотреть.
Вот (довольно нередкий, кстати) случай – на узкой двухполосной дороге (скажем – с отбойниками или на мосту) вам в лоб выезжает КАМАЗ, обгоняющий легковушку. В соответствии с описанными принципами, автопилот привезёт вас прямиком в морг, в то время, как абсолютное большинство водителей, кто-то осознанно, кто-то инстинктивно – отвернут в легковушку с какими-то шансами. Понятно, что с точки зрения наблюдателя – так делать не стоит. (?) Но так делает большинство, если глянуть записи ДТП.
Так вот такой вопрос – допустимо ли вообще позволять автомобилю не иметь «живого водителя»? Самолётам вот пока – не дозволено. И в случае чего АП говорит – я пас, дальше сами.solderman
01.02.2023 22:40+1А АП может определять скорость встречного объекта за встречным объектом и понимать, что камаз разгоняется для обгона? Если на прямом участке с достаточной видимостью, то я пойму и буду готов оттрмаживаться или уходить на обочины. А АП будет?
alcanoid
02.02.2023 00:16+11Тут вопрос другой. Когда будет разработан нормальный автопилот, допустимо ли будет вообще позволять автомобилю иметь «живого водителя»? Обгоняют по встречке в лоб отнюдь не автопилоты, заметьте.
agat000
02.02.2023 05:34+1угу, легковушка, видя такое, резко тормозит и КАМАЗ резко возвращается на свою полосу. И заново красит поцарапаный бампер
zlat_zlat
01.02.2023 22:19+6Лично мне неясно, почему некоторые члены общества требуют от автопилота каких-то действий, наподобие «убить всех пассажиров при виде ребёнка», которые сами люди по закону предпринимать не обязаны. Люди ежедневно и осознанно садятся за руль пьяными и под веществами, превышают скорость, игнорируют законы физики и здравый смысл в погоне за минутной экономией (да и просто ради собственных амбиций) - и убивают сотни и тысячи других людей. Разве недостаточно того, что автопилот будет точно соблюдать ПДД, которые и написаны ради общей безопасности на дорогах?
s_f1
01.02.2023 22:21+2Потому что при угрозе жизни, и особенно своей – люди руководствуются вовсе не ПДД?
zlat_zlat
03.02.2023 13:19+1И в результате общество выигрывает или проигрывает? Люди, как я указал, в принципе чаще руководствуются своей выгодой, но это не делает дороги безопаснее.
MarieKhroust
03.02.2023 15:13Почему-то люди считают нормальным разрешать себе превышать скорость и провоцировать опасные ситуации ("мы же все рассчитали", "мы же высшие существа"), а если происходит трагедия - то это просто несчастный случай. Но как только им предлагается хотя бы в теории машина, которая будет соблюдать правила и, возможно, в какой-то ситуации может рискнуть жизнью нарушителя правил, - людей прям бомбит.
Типа есть человек, и он как сознательное существо может разрешить себе сесть за руль в пьяном виде или под кайфом, нарушить правила и кого-то угробить. И это допускается обществом, хотя бы в мыслях. Но машине - запрограммированной железке - нельзя руководствоваться только пдд, потому что она гипотетически может кого-то убить.
zlat_zlat
03.02.2023 17:15Да, такие вот двойные стандарты, основанные на возможности «отмщения», то есть осуждения виновника. Как будто наказание виновника делает трагедию менее ужасной.
pda0
01.02.2023 22:37+6Прямо классика вспоминается:
В автошколе в Грузии соискатель водительских прав сдает экзамен. Инспектор объясняет дорожную ситуацию:
— Ты едешь в машина по узкой дороге. Слева — високий-високий гор. Справа — крутой-крутой абрив. Вдруг на дороге — красивий дэвушка. А рядом с ней страшный-престрашный старух. Кого давить будэшь?
— Конечно, старуху!
— Дурак!.. Тормоз давить нужно!
Так выпьем же за то, чтобы в трудной ситуации мы не забывали нажать на тормоз!
На самом деле давно это обсуждали и я там ещё говорил. Все эти дилеммы хороши для дивана. Скажите, много ли согласится ехать под управлением автопилота, в который будет на уровне правила заложено, что в какой-то ситуации он осознанно пожертвует или поставит вашу жизнь под угрозу?
SergeyMax
02.02.2023 09:43Скажите, много ли согласится ехать под управлением автопилота, в который будет на уровне правила заложено, что в какой-то ситуации он осознанно пожертвует или поставит вашу жизнь под угрозу?
Автомобиль - это источник повышенной опасности, он непрерывно ставит вашу жизнь под угрозу. Много ли соглашается ехать?)
pda0
02.02.2023 11:36+1Опасность это риск случайного события. Когда вы управляете автомобилем у вас нет изначального плана убить себя если что и решение этого вопроса остаётся за вами. Когда вы садитесь пассажиром, вы ждёте, что о вас будет заботится водитель. Вам водитель автобуса не объявляет, что "если на дорогу выбегает котёнок - я в кювет". А тут нам заранее как запрограммированное поведение пытаются такое навязать.
SergeyMax
02.02.2023 14:30решение этого вопроса остаётся за вами
Если вы думаете, что ДТП происходят от того, что его участники вдруг неожиданно решают поучаствовать в аварии, то у меня для вас плохие новости.
pda0
03.02.2023 11:14Я имел ввиду "ударить по тормозам и надеяться, что этого хватит" или "руль в бок и будь что будет".
Wizard_of_light
02.02.2023 17:19Опасность это риск случайного события.
Ну так вроде никто и не собирается убивать пассажиров специально. Сейчас тоже есть масса ситуаций, в которых водитель автомобиля убьёт себя, пассажиров, случайных прохожих и т.д., без всякого автопилота. Естественно, автопилот должен уменьшать количество таких ситуаций.
pda0
03.02.2023 11:11+1Именно собираются. Несколько лет назад, когда о возможности создания полностью автономного автопилота в обозримом будущем заговорили всерьёз, начали задаваться и вопросами о его этике. Т.е. в ситуации "ребёнок выскакивает под колёса" у водителя-человека обычно нет времени принять продуманное решение, приходится действовать на рефлексах. Автопилот же из-за более высокой скорости работы вполне может оказаться в ситуации, когда он успеет просчитать ситуацию и определить, что он или собьёт ребёнка или намеренно отправит машину в аварию с вероятным смертельным исходом для пассажиров. И как тогда он должен поступать?
MarieKhroust
03.02.2023 11:48+2Мне кажется, в ситуации "ребенок выбежал на дорогу перед движущимся автомобилем" намного больше, чем вопрос программирования автопилота - собьет ребенка или въедет в стену и убьётся сам. Я согласна с рассуждениями автора статьи - не нужно добавлять вопросы этики и выбора там, где их невозможно просчитать с идеальным решением. Увы, несчастные случаи случаются. Увы, дети погибают. Ответственность общества - доносить до родителей важность следить за своим ребенком в опасных местах и доносить до водителей важность не носиться по дворам и жилым зонам и соблюдать скоростной режим.
Хочется надеяться, что по мере развития и внедрения автономного транспорта общество тоже будет развиваться. И родители будут внимательнее, и водители - осмотрительнее, и такие рассуждения будут менее актуальными.
З.ы. пишу как мама 4-летнего ребенка. Поведение моего ребенка рядом с проезжей частью - моя личная ответственность.
pda0
03.02.2023 12:25+1Я согласна с рассуждениями автора статьи - не нужно добавлять вопросы этики и выбора там, где их невозможно просчитать с идеальным решением.
Понимаете, тут принцип Геральта не работает. Отсутствие выбора для автопилота - тоже выбор.
Т.е. в ситуации справа/слева опасные помехи движению, впереди внезапно возникает пешеход, безопасное торможение невозможно, автопилоту придётся принять одно из решений:
Тормозить всё равно.
Избежать столкновения с пешеходом любой ценой.
Продолжать движение игнорируя пешехода.
Если проигнорировать проблему вообще, то это просто неявный выбор варианта 3.
MarieKhroust
03.02.2023 12:31Речи о том, чтобы продолжать движение, не идет. Вариант с торможением никто не отменяет.
Angeld
03.02.2023 23:10решение вполне однозначное, соблюдать правила, и автопилот принимающий другие решения на дороги допущен не будет
если маневр не безопасен он запрещен, и остается только тормозить. бонус от автопилота, что он лучше сканирует окружающий мир, и имеет лучше реакцию. за счет этого раньше обнаружит опасную ситуацию и повысит шансы на благоприятный исход. Статистически автопилоты благодаря этому будут безопаснее живых водителей. И разрешать автопилоту нарушать правила, для гипотетического снижения ущерба нет никакой необходимости.
solderman
01.02.2023 22:44Статистика наше всё. По статистике абсолютное число проишествий на B737 самое большое, но соотнесенное к часам налета меньшее по сравнению с другими лайнерами, тк 737 больше всего остального вместе взятого.
А как обстоят дела с соотнесением АП-машин и среднестатистических водителей?
s_f1
01.02.2023 22:50+1Tesla на АП в прошлом году – 1 «краш» на 6М миль. В 10 раз реже, чем среднее по США. Но там и Tesla «на руках» втрое реже. Так что статистика пока такое себе.
Xambey97
01.02.2023 23:10+5На мой взгляд у всех производителей авто при рассмотрении подобных вопросов есть один, который упорно игнорируется: А может просто нужно сделать так, чтобы люди перестали водить авто самостоятельно? Лично я считаю, что будь у нас дороги только для автономного транспорта, кол-во дтп со смертельным исходом снизилось бы до околонулевых значений. А если бы такие авто еще и могли бы синхронно управляться, обмениваться инфой между собой, то движение могло бы стать еще и быстрее. Они могли бы ехать с большей скоростью и тормозить последовательно, будто единый организм. А еще предупреждать все следующие авто об опасности на дороге и тд.
Не мне судить конечно, у меня вообще прав нет. Но если бы мне предложили на выбор — получить права для себя или отдать все на откуп полностью автономного авто и спокойно себе во время поездки делать что хочу (например досыпать по дороге на работу), я бы не раздумывая выбрал второе. Но это мое мнение субъективное конечно, но я вот так думаюagat000
02.02.2023 05:39Вы сводите в одну кучу вообще всех, забывая, что ситуация везде разная. В крупном городе может и актуально, в сельской местности - зачем? В Европе может быть, а как быть с ЮВА, Африкой и прочими дикими местами?
Darth_Anjan
02.02.2023 10:06+1Второе — это вариант «использовать такси». Какая вам разница кто вас везёт: автопилот или другой человек?..
Ну и по большому счёту такси выгоднее, чем покупать авто просто для того, чтобы оно тебя возило. У меня вот до 22ого года выходило чуть больше чем по 100к эксплуатационных расходов (бензины-страховки-то-мелкие ремонты) на авто в год (в региональном центре). И это ещё по-божески, я не сильно много катался. На такси, думаю, вышло бы примерно столько же =)
semmaxim
02.02.2023 12:32Вместо асфальтовых дорог проложить в городах рельсы и внедрить индивидуальный автономный рельсовый транспорт? Классно... Но слишком дорого.
nick-for-habr
01.02.2023 23:15+1Содержание и рассуждения в статье никак не относятся к начальной "дилемме вагонетки". Суть дилеммы: есть злой рок, неподвластный нам. Он точно убъёт 5 конкретных уже известных (невиновных) человек. Но мы можем повлиять на этот рок так, что он убъёт только одного другого (не из этих 5) человека, то же невиновного, но которого иначе этот рок бы не убил. Т.е. погибнет он от нашего выбора.
Делать ли нам что-то или нет?
Вот дилемма.
В статье же автор растекается мыслию по дереву (на деньги налогоплатильщиков) совсем на другую тему: эти 5 изначальных несчастных объявлены априори "виновными" - ИИ (злой рок) же всегда будет соблюдать правила, правда? Правда же?! (картинка из мема).
А раз ИИ всегда прав - то не правы те, кого он убъёт. Логика жеж. А значит и сильно париться с этими "нарушителями" нечего. Получиться как-то не убивать их без того, что бы ещё кого-то не убить - ну и хорошо, повезло им. ИИ же законопослушный, но милосердный. Не получится - сами виноваты,
кожанные мешкинарушители.Никакой моральной дилеммы и мук выбора тут нет.
Ну и как принято в современном "западном" стиле - количество воды в тексте просто зашкаливат. Им всем там платят за кол-во знаков, или просто проходной минимум - "три печатных листа"? Приходится проматывать в конец после первых абзацев... (((
Deosis
02.02.2023 10:17-1У дилеммы вагонетки есть и ещё один слой.
При выборе варианта пожертвовать одним человеком, может оказаться, что этот человек - вы. Поэтому более правильная формулировка дилеммы:
пожертвовать собой, чтобы предотвратитьт смерть нескольких человек, или нет.
Dynasaur
01.02.2023 23:35+7Проблема надуманная кабинетными "учёными" исключительно для бесконечных этических дискуссий вдали от реальности. А в реальности современные автопилоты пока не способны так глубоко анализировать последствия столкновений, чтобы просчитывать кто и как пострадает . Им дай бог дорогу нормально понимать. Ну а когда они смогут рассчитать последствия ДТП, тогда, может, уже и ДТП не будет.
MarieKhroust
02.02.2023 17:32Чтобы дожить до новой реальности, нужно начать о ней думать и рассуждать уже сейчас. И идти к чему-то конкретному, а не куда понесет.
saboteur_kiev
01.02.2023 23:35+2Недешевый но надежный вариант - это правильная инфраструктура, в пределах которой софт сразу повышает свой интеллектуальный уровень от круиз-контроля до автопилота, и обратно как только выезжает на "обычную" дорогу
dfgwer
02.02.2023 00:02Да действительно. Перенос автопилота с машины на дорожную инфраструктуру, очень сильно поможет.
Заезжаешь в зону автопилота, и дальше управление берет на себя дорожная инфра. Дорога знает где у него машины и пешеходы, дорога разрулит пробки, дорога знает свою разметку и ямы наконец.
DaneSoul
02.02.2023 11:34Проблемы тут две:
1) Создавать такую инфраструктуру весьма не дешевое удовольствие (впрочем Вы это упомянули)
2) Если это на дорогах общего пользователя, то что делать с мало предсказуемыми водителями старых машин с «ручным» управлением мешающих автопилотам?
А если под это еще и отдельные дороги только под автопилоты строить, то это безумно дорого и в ряде мест еще и крайне сложно выделить территориально.saboteur_kiev
04.02.2023 02:44Да, недешево и долго
Маск предложил индивидуальные туннели. Если прикинуть что будет лет через 100, то почему бы за 100 лет не прийти к тому, что как минимум внутри каждого миллионника будет достаточно распределенная дорожная система для безпилотников? При этом я уверен, что много городов при достаточных усилиях могут это сделать гораздо быстрее.
Плюс в том, что для езды на такой инфраструктуре, не нужен сложный и дорогой ИИ.
Racheengel
02.02.2023 01:44+3С учётом вышеизложенного, как по мне, наиболее разумным видится следующее:
Приоритет на максимальную безопасность водителя и пассажиров.
Приоритет на безопасность других участников.
-
Приоритет на соблюдение правил дорожного движения.
Если по простому - машину, которая будет думать, спасать ли велосипедиста за счёт водителя, никто не купит. Да машина и вообще не должна принимать подобные решения. ПДД говорят тормозить, значить тормозить.
Что касательно кейса "видимость 0, иду по приборам", когда вокруг все едут 80 и бибикают - опять же, пдд в приоритете. Ехать 50 и пофиг на идиотов.
x86d0cent
02.02.2023 11:371. Приоритет на максимальную безопасность водителя и пассажиров.
...
3. Приоритет на соблюдение правил дорожного движения.
Т.е. на двухполосной дороге между торможением с последующим весьма вероятным лобовым столкновением на довольно всокой скорости с ТС, выехавшим на встречку, и съездом на ровную сухую обочину, по которой идет группа пешеходов, автопилот должен выбирать второе, чтобы обеспеить максимальную безопасность водителя? Или все же "ПДД говорят тормозить, значить тормозить"?
Racheengel
03.02.2023 13:23Пункты 1 и 2 как раз направлены на максимальную выживаемость водителя, пассажиров и пешеходов, как основную задачу автопилота в экстремальной ситуации. И они лучшим образом будут решать обозначенную проблему.
Поскольку при лобовом столкновении вариант "тормозить" не имеет особого смысла (убьются оба водителя с максимальной вероятностью - т.е. противоречие п.1 и п.2), то он не выполняется.
Поэтому автопилот выбирает альтернативный вариант - либо объезд вылетевшего на встречку (если возможно), либо съезд на обочину, с рассчётом траектории движения так, чтобы минимизировать последствия возможного столкновения с пешеходами (п.2 - они должны выжить по максимуму), максимально бибикая и мигая при этом, и в то же время поддерживать безопасность водителя (п.1). При этом по возможности не создавая проблем другим участникам движения (п.3).
В идеале, автопилот просчитает съезд с дороги так, что никого не убъет и не зацепит. И параллельно будет тормозить так, чтоб не занести и не перевернуться.
x86d0cent
03.02.2023 18:17(п.2 - они должны выжить по максимуму) ... и в то же время поддерживать безопасность водителя (п.1)
Правильно ли я понял, что в описанной вами логике п.1 имеет безусловный приоритет над п.2 (и уж тем более п.3)? Т.е. даже в случае, если выезд на обочину в нарушение ПДД приведет к почти гарантированной гибели пяти пешеходов, идущих по обочине с соблюдением ПДД, то автопилот, работающий в соответствии с описанной вами логикой, должен их сбить, чтобы спасти жизнь водителя?
Racheengel
04.02.2023 21:01Близко, но не совсем так.
Первый приоритет однозначно за водителем и пассажирами. Тут идея очень простая - вы не купите машину, которая может принять решение пожертвовать вами. И я не куплю. И никто не купит. Поскольку автопилот не нарушает пдд - почему должны страдать пассажиры, которые на него надеются?
Второй приоритет за другими людьми. И тут автопилот может нарушить пдд, чтобы спасти максимум жизней. Ему не обязательно никого давить, чтоб спасти водителя - он может просчитать более безопасный маршрут, пусть даже и в разрез с пдд.
x86d0cent
04.02.2023 21:14Тут идея очень простая - вы не купите машину, которая может принять решение пожертвовать вами.
А кто говорит про "решение пожертвовать"?
Ему не обязательно никого давить, чтоб спасти водителя - он может
просчитать более безопасный маршрут, пусть даже и в разрез с пдд.Ситуации могут быть разные. Если автопилот может нарушить ПДД, и при этом избежать ДТП (т.е. сделать так, что никто не пострадает) - это здорово. Но мой вопрос в том, как должен действовать (в соответствии с описанной вами логикой) автопилот, если единственный способ спасти одного водителя - нарушить ПДД и при этом убить пять других человек, которые ведут себя в полном соответствии с ПДД, и которые не пострадают, если автопилот не будет нарушать ПДД?
BMXer_V
02.02.2023 02:09+9Если кто не успел прочитать статью, но зашёл в комменты, сэкономлю вам 10 минут жизни: "Никакой дилемы вагонетки не существует, потому что есть ПДД, которые все участники движения обязаны соблюдать. Точка".
Больше в статье ничего нет, не благодарите.
agat000
02.02.2023 05:42+1Бог с ней, с вагонеткой. Интересна другая дилема, чисто российская. Называется "превышать скорость нельзя, но можно на 20". Как должен ездить несчастный АП - по "нельзя" или по "можно"?
DGG
02.02.2023 08:37+2Строго по ПДД.
Где то даже уже давно моделировали, что если скорость по ПДД будут держать хотябы где-то 10% автомобилей, то так будет ехать и весь поток. Так что с внедрением автопилота проблема "скорости потока" отпадёт очень быстро
vassabi
02.02.2023 10:20+2такое видел неоднократно и без моделей.
в дождь\снег\ночью - едут 40 км/ч за "дедушкой" цепочкой даже между городами, как миленькие.
А что? Проезжаешь вот так пару раз мимо мест аварии на шоссе - и начинаешь тоже не выдергиваться по пустякам и не торопиться чрезмерно.
Dynasaur
02.02.2023 10:45+1Нет никакой дилеммы. Превышать скорость нельзя. Если вас не штрафуют, это не значит "можно", это всё равно нельзя, просто не штрафуют. Если случится ДТП (не дай бог), вы будете отвечать как нарушитель, то есть виновник.
skyknight
02.02.2023 05:41В случае, если Правила Дорожного Движения соблюдаются всеми участниками дорожного движения - авария произойти не может. Значит, в случае дорожного происшествия - ответственность однозначно лежит на том участнике, который нарушил правила.
Подразумевается, что робомобиль - это ОЧЕНЬ хороший водитель, с микросекундной реакцией и ВСЕГДА соблюдающий ПДД. Соответственно, ДТП может произойти ТОЛЬКО в случае нарушения Правил "кожаным ублюдком". На нем же лежит и ответственность за все возможные последствия его действий.
Робот обязан сохранить жизнь и здоровье, прежде всего, своих пассажиров (за которых отвечает компания-производитель робота), затем - жизни "невиновных и непричастных", затем - жизнь виновника ДТП. Соответственно, никакой этической дилеммы типа "давить ребенка на проезжей части или старушку на тротуаре" не возникает - за выбежавшего на дорогу ребенка отвечают его родители, и в его смерти будут виноваты они, а старушка никаких правил не нарушает, и в ее смерти будет напрямую виновата компания, эксплуатирующая робомобиль.
Отвернуть и разбиться об стену, чтобы спасти пешехода - тоже вариант, который должен быть предусмотрен... если машина едет без пассажиров. Если в результате ДТП пострадают только железяки - то им не больно. Ремонт поврежденных железяк должен быть обеспечен соответствующими страховками и компенсациями со стороны виновника ДТП.
vikarti
02.02.2023 06:41Отказ тормозов и прочего?
Поврежденная дорога/отсутствующие знаки (которые при этом могут быть в базе автопилота)?skyknight
02.02.2023 06:52+3А как этот вопрос решается с "кожаными" водителями?
Если у автобуса отказывают тормоза и прочее - в этом виновата фирма, эксплуатирующая автобус. За поврежденную дорогу и отсутствующие знаки несут ответственность государственные службы по ремонту дороги. Автопилот - это всего лишь ОЧЕНЬ хороший водитель. И не надо взваливать на него ответственность за каждую яму, "джигита" или пьяного пешехода на перекрестке.
Более того, я имею основания предполагать, что автоуправляемые автомобили будут в среднем попадать в аварии реже, чем живые водители. И это скажется, прежде всего, на стоимости страховок для владельцев таких автомобилей. Когда разница в цене между не-автоматическим и автоматическим автомобилями будет окупаться за пару лет платежа страховки - ручное управление резко выйдет из моды.
doryfish
02.02.2023 05:53-1Согласен с автором. Формулируя идею более кратко (статья длинная): робот руководствуется дорожной ситуацией согласно ПДД, которые уже давно написаны для людей, и ничего изобретать сверх этого нет ни смысла, ни законодательного права.
Велосипедист поперёк дороги? Объезжай, если есть куда (в том числе в дерево, это законно). Если некуда (слева встречный автомобиль, справа отбойник), просто тормози и всё. Это уже в ПДД написано.
Давить велосипедиста вместо того, чтобы уходить в дерево, потому что на нём едет 1 человек, а в автомобиле едут 5 -- неверно, потому что для этого нет правового поля.
Нужно ли вводить такой закон -- вопрос, не имеющий никакого отношения к беспилотным автомобилям. Его могли бы ввести и раньше, если бы хотели (живой водитель тоже мог бы сказать: ну я же автобус, и жизни моих пассажиров в сумме важнее, чем вот этот велосипедист").
61brg
02.02.2023 10:55+1Профессор хоть и умный, но дурак.
1. С какого перепуга Государство должно разрешить эксплуатацию автомобилей, которые нарушают ПДД, пусть даже под благовидным предлогом какого-то "общественного договора"?
2. Я как пользователь автомобиля искренне желаю что бы автомобиль берег исключительно мою жизнь. Будучи водителем я ради этого поду даже на нарушение закона, в частности требования погибать в своей полосе.DaneSoul
02.02.2023 11:371. С какого перепуга Государство должно разрешить эксплуатацию автомобилей, которые нарушают ПДД, пусть даже под благовидным предлогом какого-то «общественного договора»?
Так государство же эти ПДД и утверждало и также может переписать, если сочтет целесообразным.
vikarti
02.02.2023 17:06Кстати еще вот вопрос про автопилоты :)
Ладно, ПДД и так далее. но что должен делать автопилот легковушки если видить что правила нарушает тяжелый грузовик?
А если он видит что это что-то вроде БРДМ-2? (как бы военная техника вообще по отдельным правилам живет) Меняется ли ответ если на этой БРДМ-2 гражданские номера и модификации под гражданское использование?
Потому что ну решит потом суд что водитель грузовика или там БРДМ-2 был не прав и потом владельцу и пассажиру автопилотнойлегковушки оплатят лечение… Я ошибаюсь или многие владельцы машин с автопилотами предпочли бы нарушение правил автопилотом и улетевшую в кювет машину чем контакт в разы более тяжелой машиной.DGN
02.02.2023 21:41+2Я бы сказал, что большинство людей считают что смогут минимизировать последствия для себя в сложной ситуации. Именно по этой причине часта авария на встречной, когда при угрозе столкновения в лоб, происходит уход на встречку и одновременный возврат на свою полосу проснувшегося водителя грузовика. Ровно как и в кювете происходят неконтролируемые вещи, включая бетонный столб в кустах.
Пример, к которому мы привыкли. При пожаре в здании, лифт без остановок идет до 1 этажа и открывает двери. Не решая проблему вагонеток, не зная даже ситуацию на 1 этаже, вдруг там все в огне. Общество приняло такие правила.
MarieKhroust
03.02.2023 10:50Удивительно, как пригорает у некоторых комментаторов от напоминания о необходимости соблюдать ПДД.
Если в какой-то маленькой, но гордой африканской стране нет нормальных дорог, это не значит, что автопроизводители должны срочно прекратить производство суперкаров и переключиться исключительно на дешевые внедорожники. Если в какой-то стране не умеют соблюдать ПДД и активно защищают свое "право" их нарушать, это не значит, что другие страны не могут обсуждать принципы работы автономных автомобилей. Просто их использование в этой стране пока не будет возможным, причем не только по этой причине.
solderman
То есть получается, что, для начала, при формировании системы этических уравнений, необходимо определить нарушителя, вызвавшего коллизию и исключить из этой системы его интересы.
В этом контексте не имеет значимости, чем было вызвано, нарушающее определенные и актуальные для общего блага, коллективно одобренные правила, событие : злой волей, или случаем. Независимо от причин интересы субъекта нарушения принимаются ничтожными.
Таким образом ПРАВИЛА - коллективный договор безопасности становятся основополагающими. Вот только что заставит сесть за «круглый стол» для их выработки? Кто будет определять исключения из этих правил?
Но как определить допустимость тех, или иных решений ИИ для нарушителя вышеупомянутых правил, если это:
выехавший на проезжую часть велосипедист -
вонючийнетрезвый бомж в лохмотьяхвыехавший на проезжую часть велосипедист - белокурый агнец с приставными колесиками и нежнаго возраста
?
И зачем, скажите, мне нужен автомобиль с ИИ, в этических уравнениях которого я, его владелец не нахожусь в наивысшем приоритете ?
Areso
У вас в слове арендатор (пользователь) допущено слишком много ошибок...
zartdinov
Ну одного факта владения самым опасным средством передвижения для личного комфорта маловато.
TheHangedKing
В статье написано:
Вы пишете:
Как вы пришли к такому выводу?
MarieKhroust
Вы можете задать этот вопрос автору этих слов - Chris Gerdes, professor emeritus of mechanical engineering and co-director of the Center for Automotive Research at Stanford (CARS)
DGN
А зачем вам смартфон который за вами шпионит? Поисковик собирающий ваши данные.
По мне, так это логично, что беспилотник для сохранения себя и своего содержимого, выполнит все законные и безопасные действия. Выполнять незаконные, уже скользкая дорожка, в законе конечно есть понятия "крайняя необходимость", но всем будет проще, если роботы обойдутся без этого.
В конце концов, нужно быть удобнее, быстрее и безопаснее среднего таксиста.
vikarti
Тут еще интереснее — вот несется скорая нарушая правила — беспилотник должен понять и учитывать ее интересы? А как конкретно?
А если это чиновник с мигалкой?
А если это член общества синих ведерок?(особенно с учетом что ни на какой приоритет они не претендует а смысл — совсем в другом)
А если мигалки нет но машина раскрашена в полицейские цвета и тоже нарушает правила?
Radisto
По хорошему, надо, чтобы скорая или пожарная транслировала в городскую сеть факт своего вызова и координаты. Тогда беспилотники будут заранее знать, что на их пути мчится проблема
freestyler8
А по-моему вот ту всё просто:
Те, кто получил мигалку на законных основаниях (скорая, полиция, пожарные, и чиновники (допустим!), т.к. некоторым из них срочно надо защищать интересы страны и это может оказаться критичным) и имеют право отступать от ПДД, при отступлении от ПДД должны включить сирену и мигалку. По этому признаку и определять.
Если это член общества синих мигалок, с включенной сиреной и мигалкой, то вопрос не к ИИ, а к МВД почему он до сих пор с правами и за рулем.
Если это чиновник с мигалкой, то тут два варианта: мигалка получена законно или незаконно. Если законно - то см. п1, если незаконно - то п2.
Если мигалки нет - то никаких преимуществ не имеет.
shiru8bit
И беспилотник должен за долю секунды получить всю эту информацию, чтобы разобраться, кого лучше и правильнее давить? Так-то суды могут годами разбираться, законно что-то получено или не законно.
freestyler8
Законность-то беспилотник и не должен определять. Это работа МВД - сделать так, чтобы на дорогах не было незаконных мигалок. И вообще чего-либо незаконного.
А беспилотник должен за долю секунды определить, есть ли включенная мигалка с сиреной или нет. Это не сложно. Если он не способен это сделать, значит он не беспилотник, а банальный дистроник + система удержания в полосе.
MarieKhroust
Вместе с мигалкой можно устанавливать спец сигнал, понятный беспилотнику издалека. И вообще всем спец автомобилям транслировать в сеть, где они несутся, когда очень надо.
vikarti
Я же правильно понимаю что все это видно прямо при взгляде на машину? (либо в худшем случае при отправке номера машины через интернет в общедоступный реестр)? Но почему тогда появились синие ведерки(именно ведерки, не мигалки, почитайте про них — такое ведерко тупой ИИ может спутать с мигалкой, и даже есть как минимум одно судебное решение что это мигалка хотя в детском синем ведерке для песочка поставленным на крышу-нечему мигать и такая установка это НЕ попытка получить приоритет на дороге) если это ТАК просто?
А если это НЕ так просто человеку то чего хотеть от ИИ?
MarieKhroust
Вместе с мигалкой можно устанавливать спец сигнал, понятный беспилотнику издалека. И вообще всем спец автомобилям транслировать в сеть, где они несутся, когда очень надо.
x86d0cent
Вопрос не в том, путает ли ИИ ведерко с "мигалкой". Вопрос в том, может ли ИИ отличить работающую мигалку от неработающей мигалки/ведерка. Если не может - то он просто требует доработки.
Есть не одно судебное решение, что "*** *****" - это дискредитация чего-то там. Но, думаю, проблема тут не в ведерках и звездочках...
rework
Я попонялна иначе. Если беспилотный автомобиль всегда соблюдает ПДД, предугадывает опасные ситуации, когда он будет вынужден нарушить. Получается он будет всегда "прав" и иметь высокий приоритет в экстренных ситуациях
tmaxx
Например если ездить с ИИ в среднем безопаснее чем ездить самому, то почему нет? Этические уравнения при этом могут быть любыми