А вы помните уроки обществознания в старших классах и жаркие споры вокруг загадочной категории «Проблема вагонетки»? О, да.
Trolley problem или пресловутая «Проблема вагонетки», это мысленный этический эксперимент, сформулированный в 1967 году английским философом, внучкой 22-го и 24-го президента США Гровера Кливденда, Филиппой Фут.
Вдохновение на такую моральную дилемму Флиппа Фут почерпнула в Доктрине двойного эффекта у Фомы Аквинского, которая основана на различии между тем, что человек предвидит в результате его добровольного действия и тем, что он намерен сделать. Намерение, в свою очередь, определяется двумя категориями: стремление к цели и выбор средств для достижения цели (о последних можно сожалеть, однако желать их ради цели).
Итак, решить проблему вагонетки возможно только двумя существующими вариантами— переключать стрелку или нет. Любые пространные размышления о том, что можно было бы сделать, чтобы спасти всех, в оригинальной формулировке не рассматриваются.
Соответственно, в философских течениях и учениях можно найти множество вариантов обоснования того или иного выбора. Самый простой соответствует требованиям утилитаризма, когда моральная ценность определяется полезностью (здесь имеется в виду, что смерть одного в любом случае лучше смерти пятерых, как бы ужасно это ни звучало).
Казалось бы, при чем тут транспорт, а тем более беспилотный? Сейчас расскажу.
Но, перед тем добавим в повествование немножечко хайпа.
В маленьком городке Темпе штата Аризона поздним и относительно темным вечером разверзлась печальная драма: велосипедист_ка (если угодно) переходила дорогу в четыре полосы в неположенном месте, однако делала это в рамках формальной безопасности – сойдя с велосипеда. По несчастному стечению обстоятельств и на фоне почти полной темноты она была сбита автомобилем марки Volvo от Uber, двигающимся на тот момент автономно с разрешенной скоростью 65 км/ч. Велосипедистка скончалась в больнице. Тем не менее полицейские, прибывшие на место фатального ДТП, возложили вину на пострадавшую, так как она переходила дорогу там, где это было противопоказано.
Но, следствие вели и довели до интересного факта слеш злоключительной детали - дама, которая находилась за рулем беспилотного автомобиля и несла полную ответственность за движение транспортного средства, пренебрегла своей функцией водителя и была занята просмотром очередного эпизода популярного телешоу «Голос».
Следовало бы (наверное) ожидать, что программное обеспечение, оперирующее автопилотом, в данной истории сыграет важную роль, однако и здесь пролилось море света на тёмные стороны технологического прогресса. Корпорация Uber на базе автомобиля Volvo внедрила систему экстренного торможения, но настроила её так, чтобы избегать ошибочных тревожных сигналов и как следствие ложных срабатываний и остановок. Именно этот аспект оказался роковым – компьютер не смог мгновенно распознать человека на дороге и принять неотложные меры.
А теперь давайте представим более социально-будоражащий сценарий, в котором беспилотный автомобиль уже успешно распознал присутствие человека на дороге, однако предотвратить столкновение возможно лишь за счёт решительного манёвра, в результате которого машина, с пассажиром в салоне, конечно же, была бы вынуждена резко отклониться от проложенного маршрута для столкновения с деревом. Такая ситуация ставит перед алгоритмом сложнейший этический выбор: кем жертвовать – пассажиром или пешеходом?
Однако этот криво поставленный вопрос не имеет однозначного ответа. С точки зрения автомобильных компаний, пассажир в этой дилемме, безусловно, должен находиться в приоритете. Но в реальности, моральные и этические нюансы придают этому выбору сложность и многозначность. Что, если пешеходом окажется мать троих детей, а водителем– преступник? Как оценить, кого стоит спасать – двух «обычных» прохожих или одного спортсмена, служащего флагманом национальной сборной, или же выдающегося ученого, награжденного высшей научной наградой – Нобелевской премией?
Итак, спекулирование вопросами вроде - «кто важнее — человек или животное, доктор или вор, беременная женщина или пожилой мужчина?» — типичные для игры в Моральную машину, которую создали на базе медиа-лаборатории Массачусетского технологического института.
«Моральная машина» – это один из выдающихся проектов, призванных вникнуть в нюансы морали и этики, и уже давно покоривший сердца школьных психологов. Её авторы - группа ученых и исследователей разных наук и университетов, соединивших усилия еще в 2015 году. С момента своего зарождения этот проект пересек информационные границы и языковые барьеры, привлекая миллионы участников, живущих на разных континентах.
Основная идея этого проекта заключается в стремлении ответить на сложные вопросы, связанные с этикой автономного транспорта, с помощью технологии больших данных. Основная гипотеза заключается в том, что чем больше людей будут принимать участие в решении дилемм от «Моральной машины», тем больше вероятность, что создатели беспилотных автомобилей смогут сделать их более соответствующими высоким стандартам этики и морали, опираясь на данные от настоящих пользователей.
В ходе экспериментов было выявлено множество культурных различий, касающихся этических предпочтений. Например, в Латинской Америке большинство участников склонялись к тому, чтобы приоритет отдавался спасению жизни женщин в ущерб мужчинам. В то время как в восточных культурах, представителями которой являются Китай, Корея, Япония и некоторые исламские страны, решения о спасении чаще принимались в пользу пожилых, а не молодых людей.
По своей сути, данный тест представляет собой попытку людей представить ситуацию, в которой программное обеспечение автономных автомобилей должно принимать морально сложные решения о том, кого спасать в случае неизбежной аварии. Вместе с тем, сама идея, что машины могут решать, кто должен погибнуть при критических обстоятельствах, вызывает в обществе противоречивые эмоции и оправданные опасения. Однако в реальной жизни такие ситуации встречаются крайне редко, поэтому такие вопросы практически не стоят перед разработчиками. Сами компании-производители беспилотных автомобилей и работающие с ними программисты предпочли бы, чтобы эти этические вопросы решались законодателем с учетом интересов всех участников дорожного движения. Что логично – подходы к сценариям поведения беспилотных авто на дороге, по-хорошему, должны быть едиными (хотя бы в рамках одной страны).
А теперь откроем форточку, станет (оправданно) душно. Один из ключевых аспектов критики «Моральной машины» заключается в перекладывании ответственности за решение сложных моральных вопросов на плечи обычных пользователей. По сути, это означает, что вопросы этики и морали делегируются массам, позволяя им решать, в какие мрачные ситуации они готовы ввязаться. Но есть и ещё один аспект – моделируемые сценарии, представленные в тесте, противоречат гипотетическому поведению людей в особо опасных ситуациях. Ведь критические ситуации на то и критические – они не оставляют времени на раздумья и понимание, кто кем работает, кто сколько родил и кто сколько отсидел, а также на оценку, чья жизнь ценнее (ответ: котиков и собачек, люди – так себе). И вообще, зачем пытаться оценивать жизнь живых существ в столь серьезные моменты, будто в критической ситуации у человека действительно останется время на подобные рассуждения.
Но нельзя забывать о масштабном внимании, которое этот проект привлёк со стороны СМИ и обычных пользователей. Эти тесты, словно дрова, подкидываются в пламя публичного алармизма, вызывая чрезмерные беспокойства о событиях, которые пока существуют только в теории. Начиная с момента запуска в 2015 году и заканчивая первым публичным отчётом в 2018 году, «Моральная Машина» вызывала огромное количество обсуждений и споров. СМИ не случайно берут на вооружение неоднозначные и очень двоякие (троякие, ага) аспекты теста и многократно усиливают их драматизм. Если прогуглить «этика беспилотных автомобилей» помимо нейтральных обзоров, можно обязательно наткнуться на такие словосочетания, как «убивать», «давить», «убийца», «опасности», «этика» и «психология». Конечно, в публикациях также присутствуют более конструктивные и нейтральные точки зрения на этические аспекты беспилотных автомобилей, однако уровень общественной тревоги, весьма успешно поддерживаемый медиа, исходит именно от драматизации этих неразрешимых дилемм.
Итак, к конструктиву. В последние несколько лет инженеры, занимающиеся разработкой автономных автомобилей, неустанно задают себе вопросы о том, каким образом беспилотные автомобили должны справляться с этическими вызовами, которые возникают, если такие машины сталкиваются с неожиданными дорожными ситуациями. Например, что делать беспилотному автомобилю, когда на его полосу внезапно и агрессивно выезжает велосипедист: поменять полосу движения или пойти на риск столкновения с велосипедистом? Эти вопросы, даже в отношении весьма гипотетических ситуаций, вероятность которых крайне мала, весьма оправданы, ведь государство/законодатель не отвечают на них напрямую.
Поэтому предположу гипотезу: ответ на такие этические вопросы лежит прямо перед нами - он встроен в некий «общественный договор», который уже существует между водителями и участниками дорожного движения и (более мене) описан в правилах дорожного движения, а иногда и в судебных решениях (прецеденты, судебные толкования).
«Окей, как наши правила дорожного движения, которые не предусматривают беспилотные авто, могут помочь в определении этического поведения для автономных автомобилей?» - могли бы спросить вы, но спросила моя мама. Все очень прозаично, я, как юрист могу сказать: «Всегда соблюдайте закон». Можно задуматься, и моя мама задумалась. Может, вы тоже задумались, а может напишете «баян» в комментариях. Неисповедимы пути, как говорится, российского нормотворчества и применима ли эта политика к беспилотному вождению? И когда, если вообще когда-либо, для автономного автомобиля этично нарушать ПДД?
Если углубиться в правовой аспект важности соблюдения правил дорожного движения можно обнаружить, что помимо соблюдения Правил дорожного движения, для полного понимания происходящего существуют судебные решения и официальные разъяснения органов власти, которые помогают уточнить общественный договор, складывающийся на протяжении столетия пользования автомобилями. Сущность или ядро «общественного договора» заключается в выполнении обязанности соблюдать интересы других участников дорожного движения, следуя правилам дорожного движения, за исключением ровно тех случаев, когда нарушение ПДД необходимо для предотвращения столкновения. Иными словами, там, где нарушение закона может показаться разумным с этической точки зрения и будет необходимо для избежания столкновения, без вовлечения в ситуацию сторонних лиц, найдется и правовое обоснование такого нарушения.
С точки зрения человеко-ориентированного искусственного интеллекта (а каким он еще должен быть, собственно говоря?), это ключевой момент: мы хотим, чтобы программное обеспечение, отвечающее за автономное вождение в итоге, было подотчетно людям. У общества и государства уже есть механизм, позволяющий привлекать к ответственности (гражданской, уголовной и т.д.), и он заключается в обеспечении, охране, исполнении и соблюдении Правил дорожного движения. Однако, основной принцип, заключающийся в том, что беспилотные авто должны следовать закону пока не полностью принят в автомобильной индустрии и вызывает дискуссии. Некоторые производители/разработчики говорят о «человекоподобном» вождении, считая, что если другие водители нарушают правила, то и беспилотные автомобили должны также нарушать их или хотя бы иметь такую возможность. Вместе с тем, правовых оснований для подобных действий, ни для автономных транспортных средств, ни для компаний, разрабатывающих их, нет.
Таким образом, для сохранения поведения беспилотного автомобиля в рамках и этики и права, единственным обоснованием для нарушения Правил дорожного движения таким автомобилем должна быть необходимость предотвращения столкновения. И оказывается, закон в значительной мере подтверждает этот принцип. Например, если нет встречного движения и высокоавтоматизированное транспортное средство пересекает двойную сплошную линию для предотвращения столкновения с велосипедистом, который повёл себя на дороге некорректно, машина может нарушить ПДД. Но это нарушение оправдано законом, так как оно сохраняет обязанность соблюдать интересы иных участников дорожного движения.
И, все-таки какие этические проблемы должны решить разработчики ПО для автономных автомобилей? (см. как, ну что же мы можем спихнуть на разработчиков?)
Сегодня разработчики автономных автомобилей сталкиваются с этическими дилеммами, которые берут свое начало в момент использования людьми технологий искусственного интеллекта при вождении транспортных средств. Эти дилеммы приобретают свою значимость в ситуациях, когда автомобиль физически не может соблюсти свои обязательства как перед участниками дорожного движения, так и перед своими пассажирами.
Долгое время человечество спорит о том, кто должен быть жертвой в случае моральных коллизий, когда, например, велосипедист пересекает дорогу перед беспилотным автомобилем, а встречный поток полон прохожих. Но это примитивное утилитарное рассмотрение проблемы несёт в себе ошибку: оно утверждает, что машина должна судить о стоимости человеческих жизней.
Сегодня же разработчики автономных автомобилей отошли от такого утилитарного рассмотрения. Они утверждают, что их цель не в том, чтобы размышлять над «проблемой вагонетки», решая, кого выбрать, а в стремлении создать автомобили, которые будут действовать максимально безопасно. Этому способствует методология RSS (Responsibility-Sensitive Safety - безопасность с учетом ответственности) — попытка установить правила, которые обеспечат безопасное расстояние между автономным автомобилем и другими участниками движения, чтобы избежать столкновений.
Однако, RSS не решает проблему выбора, которая встает в ситуации неизбежного столкновения (ну хоть с кем-то): беспилотник якобы должен принять хоть какое-то решение. Это может быть как осознанное самостоятельное действие, так и реакция, берущая свое начало из запрограммированных правил. Несмотря на утверждения отрасли о том, что она не намерена решать «проблему вагонетки», вопрос о том, как автономный автомобиль будет вести себя в ситуациях этических дилемм, остается открытым.
В итоге, каким сценариям поведения следует научить автономный автомобиль для наименьшего вреда в ситуациях, в которых столкновение неизбежно? Можно ли сделать так, чтобы беспилотник всегда соблюдал закон и учитывал интересы всех участников движения? Было бы неплохо, ведь в этом случае столкновения происходили бы только в ситуациях, когда другой (живой) участник дорожного движения нарушает правила, или из-за непредвиденных обстоятельств, таких как падающее дерево или яма на дороге.
Однако предположим, что тот самый другой участник движения нарушает правила, например, проезжает на красный свет или подрезает наш обученный беспилотник. В этой ситуации высокоавтоматизированное транспортное средство обязано все равно соблюдать интересы нарушителя и предпринимать меры, чтобы избежать столкновения, сохраняя при этом свою обязанность по отношению к другим участникам дорожного движения. Важно отметить, что такое решение не оценивает стоимость чьей-либо жизни, а сосредотачивается на выполнении обязанности соблюдать интересы других людей.
Такое поведение соответствует существующему тому самому «общественному договору», согласно которому водители презюмируют, что, соблюдая Правила дорожного движения и выполняя свои обязанности перед другими, они смогут безопасно перемещаться по дороге. Так почему же стало нормой предполагать, что автономному автомобилю можно разрешить избегать столкновения с велосипедистом, возникшим не по вине беспилотного автомобиля, даже если это требует внезапного перестроения на встречную полосу и столкновения с другим автомобилем, двигающимся по правилам? Это решение – причинять вред постороннему человеку, который не имеет отношения к ситуации, трудно оправдать как с моральной, правовой так и с практической точек зрения.
В любой дорожной ситуации существует множество неизвестных факторов. Мы не можем предсказать действия всех участников движения и исход конкретных событий. Поэтому создание системы, способной мгновенно производить утилитарные вычисления, вызывает сомнения как с этической, так и с практической точек зрения. Если бы автопроизводитель решил разработать автономный автомобиль, который жертвовал бы одной жизнью, чтобы спасти пять, его могло бы ждать серьезное нравственное порицание и легально обоснованное правовое, так как это не соответствует общественному договору, который не оправдывает такое утилитарное мышление.
Поможет ли такой подход, когда автомобиль следует ПДД и учитывает интересы всех участников дорожного движения, при этом НЕ вовлекая в дорожные конфликты/коллизии невиновные стороны, повысить уровень общественного доверия к беспилотным авто?<o:p></o:p>
В последнее время весьма распространены суждения о том, что автономные автомобили прибегают к этическому краудсорсингу и принимают решения, основанные на человеческих ценностях (а они, как мы знаем, не очень). Неудивительно, что это вызывает беспокойство у людей – людям не нравятся автомобили, которые обучаются человеческим паттернам поведения за рулем – грубым и агрессивным. Особенно волнуют те случаи, когда автомобиль может пожертвовать своим пассажирам в попытке спасти бОльшее количество жизней. Но давайте рассмотрим этот вопрос более детально.
Если беспилотные автомобили запрограммированы так, чтобы они всегда соблюдали свои обязательства перед всеми участниками дорожного движения, то это означает, что общественность может быть спокойна: если люди сами соблюдают ПДД, то и нет повода беспокоиться о безопасности при встрече с беспилотными автомобилями. Более того, даже если водители нарушат свои обязательства перед беспилотником, он все равно будет действовать с учетом всех своих возможностей, чтобы избежать столкновения. Это должно успокоить общественность, так как означает, что беспилотные автомобили не ведут расчетов, и не оценивают человеческую жизнь на основе какой-то утилитарной формулы. А столкновений по вине невнимательных, агрессивных и неаккуратных водителей избежать сложно, даже если беспилотный транспорт будет пытаться как-то «разрешить» такие дорожные ситуации.
В итоге, как подход к решению «проблемы вагонетки», описанный выше, может повлиять на будущее развитие беспилотных автомобилей? Я думаю, что симбиоз работы юристов, инженеров и социологов приближается к тому моменту, когда мы, как потребители, сможем получить внятную корреляцию закона, общественных норм и технических требований, которые можно воплотить в компьютерном коде. Теперь нужно сформулировать четкий набор технических требований, которые помогут перевести наш общественный договор в понимаемый машинами язык. Это доказывает, что при разборе основных деталей ответственности беспилотных автомобилей в разрезе обеспечения безопасности других участников дорожного движения, все сводится к нескольким простым правилам: соблюдение безопасной дистанции и умеренной скорости движения. В этом смысле решение, предложенное в статье, напоминает систему RSS, которая позволяет устанавливать определенные параметры безопасности для каждого автомобиля.
Спасибо, что дочитали до конца!
Комментарии (91)
Alohahwi
03.11.2023 12:55+3На экзамене по вождению:
- Даю вводную. Вы управляете движущимся транспортным средством. Впереди перед
вами неожиданно возникают две человеческие фигуры - старушка и девочка. Кого
будете давить?
- Гм... Ну, это... Старушку.
- Тормоз. Тормоз давить надо!Раньше зависал на одном сайте разработчиков игр, и там был локальный мем - "хвостики массивов". Появился он когда один очень самоуверенный форумчанин заявил что если программа выходит за пределы отведённого массива - надо просто увеличить массив. И потом долго настаивал на своей точке зрения, даже подтягивал авторитетов в виде университетской профессуры.
С этой дилеммой и автопилотами точно такая же ситуация - если автопилот не остановил автомобиль до момента возможности возникновения такой дилеммы - надо такому автопилоту сказать то же, что сказали автору хвостиков - "вон из профессии!".
StasyTomas Автор
03.11.2023 12:55В точку! Предиктивная аналитика в ПО таких авто на то и существует. Однако (к сожалению), не всегда маневр или остановка, осуществленные беспилотным авто, приведут разрешению опасных ситуации на дороге, так как 50 (или более) процентов участия в происшествии - человек.
Утопическое будущее без краш-тестов на дорогах потенциально возможно с минимальным человеческим фактором (или вовсе без него). Автомобили общаются, знают маршруты друг друга, едут в пределах скорости, полосы и тд. Но тут риски внезапных "поломок и перебоев". Это другая история, другая "этика" и правовая ответственность (ну и другая моя статья, ахах).
vadimr
03.11.2023 12:55Ну вот вы едете, а на вас сверху, например, обрушилась рекламная конструкция. Или у грузовика колесо лопнуло, и он выкатил на встречку давить машины, движущиеся в плотном потоке. Это реальные случаи, которые происходили лично у меня на глазах. А сам я два или три раза попадал в ДТП, неподвижно стоя на месте. Не все ситуации можно предвидеть.
StasyTomas Автор
03.11.2023 12:55Жуткие истории, к сожалению, имеющие место "быть" в наших реалиях и хвала небесам, что вас "уберегло" от подобного. Однако, в возникновении таких ситуаций нет человеческого фактора - это форс-мажоры/обстоятельства непреодолимой силы, которые возникали и будут возникать вне зависимости от количества беспилотных авто на дорогах.
НЕ все ситуации можно предвидеть, конечно же, однако, беспилотный транспорт точно снизит уровень агрессии и невнимательности на дорогах, что очень часто является причиной аварий.
vadimr
03.11.2023 12:55+1за исключением ровно тех случаев, когда нарушение ПДД необходимо для предотвращения столкновения
Из какой правовой нормы это следует? Если вы предотвращение столкновения считаете действием в состоянии крайней необходимости, то это, как мне представляется, довольно непросто будет доказать. Автомобиль заведомо рассчитан на столкновение тоже.
StasyTomas Автор
03.11.2023 12:55Подобный тезис, конечно же, не проистекает из правовых норм, так как закон не может предполагать его несоблюдение. Однако, прецеденты (хоть у нас и не прецедентная система права, все же суды вынося решения, основываются на действующей практике) диктуют тенденцию, когда при нарушение ПДД удается избежать общественно-опасного происшествия, не задействовав при этом 3их (4ых) лиц. Доказать будет непросто, однако, судя по прецедентам (опять они) и судебным решениям, которые можно найти в СПС "Консультант+", но возможно.
vadimr
03.11.2023 12:55+3Тут проблема главным образом в том, что нарушение ПДД для предотвращения столкновения не является гарантией избежания общественной опасности. Запросто может так получиться, что вы столкновения избежите, а вместо этого каких-нибудь других людей собьёте. И вот в этом случае ваше положение крайне осложнится.
Короче, я б на месте программистов давил бабку строго по инструкции.
StasyTomas Автор
03.11.2023 12:55Безусловно, поэтому я и делаю ремарку про "без вовлечения третих лиц в ситуацию". Если опасная дорожная ситуация возникает по вине лица А, а беспилотник лицо Б, то вовлекать лицо В абсолютно несправедливо. И беспилотник может не вовлечь. А человек может.
Про "бабку" сложно, не соглашусь).
shiotiny
03.11.2023 12:55Например, выезд на встречку, если она свободна, а на вашу полосу кто-то выскочил.
Это грубейшее нарушение, но такое было в моей практике.
Ехал по трассе, никого не трогал. Двойная сплошная. По обочине ехал велосипедист в одном со мной направлении. Не знаю что ему в голову стукнуло, но он прямо передо мной выехал на мою полосу. Пришлось через двойную сплошную его обгонять. Затормозить я на скорости около сотни точно бы не успел. Хорошо встречка была свободна. Обочина узкая там, я бы по ней не объехал.
И в такой ситуации раздумывать о том как вы будете кому-то чего-то там доказывать просто нет времени.
И вариант "машина рассчитана на столкновения"... Ну да. Минус велосипедист и мне потом доказывать уже на суде пришлось бы, что я не виноват.
А вообще никогда и никто не предусмотрит всех возможных жизненных ситуаций в законах. Они бесконечны.
vadimr
03.11.2023 12:55Человек-водитель, понятное дело, в критической ситуации не имеет возможности раздумывать над своей юридической позицией и реагирует инстинктивно. Но у программистов ИИ время на раздумья есть.
В вашем случае вам повезло, что на встречку не выехал никто другой, я чем вас от души и поздравляю. Но настоящий вопрос тут не в том, насколько вероятно такое везение, а в том, как быть, когда рано или поздно кому-то не повезёт, и за программистом в таком случае придут. С очевидным вопросом, почему его программа нарушила ПДД и этим убила человека на встречке.
Ещё добавлю, что интересы собственника беспилотного автомобиля не вполне соответствуют интересам производителя. За вред, нанесённый пешеходу источником повышенной опасности, платит именно собственник. А забота производителя - чтобы отсутствовала вина программиста, для чего необходимо и достаточно всегда соблюдать ПДД.
randomsimplenumber
03.11.2023 12:55Двойная сплошная. По обочине ехал велосипедист в одном со мной направлении... Пришлось через двойную сплошную его обгонять
Сорян, что то не сходится. Двойная сплошная обычно там, где не менее 2 полос в 1 направлении. Велосипедист должен занять 2 полосы, чтобы стало необходимо его так обгонять ;)
А на дороге с 1 полосой в каждом направлении будет просто сплошная. Ее тоже нельзя пересекать. Но опережать велосипедиста в таких условиях и с такой скоростью может быть опасно. Робот бы просто снизил скорость перед опережением.
petropavel
03.11.2023 12:55+4В таких моральных дилеммах обычно условие рассказывают не до конца, получается сферическая лошадь в вакууме. Надо так: едет беспилотная машина, вдруг внезапно на дорогу выбегает человек (ребёнок, два нобелевских лауреата, старушка). Варианты выбора: ехать по ПДД и сбивать или вырулить на встречку, вероятно, кому-то в лоб. В первом случае это суд, и скорее всего оправдают, ибо по ПДД. Во втором — многомиллионный иск за травмы, потому что виноват, нарушил правила.
Вот, дилемма.
С вагонеткой то же самое, действовать по инструкции или сесть за убийство? Даже не знаю, тут надо подумать.
StasyTomas Автор
03.11.2023 12:55Дилемма, которую люди будут решать по-разному. Так зачем аутсорсить эти решения и перекладывать ответственность на автомобиль, если не каждый человек сможет принять "наименее вредное" решение.
+ опять же, может быть так, что выезд на встречку в этой ситуации НЕ повлечет аварии, но ПДД нарушатся. Здесь нарушение ПДД - благо. Вот в чем мой посыл.vadimr
03.11.2023 12:55+1На практике вы обычно ни при каком уровне искусства программирования не сможете достоверно предвидеть, повлечёт ваше нарушение аварию или не повлечёт. Если вас не две машины посреди голой степи, то вокруг могут быть незаметные вам участники дорожного движения.
Дороги построены так, чтобы обеспечить обзор в лучшем случае при соблюдении всеми участниками ПДД.
Эта ситуация поменяется только тогда, когда в сети в реальном времени будет доступна модель движения, а все люди и животные будут ходить с имплантированными маячками.
StasyTomas Автор
03.11.2023 12:55В реальном времени возможна и уже возможна модель движения беспилотных авто, конечно же. Безусловно, абсолютизма ни в каком вопросе не достичь (только стихи все возводят в абсолют, как говорится), но сильно повысить уровень безопасности за счет эксплуатации беспилотных машин - вполне реально. Внедряя что-то новое мы должны понимать, что идем на риск. Особенно мы идем на риск, когда на дорогу выезжают новички или люди с заболеваниями (им может стать плохо в дороге, что повлечет общественно-опасные последствия).
raamid
03.11.2023 12:55+2Есть еще такой мысленный эксперимент (обостряем проблему). Вы врач и у вас в палате лежат 5 смертельно больных людей, которые точно умрут если им не пересадить органы. Одному срочно нужно сердце, другому печень и т.п. В то же время, в приемной у вас сидит совершенно здоровый человек, который просто пришел на регулярный медосмотр. Ваши действия?
ssj100
03.11.2023 12:55Вас случайно Мать из “Дитя робота” не собеседовала?
raamid
03.11.2023 12:55Не знаю такую. Эту задачу я услышал на лекции о морали одного американского психолога.
tuxi
03.11.2023 12:55Я бы не трогал бы ничего.
Тест не пройден?StasyTomas Автор
03.11.2023 12:55+1Пройден тест на вступление в международные организации, члены которых предпочитают воздерживаться!) Успех!))
vadimr
03.11.2023 12:55+6Вообще фигня вопрос. Здоровый человек не подписывался идти на запчасти тем, кто не заботился о своих сердце и печени.
И ещё доктору Менгеле надо для начала доказать, что с каких-то позиций 5 человек лучше, чем 1, хотя мир перенаселён. Тем более 5 больных и 1 здоровый.
Настоящий доктор Менгеле такой моральной дилеммы не имел, он пускал в расход тех, кого исходно полагал недолюдьми.
raamid
03.11.2023 12:55Здоровый человек не подписывался идти на запчасти тем, кто не заботился о своих сердце и печени.
Ну здесь тоже нужно еще доказать что они не заботились. Есть в конце концов несчастные случаи, врожденные заболевания.
И ещё доктору Менгеле надо для начала доказать, что с каких-то позиций 5 человек лучше, чем 1, хотя мир перенаселён.
Если "мир перенаселен" тогда задача упрощается, не так ли? Меньше людей - меньше проблем.
Тем более 5 больных и 1 здоровый.
Больные могли бы стать здоровыми после операции.
PS: я НЕ за то чтобы пустить здорового невинового человека на органы. Просто вы стали довольно лихо делать разные допущения, после которых решение стало выглядеть простым.
vadimr
03.11.2023 12:55Так решение в данной ситуации простое, с какой стороны ни посмотри. Надо натянуть на глобус целую стаю сов, чтобы морально обосновать трансплантацию.
raamid
03.11.2023 12:55Сам пример - уже натягивание совы. Например, почему это вдруг здоровый человек приходит на медосмотр в хирургическое отделение. И почему один врач занимается разными органами, ведь для этого есть разные специализации. Поэтому одной совой больше, одной меньше - какая разница?
Например, 5 человек - это ученые, которые вот-вот могут изобрести эликсир жизни, варп-двигатель и прочие няшки. А здоровый человек добровольно пришел, чтобы пожертвовать своей жизнью ради них.
vadimr
03.11.2023 12:55Если он затем и пришёл, тогда и проблемы нет.
raamid
03.11.2023 12:55Предположим, что он сомневается. Следует ли врачу уговаривать его пожертвовать собой? Ради эликсира жизни, варп-движка и т.п.
vadimr
03.11.2023 12:55Это выходит за рамки должностных обязанностей и профессиональной этики врача. Следует предложить подписать информированное согласие.
raamid
03.11.2023 12:55Так я как раз и говорю про ситуацию когда врач предложил, а человек сомневается. Предположим он пришел на осмотр, внезапно узнал, что своей жизнью может спасти несколько супер-пупер ученых, и в принципе согласен, но никак не может решиться окончательно.
vadimr
03.11.2023 12:55Моральный выбор пациента, особенно связанный с жизненно важными последствиями для него - вообще не дело врача. Не решился - значит не решился.
DGN
03.11.2023 12:55Да ну? Точно, нет? И можно разобрать живого добровольного донора?
vadimr
03.11.2023 12:55Моральной проблемы нет, человек безусловно вправе пожертвовать жизнью ради других. А юридически вопрос отдельный.
DGN
03.11.2023 12:55Моральная проблема общества - принять жертву. Например, эксперимент по заражению ковидом добровольцев согласовывали год, к тому времени от него уже не было столько пользы.
DGN
03.11.2023 12:55+1А виноватого? Вот в палате у вас дежит преступник и его жертва. У одного поражено сердце, у другого печень. Биосовместимость полная. Ваши действия?
raamid
03.11.2023 12:55Хороший вопрос, не знаю. С одной стороны, врач - это не судья. С другой стороны, люди постоянно выносят друг другу приговоры, начиная от экзаменов и увольнений и заканчивая стоимостью лечения. Возможно и пересадил бы здоровый орган от преступника к жертве. Делать ведь что-то надо, иначе оба умрут.
tommyangelo27
03.11.2023 12:55А при этом преступник - молодой человек, который отсидит своё и будет приносить пользу обществу. А жертва - слабоумный старик.
raamid
03.11.2023 12:55Вот поэтому я и ответил, что не знаю. И что "возможно" пересажу орган от преступника. Потому что всякое может быть. Например, этот молодой человек может быть серийным убийцей, а старик - это его 30-я жертва. В этом случае, я бы взял на себя роль судьи. Особенно, если бы я точно знал, что этот "молодой человек" избежит правосудия.
alexEtse
03.11.2023 12:55+1Например, этот молодой человек может быть серийным убийцей, а старик - это его 30-я жертва. В этом случае, я бы взял на себя роль судьи. Особенно, если бы я точно знал, что этот "молодой человек" избежит правосудия.
А потом окажется, что это была ошибка, и преступником окажется спасённый...
Ну там пересмотр дела по вновь открывшимся обстоятельствам, проведение экспертиз по новым методикам, которые ранее не были доступны.
raamid
03.11.2023 12:55А потом окажется, что это была ошибка, и преступником окажется спасённый...
А потом окажется, что это тоже было ошибкой и преступник все-таки был преступником. Причем не просто серийным убийцей, а террористом, который хотел взорвать весь город.
Предлагаю каким-то образом выходить из этого цикла на новый уровень.
StasyTomas Автор
03.11.2023 12:55Благо хоть здесь нет автомобиля!) А трансформация проблемы вагонетки вот в такие задачки - это больше про школьную программу обществознания или для курсовых работ студентов философского факультета.
Radisto
03.11.2023 12:55+4Врачи действуют по принципу "не навреди". Раз абсолютно здоровому будет нанесен вред, то нет, так нельзя. А вот если есть пять смертельно больных, а помочь можно только скажем, двум, то выбирают тех, у кого шансы выжить максимальны, остальные - увы. Во всяком случае, военные хирурги, говорят, обязаны поступать именно так. У них в этом плане все цинично
SergioT4
03.11.2023 12:55Шансы на совместимось доноров и пациентов тоже не 100%. Особенно для какой-нибудь печени.
Так что вопрос надо ставить, у вас пять семртельно больных и десять здоровых. Хотим вылечить больных?
Deliter321
03.11.2023 12:55Много проблем и нюансов из-за которых всё это слишком туманно. В России, на пример, при аварии между авто и пешеходом - водитель всегда виноват, а значит (в теории) автопилот будет всегда виноват. Ну или другая ситуация: На водителя вылетает встречный грузовик и выбора два - либо врезаться мордами и финиш, либо свернуть на тротуар, выжить, но сбить несколько пешеходов с вероятным для них летальным исходом. Большая часть водителей собьёт пешеходов и выживет, а автопилот должен будет убить водителя...
StasyTomas Автор
03.11.2023 12:55Ага, сценариев, которые можно предположить, вероятно сотни тысяч, этими и занимаются коллеги из "Моральной машины". Когда настоящие разработчики, которые "работают руками" и законодатель, который придумывает механизмы эксплуатации беспилотных авто, вынужден работать с тем, что есть. И ставить такие дилеммы перед реальным бизнесом - странно и нелогично.
Неразумно пренебрегать повышением уровня безопасности при использовании беспилотного авто, снижением костов и т.д., а также развитием этого направления с учетом создания диспетчесрких центров, осуществляющих мониторинг беспилотного движения и т.д., пока мы не решим проблему вагонетки и тысячи ее интерпретаций.
(имхо).
DGN
03.11.2023 12:55Да, увы, автономная машина без ручного управления вас убьет в этом случае. Как убьет вас лифт в случае пожара на 1 этаже здания (лифты при пожаре едут на 1 этаж и открывают двери не реагируя на кнопки).
Но предположительно, спасет чаще. Общественный договор.
Oska2
03.11.2023 12:55В РФ правила просты: применить торможение вплоть до полной остановки ТС. Если сманеврировал - выехал из полосы, это в правилах не прописано, в случае наступления негативных последствий от непредусмотренного ПДД манёвра - по закону сам виноват. Думайте мол сами...
NietzscheOnminimum
03.11.2023 12:55Во-первых, благодарю за то, что развернуто осветили тему, было занимательно изучить деятельность moral machine, но не совсем понятен уровень образованности и осознанности оценивающих, ведь это точно может характеризовать и уровень развития моральных ценностей.
А вторая мысль, которая пришла в голову после прочтения скорее о том, что все же стоит задуматься над тем, чтобы отдельную ветку в законодательстве создать в целом для AI и для автономного транспорта в частности.
StasyTomas Автор
03.11.2023 12:55Благодарю! Моральная машина на то и "машина", что фокус-группы максимально диверсифицированы: от континентов, полов и возрастов до социального статуса и заработка. З это тест тоже подвержен шквалу критики: мы хотим единые сценарии поведения на дорогах, а их сложно достичь, как минимум-из за разницы культурного бэкграунда.
Про законодательство - абсолютно согласна. Планирую поделиться с вами своими рассуждениями и на этот счет (не про законы робототехники, нет). Но тормозить прогресс и тесты АI от того, что мы решили оценить жизни людей - контрпродуктивно.
NeoCode
03.11.2023 12:55+3Очевидно что есть ПДД, которые нужно соблюдать. И если принять что техника исправна (т.е. мы исключаем фактор неисправной техники - он всегда был, и задолго до ИИ, к примеру отказали тормоза), то получается, что автопилоту точно известны места и условия, где к примеру пешеходы могут переходить дорогу, и где не могут. Поэтому если так сложилось, что пешеход выскочил ночью из леса на проезжую часть, где нет переходов и светофоров, и автопилот уже не может безопасно затормозить или изменить траекторию, то такой пешеход будет сам виноват, если его задавят. Будь он хоть трижды лауреат Нобелевской премии с тридцатью тремя детьми.
При условии стопроцентного соблюдения правил всеми участниками, и при условии исправной техники, аварии полностью исключены. Поэтому, при условии исправной техники, в любой аварии всегда виноват конкретный человек. Именно это и должно быть критерием в "проблеме вагонетки".
StasyTomas Автор
03.11.2023 12:55Согласна, руководствоваться принципом "всегда соблюдайте закон" - единственное верное решение. Поэтому автоматизация транспорта выведет безопасность на новый уровень (если в условиях задачи не было и не будет обстоятельств непреодолимой силы). Общественный договор в парадигме "доехать до места назначения не причиняя неудобства другим участникам движения" приемлем и возможен для беспилотного авто на все 100%.
Moog_Prodigy
03.11.2023 12:55+2Я вот рассуждаю в таком ключе. Робот не умеет предсказывать возможное будущее в отличие от человека - к примеру ребенок бежит по обочине (значит есть возможность что сейчас начнет перебегать дорогу), или велосипедист где-то там перпендикулярно по тротуару едет, будь готов что он дурак и выскочит на дорогу. Это принцип "думай за других". Хотя у робота так-то реакция может быть в десять раз лучше человеческой, но физические законы для всех одни.
В связи с этим, задача нерешаемая обычными способами. Никакие нейросети тут не помогут, бывает и люди давят пешеходов. Не потому что хотят этого, а потому что так случается. А вот законодательно...именно тут стоит вспомнить практику, которая распространена на ЖД. В России уж точно. Если кто-то выбежал, выехал на пути, машинист обязан сделать определенные действия, а затем только наблюдать. Никакая мыслимая сила не способна мгновенно остановить несущийся ЖД состав. И он задавит, снесет автобус сколько бы там лауреатов Нобелевки не находилось, и машинисту за это в уголовном плане ничего не будет, главное выполнить регламент. Инерция поезда велика настолько, что в случае экстренных ситуаций на путях ничего поделать нельзя вот вообще. Поезд не может свернуть на полметра вправо. Это неизбежный рок для тех, кто оказался у него на пути.
Теперь если перенести это на беспилотные авто, возникает вопрос - авто же умеет поворачивать? Умеет, но по аналогии с поездом следует допускать что нет, не умеет. Оно едет в своей полосе с установленной скоростью, не поезд, но тонна а то и две металла мгновенно не остановятся никогда. Поэтому слишком поздно обнаружив перебегающего дорогу + в неположенном месте - только давить. В случае с обычными водителями, сбившими пешеходов, проводится экспертиза тормозного пути. И если водитель утверждает, что не видел пешехода до определенного момента, учитывается тормозной путь, видимость. Если он сбивает его на своей полной (но разрешенной на этом участке дороги) скорости, а тормозной путь начинается через определенное расстояние (время реакции человека), тогда в этом случае водителя оправдывают. Пдд прямо предписывают при возникновении спорной ситуации не менять курс. Так же следует поступать и с беспилотными автомобилями.
Для пешеходов беспилотники можно оборудовать каким-то спецсигналом. Мигалка, цветные фильтры в фарах, чтобы побаивались - робот едет, едет по правилам, будешь дураком - полетишь на тот свет. Без исключений. Считай как поезд, не лезь на рельсы.
StasyTomas Автор
03.11.2023 12:55Робот умеет предсказывать возможное будущее в контексте, что его можно настроить предполагать, что каждый пешеход выбежит/упадет на дорогу (тогда он будет двигаться со скоростью медленнее, чем обычно, чем будет явно мешать). Принцип "думай за других" работает и у опытных водителей, однако, у водителей нет камеры на 360, когда у автономного авто есть и он видит больше, чем человек.
Про поезд: то все таки рельсы, а не дорога общего пользования и правила "нахождения" на них другие, нежели чем на обычной проезжей части.
А "только давить" это сурово и утилитарно. Мало ли, что произошло - человек поскользнулся и сам того явно не желая, упал на дорогу (увы, так бывает) и здесь, если встает выбор: стукнуть машину (и никто не пострадает) или передавить человека (и испачкать шины), как водителю, так и алгоритму беспилотного авто, лучше выбрать первый вариант. Меньше жертв и разбираться будет страховая (грубо говоря).
ПДД приписывает, а суды выносят решения, когда оправдывают водителей, совершивших маневр.
А для "непослушных" пешеходов (да и водителей), если и оборудовать беспилотные авто сигналом или ультрасветом, то от попадание под колеса обычных водителей это все равно не спасает.vadimr
03.11.2023 12:55Если предполагать возможность нарушения правил всеми окружающими и минимизировать последствия этого, это просто парализует дорожное движение.
Moog_Prodigy
03.11.2023 12:55Парализует это только в случае злоупотребления полномочиями. Но перед проездом депутатов все расписания электричек блокируются, это парализует ЖД сеть, но никто ж не жужжит?
vadimr
03.11.2023 12:55Я говорю о том, что если все будут, например, выдерживать интервал и скорость движения, достаточные для того, чтобы безопасно затормозить своим тормозом в том случае, когда едущий впереди автомобиль мгновенно останавливается путём внезапного впечатывания в столб ограждения (пример из жизни), то город встанет в мёртвой пробке;
DGN
03.11.2023 12:55-1Ой не всегда оправдывают. ПДД к примеру, обязывают выбрать безопасную скорость. Не максимально разрешенную, а безопасную. Если случилось столкновение - скорость не была безопасной.
Arhammon
03.11.2023 12:55А тем временем на ЖД подают в суд даже за сбитого лося и выигрывают за него деньги... и пофиг, что поезд не способен остановиться ни перед кем, средство повышенной опасности...
Oska2
03.11.2023 12:55Мне видится какой-то пересмотр концепции, по крайней мере для магистралей - некая отделенная, огороженная дорога, как в "я, робот", где не бегают лоси и дети, и несутся стаи роботомашин. Мы же не говорим, что в метро машинист должен нести ответственность за сбитого незаконно там находящегося диггера, внезапно вылезшего под состав на полном ходу? Другое дело, что города в такую сеть не закатаешь - поэтому пока беспилотникам место в кампусах американских НИИ, а не на дорогах с велосипедистами. Много непонятных "белых пятен". Хотя, если их не развивать, то ничего и не поменяется. Как с автомобилями и поворотниками/светофорами/проездом перекрёстков/круговыми развязками/ремнями безопасности/пдд и т.п., всё тоже развивалось постепенно...
YarikYar
03.11.2023 12:55Интересная статья, спасибо.
По-моему, для погружения в данную проблему совсем необязательно подводить её к автопилоту, у обычного водителя весьма вероятно может сложиться та же ситуация - влететь в лоб встречке или сбить внезапного пешехода, например.
Другое дело, что автопилот в такой ситуации гораздо определённее сможет действовать в рамках ПДД, которые предписывают использовать торможение как единственную меру предотвращения ДТП. И если у водителя ещё может дрогнуть рука, то автопилот просто в рамках правил будет оттормаживаться. Так он будет прав хотя бы по закону.Deliter321
03.11.2023 12:55А согласится ли водитель на такой автопилот, который его может убить, когда он сам бы в таких ситуациях выжил?
Alohahwi
03.11.2023 12:55+1А согласится водитель пристегивать ремень, если возможны ситуации в которых он погибнет если будет пристёгнут и останется жив если не пристегнётся? Не надо в таких ситуациях спрашивать водителя, а надо смотреть вероятности.
Deliter321
03.11.2023 12:55Не спрашивать можно будет только тогда, когда автопилот будет навязанным и единственным вариантом. До этого ещё явно далеко...
Alohahwi
03.11.2023 12:55+3Про ремни, абс, и подушки безопасности перестали спрашивать в тот момент, когда статистика показала что они уменьшают количество смертей. И водителей никто не спрашивал, даже если на дороге оставались ещё автомобили без абс, подушек или ремней. Так же и с автопилотом - как только статистика покажет что с автопилотом погибает меньше людей - водителя точно никто спрашивать не будет.
StasyTomas Автор
03.11.2023 12:55Благодарю! Абсолютно верно, предиктивная аналитика беспилотного транспорта позволит минимизировать подобные ситуации, когда столкновение неизбежно. Такой автомобиль будет действовать по сценарию, не опираясь на "выбор" для спасения.
Alohahwi
03.11.2023 12:55+3К слову. Уже несколько лет смотрю подборки дтп, и один из самых распостранённых сценариев - обгон по встречке, встречная машина, все пытаются объехать, либо оба едут на обочину где и врезаются не снижая скорости, либо кого то заносит, выносит в отбойники, столбы, деревья, назад на встречку, там лобовое со следующей машиной и много трупов как результат. И только недавно увидел первый раз поступивших по правилам водителей - они оба нажали на тормоз и просто остановились. И никаких вагонеток. Думаю автопилот, даже если попадет в такую ситуацию - будет решать её именно так.
YarikYar
03.11.2023 12:55+1Согласен. Вообще, я думаю, что зная, что водитель не будет пытаться спасти его жизнь ценой своей и других участников движения, меняя траекторию, а будет просто тормозить, а) у пешехода появится шанс на манёвр без риска попытаться убежать в ту же сторону, куда повернул водитель и б) пешеход лишний раз подумает перед выходом на дорогу (последнее очень утопично, конечно)
UPD. просто появится определённость, вот ) мне мой инструктор говорил это простыми истинами - при подъезде к переходу ты должен чётко обозначить - либо ты едешь и пешеход это увидит и не пойдет, либо ты явно останавливаешься и пешеход пойдёт. А если оба будете ни туда ни сюда, получится шшляпа.
StasyTomas Автор
03.11.2023 12:55Абсолютно! Судя по комментариям (да и по статистике) общественность не учитывает, что мы сами, наше неправомерное поведение на дороге в большинстве случаев является причиной возникновения ДТП. Если подавляющее большинство будет ездить по правилам, напряжение на дорогах сильно снизится.
RusikR2D2
03.11.2023 12:55+1ИМХО, Автопилот должен действовать строго по ПДД.
В таком случае, при замене всех машин на автопилоты можо будет считать, что все ездят по ПДД - никто не поедет на красный или по встречке, даже ради спасения пешехода.А задача про вагонетку стоит решить иначе - заклинить стрелку между позициями из расчета, что вагонетка сойдет с рельс.
StasyTomas Автор
03.11.2023 12:55Это и повествует в статье: если все будут ездить с соблюдением ПДД, это минимизирует риски внештатных дорожных ситуаций. А задачу про вагонетку очень часто приплетают в беспилотным авто не понимая, что автомобиль не будет делать выбор на основании "ценности" чьей-либо жизни.
p-p-k-55
03.11.2023 12:55Возможно будет так: при покупке автомобиля, его владелец при настройке проставит галочки, или в любой ситуации максимум безопасности для пассажиров или минимизировать общий ущерб...
Проблему выбора переложат с разработчиков автопилота на владельца автомобиля.
StasyTomas Автор
03.11.2023 12:55Интересно! Но, хотелось бы, чтобы были единые сценарии для всех производителей/дистрибьюторов. На владельца/водителя авто обязательно возложат необходимый объем обязанностей, однако не думаю, что вопрос будет стоять "или пассажир или внешний объект", здесь логика порочна.
Actaeon
03.11.2023 12:55+2Этические законы для робота-водителя просты и самоочевидны
Робот должен минимизировать вероятность телесных повреждений хозяина.
При прочих равных робот должен минимизировать вероятность судебных исков к хозяину.
При прочих равных робот должен минимизировать возможные повреждения автомобиля от задавливания всякого рода тварей. И нечего тут философию разводить.
StasyTomas Автор
03.11.2023 12:55Немножечко теряется здесь общественное благо, которому призваны служить технологии, законы звучат шкурно).
А философию люди "разводят" еще с 6ого века до нашей эры, сущность у людей такая - свой разум применять и ставить задачи, решение которых облегчит всем жизнь (ну или наоборот)
StjarnornasFred
03.11.2023 12:55+3А теперь давайте представим более социально-будоражащий сценарий, в котором беспилотный автомобиль уже успешно распознал присутствие человека на дороге, однако предотвратить столкновение возможно лишь за счёт решительного манёвра, в результате которого машина, с пассажиром в салоне, конечно же, была бы вынуждена резко отклониться от проложенного маршрута для столкновения с деревом. Такая ситуация ставит перед алгоритмом сложнейший этический выбор: кем жертвовать – пассажиром или пешеходом?
Здесь нет никакого этического выбора. В такой ситуации машина должна сделать ровно то, что от неё требуют ПДД. Чаще всего это значит - тормоз в пол (юр. применить экстренное торможение) и будь что будет. Реже - маневрирование, опять же в рамках ПДД (юр. убедиться в безопасности манёвра). Вертеть рулём незнамо куда категорически нельзя!
Сразу вопрос: а что, собственно, будет? Тут 2 ответа. Юридический: будет определён виновник ДТП и это будет не тот участник движения, который соблюдал ПДД (строго говоря, ПДД полностью исключают ДТП, кроме как от внешних по отношению к дорожному движению факторов). Физический: пассажиры ТС не получат серьёзных травм, поскольку все современные ТС проходят сертификацию на пассивную безопасность и, например, при фронтальном ударе на 64 км/ч с ними кроме пары синяков и лёгкого испуга ничего не будет.
Гипотетически, можно разработать супер-автопилот, который сможет расходиться в миллиметрах сквозь перпендикулярный поток на перекрёстке, втискиваться в щель между пресловутыми пешеходом и деревом и вообще вести себя на дороге как спидраннер на игровой карте. Ему и ПДД будут не нужны - он сам сможет ездить быстро и безопасно. Но до этого ещё очень и очень далеко.
StasyTomas Автор
03.11.2023 12:55+1Лайк за поддержку тезиса о некорректности привлечения "этического выбора" в данную ситуацию). Про виновность в отношении того, кто НЕ соблюдал ПДД - спорно, особенно, если ознакомиться с судебными решениями. Но да, на сегодняшний день единственный верным решением здесь будет соблюдение ПДД.
И про отсутствие серьезных травм (даже с ремнями), к сожалению, спорно.
ifap
03.11.2023 12:55+3Однако этот криво поставленный вопрос не имеет однозначного ответа.
Хорошо, что Вы понимаете кривизну вопроса, плохо, что не понимаете ее природу, а она такова. Если авто едет с разрешенной скоростью, соблюдает рядность и вот это вот все ПДДшное, и вдруг перед ним вылетает олень (или олень в кавычках), то вопрос кого спасать не стоит: того, кто сделал все от него зависящее для сохранения своей и чужих жизней, т.е. добросовестную сторону - водителя, а не ломанувшегося под колеса
дятлаоленя, который и не олень вовсе, а ССЗБ. Если же авто (напоминаю: на автопилоте) обгоняет, подрезает и нарушает, то такое авто просто не должно присутствовать на дороге (и уж точно перед свихнувшимся автопилотом, не соблюдающим скоростной режим, не стоит вопрос этики). Т.е. по сути вопроса и нет вовсе.StasyTomas Автор
03.11.2023 12:55Сложно представить, что авто на автопилоте (легальное и сертифицированное) обгоняет и подрезает.
Благодарю за признание кривизны вопроса, но, полагаю, его природу я тоже понимаю, от чего и родилась подобная статья, в которой указывается, что необходимо соблюдать ПДД и иногда (да, так бывает) их нарушать, во избежании общественно опасных последствий (без вовлечения третьих-четвертых сторон в ситуацию).
К сожалению, доколе такие обсуждения стоят на повестках в институтах, научных школах, законодатель четко не определяет сценарии и т.д., вопрос есть.ifap
03.11.2023 12:55Вовсе даже несложно, но мы и не рассматриваем же случай с восстанием машин? Мы вообще какую-то сферическую теорию в вакууме рассматриваем, где самая конкретная гипотетическая ситуация (на всю немалую статью) - агрессивный велосипедист. Таки мое мнение - стараемся избежать столкновения, покуда это не создает угрозы нам и другим участникам движения, иначе - давим.
Обсуждения стоят на повестках потому, что юрист римской школы права (не будем путать его с законодателем, который являет собой представительную власть, так что с ним все совсем плохо) тщетно пытаются натянуть сову авраамической морали (даже в атеистических обществах) на глобус рационализма образца XXI века.
StasyTomas Автор
03.11.2023 12:55Почему же, мы рассматриваем что-то приближенное к реальности, а не к киберпанку или постапокалипсису. ПО, отвечающее за бесплотность, уже сейчас - безопасное и неагрессивное. Плюс, повторю, это все таки не теория в вакууме, особенно, когда есть прецеденты, разработки и пока еще нерешенные законодателем задачи. Таки и ваше мнение, получается, проистекает из статьи и ей вторит, но, это уже неважно.
А юрист римской школы права (полагаю, они уже умерли и вы имели в виду романо-германской правовой семьи) очень часто и есть законодатель, который должен идти в ногу со временем без насилия над обществом, даже если оно не успевает в своем развитии за технологиями
apevzner
03.11.2023 12:55+1А теперь давайте представим более социально-будоражащий сценарий, в котором беспилотный автомобиль уже успешно распознал присутствие человека на дороге, однако предотвратить столкновение возможно лишь за счёт решительного манёвра, в результате которого машина, с пассажиром в салоне, конечно же, была бы вынуждена резко отклониться от проложенного маршрута для столкновения с деревом. Такая ситуация ставит перед алгоритмом сложнейший этический выбор: кем жертвовать – пассажиром или пешеходом?
Блин. Жертвовать надо программистом, который писал эту программу.
Это же машина, а не космическая ракета. Не знаю, что там у ракет, но у машины завсегда при прокладке "проложенного маршрута" можно учесть варианты, куда деваться, если что пойдет не так. И любую сложную ситуацию завсегда можно сильно упростить, заблаговременно снизив скорость. Более того, ПДД нам как бы даже прямо намекают, что так и надо делать, если что-то непонятно: снижать скорость, пока не станет понятно.
В частности, где узко, где скользко, надо ехать достаточно медленно, чтобы необходимость неожиданного манёвра не приводила к неизбежной встрече с деревом на опасной скорости.
Кстати, и при ручном управлении а/м этот подход тоже работает.
StasyTomas Автор
03.11.2023 12:55В идеальном мире - да. Но не всегда возможно предугадать действия человека, который вот-вот окажется в опасной ситуации по своему человеческому фактору, или по обстоятельству непреодолимой силы (инсульт за рулем, гвоздь в шине и т.д.). Но подход верный - соблюдаем ПДД и живем счастливо, применимо ко всем - и людям и машинам.
vvalnik
03.11.2023 12:55Похоже, что вслед за широким распространением транспорта с автопилотированием нас ждет возникновение серого рынка услуг по "моральному тюнингу" автопилотного софта. Ведь у каждого автовладельца могут быть собственные представления о правильном решении проблемы вагонетки.
StasyTomas Автор
03.11.2023 12:55Очень интересная мысль! Чтобы такое предотвратить, законодатель и некоторые представители бизнеса работают над едиными стандартами поведения в опасных ситуациях, а также выводят на новый уровень такую категорию как "диспетчер", который будет ответственен за чистоту софта. + процедуры сертификации, страхования и обязательства по обновлению ПО должны предотвратить "моральный тюнинг", но, вероятно, что все захотят "как лучше", а получится "как всегда".
vvalnik
03.11.2023 12:55Единые стандарты внутри каждой конкретной страны? А при пересечении государственной границы у автомобиля будут слегка изменяться "моральные нормы"?
StasyTomas Автор
03.11.2023 12:55Хотелось бы, чтобы стандарты были едиными, но, как показывает практика, обычно стандарты едины для определенных регионов (ЕЭК, ЕС и т.д.). Плюс, опять же, мы не говорим о «моральных нормах», автомобили должны двигаться в рамках ПДД вне зависимости от природы их управления.
vvalnik
03.11.2023 12:55А при чем тут ПДД? Статья, вроде бы, рассматривает как раз проблему "моральных норм" автомобиля. Приоритет соблюдения ПДД подразумевается по умолчанию. Но проблему вагонетки ПДД никак не регулирует. И на дорогах постоянно случаются ситуации, когда при полном соблюдении ПДД водителю (а теперь и автопилоту) приходится делать выбор, кому именно из случайно появившихся на дороге лиц следует вынести смертный приговор, а кого тем самым спасти.
uhf
03.11.2023 12:55Морально дилемма может и сложная, но математически - простая. Составляем список целей для автопилота, задаем им приоритет, прогнозируем вероятность каждого исхода, выбираем оптимальный вариант.
semennikov
03.11.2023 12:55С моей точки зрения надо учитывать следующие факторы и принять их:
1) автомат ВСЕГДА соблюдает ПДД
2) ПДД требует только тормозить
3) Водитель может нарушить ПДД для уклонения от ДТП, но с точки зрения закона он нарушитель, и на нем лежит обязанность доказать что он действовал в состоянии крайней необходимости и причиненный вред меньше чем предотвращенный
С точки зрения общественной пользы разрешение использование беспилотных автомобилей не должно приводить к увеличению опасности ДТП
Поскольку автомат соблюдает ПДД а водитель как это ни странно звучит не делает этого почти никогда (я по крайней мере не знаю ни одного водителя который бы не допускал нарушения ПДД), то общее число ДТП будет снижаться при допуске беспилотников при обязательном условии - робот будет соблюдать ПДД и НИЧЕГО больше чем там установлено.
Конкретные случаи могут быть ужасными, но общее число пострадавших будет уменьшаться
MountainGoat
Высокие стандарты морали - у толпы? Бу-га-га!
StasyTomas Автор
Feel you, та же реакция у меня была первые секунд 30 от анализа дэйты по эксперименту. Но, полагаю, умалять труд коллег не стоит).