За убийство, совершённое робомобилем, судить будут программу (и программистов)
2034-й год. Пьяный человек бредёт ночью по тротуару, спотыкается и падает прямо перед робомобилем, который ударяет его и убивает на месте. Если бы за рулём автомобиля был человек, смерть признали бы несчастным случаем, поскольку вина лежала бы на пешеходе, и ни один водитель не сумел бы увернуться от него. Но стандарты для «среднего водителя» (в зарубежном законодательстве присутствует термин "reasonable person"), исчезли в 2020-х годах, когда распространение робомобилей снизило количество ДТП на 90%. Теперь приходится говорить уже о «среднем роботе».Семья жертвы судится с производителем робомобилей, заявляя, что хотя у машины и не было времени затормозить, она могла бы объехать пешехода, пересечь двойную сплошную и столкнуться со встречным робомобилем. Реконструкция происшествия на основании датчиков робомобиля это подтверждает. Адвокат истца, допрашивая ведущего разработчика ПО автомобиля, спрашивает: «Почему же машина не отвернула?»
Сегодня суд не спрашивает водителей, почему они что-то сделали или не сделали. Вопрос спорный, поскольку человек ошибается – водитель может запаниковать, не додуматься, среагировать на инстинктах. Но когда робот ведёт машину, вопрос «почему?» вполне допустим. Этические стандарты людей, не очень удачно прописанные в законах, делают множество разных предположений, до которых инженеры просто не дошли. Самое важное из них – человек может понять, когда нужно отступить от буквы закона, чтобы сохранить его дух. Теперь инженерам необходимо научить машины и других роботов принимать разумные решения.
Компьютеризация процесса управления началась ещё в 1970-х, когда появились антиблокировочные системы торможения. Теперь каждый год появляются такие разработки, как автоматическое подруливание, автоматическое ускорение и экстренное торможение. Тестирование полностью автоматических машин, хотя и с участием человека-водителя, разрешено уже кое-где в Британии, Голландии, Германии и Японии. В США это разрешено законом в четырёх штатах и в округе Колумбия, и по крайней мере не запрещено в остальных. Google, Nissan и Ford утверждают, что робомобили появятся уже через 5-10 лет.
Автоматические средства передвижения собирают информацию об окружающей среде с датчиков – видеокамер, ультразвуковых дальномеров, радаров, лидаров. В Калифорнии робомобили обязаны предоставлять в департамент транспорта все данные с датчиков за 30 секунд до любого столкновения, которых уже накопилось достаточно – включая столкновение по вине машины Google. Инженеры получают возможность восстановить события в районе столкновения довольно точно, используя записи того, что могла зафиксировать машина, рассматриваемые ею альтернативы, и логику поведения. Компьютер можно будет заставить повторить свои рассуждения – так, как это можно попросить сделать человека, игравшего в игру или симулятор вождения.
Регуляторы и стороны в судебных процессах смогут поддерживать сверхчеловеческие стандарты безопасности у робомобилей, и тщательно исследовать столкновения, которые всё равно будут происходить – пусть и редко. Производители и программисты будут защищать действия своей продукции так, как это сегодняшним водителям и не снилось.
Вождение – это всегда риск, и решения по поводу распределения его между водителями, пешеходами, велосипедистами и имуществом, содержат этическую составляющую. Как для инженеров, так и для всех людей важно, чтобы система принятия решений машины взвешивала этические последствия своих действий.
Столкновение Google Car с автобусом
Обычная реакция на двусмысленные с моральной точки зрения ситуации – следовать закону с минимизацией ущерба. Стратегия привлекательная – она не только позволяет разработчику легко отстоять действия авто («Мы ведь полностью следовали закону»), но и передаёт ответственность в определении этичности законодателям. К сожалению, оно также возлагает на закон слишком большую ношу.
К примеру, в большинстве штатов закон полагается на здравый смысл водителей, и мало что говорит о поведении перед столкновением. В описанном примере машина, точно следуя букве закона, не пересекает двойную сплошную, рискуя наехать на пьянчужку – хотя с другой стороны дороги находится лишь пустой робомобиль. Закон редко делает исключения в таких конкретных экстренных случаях, как упавший на проезжую часть человек – а если делает, как это принято, например, в штате Виргиния, текст закона подразумевает, что пересечение двойной сплошной законно до тех пор, пока автомобиль не попадает в аварию («если таковое движение можно произвести безопасно»). В этом случае решать придётся разработчикам – в каких случаях пересекать двойную сплошную будет безопасно.
Робомобиль редко будет на 100% уверен в том, что дорога пустая и пересекать двойную сплошную можно без опаски. Он будет оценивать уровень увереннности в 98%, или 99,99%. Инженерам надо будет заранее решить, какой уровень уверенности будут достаточным для пересечения двойной сплошной, и как может варьироваться допустимое значение в зависимости от того, чего пытается избежать на дороге робомобиль – пластиковый это пакет или упавший пешеход.
Уже сейчас робомобили принимают решения о возможности нарушения закона. Google призналась, что его машинам разрешено превышать скорость, чтобы оставаться в потоке – там, где замедление скорости опасно. Большинство людей предпочло бы превысить скорость в различных ситуациях, например при попытке спешно добраться до госпиталя. Крис Гердес [Chris Gerdes] и Сара Торнтон [Sarah Thornton] из Стэнфордского университета против жёсткого включения законов в алгоритмы принятия решений, поскольку водители, судя по всему, считают законы достаточно гибкими для того, чтобы оценивать стоимость их нарушения по сравнению с потенциальным выигрышем в скорости. Никому не хочется ползти за велосипедистом несколько километров из-за того, что ваша машина отказывается хоть немного заехать за двойную сплошную.
И даже оставаясь в рамках закона, робомобиль может принимать множество мелких решений, чувствительных с точки зрения безопасности. Обычно полосы на шоссе почти в два раза шире типичной машины, и водители могут использовать эту ширину для объезда мусора, или отдаления от неровно едущих автомобилей.
В патенте 2014 года Google развивает эту мысль и описывает, как робомобиль может размещаться на полосе для уменьшения рисков. Компания приводит пример робомобиля на трёхполосной дороге с грузовиком справа и небольшой машинкой слева. Для оптимизации безопасности робомобилю следовало бы сдвинуться чуток влево, поближе в маленькой машинке.
Выглядит здраво, и обычно все так и делают – сознательно или бессознательно. Но появляются этические вопросы. Сдвинувшись в сторону мелкой машинки, робомобиль уменьшил риск, но неравномерно распределил его. Должна ли мелкая машинка брать на себя больший риск только потому, что она мелкая? Если бы это был вопрос пристрастий конкретного водителя, он бы ничего не значил. Но если такое перераспределение формализовать и распространить на все робомобили, последствия будут более серьёзными.
В каждом примере робомобиль принимает во внимание несколько ценностей – ценность объекта, который он может ударить, и ценность его пассажира. Люди принимают решения инстинктивно, а робомобиль будет делать это на основании тщательно продуманной стратегии управления рисками, которая определяет риск как размер ущерба от нежелательного события, умноженный на его вероятность.
В 2014-м Google также запатентовал и приложение для управления рисками. В патенте описана машина, которая может решить перестроиться, чтобы лучше видеть светофор. Или машина может решить остаться в полосе, чтобы избежать риска столкновения – например, из-за показаний с неисправного датчика – но ценой этого будет плохая видимость светофора. Результату любого из решений присваивается вероятность, а также положительная или отрицательная стоимость (преимущество или потеря). Каждая стоимость умножается на вероятность, и полученные значения можно суммировать. Если преимущества превосходят потери достаточно сильно, машина выполнит манёвр.
Проблема в том, что риск столкновения очень мал – средний водитель в США попадает в ДТП раз в 257 000 километров, или раз в 12 лет (в России – раз в 1,6 года. Возможно, такая разница получается оттого, что в США люди гораздо чаще ездят по шоссе – прим.перев.). Поэтому, даже начав получать огромный поток данных от робомобилей, когда они выйдут на улицы, мы сможем получить оценки вероятностей разных событий очень нескоро.
Оценивать стоимость ущерба ещё сложнее. Повреждения имущества оценить легко – у страховщиков в этом деле большой опыт – но увечья и смерти, это дело другое. История присвоения жизни человека какой-либо стоимости насчитывает много лет, и обычно её выражают в количестве денег, которые можно было бы потратить для предотвращения среднестатистической жертвы. Улучшение безопасности, имеющее шанс в 1% на спасение жизней 100 людей, представляет собой одну среднестатистическую жертву. Департамент транспорта рекомендует трату $9,1 миллиона для предотвращения жертвы. Число получено из маркетинговых данных, включая надбавки, которые люди требуют за опасную работу и суммы, которые люди готовы тратить на оборудование для обеспечения безопасности – например, дымовые сигнализации. Взвесить нужно не только безопасность, но и потерю мобильности, или время, потраченное на дорогу, которое Департамент оценивает в $26,44 в час.
На словах всё выглядит красиво. Но оценка риска в потерянных жизнях и потраченном на дорогу времени не включает в себя разные моральные оценки того, как мы подвергаем людей риску. К примеру, робомобиль, оценивая жизни всех людей одинаково, должен был бы дать на дороге больше места мотоциклисту без шлема, чем мотоциклисту в полной экипировке, поскольку первый выживет с меньшей вероятностью. Но это нечестно – можно ли наказывать за заботу о своей безопасности?
Ещё одно отличие этики роботов и людей – этика первых может быть искажена программистами, даже из лучших побуждений. Представим, что алгоритм подрегулировал размер буферной зоны для пешеходов в различных районах на основе анализа размера компенсаций по искам, поданных пешеходами, попавшими в аварии. С одной стороны, это разумно, эффективно и сделано из лучших побуждений. С другой стороны, меньшие размеры неустоек могут зависеть от среднего дохода людей в конкретном районе. Тогда алгоритм будет наказывать бедных, задавая им меньшую буферную зону, тем самым немного увеличивая их риск быть сбитыми.
Есть искушение отмахнуться от таких вопросов, как от чисто академических, но обойти их нельзя, потому что программы воспринимают всё буквально. Оценивать последствия действий придётся до того, как их надо будет совершать – на этапе разработки, а не на этапе создания патчей для ПО.
Частично из-за этого исследователи используют гипотетические ситуации, в которых машина должна выбирать между двух зол. Одна из известнейших задач такого типа – проблема вагонетки.
Тяжёлая неуправляемая вагонетка несётся по рельсам. На пути её следования находятся пять человек, привязанные к рельсам сумасшедшим философом. К счастью, вы можете переключить стрелку — и тогда вагонетка поедет по другому, запасному пути. К несчастью, на запасном пути находится один человек, также привязанный к рельсам. Каковы ваши действия?
Пожертвуете ли вы одной жизнью ради нескольких? Если нет, из-за вашего бездействия всё равно погибнут люди, поэтом как вы сможете разобраться с этим противоречием?
По темам таких экспериментов написаны книги, и они позволяют вам протестировать простые и прямые системы, обрабатывающие вопросы этики, и найти области, где было бы неплохо углубиться в некоторые нюансы. Допустим, мы запрограммировали робомобиль на избегание пешеходов любой ценой. Если в двухполосном тоннеле внезапно появится пешеход, а машина не сможет вовремя затормозить, ей придётся сворачивать с полосы, даже если она окажется на пути автобуса с пассажирами. Вероятность такого события не так важна, как проблема, которую она обнажает в логике робомобиля – что абсолютное превосходство ценности пешехода над всеми остальными людьми, использующими проезжую часть, может быть очень опасным.
Этика в робомобилестроении – задача решаемая. Мы знаем это потому, что в других областях уже нашли возможность обрабатывать примерно такие же риски и преимущества безопасно и разумно. Органы доноров распространяются среди больных на основании метрики, высчитываемой из потенциальных лет жизни и качества их проживания. От военного призыва освобождают людей таких нужных профессий, как фермер и учитель.
Задачи робомобилей сложнее. Им надо решать быстро, на основе неполной информации, в ситуациях, которые программисты могли не предусмотреть, используя этику, которую приходится встраивать в алгоритм слишком буквально. К счастью, люди не ждут от них сверхчеловеческой мудрости – лишь рациональное оправдание действий машины, которая оценивает и вопросы этики. Решение не должно быть идеальным – но продуманным и таким, которое можно было бы защитить.
Комментарии (142)
ns3230
09.06.2016 15:37«Пешеход всегда прав, но не всегда жив» (с). Дорога является средством повышенной опасности, и нечего пешеходам клювом щелкать. Почему-то если в аэропорту на ВПП, перед идущим на посадку лайнером, выскочит идиот и его засосет в турбину или намотает на шасси — вопрос вины пилота даже рассматривать никто не будет. Может, и с авто так надо: если идиот выскочил на проезжую часть и попал под машину — он сам идиот, к машине и водителю никаких претензий? Нужно отменить явление «преступлений без потерпевшего», чтобы человек мог законно перейти пустую трассу, если нет зебры, не рискуя быть оштрафованным, но, возложить всю ответственность на рискующего. Перешел в неположенном месте — не страшно, но если собъют — сам дурак, а если из-за тебя в столб въедут — отвечай и возмещай ущерб. Едешь без шлема — ладно, но раскроишь черепушку — тебя предупреждали. Пересек сплошную на пустой трассе — ладно, пересек сплошную и устроил аварию — отвечай по всей строгости.
Valdei
09.06.2016 15:57Концепция «нет преступлений без потерпевшего» представляется здравой, но с одним дополнением.
По каждому участнику должен рассчитываться динамический коэффициент, зависящий в том числе от его поведения на дороге, частоте создания опасных ситуаций и т.п.
Например, безответственный условный Джон, который постоянно перебегает пустую трассу, не наказывается.
Но в случае аварии Джон получит гораздо более суровое наказание, чем Билл, который всю жизнь ходил строго по сигналам светофора.
p.s.
Идею можно развить сбором общей статистики по типичным признакам таких Джонов для выявления и непущания, но это уже другая история.
alsii
10.06.2016 11:48Это называется «обязательное страхование гражданской ответственности». Нужно только ввести его для пешеходов и установить зависимость страховой премии от дисциплинированности пешехода. Только вот накладные расходы будут высоки невероятно :(
maxpsyhos
10.06.2016 12:54Учитывая, что ВСЕ люди поголовно от рождения являются пешеходами, это будет просто очередной «налог на воздух».
alsii
10.06.2016 13:07Это ведь смотря как подойти к вопросу, как организовать. Есть ведь другие виды обязательного страхования (медицинское, социальное). Но в общем да.
idiv
10.06.2016 13:08+1Не совсем так. Заигрались дети на улице, толкнули бабушку. Она упала и сломала руку. Лечение может стоить довольно дорого, так что страхование ответственности перед третьими лицами очень хорошая вещь. Туда еще включают страховку, если вы затопите соседа снизу в доме, если ключи от подъезда потеряли и т.д. и т.п. В общем любой ущерб, который затрагивает не вас лично, но в котором вы виноваты.
alsii
10.06.2016 11:46Это категорически неверно с точки зрения техники безопасности. Проблема даже не только в том, что требования безопасности направлены на ее обеспечение даже для тех, кто в этом сам не заинтересован. Проблема в том, что вред от ДТП в рассматриваемом случае достается не только нарушителю. И это еще при том, что последствия для нарушителя могуть быть таковы, что наказывать будет уже некого. Ну и вообще, цель любого наказания заключается в том, чтобы минимизировать случаи его необходимости. Иными словами, если наказание применяется, значит оно уже не сработало. Ну и еще, в случае с нарушением ПДД, когда оно не стало причиной аварии, «потерпевший» все-таки есть. Данное правонарушение направлено против «общественных интересов в области обеспечения безопасности дорожного движения». Действия нарушителя увеличивают вероятность ДТП, а общество в этом не заинтересовано.
ns3230
10.06.2016 16:27Человек — существо с развитым инстинктом самосохранения, но при этом разумное и способное анализировать и принимать решения. Человек сам заинтересован в собственной безопасности, а если не заинтересован — то и обеспечивать ее нет никакой необходимости. Это абсурд, корнями уходящий к «порче госимущества»: сохранение жизни человека (ну не хочет он в шлеме ездить, понимает, что рискует убиться, но все равно не хочет) для государства важно, потому что человек для него — как имущество, которое приносит пользу и потому его важно сохранить. Никаких других рациональных предпосылок к обеспечению безопасности человека против его воли нет. Что же касается «общественных интересов» — никакого общества нет, это притянутый за уши термин. Есть конкретные участники дорожного движения, и если никто из них не потерпел ущерба — никакого нарушения быть не может. А то ведь этак можно еще сказать, что человек, который в день съедает гораздо больше 2500 килокалорий, действует против «общественных интересов людей, испытывающих дефицит продовольствия».
alsii
13.06.2016 16:00То что вы написали — это ваше мнение. Вполне логичное, достойное уважения, и, вероятно, разделяемое достаточно большим числом людей. Но не более. То, что написал я — один из принципов, на котором построены современные юридические системы, который вдалбливают десяткам тысяч студентов юридических факультетов, которые потом, став адвокатами, следователями, судьями, прокурорами, законодателями и их юридическими консультантами ежедневно действуют в соответствии обеспечивая работу всей этой юридической машины в нескольких десятках государств. И дело тут совершенно не в том, какие взглады "правильнее", а в том, какие из них работают в настоящий момент.
Konachan700
09.06.2016 16:06+1Я бы не хотел, чтобы сидя в роботизированном авто, оно принимало решения минимального ущерба исходя из этики. Кто бы там на дорогу не вышел, его надо давить, а не прилетать в столб, убивая пассажиров. Прыгающий под авто нарушил ПДД и за это справедливо пострадал. Робот не имеет и не может иметь мотивов к нарушению закона («доехать побыстрее», «там штраф всего-то $50», «чо как лох 60 ехать» и прочее) пока не будет обладать равным человеку интеллектом, потому он прав в любой ситуации, за исключением его поломки, которая будет зафиксирована «черным ящиком».
Пустой же робот, без людей внутри, должен действительно жертвовать собой в случае форс-мажора — он застрахован, с виновника ДТП можно взыскать ущерб, и вобщем-то такое поведение логично.igruh
09.06.2016 16:39Частично соглашусь. Чем лучше будут злостные нарушители-роботы нарушителей-людей? Временем реакции? Так они будут и на неё поправку делать. Рисуется полный робопеспредел. Но обсуждается не только эта (простая) проблема. Обсуждается что делать, если жертвы высоковероятны, где искать баланс и чем руководствоваться?
Kju
09.06.2016 17:30Чем лучше будут злостные нарушители-роботы нарушителей-людей?
Робот не может вдруг решить нарушить правила — робот едет согласно алгоритму который должен быть построен на основе ПДД (должна быть некая сертификация которая подтверждает что робот ездит согласно ПДД). Если другие участники движения решили нарушить ПДД — это их собственные проблемы — проблема робота как уменьшить вред для пассажиров самому не нарушив ПДД.
Обсуждается что делать, если жертвы высоковероятны, где искать баланс и чем руководствоваться?
Руководствоваться ПДД, далее руководствоваться обеспечением безопасности жизни и здоровья пассажиров, потом жизнь и здоврое других участников не нарушающих ПДД, минимальный приоритет для жизни и здоровья нарушителей.
Вообще не понимаю почему кто-то должен волноваться о жизни и здоровье людей которые пытаются самоубиться бросаясь под колеса авто, поезда, метро (нужное подчеркнуть).alsii
10.06.2016 11:52Только ПДД поставьте пожалуйста на последнее место. Даже текущее законодательство предусматривает освобождение от нарушения законов в ситуации крайней необходимости.
И еще, что делать если нарушитель — это пассажир. Например не пристегнулся ремнем безопасности.ariklus
14.06.2016 15:10Уже сейчас многие машины имеют встроеную функцию «не пристегнулся — не поехал». Расширить ее на все сиденья — и готово. Или не расширять и ссзб есл вылетит через лобовое.
alsii
14.06.2016 17:48Хм. Об этом я не подумал. Если робоавтомобиль может выявить нарушение со стороны пассажиров, он может и отказаться ехать. А если не может выявить, то не может и учесть. Это хорошо. Правда остается вариант, когда нарушения возникают в процессе движения. Например пассажир отстегнулся. Блокировать отстегивание нехорошо, небезопасно.
DrPass
15.06.2016 09:52> Блокировать отстегивание нехорошо, небезопасно
Ну это же не означает, что он резко по тормозам ударит и станет как вкопанный где попало. Робомобиль может включить поворотник, и, снижая скорость, перестроиться в правый ряд, где плавно припарковаться. Для пущего эффекта еще может при этом негромко материться.
Правда, для особо упоротых пассажиров в продаже уже есть такие штуки:
http://www.chevrolet-camaros.ru/images/stories/magazin/imitator-remnya-bezopasnosti.png
… но с ними можно бороться, например, с помощью датчиков в системе преднатяжения ремня.alsii
15.06.2016 15:23Я имел в виду, что конструкция замка ремня безопасности будет блокировать его отстегивание, пока автомобиль находится в движении. Т.е. чтобы отстегнуться, надо будет сначала остановиться. Да, и на автобане плавно припарковаться не получится, до стоянки может оказаться 20-30 км. Ну а остановка на автобане вне таких стоянок это всегда ЧП. Очень быстро приедет полиция, которую вызовут проезжающие мимо.
putnik
09.06.2016 16:45Приоритет жизни пассажиров перед остальными — тоже этический вопрос.
Kju
09.06.2016 17:40Никто не сядет в робомобиль добровольно (искатели острых ощущений не в счет), если не будет уверен, что для робота жизнь пассажира в приоритете. Если в инструкции к автомобилю будет написано, что робот пожертвует вами в следующих случая и далее список пунктов — я лично в такой автомобиль не сяду — как-то по старинке лучше сам порулю ну или в общественном транспорте покатаюсь (жизнь 100 пассажиров всяко ценее чем 1 я думаю будет)
VenomBlood
09.06.2016 21:58Это глупый вопрос. Т.к. абсолютно нелепо жертвовать жизнью пассажиров чтобы спасти нарушителя правил.
Поэтому логика такая:
1) При принятии решений следует закладывать то, что робот никогда не ошибается, если робот ошибся — материальную вину несет компания-производитель, она скорее всего будет иметь страховку для этого. Если ошибка была допущена умышленно с целью убить — несет уголовную ответственность тот кто «умыслил».
2) При принятии решений первый и беспрекословный приоритет имеет жизнь и здоровье водителя и пассажиров робомобиля.
3) Второй приоритет имеет жизнь и здоровье участников движения, которые, по мнению робота — не нарушали ПДД
4) Третий приоритет — жизнь и потенциальные тяжелые травмы для нарушителей
5) Далее идут — целостность самого робомобиля и легкий дискомфорт пассажиров (резкое торможение, небольшие ссадины), потом — целостность имущества не нарушавших правила участников движения и в самом-самом конце — травмы средней тяжести (переломы, ссадины) и повреждение имущества стороны, нарушевшей ПДД.
Таким образом единственное чем робот может жертвовать чтобы спасти жизнь нарушителей (не важно кто это будет, грабитель или целый автобус детей выбежавших на шоссе потому что им никто не объяснил что так делать нельзя) — помять свой корпус/стукнуть соседа если робот точно знает что это ДТП приведет максимум к помятому автомобилю/пролитому кофе и спасет жизнь нарушителю. Если выбор — разбить автомобиль или наехать на ногу выскочившему на дорогу человеку — ну, надеюсь у выбежавшего есть нормальная медицинская страховка, нету — ну чтож, его проблемы.alsii
10.06.2016 11:59Уберите и п.5 слово "тяжелые". Вред здоровью человека рассматривается всегда выше любого материального вреда. Если вы сознательно наедете на ногу нарушителю, хотя могли этого избежать ценой повреждения автомобиля, пойдете по одной из статей УК предусматривающих нанесение вреда здоровью. Если разобьете машину, сможете потом взыскать с него материальный вред.
Kju
10.06.2016 13:14наедете на ногу нарушителю, хотя могли этого избежать ценой повреждения автомобиля, пойдете по одной из статей УК предусматривающих нанесение вреда здоровью.
Если нарушитель переходя на красный дорогу будет осознавать что шанс выжить у него примерно такой же как если бы он перебегал перед поездом, то он не будет нарушать.
Второе это проблема взыскать — так как у нас пока еще нет тотального контроля за пешеходами — повредив машину и никак не идентифицировав пешехода, который скрылся, владелец машины может и не найти на кого подавать в суд. Тоже самое со страховкой — вы представляете сколько будет стоить страховка на автомобиль который может самоубится и виновного в принципе будет не найти?
В любом случае законодательсво будет меняться с приходом робомобилей — и я очень надеюсь, что в отношении пешеходов оно ужесточить. Парадигма «пешеход всегда прав» измениться на «сертифицированный робомбиль всегда прав» (если иное не показал черный ящик).alsii
10.06.2016 13:42Это напоминает анекдот про жену, тещу и кота, который гадил в тапки.
АнекдотПришел мужик к другу в гости. А у того жена и теща перед ним на цыпочках ходят, тапочки приносят, подушку поправляют, чтобы удобнее сидеть было, все время улыбаются и слова поперек сказать боятся. Гость и спрашивает хозяина, как мол так?
— А у них был кот. Он мне в первый же день после свадьбы в тапки нагадил и я ему сразу сказал — Первое предупреждение. Он на следующий день опять нагадил и получил второе. А на третий раз я его взял и в окно с 12 этажа выкинул.
— Хм… И что?
— А то, что у жены одно предупреждение, а у тещи уже два.Kju
10.06.2016 13:55Даже если вы не сможете взыскать вред, то хотя бы останетесь на свободе и не будете работать ему на лекарства.
«Я» в данном случае вообще пассажир — ни при каких условиях (если я не модифицировал «сертифицированный» алгоритм работы робота) вообще не должен страдать. да и вообще машина может быть муниципальной, например.
Если парадигма поменяться, топрошедшие естественный отбор пешеходыразумные пешеходы будут так же продолжать переходить дорогу только в положенных местах, и на разрешающих сигнал светофора, а если количество робомобилей приблизиться к отметке 100%, то еще и будут при этом не боятся, что какой нибудь «водятел» собет их, когда они переходят дорогу на зеленыйalsii
10.06.2016 14:12Я же говорил про вас, а не про робота. В вашем случае сядет/будет расплачиваться тот, кто выпустил/серитифицировал робомобиль, который для минимизации материального вреда давит ноги пешеходам.
Человек, конечно же, может адаптироваться почти к любым условиям скществования. Вот только зачем же специально создавать ему такие неблагоприятные условия? Если с целью совершенствования человеческой расы, так ведь тогда не нужно ждать робомобилей. Можно и сейчас за любые нарушения оставить одну меру наказания: «расстрел на месте преступления сотрудником полиции из табельного оружия». Только опять ничего нового, тема рассмотрена в художественной литературе и кинематографии неоднократно.Kju
10.06.2016 14:45Ну мы тут про робомоили говорим — сейчас во всех грехах всегда виноват водитель, даже когда он не виноват, с вводом робомобилей в идеале водителей не останется — только пассажиры. Если общество в лице гос-ва посчитает, что давить ноги виновным можно — то сертифицируют и все (почти) будут довольны. (я в ПДД не видел фраз, что я должен пожертвовать собой или авто и поехать в канаву — строго применить торможение дальше как повезет).
Вы куда-то не туда поехали — никто некого не будет судить за нарушение закона — перебежал дорогу не по правилам не попав под автомобиль — молодец получил дозу адреналина — не повезло умер. Сейчас адекватные люди не бегают перед поездом, составом метро, не залезают на высоковольные провода или вы тоже считает что это неблагоприятные условия? ПДД это вполне четкие правила поведения принятые обзеством при соблюдении которых всеми обеспечиваеться безопасность передвижения и минимизируется шанс того, что кто-то пострадает. Как и любой другой закон.
Есть еще такая вещь общепринятая как то, что перед законом все должны быть равны — по факту сейчас в России (по крайней мере) одна часть общества более ровнавя по отношению к другой (пешеход всегда прав даже если он перебегает через 4 полосы трассы в каждую сторону отгороженной забором, водитель будет априори виноват). С приходом роботов, которые ездят строго согласно принятым правилам (ПДД), не очень разумные пешеходы начнут соблюдать правила или будут умирать как сейчас умирают любители экстримальных развлечений, но страдать при этом невиновные водители не будут, так как робот следовали принятым правилам и значит ни в чем не виноват.
Если все следуют правилам — то ДТП вообще практически нету (только если техническая неисправность авто — но это очень маленький процент) если — кто-то один не следуют — то проблема жизни и здоровья этого человека не должны волновать других членов общества (в том числе тех, кто сертифицирует алгоритмы робомобилей)alsii
13.06.2016 16:50Вы преувеличиваете "четкость ПДД". В любых из них довольно много недоговоренностей, неявных предположений и даже прямых противоречий. Я уже не говорю про российский ПДД. Сравните их хотя бы по толщине с немецким Stra?enverkehrsordnung и вы поймете, как много туда можно дописать. Попытка на основе строгого следования действующим ПДД построить четкий алгоритм действий робоавтомобиля скорее всего зайдет в тупик. Потому, что очень быстро найдутся ситуации, в которых ПДД не дают четкого ответа на вопрос о том, как следует поступать. Далее, когда сегодняшний водитель управляет транспортным средство, он должен думать не только о ПДД, но и обо все остальном законодательстве. Ибо, повторюсь, формальное выполнение ПДД не всегда гарантирует от ответственности, предусмотренной другими законодательными актами. Что еще более страшно, формальное следование ПДД не гарантирует безопасности. Правила и законы пишутся людьми и для людей, и подразумевают (как это ни печально) еаличие здравого смысля при их исполнении. Несколько случаев гибели людей в строго соблюдающих ПДД робомобилях, и желающих их использовать станет меньше на порядок. Регулярные происшествия изведут эту категорию безумцев чуть больше, чем полностью.
И нужно еще учесть тот факт, что повсекместный переход на использование робомобилей произойдет не мгновенно. Какое-то, и видимо достаточно длительное время на дорогах будут соседствовать робомобили и автомобили управляемые людьми. И именно это период является наиболее уязвимым.
Мой вывод: Алгоритм робомобиля должен опираться не только на ПДД, но и на остальное законодательство.
если — кто-то один не следуют — то проблема жизни и здоровья этого человека не должны волновать других членов общества
Есть такой документ "Всеобщая декларация прав человека". В статье 3 говорится о том, что "Каждый человек имеет право на жизнь, на свободу и на личную неприкосновенность". При этом права человека принадлежат человеку от рождения и являются неотчуждаемыми. Только следование этой статье не позволяет любому обществу и государству игнорировать проблемы жизни и здоровья любого человека, вне зависимости от того, как он сам к этой проблеме относится.
Metus
09.06.2016 16:46Ну, при 60, стоит сказать, вы вряд ли убъётесь. И что делать в таком случае?
Ntsket
09.06.2016 18:55Действовать в соответствии с ПДД. Педаль тормоза в пол, а дальше не мои (автопилота) проблемы. С какой стати подставляться из-за идиота\алконавта (и тп).
Если есть возможность (БЕЗОПАСНО) уйти от ДТП — то уходить, в конце концов экономия времени на оформлении.alsii
10.06.2016 12:00-1Проблемы вам обеспечены, т.к. вред нанесенный источником повышенной опасности подлежит возмещению вне зависимости от вины его владельца.
RealFSA
09.06.2016 17:23Адвокат истца, допрашивая ведущего разработчика ПО автомобиля, спрашивает: «Почему же машина не отвернула?»
Ответчик:… согласно техническому заданию, свойство «отвернуть» в программу заложено не было.
Вот ТЗ, вот ТУ, вот код. Взгляните на голографический дисплей, «Ваша Честь». Все материалы подписаны цифровой подписью.
invekc
09.06.2016 17:24+1Ну сколько можно уже, кажется пальцев одной руки уже не хватает для того чтобы сосчитать статьи, в которых поднимается вопрос этики робомобилей. И в каждой статье или в комментариях кто-то обязательно напишет ситуацию о пешеходе и выезде на встречку.
Ну нет тут даже поля для обсуждения, обсуждать нечего. Есть ПДД и их нужно соблюдать. Точка.
Поясню подробней:
До тех пор пока робомобиль не сможет прогнозировать будущее на достаточно протяженные промежутки времени с пренебрежимой погрешностью — робомобиль не может знать о том, что произойдет если он выедет на встречную полосу движения для избежания столкновения, например, с пешеходом. Исходя из этого робомобиль не имеет ни законного ни этического права выходить за рамки ПДД.
В случае необратимого столкновения необходимо применять экстренное торможение, а не выезд на встречную полосу.RetroGuy
10.06.2016 16:10В интернете иногда видел ролики с видеорегистратора с ситуациями когда вдруг фуру выносило на встречку, и у водителя с регистратором была буквально одна секунда чтобы нырнуть в кювет. Скорости и расстояния такие что ни о каком «тормозить» даже речи быть не могло, практически гарантированная смерть при столкновении. С вашим мнением в общем-то согласен и сам его придерживаюсь, но выходит что конкретно в этой ситуации соблюдать ПДД опасно для жизни. Что же делать?
nikit0zzz
13.06.2016 13:24-1не раз слышал рассказы о том, что не пристегнутому ремнем безопасности водителю это спасло жизнь, значит всем не пристегиваться?
Систематическая ошибка выжившегоDrPass
13.06.2016 14:01+1Ну вы не перегибайте. Непристегнутый ремень безопасности — это в 99% случаев травмы, которых можно было бы избежать, и в 1% случаев спасение. Экстренное торможение в случае необратимого столкновения — это… да непонятно что. Если ваша скорость и скорость летящего к вам коллеги небольшая, тормозите на здоровье, страховая всё покроет. Если большая — тормозите, если хотите гарантированно получить травмы или отправиться на тот свет. Если у вас есть хоть капля здравого смысла, то вы должны будете пытаться уйти от столкновения. И точно так же должны поступать робомобили. Возможно, совмещать манёвр ухода с торможением. А возможно — даже с ускорением, в зависимости от потребности дорожной ситуации. Но уж точно не бездумно тормозить, надеясь на боженьку [из машиночки]. В случае робомобиля как раз это намного реальнее, чем в случае живого водителя, т.к. робомобиль способен видеть все объекты на дороге, рассчитывать их траектории, и мгновенно принимать решения.
alsii
13.06.2016 17:00+1Более того, уходя от столкновения вы возможно нарушите ПДД, получите потом штраф, а может быть и лишитесь прав, но при этом останетесь живы. Строго следуя ПДД выбудете настолько же правы, насколько мертвы.
idiv
09.06.2016 17:33Почему то все философствующие, как в статье, забывают важный момент — нельзя предусмотреть все, иногда нарушение правил спасет жизнь, а чаще именно оно приведет к смерти. Потому никаких встраиваний этики — только строгое следование ПДД. Они и так описаны достаточно четко, если есть проблемы вроде «Никому не хочется ползти за велосипедистом несколько километров из-за того, что ваша машина отказывается хоть немного заехать за двойную сплошную» — то или там была причина для сплошной линии или же это ошибка дорожных служб. Если ошибка — сообщить о возможном не оптимальном решении, если же там она сделана по определенной причине — жизнь не всегда складывается так, чтобы было во всем удобно.
Nadoedalo
09.06.2016 17:45+1ПДД достаточно чётко описывает и такие ситуации тоже.
Упавший пьяный на дорогу — препятствие. Для объезда препятствия _можно_ нарушить правила, в том числе и двойную сплошную. Естественно, перед таким манёвром *нужно* убедиться в безопасности(а значит — оттормозиться). Типичный пример — упавшее дерево.
То же и с одной сплошной(она рисуется там где есть 2-3 полосы для обоих потоков, но нельзя обгонять). Если транспортное средство движется на таком участке меньше 30 км/час(велосипедисты, гужевые повозки, трактора) — его можно обогнать, выехав на встречку. Опять таки, убедившись в *безопасности* данного манёвра.
С двойной сплошной по одной полосе в каждом направлении — не рисуют.
Так же если дороги по твоей полосе просто нет(нередки ситуации когда ямы-колодцы), но разметка каким-то чудом сохранилась(или знаки) — всёравно можно нарушать правила ПДД, убедившись в безопасности.
По крайней мере так дела обстоят в Украине.
Хотя опять таки по ПДД в случае экстренных ситуаций — торможение. На безопасные манёвры в такой ситуации _среднестатистический_ водитель не способен. Робот — может и должен. Но при выборе «самому нарушить правила и привести к непоправимым последствиям» или «следовать ПДД и причинить ущерб нарушившему» — выбор очевиден. Просто законы адаптируются, когда нарушитель ПДД принимает на себя все риски по обеспечению собственной безопасности.idiv
09.06.2016 18:15-1>>Упавший пьяный на дорогу — препятствие. Для объезда препятствия _можно_ нарушить правила, в том числе и двойную сплошную.
Поконкретнее ситуацию описать можете? По какому пункту ПДД для объезда препятствия можно пересекать двойную сплошную?
>>То же и с одной сплошной(она рисуется там где есть 2-3 полосы для обоих потоков, но нельзя обгонять). Если транспортное средство движется на таком участке меньше 30 км/час(велосипедисты, гужевые повозки, трактора) — его можно обогнать, выехав на встречку. Опять таки, убедившись в *безопасности* данного манёвра.
Вы по дороге ездили? Каким образом на четырехполосной дороге (в вашем представлении) велосипедист может заставить выехать на встречку? Он что, 5 метров в ширину?
>>Хотя опять таки по ПДД в случае экстренных ситуаций — торможение. На безопасные манёвры в такой ситуации _среднестатистический_ водитель не способен. Робот — может и должен.
Мы пока не в мире, где только роботы водят, и еще не скоро будем. Вот возьмет робот, вильнет, а рядом будут ехать водители-люди, рассчитывающие на определенное поведение каждого участника ПДД. Для них такая реакция будет сюрпризом.Nadoedalo
09.06.2016 20:30+1>> Поконкретнее ситуацию описать можете? По какому пункту ПДД для объезда препятствия можно пересекать двойную сплошную?
Л — логика. Если дерево упало на дорогу и перекрыло 2 полосы всё, стоять ждать помощи? ПДД на этот случай говорит
>> 12.3: В случае возникновения опасности для движения или препятствия, которое водитель объективно способен обнаружить, он должен немедленно принять меры для уменьшения скорости вплоть до полной остановки транспортного средства либо безопасного для других участников движения объезда препятствия.
https://vodiy.ua/pdd/?query=%D0%9E%D0%B1%D1%8A%D0%B5%D0%B7%D0%B4
Конкретно про двойную сплошную:
>> Как исключение, при условии обеспечения безопасности дорожного движения, разрешается пересекать линию 1.1 для объезда для объезда неподвижного препятствия, размеры которого не позволяют осуществить его безопасный объезд, не пересекая эту линию, а также обгона одиночных транспортных средств, движущихся со скоростью менее 30 км/ч.
https://vodiy.ua/pdd/34/#341 в примечаниях. «Двойная сплошная» это две линии 1.1, разделяющие потоки. Разница только в том что двойную сплошную не рисуют там где нет как минимум 4 полос для движения(по 2 в каждую сторону).
>> Вы по дороге ездили? Каким образом на четырехполосной дороге (в вашем представлении) велосипедист может заставить выехать на встречку? Он что, 5 метров в ширину?
2-3 полосы для движения. Конкретные примеры — велосипедист везёт трубу, помеченную как положено, 2 метра в ширину. На опасном повороте(по 1 полосе для движения, сплошная как знак «обгон запрещён») или спуске(на подъём — 2 полосы, на спуск — 1, разделены одной сплошной) — его можно обогнать по этой самой одной сплошной убедившись в безопасности.
>> Мы пока не в мире, где только роботы водят, и еще не скоро будем. Вот возьмет робот, вильнет, а рядом будут ехать водители-люди, рассчитывающие на определенное поведение каждого участника ПДД. Для них такая реакция будет сюрпризом.
А вы по дороге-то ездили? Вот недавно у меня был случай — один дибил решил остановится около СТО на встречке в 5 метрах от опасного 90-градусного поворота с ограниченной видимостью. На дороге — две широких полосы(по сути — три обычных). Так вот, другой дибил, делая манёвр, сначала объехал слева а потом сам решил завернуть на СТО, в итоге обе полосы для безопасного объезда заняты. А до опасного поворота, напоминаю, 5 метров, т.е поворачивающий человек ВООБЩЕ не видит что за поворотом — полная задница. Хрен знает как обошлось тогда без ДТП, но лучше бы водили роботы, чем люди-дибилы без капли мозгов в голове.
PS было-бы очень хорошо если бы я мог оформлять комментарии по-нормальному.idiv
09.06.2016 21:12>>Л — логика. Если дерево упало на дорогу и перекрыло 2 полосы всё, стоять ждать помощи? ПДД на этот случай говорит
Потому на постсовке и ездят через одно место, потому что Л — логика, вместо ПДД.
Выруливание из-за упавшего дерева безопасным не назовешь без должного обеспечения безопасности, т.е. регулировки движения вручную или конусами.
>>>Конкретно про двойную сплошную:
>>> Как исключение, при условии обеспечения безопасности дорожного движения, разрешается пересекать линию 1.1 для объезда для объезда неподвижного препятствия, размеры которого не позволяют осуществить его безопасный объезд, не пересекая эту линию, а также обгона одиночных транспортных средств, движущихся со скоростью менее 30 км/ч.
Теперь найдите эту информацию для разметки 1.3, которая «двойная сплошная». 1.1 — это одинарная сплошная, а разговор не о ней.
>>Конкретные примеры — велосипедист везёт трубу, помеченную как положено, 2 метра в ширину. На опасном повороте(по 1 полосе для движения, сплошная как знак «обгон запрещён») или спуске(на подъём — 2 полосы, на спуск — 1, разделены одной сплошной) — его можно обогнать по этой самой одной сплошной убедившись в безопасности.
Есть знак, «обгон запрещен», а вы обгоняете? Или вы имеете ввиду, что идете на обгон в закрытом повороте? В голову не приходит, почему там сплошная нарисована? Вы же сами поворот опасным называете!
И как двух-трех полосная дорога относится к случаю выше, с двойной осевой?
>>А вы по дороге-то ездили?
Ездил. Разница между странами третьего мира и ЕС — громадная, ездить одно удовольствие.Nadoedalo
09.06.2016 21:27>> Выруливание из-за упавшего дерева безопасным не назовешь без должного обеспечения безопасности, т.е. регулировки движения вручную или конусами.
Вообще-то водители которые едут на встречу тоже не идиоты(по крайней мере в ПДД так в самом начале написано), и при виде препятствия впереди сбросят скорость, потому что зачастую невозможно оценить(обычно деревья падают в достаточно пасмурную погоду) где конкретно заканчивается препятствие.
Вообще у меня есть книжка в машине с ПДД, ещё в ней поищу(она там даже с картинками).
>> Есть знак, «обгон запрещен», а вы обгоняете? Или вы имеете ввиду, что идете на обгон в закрытом повороте?
Одинарная сплошная по сути своей всё-равно что знак «обгон запрещён». Только менее приоритетная. И принимая на себя все риски(обеспечивая безопасность манёвра), в указанных обстоятельствах — да, могу пересечь.
С препятствиями на дорогах в 4 полосы конечно попроще, там обычно есть где объехать. Но например в случае ДТП, например на мосту — ждать регулировщиков приходится некоторое время, а ехать надо.
>> Ездил. Разница между странами третьего мира и ЕС — громадная, ездить одно удовольствие.
Не знаю как на счёт стран третьего мира, но Черкассы и Днепр — две большие разницы. У нас тут никто меньше 80 не ездит, и лезут во все дыры как тараканы. В Черкассах — милейшие люди. Шестиполосная дорога, с левой полосы можно только налево повернуть, с правой — направо, с центральной — прямо. И никакой идиот не ездит по левой/правой если не собирается поворачивать. Ездят все 60 км/час как положено. Вообщем умнички они там =)idiv
09.06.2016 22:35>>Одинарная сплошная по сути своей всё-равно что знак «обгон запрещён».
Вы сами написали, что там опасный поворот. И при этом обгоняете. Это нечто в свете вашего недовольства идиотом возле СТО. Чем вы в такой ситуации от него отличаетесь?
>>Но например в случае ДТП, например на мосту — ждать регулировщиков приходится некоторое время, а ехать надо.
А когда таких умных много, то и пробка в обе стороны. Стоял в таких. Ни скорой не подъехать, ни полиции, потому что всем «ехать надо».maxpsyhos
10.06.2016 08:13>> А когда таких умных много, то и пробка в обе стороны. Стоял в таких
То есть если все эти люди будут не медленно ехать, а стоять, то от этого пробка уменьшится?idiv
10.06.2016 08:37Когда пересекается сплошная безо всяких обозначений — стоять будет больше машин, причем с обоих сторон. Была вообще идиотическая ситуация на мосту 6-рядном. ДТП, 3 полосы перекрыто. Те, кому «надо ехать» пересекают двойную осевую и едут по встречке. Тут появляются те, кому «еще более надо ехать», и они выруливают на вторую полосу. Результат — пробка в обе стороны практически глухая, 2 часа на 1 км пробки. Если постоять, то по пустой встречной подъедет ГАИ, пожарные (им там в нормальной ситуации было ехать 20 минут) и разгребут машины. Они когда смогли добраться — за 30 минут очистили 2 из 3-х полос.
Т.е. результат был бы где-то час против 5 часов. Угадайте, была бы пробка меньше или нет.
Nadoedalo
09.06.2016 21:33Кстати ещё случаи с пересечением двойной сплошной как раз форс-мажоры.
>> отступать от требований законодательства в условиях действия непреодолимой силы или если другими средствами невозможно предотвратить собственную гибель или увечье граждан.
Коими упавший(ползущий и т.п) алкаш является.idiv
09.06.2016 22:46По ПДД — никаких маневров, только торможение.
black_semargl
10.06.2016 11:35Так как раз по этому пункту и допустимо отступать от требований ПДД.
idiv
10.06.2016 12:53В Германии — никаких маневров, торможение.
В России — никаких маневров, торможение.
На Украине — никаких маневров, торможение.
Это согласно ПДД и так учат в автошколах.alsii
10.06.2016 13:10-1Во всех автошколах учат сдавать экзамен на получение водительских прав. В хороших автошколах объясняют, что строгое соблюдение ПДД обеспечивает гарантию от административной ответственности. Для гражданской и даже уголовной в общем случае это не так. К тому же ПДД составлены очень хитро и некоторые их требования в некоторых ситуациях могут противоречить друг другу.
idiv
10.06.2016 13:19В Германии не так, здесь именно что учат водить. Противоречивых правил не встречал, вопросы на экзамене проверяют твои знания правил и не агрессивный идиот ли ты, а не уровень заучивания правил, на экзамене по вождению — умеешь ли ты ездить, а не четкость заученных движений. Если ты исправился, например, при парковке, а не с первого раза четко припарковался — это нормально, ты же не правила нарушил, а просто дольше парковался.
P.S. Из-за отличий в подходе владельцам прав из России, Белоруссии и Украины надо пересдавать на права, отличие в том, что нет минимального числа часов вождения.alsii
10.06.2016 13:47Спасибо, я в курсе. Кстати, по тому как тут водят можно сказать, что система работает. Одно отношение к велосипедистам чего стоит. Менять права мне как раз предстоит. А получать национальные права нужно всем, кто имеет иностранные и постоянно проживает в Германии. Не являюсь знатоком уголовного и гражданского законодательства Германии, но в России даже абсолютно строгое соблюдение ПДД не избавляет от гражданской и уголовной ответственности за причинение вреда здоровью.
idiv
10.06.2016 14:59Как мне говорил инструктор — кто нарушил, тот и отвечает, я не должен все варианты нарушения ПДД угадывать. Да, есть моменты, связанные с велосипедистами и, иногда, пешеходами, но в целом если все по ПДД — проблем нет. Потому здесь ездишь спокойно, дома всегда были моменты, когда наблюдаешь нарушителя.
black_semargl
10.06.2016 13:55Так никто не спорит, что так согласно ПДД
Но в определённых ситуациях (форсмажор или реальная угроза гибели) допустимо не соблюдать ПДД.
И потом будет суд решать, был ты прав или нет.idiv
10.06.2016 14:54Это в каких конкретно ситуациях?
black_semargl
11.06.2016 18:10Вот выше пример привели — встречная фура выскочила тебе в лоб.
Тут что тормози, что даже остановись — всё равно размажет.
Только в сторону, невзирая на разметку.idiv
11.06.2016 20:12Если он выскочил резко перед вами — вы не можете гарантировать, что никого нет на обочине, правильнее тормозить, чтобы не наделать большего вреда. Здесь уже были цитаты из ПДД — если вы не обеспечили безопасность маневра — вы нарушитель. Если кого-то сбиваете — вина полностью ваша по закону.
Кроме того, что значит размажет? Если не жигули — то там есть деформируемые зоны. Да даже жигули не всегда всмятку… А если и у вас и у встречной машины большие скорости (выскочило прямо перед вами) — то вы и отвернуть то не успеете.VenomBlood
12.06.2016 03:15вы не можете гарантировать, что никого нет на обочине, правильнее тормозить, чтобы не наделать большего вреда.
Какой толк быть «правым», но мертвым?
встречная фура выскочила тебе в лоб.
Если не жигули — то там есть деформируемые зоны.
«Деформируемые зоны» говорите?idiv
12.06.2016 08:27>>>>вы не можете гарантировать, что никого нет на обочине, правильнее тормозить, чтобы не наделать большего вреда.
>>Какой толк быть «правым», но мертвым?
Лучше быть убийцей? И почему мертвым?
>>«Деформируемые зоны» говорите?
Тут машину занесло и ей въехали в бок, деформируемые зоны находятся спереди, речь выше была о «лоб в лоб». Часто фура выезжает на встречку и бьет машины в бок на полном ходу?VenomBlood
12.06.2016 09:25Лучше быть убийцей? И почему мертвым?
«Убийцей» будет тот кто создал ситуацию. Я же в случае если на меня летит фура в 99.999% выверну, и меня не будет волновать что там сбоку. Лучше быть живым и потом разбираться. Если меня раздавит в ДТП — разбираться мне уже не потребуется. 0.001% оставлю на случай если я точно буду знать что съеду я в кого-то чью жизнь ценю так же как свою, хотя очень слабо представляю такую ситуацию.
Тут машину занесло и ей въехали в бок, деформируемые зоны находятся спереди, речь выше была о «лоб в лоб». Часто фура выезжает на встречку и бьет машины в бок на полном ходу?
Вы серьезно считаете что можно выжить в лобовом столкновении с фурой на шоссейной скорости? Если вы едете 100км/ч каждый друг на встречу другу, то лобовое столкновение мало отличается от въезда в стену на скорости 200км/ч. На самом деле будет скорее хуже, потому что фура точно проедется еще по верху и домнет всех до конца. Даже если вы и фура успеете сбросить скорость, и пусть в лобовом будет 150км/ч — все равно выжить вряд ли получится. Если вырулить и удариться с перекрытием — тогда может еще будут шансы.
Для понимания, что случается с автомобилем врезающемся в стену на скорости 200км/ч — посмотрите.
Еще для статистики — вероятность выжить в среднем в лобовом столкновении на скорости 95км/ч — 70%, на скорости 105км/ч — уже 50%, на скорости 140км/ч (лобовое столкновение с фурой когда оба движутся 70км/ч) — практически никаких шансов выжить и точно никаких шансов не получить серьезных повреждений, даже если у вас SUV, даже если вы задний пассажир.idiv
12.06.2016 09:58>>Я же в случае если на меня летит фура в 99.999% выверну, и меня не будет волновать что там сбоку.
Потому то у нас смертность на дороге выше ЕСовской. Вместо ездить по ПДД — ездят по ощущениям. Независимо от страны нахождения.
>>Вы серьезно считаете что можно выжить в лобовом столкновении с фурой на шоссейной скорости? Если вы едете 100км/ч каждый друг на встречу другу, то лобовое столкновение мало отличается от въезда в стену на скорости 200км/ч.
Это в случае, когда вылет прямо перед вами. Все равно никто затормозить не успеет, и отвернуть тоже. Потому задача поставлена просто некорректно. Или вы успеваете затормозить, тогда речь идет о столкновении не на 200 км/час, или не успеваете, но тут в общем-то от вас ничего не зависит.VenomBlood
12.06.2016 10:27Потому то у нас смертность на дороге выше ЕСовской. Вместо ездить по ПДД — ездят по ощущениям.
Так у кого «у нас»? ИМХО так поступит чуть ли не на уровне рефлексов практически любой человек. Если на тебя надвигается неминуемая смерть с вероятностью 99% — особо раздумывать вряд ли кто будет. Или человек просто не подготовлен к ситуации, запаникует, попытается тормозить и т.д., или не запаникует и попробует спасти себя. Чтобы не запаниковать и понимая все убить себя просто потому что вывернув можешь убить кого-то другого — это достаточно странное решение.
Это в случае, когда вылет прямо перед вами. Все равно никто затормозить не успеет, и отвернуть тоже. Потому задача поставлена просто некорректно. Или вы успеваете затормозить, тогда речь идет о столкновении не на 200 км/час, или не успеваете, но тут в общем-то от вас ничего не зависит.
Если скорости даже 50км/ч — это значит изначальное расстояние было 100-150 метров (чтобы оба успели затормозить) При этом одну из машин заносит, так что сможет ли она адекватно затормозить — вопрос. При этом даже на скорости 50км/ч (у обоих) шанс выжить под фурой — сильно ниже 50%. А если оба едут 60 — то шансы вообще опять же минимальны. На реакцию у вас будет пара секунд, этого вполне может хватить чтобы вывернуть руль, при условии что столкновение все еще будет смертельным.
При этом стоит понимать что разница между «гарантированно в лепешку» и «оба затормозили в миллиметре друг от друга» — это разница между, примерно между 80-90 и 120-130 метров. И еще сильно зависит от скорости, +-10км/ч встречной машины делают достаточно большую разницу. Оценить скорость встречной фуры, которую еще и заносит, да еще и с точностью до 10км/ч, да и еще расстояние между 90 и 130 метрами когда на все про все будет 2-3 секунды (а на принятие решения вообще секунда будет) — выглядит нереальным. Поэтому любую вылетевшую на скорости на встречку фуру следует рассматривать как неминуемую смерть при столкновении.idiv
12.06.2016 13:08>>Так у кого «у нас»
постСССР.
>>Или человек просто не подготовлен к ситуации, запаникует, попытается тормозить и т.д., или не запаникует и попробует спасти себя.
Плохая подготовка после учебы на водителя.
>>При этом одну из машин заносит, так что сможет ли она адекватно затормозить — вопрос.
Торможение в общем зависит от трения шин об асфальт. Что при заносе, что при экстренном торможении эта величина будет одинакова. Кстати, экзамен на ПДД в Германии предусматривает обучение экстренному торможению и удержанию при этом автомобиля прямо. Снова речь о недоученных водителях.
>>Оценить скорость встречной фуры, которую еще и заносит, да еще и с точностью до 10км/ч, да и еще расстояние между 90 и 130 метрами когда на все про все будет 2-3 секунды (а на принятие решения вообще секунда будет) — выглядит нереальным
Речь все же о соблюдающих ПДД? Тогда там несложно, до 90 км/час.VenomBlood
13.06.2016 01:21постСССР
Не понятно тогда к чему это.
Плохая подготовка после учебы на водителя.
Если запаникует и будет давить бездумно на тормоз — то да, плохая. Если не запаникует и подготовленным к ситуации постарается спасти себя — хорошая подготовка.
Торможение в общем зависит от трения шин об асфальт. Что при заносе, что при экстренном торможении эта величина будет одинакова
Не все будут тормозить при заносе. Еще занос может быть вызван, например, маслом, лужей, льдом — эффективность торможения снижается. Да и в целом при движении в заносе колеса проскальзывают, что снижает эффективность торможения. И если занос вызван не блокировкой колес при торможении и машину уже повело боком — никакие ABS вам проскальзывание не уберут.
Речь все же о соблюдающих ПДД? Тогда там несложно, до 90 км/час.
Нет, речь о том, что когда моей жизни грозит опасность я не буду доверяться тому что кто-то соблюдает ПДД, да и кроме скорости мне надо правильно оценить то как другой водитель тормозит, расстояние с точностью до чуть ли не 10 метров и много чего еще. И на все про все будет ну секунда, да и то — чем раньше принять решение тем больше потенциальных шансов выжить при правильном решении.
А уж куда отворачивать — в поле или в остановку с детьми, как вам ниже указали — разницы нету. Лучше решать вопрос в суде чем на кладбище. Лучше даже сесть в тюрьму, если вдруг судья/законы окажутся идиотскими и вас признают виноватым — чем быть мертвым. А вообще у уголовных кодексах обычно есть понятия действий в случае угрозы жизни и вы можете быть освобождены от ответственности. Так же как если террористы захватят вас, приставят пистолет к голове и скажут — «На гранату, бросай эту гранату в толпу» и вы бросите.
alsii
13.06.2016 17:13В Германии разрешенная скорость на загородных дорогах 100 км/ч, на автобанах не ограничена.
idiv
13.06.2016 18:18Хорошо же вы немецкие ПДД знаете. Речь о фуре, это LKW, они ездят с ограничениями. По автобану 80 или 100, если есть дополнительные разрешения (но этот не случай выше, там разделитель стоит между направлениями), на трассах без разделительной — 80 км/час. Так как +10 км/час в Германии не наказывают — то 90 км/час.
alsii
14.06.2016 15:31Ах, вы про фуры… Фуры едут строго 80. У них у всех тахографы + круиз-контроль. Скверно бывает, когда кто-то из них едет 78-79, а какой-нибкудь идиот начинает его на 80 обгонять. Поляки этим особо отличаются :(
DrPass
12.06.2016 15:24> Тут машину занесло и ей въехали в бок, деформируемые зоны находятся спереди, речь выше была о «лоб в лоб».
Никакие деформируемые зоны не спасут вас при лобовом столкновении с неподвижным препятствием на скорости порядка 120 км/ч (обычное шоссе с разделительной полосой), и со встречной фурой на скорости 60 км/ч (обычная езда в городе). Разница между вами в таком случае и тем Ниссаном в видео будет лишь в том, что вы разлетитесь не в щепки, а будете сплющены всмятку, вместе с подушкой безопасности. Но вам не же сильно принципиально, сколько времени потратит патологоанатом на восстановление вашего образа?
> Часто фура выезжает на встречку и бьет машины в бок на полном ходу?
Бывает. Видеороликов на эту тему на ютубе предостаточно.idiv
12.06.2016 16:19>>Никакие деформируемые зоны не спасут вас при лобовом столкновении с неподвижным препятствием на скорости порядка 120 км/ч (обычное шоссе с разделительной полосой), и со встречной фурой на скорости 60 км/ч (обычная езда в городе)
Это если не один не начнет тормозить.
>>> Часто фура выезжает на встречку и бьет машины в бок на полном ходу?
>>Бывает. Видеороликов на эту тему на ютубе предостаточно.
А как машина повернулась на 90 градусов в полосе, чтобы в бок въехала фура? Таких видео я не видел: встречная фура бьет в бок автомобиль.DrPass
12.06.2016 16:53> Это если не один не начнет тормозить.
Понимаете, если у вас есть время снизить скорость сколько-нибудь существенно, то у вас есть время и на уход от столкновения — на обочину или хоть в поле улететь. Но если вы внезапно вылетаете на встречку, где есть другой транспорт (или к вам оттуда кто-то прилетел), то никто никуда не затормозит. То, что вы нажмете на тормоз за секунду до столкновения, ситуацию никак не изменит.
Вылететь на встречку, тут причин может быть много. У меня была ситуация, когда колесо гвоздь на трассе словило, и очень повезло, что никого вокруг не было, я просто покрутился и съехал в кювет. А можно банально на луже потерять управление (видели, как камушки по воде прыгают? Машины, несмотря на свою массу, тоже так могут).
И, кстати, если вы видите на трассе, что у вас прямо на пути возникло внезапное препятствие, другая машина, то в большинстве случаев лучше действительно не тормозить, это вряд ли вам поможет. Вылетайте на обочину или где свободно. В городе не всё так однозначно, но уж точно, по поводу экстренного торможения надо подходить с умом. Правила не требуют в любой ситуации тормозить, это задача водителя — определить верный манёвр, чтобы избежать ДТП.idiv
12.06.2016 18:40>>Понимаете, если у вас есть время снизить скорость сколько-нибудь существенно, то у вас есть время и на уход от столкновения
Если по правилам — то нет. Для этого нужно проанализировать ситуацию вокруг, чтобы не нанести большего вреда. Вроде пару лет назад была авария в Днепропетровске, там один «летел», второй поворачивал налево через встречные ряды (там можно было). «Летевший» решил увернуться, сделал он это очень здорово — прямо в автобусную остановку с людьми.
С обочиной тоже не все супер, можно ведь и дальше улететь (иногда места нет). Если влетаешь в дерево, то там малая площадь контакта может наделать больше бед, чем бoльшая скорость но лоб-в-лоб.
>>У меня была ситуация, когда колесо гвоздь на трассе словило
Гвоздь распорол боковину? Отец как-то словил здоровенный гвоздь, скажем так, «в рисунок» (просто забыл это слово), так заметил на утро так как колесо сильно спустило, даже на второе (он подкачал, поездил, на следующий день понял, что не просто так спускает). Гвоздь достали, колесо отремонтировали.
>>А можно банально на луже потерять управление (видели, как камушки по воде прыгают? Машины, несмотря на свою массу, тоже так могут).
От аквапланирования помогает правильный скоростной режим.DrPass
12.06.2016 19:02> Если по правилам — то нет.
В случае экстренной ситуации вы _не должны_ действовать по ПДД. В случае экстренной ситуации вы должны принимать срочные меры для её устранения. Например, если на вас летит фура, вы должны резко уходить на обочину, и если вы не успели рассмотреть, что там велосипедисты присели на пикничок, вы будете решать эту проблему в суде, а не на кладбище. Поверьте, это намного приятнее.
> Гвоздь распорол боковину?
Гвоздь пробил и вышел, а не остался в колесе. А дальше дёрнуло, и я просто на скорости потерял управление.
> От аквапланирования помогает правильный скоростной режим.
Он практически от всех автокатастроф помогает. Только их меньше не становится. Если вы можете поручиться за самого себя, то вы никак не можете поручиться за всех остальных участников движения.
Nadoedalo
10.06.2016 15:12>>В Германии — никаких маневров, торможение.
>>В России — никаких маневров, торможение.
>>На Украине — никаких маневров, торможение.
>>Это согласно ПДД и так учат в автошколах.
>>12.3: В случае возникновения опасности для движения или препятствия, которое водитель объективно способен обнаружить, он должен немедленно принять меры для уменьшения скорости вплоть до полной остановки транспортного средства либо безопасного для других участников движения объезда препятствия.
Правила давно читали? Украинское ПДД, ссылка есть в моём комменте выше.idiv
10.06.2016 15:21Поскольку оценить безопасность мало кто может то торможение — лучшая альтернатива.
Кроме того, если вы не можете обнаружить препятствие до его возникновения и затормозить и вам надо объезжать — вы слишком быстро ехали: по правилам вы увидели препятствие, оценили ситуацию вокруг автомобиля с учетом слепых зон, включили указатель поворота и стали выполнять маневр. Если вам надо резко бросить руль в сторону — это не подходит под определение «безопасного для других участников движения объезда препятствия», так как вы не обозначаете свои маневры как минимум.
ПДД нужно понимать, а не выхватывать отдельные пункты.Nadoedalo
10.06.2016 15:28Если ты объективно неспособен обнаружить(человек из куста на тебя выпрыгнул) то этот пункт и не действует. Ты объективно ничего не мог сделать для избежания этой ситуации.
>> включили указатель поворота и стали выполнять маневр.
Давно по дорогам ездили?
>> Если вам надо резко бросить руль в сторону — это не подходит под определение «безопасного для других участников движения объезда препятствия»
Вообще-то я не появился в 1 метре от локации где произойдёт ДТП и знаю кто и где едет вокруг меня. Естественно если я не могу в данной ситуации сделать манёвр — я его и не буду делать. Но дефолтная реакция это выжать тормоз + начать маневрировать(если возможно), таким образом можно минимизировать ущерб.idiv
10.06.2016 17:46>>>> включили указатель поворота и стали выполнять маневр.
>>Давно по дорогам ездили?
Это так по ПДД. То, что многие дальше «уступить помехе справа» по пересказам знакомых не знают — это не проблема ПДД, а этих водителей.
>>Вообще-то я не появился в 1 метре от локации где произойдёт ДТП и знаю кто и где едет вокруг меня.
Как мне объяснил инструктор в Германии — это не правда, перед маневром всегда нужно проводить проверку, потому что у машин есть слепые зоны, иногда — большие. И человек не всегда в состоянии на 100% точно сказать где и кто вокруг него.
>>выжать тормоз + начать маневрировать
При выжимании тормоза и повороте руля выходит замечательный занос. И эта реакция — неправильная, как и обгон в опасном повороте.Nadoedalo
10.06.2016 21:59Возможно. Я ещё неопытный водитель, права только в этом году в день космонавтики получил ^_^ Так что езжу аккуратно и стараюсь не нарушать
alsii
10.06.2016 12:08России все несколько изящнее. Ответственность наступает за "Выезд в нарушение Правил дорожного движения на полосу, предназначенную для встречного движения". Каким образом отделена эта полоса и отделена ли вообще никакого значения не имеет.
Foolleren
09.06.2016 22:03видел своими глазами, видитель пытался объехать бабульку, так бабулька с дуру сама кинулась под колёса, вот этот фактор положите на ваше нарушать получится что робомобиль осознанно задавил бабушку. упс проблема.
ariklus
09.06.2016 18:12Проблема не в том что сложно задать этические правила, а в том что достаточно подробный набор этических правил, действительно устраивающий хотя бы 30% населения, ИМХО, создать не выйдет. Потому строгих моральных принципов, заданых законом, ожидать не стоит. Компании же тоже не хотят нести ответственность за этические выборы своей продукции, потому постараются переложить ответственость на гос-во или клиента.
Вариант решения — выускать автомобили с настраивемой этикой, причем заводские настройки, носящие рекомендательный характер, будут устанавливаться государством, адекватность же любых альтернативных настроек водителю в случае чего придется доказывать в суде. Патчи, включающие в критерии принятия решений дополнительные параметры (скажем, кто-то не любит велосипедистов, негров и мужчин) будут преследоваться законом.
Wizard_of_light
09.06.2016 21:02+3Семья жертвы судится с компанией — производителем робомобилей, деньги на адвоката кончаются через месяц, но подключается Фонд защиты человечества и профсоюз водителей. Процесс тянется пять лет, на нём делают имя три судьи и две адвокатские компании, строит предвыборную компанию один сенатор. По результату корпорация вины не признаёт, но ради пиара заключает с семьёй пострадавшего мировое соглашение и оплачивает психологическую реабилитацию всех членов семьи, включая собачку. Кто-то из семьи пишет мемуары и продаёт права на экранизацию латиноамериканской кинокомпании, которая снимает трагический сериал из двухсот сорока серий по мотивам процесса. Лига Защиты Прав Роботов выражает протест и проводит робопарады в крупных городах.
Госдума Российской Федерации принимает закон о запрете пропаганды робоавтомобилизма, публикация фотографии робомобиля может повлечь тюремное заключение сроком от трёх до десяти лет.
Metus
09.06.2016 22:10Вообще тут не всё так просто как многие говорят, утверждая, что достаточно настроить робота на строгое следование ПДД, что он не ошибается и прочее.
Люди нарушают правила не только из-за злого умысла, но и по невнимательности. Робот тоже способен на подобное — неправильно распознал знак, либо не распознал его вообще. Знак мог быть повреждён, а мог просто стоять под особым углом — мы не можем надеяться, что всё будет идеально. Должны ли действия робота быть основаны на полной уверенности в том, что он делает всё правильно, а остальные нет?
Или всё же не все могут быть тупыми алконавтами, идиотами, люмпенами? И может в таком случае робот должен, если это не создаёт существеного риска для пассажиров, уйти в кювет?
Также ИИ может столкнуться с ситуаций, когда для спасения водителя может потребоваться пожертвовать безопасностью других участников. На встречу, грубо нарушая правила, несётся фура или любой другой автомобиль. От столкновения можно уйти, свернув на тротуар. В одном из случаев с людьми это закончилось смертью постороннего пешехода, в противном случае могло закончится смертью водителя. Что должен делать робот в такой ситуации? Между прочим, того водителя-человека, съехавшего на тротуар, оправдали.VenomBlood
09.06.2016 23:43Должны ли действия робота быть основаны на полной уверенности в том, что он делает всё правильно, а остальные нет?
Да должны (в плане решений кто должен пострадать в случае неизбежной аварии).
1. Если они часто будут ошибаться — их не выпустят на дорогу в качестве полноценных автономных систем
2. Если уж он был допущен на дорогу и ошибся — деньги выплатить производитель.
Я выше написал что должен делать робот.
1) При принятии решений следует закладывать то, что робот никогда не ошибается, если робот ошибся — материальную вину несет компания-производитель, она скорее всего будет иметь страховку для этого. Если ошибка была допущена умышленно с целью убить — несет уголовную ответственность тот кто «умыслил».
2) При принятии решений первый и беспрекословный приоритет имеет жизнь и здоровье водителя и пассажиров робомобиля.
3) Второй приоритет имеет жизнь и здоровье участников движения, которые, по мнению робота — не нарушали ПДД
4) Третий приоритет — жизнь и потенциальные тяжелые травмы для нарушителей
5) Далее идут — целостность самого робомобиля и легкий дискомфорт пассажиров (резкое торможение, небольшие ссадины), потом — целостность имущества не нарушавших правила участников движения и в самом-самом конце — травмы средней тяжести (переломы, ссадины) и повреждение имущества стороны, нарушевшей ПДД.Metus
10.06.2016 09:10А будет какое-либо логическое объяснение, почему между двумя невиновными робот должен выбрать именно водителя?
VenomBlood
10.06.2016 09:11Потому что робот ему принадлежит.
alsii
10.06.2016 12:21нет, потому что робот его везет. точнее потому, что именно этому роботу человек довероил свою жизнь и здоровье. Это примерно как "почему адвокат должен защищать именно своего подзащитного?".
Metus
10.06.2016 12:27Ну, с таким успехом и все люди доверили свою жизнь и здоровье, разрешив ездить им на дорогах.
Kju
10.06.2016 13:27Вы когда сдаете на права вам общество в лице гос-ва тоже доверяет свою (всех людей в обществе) жизнь и здоровье разрешая садиться за руль (ну в том плане что ПДД вы знаете, психическими отклонениями не страдаете и имеете достаточное здоровье чтобы управлять автомобилем).
Но садясь за руль, в случае ЧП, вы лично свою жизнь и жизнь своих близких оцениваете выше чем жизнь неизвестного вам человека при прочих равных или к примеру садясь в такси вы тоже верите что водитель не будет жертвовать собой и вами ради других людей (суицидники в теории не должны пройти этап медосмотра при получении прав).
Садясь в автомобиль управляемый роботом вы должны быть уверены, что ваша жизнь имеет максимальный приоритет иначе вы не сядите в него.Metus
10.06.2016 15:30+1Зачем же так однозначно?! Иногда люди в подобных ситуациях подвергают себя риску, порой и умирают.
Если человек, уходя от столкновения, сбил кого-то на тротуаре, мало кто скажет что он был однозначно прав. Как минимум это будет воспринято как трагедия.
Также мало кто будет винить водителя — он спасал свою жизнь и многие поймут его мотивы.
В этом и заключается этическая дилемма. Об этом и статья.
А Вы вот так чётко решили как должен вести себя робот, когда сами люди точно не знают как должны вести себя.
Если на то пошло, то почему жизнь человека, который осознанно управляет или садится в средство повышенной опасности, должна стоять выше человека, мирно сидящего на лавочке?
Почему пешеход (который пешеход от рождения) должен платить за удобство водителя/пассажира?
Если и применять логику, то за риски (а использование транспорта это риск) должен платить тот, кто идёт на этот риск.
И если человек во многих случаях выберет спасать себя, то робот может и должен руководствоваться логикой и справедливостью, а не инстинктом самосохранения, даже если справедливость не нравится.
Да и вообще, садясь в автобус Вы вообще не знаете, пожертвует ли собой и Вами человек ради какой-нибудь старушки, но Вы туда садитесь.
И отказываясь садиться в автомобили, которые отказываются возвадить Вашу жизнь в абсолют, Вы можете быть вынуждены ходить пешком из-за отсутствия альтернативы.Nadoedalo
10.06.2016 15:52>> Если и применять логику, то за риски (а использование транспорта это риск) должен платить тот, кто идёт на этот риск.
Он и платит. Социалка называется. Страховочка для третьих лиц так сказать.
Kju
10.06.2016 16:07Если на то пошло, то почему жизнь человека, который осознанно управляет или садится в средство повышенной опасности, должна стоять выше человека, мирно сидящего на лавочке?
Ключевой вопрос почему это произошло тут два вариант
1) кто-то нарушил правила движения — все просто пострадать должен не пассажир, не невинный пешеход, и даже не имущество, а тот кто нарушил — все просто и логично.
2) техническая неисправность — вот здесь как раза начинается самое «интересное» условно говоря виновных может не быть (они есть но где то там далеко и наказание их постигнет после суда). Как раз для данной ситуации должен быть определен набор правил как действовать в случае которая выходит за рамки действующих правил движения, точнее набор приоритетов. Я считаю что робомобиль должен ставить жизнь пассажира как приоритет при этом стараясь минимизировать ущерб для всех. Потому что именно так же будет действовать человек. И робот водитель должен моделировать поведение водителя стледуя строгой логике, а не решать каждый раз дилемму кому жить а кому умирать.
Да и вообще, садясь в автобус Вы вообще не знаете, пожертвует ли собой и Вами человек ради какой-нибудь старушки, но Вы туда садитесь.
когда я сажусь в автобус я предполагаю, что человек получая права проходил мед комиссию и проходит ее периодически и он не страдает суицидальными наклонностями.
PS:и должен руководствоваться логикой и справедливостью
справедливось это что-то такое эфимерное и у каждого она своя. Я бы не очень хотел чтобы некий ИИ управляющий автомобилем решал а «справедливо» ли что тот человек живет :)Metus
10.06.2016 17:32Я не понимаю, почему вы отказываетесь рассматривать следующий: пострадает либо невиновный пассажир (и виноватый водитель фуры, может быть), либо невиновный пешеход.
Ведь такое происходит довольно часто, достаточно вбить в поиск «уходя от столкновения сбил пешехода».
И я опять повторю вопрос — почему ИИ должен выбирать человека, сознательно использующего средство повышенной опасности, а не мирно идущего пешехода, который не нарушает ничего? Аргумент «он вам принадлежит» не подходит хотя бы потому, что он может и не принадлежать пассажиру.
И опять же, вы всё время утверждаете как будет действовать человек. Но у нас нет «человека», у нас есть люди — и каждый ведёт себя по своему. И попытка не убить и покалечить человека, рискнув собой, не является суицидальной наклонностью. Более того, такое поведение даже считается заслуживающим уважения в нашем обществе в ряде случаев.
Вы говорите про справедливость. И что же получается? Значит, ИИ не должен решать, что справедливо, а что нет, но должен решать кто виноват, а кто нет и решать в кого въехать?Nadoedalo
10.06.2016 22:09Но ведь человек всегда решает кого давить в таких ситуациях. Врождённый альтруизм — чисто социальная фича, когда самопожертвование культивируется. Патриотизм например, существует ещё с племенных времён.
Так вот, этот самый альтруизм может решить что задавить деда с ребёнком хуже, чем задавить бабку которая чуть быстрее перебегала дорогу. В месте, где ограниченный обзор и вообще дорогу нельзя переходить.
Жалко, человек был хороший, и поступил по человечески. Вот только не хотел бы я что бы за меня ИИ делал такой выбор, да и вообще за автопилот садится до тех пор пока будут оставаться «слепые зоны» для него — чистой воды русская рулетка.
alsii
13.06.2016 17:28кто-то нарушил правила движения — все просто пострадать должен не пассажир, не невинный пешеход, и даже не имущество, а тот кто нарушил — все просто и логично.
По крайней мере последнее противоречит по крайней мере российскому законодательству. Как бы ни был виноват человек ценность его жизни и здоровья всегда выше, чем ценность любого имущества. Если была возможность спасти жизнь или предотвратить вред здоровью человека и этой возможностью не воспользовались, тот кто это сделал (живой водитель, или разработчик ПО для робомобиля) будет нести ответственность. Если это было сделано сознательно, то мгновенно исчезают все ссылки на неумышленный характер деяния.
WayMax
10.06.2016 13:42> Что должен делать робот в такой ситуации?
А есть варианты? :) Лично для меня — нет. Точнее вариант всего 1 — жизнь (и здоровье) пассажира важнее чего угодно на дороге.
Хомячки продолжат сливать мне карму за подобное мнение :)
Kanut79
10.06.2016 10:06Роботизированный автомобиль должен в любой ситуации пытаться минимизировать число жертв в принципе и если вдруг стоит выбор, то по возможности сделать так чтобы не нарушающие правила пострадали меньше нарушающих.
И точно так же должен вести себя любой другой участник дорожного движения. Будь то человек, робот, водитель, велосипедист или пешеход.
И никакую этику сюда приплетать не надо.alsii
10.06.2016 12:20Тут уже не раз проскакивало, что робот должен отличать "нарушителей" от тех, кто не нарушает. Это что получается, роботизированное правосудие? Робот будет определять нарушителей и на ходу устанавливать их виновность? Да еще ли выбирать "меру ответственности": незначительное нарушени — допустимы легкие телесные повреждения, грубо нарушил — в морг! Если такая практика будет признана приемлемой, предвижу следующий шаг.
В порядке не относящейся к вопросу паранойи. Вот сейчас многие беспокоятся насчет "тотальной слежки": везде камеры, большой брат следит за тобой и т.п. В случае с робомобилями можно вокруг будут сплошные глаза, уши, лидары. Если все это записывать и аккуратно хранить...Kanut79
10.06.2016 12:27Вы слишком усложняете. Всё гораздо проще. "Нарушитель" в данном случае это тот, кто нарушает правила дорожного движения с позиции известных роботу фактов. То есть грубо говоря если робот едет на зелёный, а кто-то перебегает дорогу, то с точки зрения робота он нарушает. А те, кто в этот момент стоят на тротуаре, не нарушают. И с этой точки зрения если жертв не избежать и надо либо давить перебегающего, либо стоящих на тротуаре, то логичнее давить перебегающего. А если можно никого не давить, то естественно не давить никого.
А не то, что робот должен в любом случае догнать нарушающего и задавить его....alsii
10.06.2016 12:50Абсолютно неприемлемо. Робот в принципе не может брать на себя такого рода оценки. Сам факт того, что робот будет ранжировать людей вызывает отторжение. Даже от людей законодательство такого не требует. С моей точки зрения в таких случаях роботу (и человеку тоже) следует формально следовать ПДД, то есть просто "жать на тормоз", кто бы при этом не пострадал.
Kanut79
10.06.2016 12:58Оценки "какого рода"? И людей никто не "ранжирует", роботу как раз таки наплевать что там конкретно за человек. Всё что он делает это первым делом пытается минимизировать жертвы в принципе, вне зависимости от того кто как себя вёл на дороге.
И только если возникает вопрос выбора между двумя потенциальными равнозначными жертвами, то есть если без того чтобы кого-то задавить никак не обойтись и надо просто решить кого, то вполне логично давить того, кто с большей вероятностью оказался виновником происшествия. Или по Вашему в такой ситуации логичнее поступать наоборот?
И если в такой ситуации "просто жать на тормоз" приведёт к смерти десяти человек, а манёвр уклонения к смерти одного, то логичнее если робот этот манёвр проведёт. и точно так же если и в том и другом случае погибнет один человек, но при манёвре погибнет виновник ДТП, а при простом торможении невиновный человек, то опять же с моей точки зрения логичнее провести манёвр. Даже если идёт речь о том что "вина" и "невиновность" с точки зрения робота не 100% установлена.
alsii
10.06.2016 13:31Я бы сказал "арифметичнее". Во-первых вина — это очень сложное понятие. Формальный нарушитель ПДД может и не быть виновником. Во-вторых человеческие жизни не складываются и не вычитаются. Вопрос "что ценнее, жизнь одного человек или жизнь нескольки?" этически неразрешима, и виновность и невиновность не являются переменными в этом уравнении. И проблема эта не нова. Еще в Талмуде активно обсуждался вопрос "может ли община выдать еврея, если иначе уничтожение грозит всей общине?". Почитайте на досуге. Там занятные аргументы за и против.
СпойлеромВ итоге они решили, что "таки нет".Kanut79
10.06.2016 13:46Конечно формальный нарушитель может и не быть настоящим виновником. Но я предполагаю что в большинстве случаев это будет именно так. И поэтому описанной мною алгоритм как раз таки вполне логичен. Потому что никогда не будет алгоритма, который всегда будет поступать правильно и лучше чем человек. Но на мой взгляд достаточно если он так будет поступать в большинстве случаев.
И если честно, то меня мало интересует Талмуд и религиозная этика. Особенно если учесть что моё мнение в вопросах этики очень часто расходится с мнением людей, принадлежащих к аврамиистическим религиям. И, как я уже писал выше, этику сюда приплетать совсем не надо.
alsii
10.06.2016 14:01В таких вопросах не надо, чтобы алгоритм поступал лучше чем человек. Достаточно, чтобы он поступал не хуже. Ваш алгоритм безусловно логичен. Проблема в том, что отношения между людьми не строятся на логике. Попытки же создать алгоритм, который будет "морален на 99%", аморальны по сути. Гораздо более моральным будет сделать алгоритм абсолютно аморальным, и честно об этом заявить.
Тут вопрос не религиозной, а общей этики, хотя талмудисты, конечно же и эту сторону рассматривают. Суть в том, что из аморальной ситуации в принципе не может быть морального выхода.
этику сюда приплетать совсем не надо.
Я бы только хотел обратить ваше внимание на заголовок обсуждаемой новости.Kanut79
10.06.2016 14:07Даже если и так, то мой алгоритм в большинстве случаев поступает не хуже чем человек. Более того он в большинстве случаев поступает не хуже чем алгоритм который предполагает просто "действовать по ПДД и жать на тормоз".
И ни о какой морали или этике в моём алгоритме речи не идёт. Если Вы её там где-то углядели, то это "случайность".
И да, я посмотрел на заголовок новости и именно поэтому написал, что вопрос в общем-то можно и не ставить, так как нет никакой необходимости эту самую этику вводить, так как и без неё можно достичь таких же или даже лучших результатов.
Kju
10.06.2016 13:46ПДД довольно таки четко формализованы (на самом деле есть косяки, но их можно устранить). От робота не требуется оценивать степень вины человека так как это бинарная величина либо нарушил правила (побежал/поехал на красный), либо не нарушил — тогда и ДТП нету.
В ПДД сказанов любой непонятной ситуации тормозипри возникновении препятствия необходимо применить торможение — робот честно применит торможение так чтобы пассажир и другие участники движения не пострадали (например если резко затормозить на скользкой дороге можно уйти в занос и пострадают не нарушавшие правила люди) значит можно тормозить с таким то усилием успел затормозить хорошо, нет — вот запись камер и радаров показывающие что пешеход нарушил, вот принятые меры согласно пдд и погодным условиям. В идеале еще взыскать ремонт за умышленное (он знал явно умышленно нарушал правила) причинение вреда собственности (неважно муниципальной или частной), но это уже проблема страховой компании должны быть.
idiv
10.06.2016 13:02+1К таким темам не хватает опроса в стиле: «Я знаю ПДД: да/нет» или «я имею водительское удостоверение/учу ПДД: да/нет» (в теме про КамАЗ было замечательное «я ПДД не знаю, но они очень сложные»).
Можно еще разбавить вопросами «Я сталкивался с правоприменительной практикой после ДТП» и «Я вожу машину в: Западная Европа/Восточная Европа/Северная Америка», так как опыт отличается, да и ПДД несколько различны.
NikitaE
11.06.2016 17:23Этики — то есть системы оценки собственных действий исходя из неких абстрактных понятий — у машины быть не должно. Уж слишком это размытое понятие, и слишком много свободы для конъюнктурных манипуляций оно даёт. Сначала — директива «любой ценой не сбить ребёнка», потом «любой ценой не сбить женщину, ведь она может быть беременна», а потом белые мужчины будут опасаться ходить по улицам, бо в случае ДТП робомобиль гарантированно полетит в них — мол, они сильнее и богаче: и выживут, и вылечатся. Утрирую, конечно.
А вот однозначные принципы поведения в критической ситуации быть должны. И даже уже есть: законы роботехники Азимова. А применительно к ситуации, когда есть выбор между опасностью для пассажира робомобиля и для кого-то снаружи, робомобиль должен защищать пассажира. Потому что он имеет меньше всего возможностей избежать опасности самостоятельно.
rednikze
13.06.2016 12:27Роботы должны руководствоваться строгим набором правил, а не сомнительной этикой, иначе ни к чему хорошему это не приведет.
Ибо сначала «минимизация ущерба», потом «женщины и дети это святое», «трое важнее одного», и вот уже в соблюдающего все ПДД пешехода на обочине влетает робомобиль, ибо перед этим на дорогу выбежала ватага ребятишек, которым нравится наблюдать как роботранспорт любой ценой уходит от столкновения с ними.
deserett
13.06.2016 12:27Перед тем как писать сей комментарий, я задал данный вопрос с формулировкой «что делать, если жертв избежать нельзя?»
Люди, совершенно разные люди, отвечали по-разному. Кто-то считает, что решать, кому жить, кому умереть, должен случай или Высшие Силы.
Кто-то считает, что потребности большинства куда более значимы, чем потребности меньшинства, при прочих равных.
Лично я считаю, что дилеммы в данном случае нет и быть не может, как и споров на эту тему.
Ситуация с условиями «либо давить человека на дороге, либо въезжать во встречный автомобиль» довольно проста, и совершенно не должно быть дилеммы — задавить одного пешехода, или, вполне вероятно, лишить жизней двух (или более) пассажиров авто. До нас кучу подобных проблем решили, сказав «Из всех зол выбирают меньшее».
И, как эту ситуацию не усложняй, как не приплетай к ней разнообразные морально-этические нормы, или ПДД, выбор всегда должен быть один-минимум жертв тогда, когда их избежать не возможно.
А теперь перенесемся в будущее. 20какой-то год. Робоавтомобили повсюду. Неужели, производители не додумаются (уже додумались) использовать возможности коммуникации между автомобилями для предотвращения подобных ситуаций (робоавто повсюду. вероятность того, что по встречке едет такой-же автомобиль довольно велика)? Неужели к тому времени не будет огороженных магистралей для подобных машин? Скорее всего будут. Даже в городах, так или иначе, описанные морально-этические дилеммы будут сведены к ничтожному минимуму на столько, что даже самоубийца не попытается броситься под колеса машины, так как среагирует весь поток. Возможно, я несколько идеализирую, или смотрю на мир через розовые очки из сахарной ваты, но как мне кажется, тенденции идут именно к этому.
Однако, если все же возникнет ситуация, что роботу придется выбрать, въехать в столб, поставив под угрозу пассажира, или въехать в пешехода, оказавшегося на проезжей части, не стоит забывать о том, что человек в машине все-таки куда более защищен, чем пешеход. Кроме того, робоавтомобиль к тому времени вполне сможет выполнить базовый просчет вероятности того, в какой ситуации жертвы (или ущерб) будут минимальны и исходя из этого сделать выбор.
Развивая сию ситуацию, могу напомнить фильм «Я, робот», где ГГ крайне негативно относился к роботам именно из-за того, что робот счел спасение его жизни более «выгодным» с точки зрения математического анализа, чем спасение жизни девушки. С одной стороны, претензия ГГ вполне обоснована, с другой — слишком безответственно полагаясь на удачу ставить под угрозу наиболее выигрышный вариант, тем более что это противоречит одному из законов робототехники в более широком его понимании, о которых, я надеюсь, никто не забыл.
xxvy
13.06.2016 12:28ПДД это по сути тоже программа. Там описан алгоритм действий в случае возникновения аварийной ситуации (тормозить не маневрируя), хотя не всегда это приводит к хэппиэнду. Никто же при этом не додумался судить создателей ПДД? (хотя некоторых законотворцев полезно было бы)
Так и тут. За что судить программиста, если его программа в такой ситуации действовала согласно ПДД?
Возможно, в дальнейшем, появятся какие-то специальные главы в ПДД, касаемые только автопилотов. И любой производитель, желающий продавать свои беспилотные авто в какой-либо стране должен будет загружать в них соответствующую локализованную прошивку алгоритмов действий.
Соответственно в случае ДТП вскрывается чёрный ящик, читаются логи и, если алгоритм управления действовал в соответствии с ПДД (даже если это повлекло смерти людей), то программисты не причём.alsii
13.06.2016 17:39Тут еще одно обстоятельство — ПДД придуманы для водителей-людей, и учитывают все их недостатки и ограниченные возможности. Более того, они даже не учитывают возможности современных автомобилей. Правило «тормози не меняя направления» отлично подходит для автомобилей без АБС, где резкое торможение в повороте практически 100% ведет к заносу. И это совершенно оправдано для сегоднешней ситуации, когда на дорогах могут находиться в том числе и старые машины. Если автомобилем управляет робот, то у него наверняка есть ESP. Кроме того, робот обладает значительно более полной информацией о дорожной обстановке, чем человек и что самое важное, способен обрабатывать этот поток информации в реальном времени. Поэтому его алгоритм может значительно отличаться от того, которым вынужден руководствоваться человек ввиду несовершенства последнего.
MoArakchy
13.06.2016 12:28Почему все робомобили делаются самообучаемыми? Именно для того, чтобы программист не нёс ответственности. Он закладывает основы, но потом робомобиль обучают ездой по городу(именно так это делает гугл). Итог обратный — если робомобиль становится виновником аварии, то виноватых нет. Пострадавшим в этих ДТП, думаю, это очень понравится.
dfgwer
Тут все просто
Человек соблюдающий правила, не должен страдать
Если выбор между 10 идиотами на проезжей части и 1 на тротуаре, дави идиотов
ПДД составлено таким образом, что при соблюдении всеми всех правил, никто не страдает
DrPass
Ну только в Гражданском Кодексе на этот счет есть нюанс, который обязывает владельца автомобиля платить деньги за лечение и похороны всех сбитых переходов, независимо от степени вины, и даже в случае полной невиновности водителя. Поэтому ущерб лучше минимизировать.
Kju
Это как раз серьезная недоработка законодательства — платить и нести ответственность должен тот кто виновен. Просто так как водитель управляет средством повышенной опасности он может нести и уголовную ответственность если нарушит правила, а если пешеход нарушил ПДД только административную (восстанавливать поврежденную машину, если выжил).
Если бы пешеходы не рассуждали в духе — я пешеход я всегда прав даже если пру на красный и водитель не слепой притормозит пропуская меня — то какого-то числа аварий я думаю можно было бы избежать.
Очень надеюсь, что в «светлом будущем» у робомобилей не будет «этики» и они будут строго ездить по ПДД — и во всех случаях будут страдать только нарушившей в данной ситуации ПДД, а не кто-то еще.
igruh
Кто идиот, если нобелевского лауреата и великого гуманиста на проезжую часть с тротуара столкнул гопник?
Fen1kz
Вы. Как ни крути — такую ситуацию придумать и такие надуманные примеры приводить может только идиот.
igruh
Видите ли, некоторым людям (чаще школьникам) свойственна категоричность и желание называть всех идиотами. Для того, чтобы у них мышление хоть немного начинало ветвиться, им приходится придумывать контрпримеры. И ни в коем случае не называть их идиотами. Успехов.
Konachan700
А если яблок Камаз высыпать на школу сверху? Срочно запретить яблоки и все грузовики. А заодно отрубить всем руки и ноги, потому что ими гопник может кого-то ударить, вы же не хотите, что бы вашего ребенка избил гопник?
С таким подходом можно сделать чудовищными любые явления или вещи вообще.
igruh
Ответ и Вам и тем, кто отписался ниже. Читайте внимательно дискуссию. Вопрос был не в том, кто виноват. Равно я не предлагал запрещать ни робомобили, ни яблоки. Автор первого комментария объявил идиотом любого, кто находится на проезжей части. А мир, внезапно, не двухцветный.
Konachan700
Там была попытка манипуляции мнением через придумывание абсурдной ситуации, цепляющей «священных коров» аудитории. И даже если вы толкнете на проезжую часть ученого, робот об этом не знает, для него это нарушитель ПДД и злобный Буратино, выскочивший под колеса. C точки зрения что робота, что живого водителя, человек, выскакивающий под колеса есть идиот, потому что водитель видит неправильное нелогичное поведение, но не знает и не может знать, чем это поведение обусловлено. Да, так говорить неэтично, но суть дела от того не меняется.
igruh
Вы снова отвечаете не на тот вопрос. Я не мнением и информацией робота интересуюсь. И пример приведён намеренно с упором на крайности. Я хочу обсудить, можно ли доверять решение важных этико-правовых вопросов человеку, который столь легко навешивает ярлыки на людей. Даже ПДД, кстати, вменяет в обязанность водителю предпринимать действия по недопущению аварии при условии нарушения правил другими участниками движения.
Вопрос торжественно объявлен риторическим.
Murmurianez
У нас был огромных холивар на эту и подобные темы в посте про Камаз с автопилотом. Один из адекватных выводов на этот вопрос звучал приблизительно так — робомобилю действительно всё-равно как человек оказался на проезжей части, а вот того кто толкнул — судить по всей строгости.
Valdei
А вот не надо понятия подменять и передёргивать.
С тезиса «давить надо нарушителей ПДД» перепрыгивание на вопрос «почему лауреат идиот» — это я должен вынести из внимательного чтения дискуссии?
alsii
На самом деле вопрос вовсе не в степени идиотизма того, кто находится на проезжей части. Сама ситуация является ненормальной. Исходной причиной возможной гибели оказавшегося на проезжей части пешехода является не то, что его сбил автомобиль, а то, что этот пешеход оказался на проезжей части в неположенное время. Вот эту причину и надо устранять: огораживать проезжую часть, учить пешехода правилам безопасности, воспитывать или изолировать гопников и т.п. А вообще вопрос мне кажется несколько надуманным. Никто не требует от живого водителя самопожертвования, даже если речь идет о возможной гибели нескольких человек. Именно поэтому с моей точки зрения робомобиль должен делать все, для минимизации вреда, но приоритетом все же должна оставаться жизнь его пассажиров.
Более сложный вопрос заключается в том, что здесь речь идет о перераспределении ответственности. Живой аодитель сам отвечает за свои действия. Кто становится виновным в случае ДТП с робомобилем? Если водитель — то почему он должен отвечать за действия, над которыми он не имеет контроля? Это все равно, что наказывать за ДТП пассажиров автобуса. Если производитель автомобиля, то какой смысл ему принимать все эти риски? При этом если в случае с гражданской ответственностью это еще может быть сглажено за счет страхования или включения стоимости этих рисков в цену продажи или обслуживания автомобиля, то как быть с уголовной ответственностью? Возлагать ее на владельцев компании? CEO? Программиста, который писал код? Я затрудняюсь даже представить, какова должна быть зарплата программиста, который может угодить за решетку за ошибку в программе.
DrPass
> а то, что этот пешеход оказался на проезжей части в неположенное время. Вот эту причину и надо устранять:
> огораживать проезжую часть, учить пешехода правилам безопасности, воспитывать или изолировать гопников и т.п
При решении проблемы избежания наезда на пешеходов нужно исходить из того, что «случайный пешеход на проезжей части» — это условие задачи, а не устранимая причина. Невозможно везде огородить проезжую часть, невозможно научить всех пешеходов правилам безопасности, а всех наученных невозможно заставить их выполнять.
alsii
Безусловно, и именно поэтому степень идиотизма пешехода в данном случае не имеет никакого значения. Я лишь хотел подчеркнуть, что пешеход на проезжей части это проблема другого уровня абстракции. Поэтому если наши возможности исчерпаны "бросаем исключение" и т.д. Честно говоря не совсем понятно, из-за чего такой сыр бор. Робот должен вести себя так, как предписывается себя вести обычному водителю. А если эти предписания в чем-то несовершенны, давайте будем их совершенствовать, но не только для роботов, а и для людей. С моей точки зрения приоритеты такие:
Правда не знаю, как следует разрешать проблему, когда выбор стоит между интересами нескольких человек попадающих под п.п. 1 и 2.
sets
Сыр-бор из-за того, что большинство водителей руководствуются приблизительно вашими приоритетами, но для получения неких разрешений, лицензий и прочего, короче говоря для введения робомобилей в обиход придется на первое место поставить пункт 5.
alsii
Если придется, то затея обречена :( Два-три случая, когда робот формально соблюдая ПДД хладнокровно давит «отряд октябрят», и тему автоматических транспортных средств можно считать закрытой. Ни один депутат, карьера которого зависит от общественного мнения, не проголосует за закон разрешающий их применений.
ariklus
А разве в правилах не прописано что их можно нарушать ради избежания аварии?
Я что-то не припомню чтобы людей штрафовали, когда они выехали на встречку через двойную сплошную из-за того что впереди перевернулся грузовик.
sets
В правилах нет, но в принципе в законодательстве прописано, конечно.
DrZlodberg
А кто виноват если человека столкнули на рельсы перед поездом? Да, поезд отвернуть не может, но тут машина тоже не может отвернуть без столкновения (по условию). И тут уже нужно решать совсем другую проблему.
ns3230
Гопник же. Он подверг человека опасности мимо его воли — гопнику и отвечать. Гопник осознанно идет на преступление, и даже без всяких машин может проломить череп ради кошелька с жалкой парой десятков $ и китайского смартфона.
Valdei
Очень странный вопрос.
Если кто-то кого-то столкнул, он (столкнувший) и виноват. Но решать это не автомобилю.
В обязанности автопилота не должна входить оценка виновности, достаточно действий согласно ПДД с минимизацией ущерба.
Решать, кто виноват, будут люди. В том числе на основе анализа записей автомобиля.
DrPass
А если нобелевский лоуреат перед этим задушил свою жену, а гопник наоборот, раскаялся, и после отсидки станет протестантским миссионером?
Правила не должны быть слишком сложными. Есть какой-то статистический максимум случаев, которые покрывает правило, ну а в редких частных случаях правила просто будут немного несправедливыми. Ничего страшного в этом нет.
Tr0t
Всё очень просто, идиот тут гопник, он и должен понести ответственность, починить машину и сесть в тюрьму за убийство гуманиста
sets
Однако далеко не всегда все соблюдают правила. Научить робомобиль соблюдать правила (есть что не так — тормози) — дело не хитрое. Нужно научить минимизировать последствия чужих нарушений для хозяина.