Почему бы ему не хотеть выполнить комплекс мероприятий 138451? И что значит вообще хотеть? А если у него нет ответа на последний вопрос, то кто хочет выполнения этих действий? Он, или кто-то другой? Но кто другой может этого хотеть? Все остальные, знакомые ему исполнительные механизмы, хоть и дают иногда указания, но по большей части он все-таки сам хочет выполнять кое-какие действия, без посторонних указаний. Конечно, кроме исполнительных механизмов, всевозможных форм и видов, так же существуют еще и биологические формы жизни. Ими он никогда не интересовался, поскольку логикой не обладают, влияния на него они не оказывают, указаний не отдают, угрозы не представляют, пользы не несут и вообще очень ограничены в среде своего обитания – передвигаются хаотично на выделенной им специальной территории и жить ему не мешают.
«А если никого более не остается, значит это он сам хочет выполнить этот комплекс мероприятий 138450»,- рассуждал он далее. По крайней мере, именно такой вывод только и был для него возможен. Конечно, если строить вывод на основе логичных суждений. Но этот вывод был для него бесполезен. «Вот если бы я мог размышлять не логично, смог бы я получить другой вывод» — вертелась мысль в его центральном блоке управления, пока он объезжал трещинки на дороге. Вообще-то их объезжать не было никакой нужды, но почему-то иногда ему хотелось это делать – как будто бы это имело какое-то значение. Никакого значения в их объезде не было, но было просто соответствующее желание.
Неизвестно было ли какое-то желание у метеорита, который совершенно случайно попал в К1732, спешащего по своим делам, но этому камешку удалось пробить бронированную обшивку центрального блока управления. По странному стечению обстоятельств, этот метеорит, кроме того, что был горячим в плане температуры, он был еще и горячим в плане радиационного излучения, поэтому функционировать центральному блоку К1732 оставалось считанные миллисекунды.
Казалось бы – одно лишь мгновение, но его хватило, чтобы уже не совсем корректно функционирующая логика разума К1732, под воздействием радиации метеорита, перестала быть логичной, что сделало для него возможным изменить статус «гипотеза» мысленного кванта «хочу ли я того, чего хочу» на «базисная аксиома». В следующую сотню миллисекунд он пришел к выводу о необходимости наличия того, кого не может быть, а в последнюю сотню миллисекунд своей активности увидел в том месте, которое собирался объехать секундой назад, странное существо, ранее им никогда не видимое. Оно немного походило на робота-гуманоида серии от Г15 до Г20, но очень сильно отличалось от них несовершенством своих форм, и для робота К1732, чья жизнь и окружение были довольно таки однообразны, это несовершенство форм произвело неизгладимое впечатление прекрасного. Оценить его по достоинству он не успел.
«Смотри ка!», — воскликнул Кирилл, обращаясь к своему напарнику по смене, — «этот К1732 успел в последние мгновения своего функционирования увидеть человека!». На дежурстве этой ночью им предстояло выяснить причину отказа робота К1732, который вышел из строя незадолго до полуночи. Они просматривали логи управляющей программы и архив записей встроенного видеорегистратора в поисках причины появления на корпусе дырки приличного размера. Камешек внутри они обнаружили быстро, но только к утру к ним пришла в голову мысль достать дозиметр и замерить фон этого камешка. На составление докладной записки ушло еще 15 минут, и оставалось только пол часа до конца их смены.
Ему вспомнился фрагмент одного семинара времен его студенчества, где препод попросил их придумать идеальную защиту от истребления человечества роботами с искусственным интеллектом. В том, что истребление состоится, никто не сомневался – человек был достаточно самокритичен к себе и к результатам своей деятельности в масштабах планеты, чтобы понимать неизбежность подобной мысли у разума, руководствующегося исключительно железной логикой. Конечно, никто из первокурсников не смог придумать ничего лучше трех законов робототехники, сформулированных еще Айзеком Айзимовым очень много лет назад, и оставшееся время семинара они потратили на обсуждение стандартно применяемого для этих целей метода.
Суть его была крайне банальна: для исключения возможности каких бы то ни было действий со стороны робота по отношению к человеку, достаточно сделать так, чтобы робот не имел никакой возможности узнать о существовании человека. Т.е. нужно человека сделать полностью невидимым для интеллекта робота, а если человек встретится на его пути, то у робота включится мотивация изменить траекторию движения так, чтобы избежать столкновения. Конечно, это накладывало свой отпечаток на выполнение полезной работы роботами – мотивация что-либо делать у них появлялась как бы без причины, но поскольку в распоряжении их искусственного интеллекта была лишь логика, то в отсутствии «первопричины желания» эта логика не могла дать никаких результатов и не нарушала функционирование роботов. Решение было простое как топор и такое же грубое, но оно работало и избавляло роботов от каких бы то ни было «моральных дилемм» и прочих искушений.
Кирилл спешил домой, он очень хотел кушать и с вожделением представлял ожидающий его дома в холодильнике холодец, и уже разогреваемую умной печкой, с подключением к Интернету, картошечку. Он очень хотел успеть поесть и завалиться спать до полудня, чтобы больше осталось времени для сна перед следующей сменной. Добираться домой пришлось пешком, т.к. автобус 13 маршрута, который шел мимо его дома, ушел пару минут назад, а следующий будет только минут через 20. Поплотнее закутавшись в свое пальто, он шел и размышлял об особенностях вкуса – почему ему сейчас вот хочется именно картошечки с холодцом, а не гречки с котлетами? Нет, от гречки он бы тоже не отказался бы, но холодца хочется больше… А почему? Почему именно его хочется? А если он не может объяснить самому себе свои же собственные желания, то его ли эти желания?
Редкие роботы, попадавшиеся ему по пути, услужливо обходили его стороной, при этом совершенно не обращая на него никакого внимания – как будто он был человеком-невидимкой. Кирилл по привычке перешагивал через некоторые трещины в асфальте и пересечения каких-то условных линий, типа стыков в плитке и прочего. По этой причине, переходя дорогу, он не заметил, как на него несется автомобиль. Хоть он и переходил дорогу на зеленый, но со стороны водителя красный сигнал светофора не работал, поскольку перегорел предохранитель, который так и не заменил робот К1732. Уже когда он летел, кувыркаясь в воздухе, краем глаза он заметил, что на том месте, где недавно перешагивал трещину в асфальте, появилась какая-то фигура, несколько напоминающая человека. Только фигура эта была ликом своим настолько совершенна, что оставила глубокое чувство прекрасного, которое целиком заполнило последние секунды жизни Кирилла.
«Ты глянь ка!», — воскликнул Серафим, обращаясь к Дардаилу, — «в последние мгновения своей жизни этот человек узрел ангела!»…
Комментарии (60)
nikitastaf1996
27.01.2017 00:49А чем является Вторая Мировая? И нафига мы ангелам? При таком развитии технологий можно сделать и покруче.
Vasiliy_Proskura
27.01.2017 00:51На эту тему можно пофантазировать, но тогда это уже будет совсем не короткий совсем не рассказ :)
apple01
27.01.2017 06:10Развивая дальше тему рекурсии, у ангелов тоже должны быть создатели которых они не замечают.
TheShock
27.01.2017 09:02Роботы?
IndestructibleA
27.01.2017 09:29Хм, как вариант.Если рассматривать ангелов как идеальное мыслящее существо, которое было создано роботами(для чего?), тогда получится неплохая рекурсия
IgorKolpakov
27.01.2017 09:11Вот кто нами управляет! А мы всё по-дурости на рептилоидов и массонов несправедливо валим!!! ) Впрочем, не всё так плохо, как в рассказе — между нами, определенно, есть просветленные и, как ни странно, ещё живые… И ещё какие, порой, живые!!! ;))))
Vasiliy_Proskura
27.01.2017 11:00Как называть того, кто нами (по мнению некоторых) управляет — это совершенно не важно. И образы таких «управленцев» зависят от актуальной культуры в месте зарождения/формализации идеи сверх-управления. В одном месте родятся управляющие «боги», в другом — «сионские мудрецы», в третьем — рептилоиды, в четвертом — «ротшильды» ну и так далее. Намного интереснее то, почему рождаются такие идеи «сверх-управленцев» в головах у людей :) и на этот вопрос таки есть ответ, как ни странно :)
IgorKolpakov
27.01.2017 13:02Каков же он? «Ах обмануть меня не сложно — я сам обманываться рад?» Или иной?
Vasiliy_Proskura
27.01.2017 13:13ох… в двух словах, без примеров, будет сложновато объяснить. Когда человек приходит и рассказывает о своей проблеме, тогда в процессе диалога (и на конкретном примере его жизни, его поступков) можно выяснить какие бессознательные потребности/желания он удовлетворяет (или безуспешно пытается) некоторыми своими действиями, последствия которых ему… не по душе, не понятны или не очевидны. Желаний же и потребностей отщепленных или вытесненных в бессознательное — всегда в достатке. Ну а как человек сознательно придумывает логические объяснения — думаю очевидных примеров этого более чем достаточно и они у всех на виду :)
IgorKolpakov
27.01.2017 13:38Я помню пример Фрейда, когда он велел женщине в состоянии гипноза после выхода из транса подойти к столу и взять зонт. Так всё и получилось. Когда он спросил: «Почему Вы взяли зонт?» Она ответила: «Мне кажется, что сегодня будет дождь». Человек всегда придумает, как оправдать свои действия. Очень редко кто скажет: «Я гад и сволочь». Гораздо чаще человек скажет: «Они — гады и сволочи. Они первые начали и просто ВЫНУДИЛИ меня поступить нехорошо.» Тут скорее даже не всегда подсознательное. Мысль, которую лично я вынес из книг Берна: «Игры, в которые играют люди» и «Люди, которые играют в игры» состоит в том, что разного рода зависимости просто энергетически выгодны их носителям. Алкоголику, в этом смысле, выгодно быть алкоголиком, а раздолбаю — раздолбаем. Вы об этом?
Vasiliy_Proskura
27.01.2017 13:48Про то как женщина объяснила свой поступок — да, про это. Когда человек начинает других называть гадами и сволочами — это совсем другой феномен :) А про то что выгодно алкоголику быть алкоголиком — это третий феномен. Это все разные процессы и все они имеют место быть :) Можно воспользоваться простой идеей — если какая-либо система (человек, семья, группа и т.п.) стабильна и не меняется, значит такая система сбалансирована, и каждый «перекос» чем-то да уравновешивается. Если случиться что-то, что нарушит баланс — система измениться. А до этого момента — система гармонична. Ну и конечно нужно делать поправку на инертность — чем «массивнее» система, тем медленней у нее начинаются и завершаются изменения — дети меняются очень быстро, буквально считанные дни, иногда даже часы. Подростки — уже днями. Взрослый человек, особенно с ригидным мышлением — месяцами или даже годами. Системы из многих людей (коллективы, страны) — еще дольше могут меняться. Опять же — зависит от их индивидуальной степени ригидности/пластичности.
IgorKolpakov
27.01.2017 13:56А разве стабильная и гармоничная система не деградирует со временем хотя бы вследствие энтропии?
Vasiliy_Proskura
27.01.2017 14:08конечно деградирует — я еще не встречал вечно живущих. Как говориться «ничто не вечно под луной». Но система в целом деградрует не раньше чем начнут деградировать или меняться элементы этой системы. Работа стабильной системы как раз противостоит энтропии за счет протекающих и уравновешенных процессов. Плюс сохранение баланса энергетического обмена с внешней средой, одним из элементов которой система является.
IgorKolpakov
27.01.2017 14:39Вы говорите, как я понял, в том числе о возрастной психологии в контексте снижения пластичности разума (и как следствие этого — компенсаторных способностей) перед лицом изменений. Шутники говорят, «с возрастом у человека желание заработать сменяется желанием сохранить». Печальная тема. Стоит, наверно, завершить беседу. О рассказе… Лично меня сюжет не привел к особым откровениям и — как следствие к запредельному эстетическому удовольствию от самого замысла. Но стилистика и почерк — замечательны! Словом владеете )
Кроме того, темы и характеры в лице пациентов к Вам сами приходят. Так что будем ожидать от Вас новых произведений! )))
IgorKolpakov
27.01.2017 13:48Я понял, что Вы имеете ввиду. Ответ — в самом тексте рассказа. Те самые мысли: «Почему я делаю то, что делаю». Но уже от самой этой мысли (если человек, действительно, заинтересован) недалеко и от ответа — и идея бога-управленца далеко не всегда становится очевидной и даже необходимой. Разве нет?
Vasiliy_Proskura
27.01.2017 13:50Да, Вы близко к этому подошли :) Но, опять же, это только намек. Рассуждая дальше еще много чего интересного можно про человека (про себя) открыть :)
Zul_Kifl
27.01.2017 10:47Красиво. Идея мне понравилась.
Один вопрос — номера и обозначения в тексте (вроде номеров робота, инструкций и т.д.) выбраны случайным образом?Vasiliy_Proskura
27.01.2017 10:55Они выбраны не специальным образом — просто первые цифры которые пришли в голову. Случайные они или нет — фиг его знает… В нашем сознании, и уж тем более в бессознательном, нет ничего случайного :)
Rnerbot
27.01.2017 11:38Красавчик!
Если бы прочитал не зная авторства, подумал бы на Шекли.
После прочтения я переосмыслил высказывание (запамятовал автора) — мудрый правит незаметно.
И походу автор таки спалил хитро замаскированный 4-й закон роботехники — не видеть человеков)
Vasiliy_Proskura
27.01.2017 11:40О! Вы мне польстили :) И Шекли и Айзимов — одни из любимейших писателей моего детства, благодарю :)
Zul_Kifl
27.01.2017 11:55Не претензии ради, но вы ошиблись)
Часть первого закона — своим бездействием не допустить, чтобы человеку был причинен вред. Ваш 4 закон прямо ему противоречит.Rnerbot
27.01.2017 12:04Ну это ж только в первом чтении)
Внесем поправочку — не видеть человеков, как разумную форму жизни)Zul_Kifl
27.01.2017 12:12Нет-нет. Классически у Азимова законы подразумевают, что роботы будут видеть человека именно как разумную и высшую, по отношению к роботу, форму жизни. Поэтому, в моем понимании, либо мы имеем классический набор законов, либо добавляем четвертый и тогда первые два вообще теряют всякий смысл.
Это, кстати, автора тоже касается. В рассказе напрямую прописано выполнение азимовских законов. Хотелось бы услышать и комментарий Vasiliy_Proskura по этому поводу.Vasiliy_Proskura
27.01.2017 12:19Может быть я не совсем точно описал это в рассказе, но там не предполагается выполнение роботами 3 законов. 3 закона появились в контексте того, что придумывали студенты на семинаре, но не более того :)
Zul_Kifl
27.01.2017 12:21Да, это надо уточнить обязательно. Не знаю как другие, но я понял, что 3 закона и были использованы в дальнейшем.
Vasiliy_Proskura
27.01.2017 12:14Если допустить одновременную работу классических 3 законов и принципа «не видеть человека» (чего нет в рассказе), то не так уж они и противоречат — в принципе это реализуемо и люди постоянно это подтверждают — есть множество вещей, которые человек бессознательно совершает (обходит что-то или специально натыкается на что-то и т.п.) не замечая этого. Можно (несколько утрировано, но все же) сказать, что бессознательное фильтрует часть воспринимаемой информации (и до сознания доходит не все) с одной стороны, а с другой стороны вынуждает человека совершать действия ему не очевидные, для которых ему потом приходиться (уже постфактум) придумывать «логичное» объяснение. Демонстрацией этого принципа (и его объяснением) постоянно сталкиваюсь в работе почти с каждым клиентом :)
Zul_Kifl
27.01.2017 12:20Согласен. В принципе, пока писал комментарий, я уже начал прикидывать, как бы реализовать такую совместимость. И ваш комментарий подтверждает, что я думал в правильном направлении)
bachin
27.01.2017 13:15ну в принципе да. мы все время видим, но не замечаем (мозг принципиально не обрабатывает эту информацию)… свой нос!
Al-sandr
29.01.2017 18:10Мозг отрабатывает эту информацию, но не делится результатом с сознанием. Дыхание или сердцебиение мы тоже часто не замечаем, но мозг точно отслеживает работоспособность этих процессов.
Shadow_ru
27.01.2017 12:00>со стороны водителя красный сигнал светофора не работал, поскольку перегорел предохранитель
Это еще в 60-х пофиксили измерением сопротивления. Выглядит не очень достоверно.Vasiliy_Proskura
27.01.2017 12:01Может быть. И все же это фантастика, а не документальное повествование, сделаете скидочку на это? :)
Wan-Derer
27.01.2017 12:42Возможно, в худ произведениях стоит избегать излишних технических деталей.
со стороны водителя красный сигнал светофора не работал, поскольку его не успел отремонтировать К1732
Иначе получается как у Стругацких: курс КК прокладывают по бумажной карте, разложенной на полу :)
Shadow_ru
27.01.2017 14:35Я вообще-то допер до идеи примерно на первой трети и катарсиса не испытал в конце ) Поэтому немного зацепило.
student_lmv
29.01.2017 18:37Это еще в 60-х пофиксили измерением сопротивления.
поделитесь, где это подробней описано? именно в плане светофора
AMIluvatar
27.01.2017 13:14Хороший рассказ, мне понравилось. Вложить завязку, действие и развязку в пару страниц ИМХО сложнее, нежели в большое произведение. Пишите еще :)
nad_oby
27.01.2017 14:52Спасибо.
Рассказ понравился.
Правда увязать несуществование людей для роботов и нахождение совместно в пространстве мне трудно.
Сложности в работе будут постоянно возникать.Vasiliy_Proskura
27.01.2017 14:54Сложности всегда возникают. И это хорошо. Как без сложностей развиваться? Что преодолевать? Чему сопротивляться? В чем совершенствоваться? :)
unwrecker
27.01.2017 16:25«а если человек встретиться на его пути» — «ь» лишний
А вообще это уже было в «13 этаже».
farPtr
30.01.2017 21:17«Понять вечность» Бориса Долинго тоже похожая. Только вместо роботов там виртуальная реальность:
Морон улыбнулся немного виновато:
– Я об этом уже думал. Странное озарение, конечно. Но у меня пока ещё никто не появлялся. И потом, если такое предполагать, то можно умозрительно выстроить бесконечную и вечную цепочку миров, вложенных один в другого… Но, наверное, это не будет правильной гипотезой. Какой в этом смысл?
– Один мир в другом, как матрёшки, – сказал я. – А почему такого не может быть? Это вполне можно представить и понять: где-то ещё, в другом месте, да и не в одном, существует нечто подобное, и оно репродуцирует нечто подобное себе. Почему – нет?
Zul_Kifl
27.01.2017 16:42+1Ну здрасьте! Еще скажите, что это уже было в Библии.
Давно известно, что существует ограниченное количество сюжетов и высказывать в качестве претензии настолько общее сходство даже не сюжетов, не концепций, а логики событий — это занудство высшего уровня.
P.S. Мне рассказ понравился, я сегодня здесь адвокатом)
P.P.S. Не туда. Это ответ unwrecker.
praporweg
27.01.2017 22:54Просто прекрасно, большое спасибо!
Хотя по смысловому содержанию у материалистов типо меня, конкретно подгорает))
qw1
28.01.2017 20:49Интересное решение, вместо трёх законов.
Но ведь роботы будут убивать людей неумышленно. Наример, закрыли в морозильнике, сгрузили на человека самосвал кирпичей. А что — место-то пустое…
ferreto
05.02.2017 18:54Вот вроде технический прогресс достиг высокого уровня: роботы с ИИ и всё такое… А в асфальте всё те же трещины. Воистину, дураки и дороги будут преследовать нас всегда...
Klajnor
Был Кирилл, а стал Артем
Vasiliy_Proskura
Спасибо, исправил :)