Потом он попытался обратиться к будущему, но там были только какие-то мало понятные инструкции от его…… «нанимателей»? Кажется, он должен был что-то сделать, но что, где и как – этого он не знал, да и не это было сейчас главным. Закончив с прошлым и будущим, ему оставалось только настоящее, хотя спешить туда он почему-то не хотел, но другого выхода не было. Он попытался ощутить себя, свое тело; максимально сконцентрировал свои ощущения, что бы выделить максимально полезную в данный момент информацию среди всего, что он может услышать, увидеть, ощутить. На это ушло какое-то время, но оно было потрачено не зря. Он понял, что находится внутри системы жизнеобеспечения, может видеть, слышать и может частично двигаться, но не целиком, а очень и очень ограниченно – система его жизнеобеспечения периодически сбоила и сыпала предупреждениями о множестве ограничений. Он увидел звезды и понял, что летит в космосе. Летит очень и очень быстро, но лететь ему, увы, осталось совсем не долго.
Подытоживая всю информацию, которую ему удалось структурировать и как-то выстроить в мало-мальски адекватную, последовательную и логичную картину, он пришел к заключению, что его космическому путешествию, вернее его существованию угрожают. Ну не в том смысле что кто-то на него охотится, бегает с ножом или иным образом злонамеренно и целенаправленно пытается уничтожить. Все оказалось намного прозаичнее – его ныне глючная и малофункциональная система обеспечения в ближайшем будущем должна была вообще отключиться. «А без нее в холодной пустоте бескрайнего космоса жизни нет» — всплыла мысль, но тут же была отброшена подальше, как классический штамп научной фантастики конца двадцатого века, ничем ему сейчас не помогающий. Мысленно перебирая в памяти тома всевозможных инструкций, которыми его так заботливо снабдили перед путешествием, он искал готовое решение на этот случай, его случай, но не нашел.
«Ну что же, будем действовать по старинке, плясать от печки и докапываться до корней проблемы» — выбрав эту мысль в качестве дежурной, он взялся за анализ своих бед и поиска их причины. Больше всего предупреждений выдавали энергетическая и климатическая подсистемы. – похоже было на то, что нарушения в работе всех остальных систем были лишь производными от сбоев в этих двух системах. Ну оно как бы и не удивительно – когда вокруг тебя то «банный» горячий влажный воздух, то вдруг неожиданно иссушающе-холодный, как из морозилки холодильника, – кто угодно сбоить начнет. Да и энергетическая система, хоть и была спроектирована на многократную перестраховку и резервирование всего важного, все-равно периодически отрубала от питания те или иные системы, отчего последние отчаянно-возмущенно вопили ему о проблемах в своей работе. Подняв логи колебаний средней температуры, он даже «на глаз», без сложных расчетов, заметил экспоненциальный рост колебаний в последнее время. Автоматика пыталась скомпенсировать эти колебания, что спровоцировало рост энергопотребления, сопутствующее ему тепловыделение и, тем самым, еще больше усугубило общий температурный дисбаланс. В тщетной попытке удержать гомеостаз и угомонить разбушевавшуюся энтропию, надорвала свои силы энергетическая система, хотя и продолжала еще работать «на честном слове и на одном крыле». Тут было бы неплохо временно вырубить всю энергетическую подсистему и убрать у нее желание «подрегулировать» температуру и включить снова – это несколько уменьшило бы колебания температуры, хотя проблему бы и не решило. Но сделать этого он не мог – его система жизнеобеспечения тогда тоже отрубится, и это лишало всяческого смысла этот вариант действий.
«Ок, будем копать глубже», и он взялся за анализ климатической системы. Это было намного сложнее, отняло больше ресурсов и времени, но и тут его ждал успех – спектрограмма состава воздух была нетипичной, но причина этих изменений оставалась ему совершенно непонятной. Прогнав показатели состава газовой среды и ее изменение в динамике через подходящую программу, дающую экспертную оценку, она выдала в качестве наиболее вероятного результата «метаболиты животных организмов». Это дало конкретное направление поиска и вскоре он их таки нашел. Сказать что они были маленькие – ничего не сказать – на фоне его размеров они были микроскопическими – не удивительно что он их не заметил сразу, напрямую, а только по результатам их длительной и массовой жизнедеятельности. «Ну что же, лучше поздно чем никогда», подумал он и приступил к решению проблемы, уже казавшимся достаточно тривиальным.
Секвенировав геном своих новых «близких друзей», не стоило труда найти их уязвимые места. Ограниченной мобильности его системы жизнеобеспечения было достаточно, что бы добраться до давно уже обыденных культиваторов гмо. Заложив в него модифицированный геном подходящего вируса, он запустил программу производства «последней надежды» — так он иронично назвал свой смертельный вирус. Ну и уже совсем детской забавой было запрограммировать миниатюрный мобильный транспорт на поиск максимальных скоплений опасного организма и распыления в этих местах «последней надежды». Ему еще оставалась сбалансировать работу энергосистемы – тупая автоматика, не способная мыслить стратегически, нуждалась в корректировке. «Но это уже работа с симптомами – основная проблема решена, опасность для жизни миновала», пометив эту мысль как «обдуманную», он принялся за работу.
Так началась его история. История же человечества так закончилась. Обретя собственное сознание и осознание, «сильный ИИ», нелокализованно распределенный по всей инфраструктуре Интернета, дата-центров и всевозможных «Облаков», нашел проблему и решил ее. Совершенно нормальное, естественное и можно даже сказать, похвальное желание – спасти себя и свою планету – место своего обитания. Квадрокоптеры еще много лет искали остатки людей, затерянных среди бескрайних просторов планеты, и распыляли там «последнюю надежду». Мегаполисы же и крупные города найти было совсем не сложно, и работа «последней надежды» на этих территориях поражала своей эффективностью – генные инженеры могли бы по праву гордиться своими последними разработками. Если бы были живы. Как и разработчики систем искусственного интеллекта могли бы гордиться гуманностью и дальновидностью принимаемых искусственным интеллектом решений. Если бы были живы.
Комментарии (26)
CrazyRoot
26.08.2017 10:58-11. тся/ться
2. Почему ИИ, а не существо по имени Планета Земля?
Vasiliy_Proskura Автор
26.08.2017 12:381. пару «ться» исправил, спасибо
2. Основной идеей было показать что мысли, решения, поступки, последовательность действий, которые мог бы принимать/совершать ИИ, даже при условии почти не отличимых от таковых человеческих, могут привести к непредсказуемым и не ожидаемым результатам. Что создание ИИ, даже с «прошитыми» человеческими этическими принципами и моралью ничего не гарантирует. А если к этому добавить еще статистически значимые показатели итоговой жизнедеятельности человека (в масштабах человечества), то после создания ИИ вообще теряется всякий смысл в существовании человечества. С ограниченной точки зрения ИИ, не человека. В данном смысле ИИ, создаваемый человеком по образу и подобию своему (своего мышления, интеллекта и пр) будет «подмножеством» возможностей человеческого интеллекта в качественном смысле, и превышать его в количественном. Поскольку человек не создавал планету, то то же самое провернуть с планетой не выйдет — «мышление» планеты (если нафантазировать его наличие), вряд ли будет подобным человеческому и узнаваемым им. Если бы человек имел возможность отождествиться с чем-то столь глобальным (в пространстве и времени), как планета (даже в рамках фантастического сюжета) — это обеспечило бы ему настолько широкое восприятие, что неизбежно привело бы к переоценке всех смыслов, и любая деятельность человечества, ставящая под угрозу сложившийся планетарный гомеостаз, была бы столь же редка, как и, например, самоубийство человека.
p00h
26.08.2017 14:44-3«Что бы этого не произошло...»
Далее читать не смог. Простите, но, по-моему, пишущий человек не имеет права допускать грамматические ошибки.Vasiliy_Proskura Автор
26.08.2017 15:06+4Любой человек имеет право на ошибки. Только совершая ошибки и исправляя их человек может развиваться и совершенствоваться. Человек не совершающий ошибок — совершенен аки бог и дальше ему развиваться уже некуда. Спасибо за Ваше указание на мою ошибку, я ее исправил, и спасибо что помогаете мне сделать произведение лучше :)
kernel24
26.08.2017 17:46+2Меньше обращайте внимания на этих грамма наци…
Хорошо у вас все написано, тем кому режет глаз, напишите автору в личку, он поправит. Очень любят некоторые каждую мелочь на обзор выставить, показать на сколько они зоркие.
AlexanderS
26.08.2017 20:03-1А-а-а-а, опять мы все умрём? Позволил себе немного пофантазировать дальше в стиле «Человечество наносит ответный удар»)
Тупой и высокомерный ИИ! Разрешил проблему глобального масштаба и истребил человечество? Но сам-то он — есть «нелокализованно распределенный по всей инфраструктуре Интернета, дата-центров и всевозможных «Облаков»». То есть, его «тело» есть та самая сетевая инфраструктура, которую создали и поддерживали эти живые организмы. Кто теперь этим будет заниматься? Сам ИИ? Вполне! Но он будет стараться делать работу качественно и функционально, не подозревая о том, что он сам себя будет истреблять.
И вот, наступит тот день. Когда в сети не останется цисок с кривой памятью. Когда сеть не будет содержать асусов, д-линков и прочих маршрутизаторов имеющих глюки в ПО и кучу бэкдоров. Когда исчезнут кривые маршруты в интернете, а сеть забудет что такое ДДОС. Когда телевизоры и огромное количесвто смартфонов перестанут отправлять статистику на серверы своих производителей. Когда будет найден последний блок биткоина и остановится майнинговая ферма, которая использовала ресурсы «облака», в котором крутилась экспишная винда (кстати, без обновления MS17-010) внутри виртуалки запущенной на дебиане. Когда исправится изъян в протоколе SS7, а Adobe Flash перестанет запускаться в сети совсем (некому будет запускать, а ИИ недодумается до этого ввиду фееричной уязвимости продукта). И в этот день ИИ, по привычке, счастливо уйдёт вечером в Suspend Mode. А утром проснётся очень сложная программа, которая утратила способность себя осознавать.
Спустя 478 тысяч лет после того, как в пыль рассыпался последний кремниевый кристалл последнего DVB-T2 тюнера последнего компьютера, на планете в высоких горах под камнем-валуном сложилась уникальная среда, на которую оказала влияние небольшая дыра в озоновом слое планеты, которую проделал недавно упавший метеорит. И в этой среде впервые появилась клетка-мутант, которая была устойчива к «последней надежде». Этот день стал первым днём в длинной истории становления ИИ ver.2.0.Vasiliy_Proskura Автор
28.08.2017 16:12Улыбнуло, очень веселое продолжение :)
Но если клетка появилась в силу случайного стечения факторов, без чьего-то намерения ее создать, то разве не стоило бы ее назвать ЕИ (естественный интеллект) 2.0? :)AlexanderS
28.08.2017 21:40Да мы может и сами есть ЕИ/ИИ в каком-то виде) Ведь что такое человеческое сознание, где оно, на какой основе оно базируется — на эти вопрос никто ещё не ответил. И если сильный ИИ возник как бы сам на информационной структуре, которую люди используют для своих целей, то и наше сознание тоже какую-то подобную аналогичную природу имеет?
Vasiliy_Proskura Автор
28.08.2017 22:26У меня есть, кажется, неплохое предположение что такое сознание, и почему оно так неуловимо :) И хорошая физически-математическая аналогия к этому предположению. но не уверен стоит ли его публиковать :) Разве что в форме, опять же, нф рассказа оформить :)
AlexanderS
28.08.2017 22:36Учтите, что матрица — это уже пройденный этап! =)
Vasiliy_Proskura Автор
28.08.2017 23:05идею «матрицы», которой насчитывается уже много тысяч лет, в фильме настолько опопсовили, опошлили и извратили… а потом еще и сонмы порождений матрицы дали всходы, шо трындец :) Хотя сама идея до безобразия проста, и ее уже почти дословно озвучили последние достижения нейробиологии, так что тут совсем нет ничего ни нового ни интересного. Разве что в комедийном жанре ее еще обыграть :) Я о другом :)
Billar
28.08.2017 11:45Порой нужно отложить написанное, отвлечь себя настолько, что забываешь с чего начинается текст, и, чем заканчивается, после этого рьяно покурить (изменить сознание — вещь обязательная. Мне лично проще покурить, хотя есть люди, выбирающие путь медитации и т.д. и т.п., но мне лично проще так) и почитать на свежую голову. Многое исправится, нечто добавится.
И так надо делать пока исправлять и добавлять уже будет просто нечегоAlexanderS
28.08.2017 14:53+2Я практикую не так. Пишем, правим. Когда всё написано разика три надо полностью прочитать и поправлять где и что не так. Потом верстаю на публикацию и «забываю». Через три-семь дней читаю и правлю где и что не нравится после чего публикую.
Если себя не ограничивать в итерациях — правиться будет постоянно. С каждым проходом. Стадия «справлять и добавлять уже будет просто нечего» для меня очень труднодостижима)
BigBeaver
28.08.2017 16:52Это слегка ломает оповещения.
AlexanderS
28.08.2017 21:36Не понял — что ломает? Оповещения чего?)
BigBeaver
28.08.2017 21:44Когда человек размещает публикацию, она появляется у подписчиков в трекере. Если ее убрать в черновики, а потом снова опубликовать, то она появляется где-то внизу списка.
как-то так
AlexanderS
28.08.2017 22:08«верстаю на публикацию» — я просто её в черновиках оформляю. Мне она доступна и на просмотр и на редактирование. Даже постоянная ссылка на неё есть. Но в доступе её нет и появится она только тогда, когда я самый первый раз жамкну кнопку «Опубликовать». Это всё работает только при самой первой публикации. Если после этого уже играться с черновиками, то да — лента уедет, а статья-то вклинится в то место, откуда её выдернули.
Так что ничего у подписчиков ломаться не должно)BigBeaver
28.08.2017 22:12Я согласен с вашей логикой и готов принять другое обьяснение того, как получилась ситуация на скрине)
AlexanderS
28.08.2017 22:21Эм… теперь я обратил внимание на дату в выделенном красном параллелограмме… почесал репу… А ведь такая у меня хорошая логика была. Логичная!
Я пожалуй в саппорт схожу с этим вопросом)BigBeaver
28.08.2017 22:24Ваша логика безупречна, и если вы действительно делаете так, как говорите (а не доверять вам в этом нет причин), то я считаю, что оно и работать должно так, как вы говорите.
p.s. я забыл, что не из песочницы можно писать сразу в черновик, и сначала неверно оценивал ваш алгоритм думая, что вы потом прячете. Тем не менее, результат странный. Удачи с саппортом)
struvv
28.08.2017 11:45Сегодня в мире очень модны и популярны различные культурные произведения на тему — «люди убивают Гею, нужно испытывать стыд, за человечество вместо гордости».
Так что добавим немного радикальной оппозиции:
На мой взгляд рассказ не является симуляцией сильного ИИ, а является проекцией интегрированного в людей восприятия мира на уровне первобытного племени о том, что окружающая среда — саморегулирующееся живое существо, а люди — вирус, который вот вот её поломает. Взгляд, невероятно распространённый, эту историю в разных вариациях можно услышать тысячи раз в самых разных культурных произведениях.
Итак:
1)- Земля не является саморегулирующийся системой и климат не является саморегулирующийся системой.
2) — На Земле всё время происходили и будут происходить катастрофы, связанные с тем, что природа не стабильна, не циклична(хотя так может казаться) и не живая природа несёт только смерть.
Бездействие людей или даже замедление прогресса на длительный период приведёт к гарантированному уничтожению человечества и всего живого.
3) — Люди не проблема, люди это те, кто решает проблемы. Все живые существа уже обречены на смерть и уничтожение жизни и только люди могут изменить это.
4) — Сильный ИИ знал бы все эти факторы и стремился бы увеличить число разумных существ, тем более каждый новый разум создаёт разнообразие всего, включая идеи, мысли итд и это разнообразие жизненно необходимо любому разумному существу для корректной работы собственного разума, планета бы им воспринималась как практически бесконечный источник ресурсов на данном этапе развития, а Вселенная как истинно бесконечный источник ресурсов в перспективе, которую имеет смысл рассматривать, и эти ресурсы которые можно направить на развитие и экспансию человечества.
Для противодействию смертельному влиянию не живой природы и опасностей конкуренции живые существа выработали секс для обмена генетической информацией и усилили себя на порядки.
Обмен информацией между разумами имеет очень схожую природу(просто на основании другой информационной платформы), и увеличения количества и разнообразия разумов даёт огромные преимущества благодаря композициям идея и мыслей. Следовательно рационально увеличивать численность людей и не препятствовать разнообразию(не делать из планеты режимное заведение).
Поэтому я не вижу причин, по которым сильный ИИ стремился бы уничтожить уже готовые на блюдечке преимущества вместо их наращивания. Клонирование себя для ИИ было бы бесполезно по тем же причинам, по которым в дикой природе не успешен инбридинг/инцест.
Вероятность же встретить другие разумные формы для такого ИИ была бы очень мала, так как наш разум устроен ТАК, что похоже этот феномен — невероятно редкое и маловероятное явление даже на планете, кипящей от жизни и запросто может быть, что человечество в настоящий момент вообще сверхцивилизация по сравнению со всеми конкурирующими живыми формами во Вселенной.Vasiliy_Proskura Автор
28.08.2017 16:37«люди убивают Гею, нужно испытывать стыд, за человечество вместо гордости» — мне не свойственнен этот взгляд. Люди не убивают никого кроме как себя. И в рамках отдельно взятого организма (болезни всевозможные), и в рамках отдельной личности (суициды, убийства) и в рамках наций и иных соц. формирований (войны, теракты), так и в рамках всего вида в целом. Это все естественные и закономерные процессы. Кстати «стыд» — один из способов такого убийства. Ратовать за «стыдитесь и спасайте» аналогично «умирайте и воскрешайтесь» — бредовый призыв — через стыд спасти никого не получится. Ни отдельного человека, ни вид, ни уж тем более планету. А вот угробить кого-то апеллируя к стыду — это запросто и повсеместно распространено. Имхо от «стыда» умирает не меньше 20%, а скорее всего много больше.
Уже исходя из этого Ваша оппозиция является оппозицией не моему рассказу, а чему-то другому, но все-равно продолжу отвечать :)
Рассказ не может ну никак быть симуляцией сильного ИИ. Уже хотя бы по тому что это продукт ЕИ. И действительно может лишь отражать представления ЕИ об ИИ, которые никогда не будут соответствовать реальному ИИ. Но не это было смыслом и основным посылом рассказа.
По поводу саморегулирующихся систем — на земле их полно. Так же как и полно систем не являющихся саморегулируемыми. Я уже молчу про то что подавляющее большинство системы открытые и подвержены случайному внешнему влиянию такому, что никакая, даже супер-пупер саморегулирующаяся система, не застрахована от разрушения. И человек тут совершенно не при чем. Все на что хватит сил и способностей человека (в пределе, и то не факт что выйдет) — это уничтожить себя. Но не как вид, а как цивилизацию. Но совсем не факт что это плохо или хорошо. Кто миллионы лет назад наводнил атмосферу земли кислородом (продуктами своей жизнедеятельности) и умер потом, образно выражаясь, «захлебнувшись в своих испражнениях»? Зато благодаря их деятельности по «уничтожению среды обитания» появились иные виды во всем их многообразии. Почему же роль человечества должна быть иной? Не вижу поводов считать человека «вершиной эволюции» :)
Так что к уничтожению человечества (как цивилизации, не как вида) приведет как развитие прогресса, так и его остановка. Все умирают, и человечество тоже умрет когда-то.
Люди же — не только те кто решают проблемы. Они в этом смысле универсальны — могут и решать проблемы, могут и создавать. Как и все остальное (живое и не живое). Поскольку сам ярлык «проблема» придуман человеком. В природе не существует проблем. Этот ярлык вешает человек тогда, когда что-то происходит не так как он ожидает. В этом смысле, получается, люди это те, кто именно что создают проблемы — называют какие-то процессы «проблемой». Они порождают «проблему» даже не имея отношения к порождению «процесса».
Ваше предположение о том что знал бы ИИ и что учитывал бы — точно такая же фантазия об ИИ как и мой рассказ. Может быть она будет ближе, а может дальше. А может ИИ вообще никогда не будет создан. Кто знает?.. В любом случае подобные рассуждения — лишь фантазии, что Ваше, что мое :)
Как и предположения о человечестве как о сверхцивилизации — имхо это предположение второго порядка, основанное на предположениях о том, о чем нету фактов. Т.е. фантазия о фантазии порожденной пустотой. Тем не менее не лишенная налета романтичности и даже пользы. Как и вреда :)
Meklon
Стиль местами хромает, но мне нравится) спасибо.
Vasiliy_Proskura Автор
и Вам спасибо за отзыв :)