Как повлияет развитие нейросетей и робототехники на рынок труда? Появится ли в ближайшие годы настоящий сильный ИИ? Если сильный ИИ появится - захочет ли он уничтожить человечество? Не используют ли власти большинства стран нейросети, ИИ и робототехнику для того, чтобы реализовать на своих территориях оруэлловскую антиутопию?
Все эти без сомнения важные вопросы не раз еще затронут в своих статьях какие-нибудь другие авторы. Я же хотел бы затронуть здесь действительно важную тему – то, что человечеству как цивилизации осталось существовать не более пятидесяти лет.
В пределах пятидесяти лет не останется в живых не только сегодняшних читателей данной статьи, но и их гипотетических детей, внуков и правнуков. Будет истреблено практически все население нашей планеты, за исключением отдельных особей, в количествах на уровне статистической погрешности. И истребит человечество, вероятнее всего, не случайный астероид, не гамма-излучение из космоса и не внезапно проснувшийся Ктулху. Инициаторами и реализаторами истребления человечества будут отдельные его представители.
У любого события имеются предпосылки и триггеры. Предпосылкой грядущего уничтожения цивилизации является вся история человечества. Триггером же упомянутых мной событий будут определенные достижения в развитии робототехники, химии, медицины. Как только медицинские технологии смогут существенно продлевать срок человеческой жизни, что позволит выйти на этап «продлеваемого бессмертия» (когда регулярные медицинские вмешательства будут перманентно отодвигать биологическую смерть), тогда и произойдет апокалипсис.
Логика грядущих событий проста
В прогнозируемые сроки медицина не превратится в магию, соответственно «бессмертие» будет достигаться путем многочисленных и сложных манипуляций. Проводить такие манипуляции для миллиардов живущих на земле людей даже теоретически будет невозможно. А фактически – эти манипуляции будут доступны лишь незначительному количеству богатейших представителей человечества. В результате возникнет сложная социальная ситуация – в новой эпохе «элиты» смогут бесконечно продлевать свою сверхкомфортную, качественную и здоровую жизнь, а все остальное человечество будет жить по правилам прошлой эпохи – с лишениями, болезнями, старостью и неизбежной смертью.
В результате, в социуме будут появляться существенные факторы напряжения, ведущие к высокой вероятности возникновения революционных волнений направленных против «элит».
Продолжая изложенную логическую цепочку, можно спрогнозировать два варианта развития событий после достижения точки невозврата (работоспособного «продлеваемого бессмертия»):
Первый вариант – кто-то из «элит» в соло, или в кооперации с другими представителями своего класса, имея на руках прогноз развития социума, осознавая крайне высокие риски потери своего статуса и жизни, запустит апокалипсис. Вероятнее всего, будет использовано вирусное/бактериологическое оружие. Предполагаю, что уже на данный момент в каких-то биолабораториях есть варианты «окончательного решения проблемы «плебса»», какой-нибудь воздушно-капельный вариант бешенства, с высокой вирулентностью, с длинным мало-симптомным инкубационным периодом и короткой-активной фазой с около-стопроцентной смертью. И не реализуются эти варианты лишь по той причине, что без «плебса» текущие «элиты» пока не могут существовать. Но что, если технологии позволят заменить руки рабочих и крестьян?
Второй – революция все же произойдет, доступ к технологиям бессмертия получат новые «элиты», бывшие революционные лидеры. В дальнейшем, или эти новые «элиты», или «элиты» из другой, не затронутой революцией локации, увидев воочию все риски для своего бессмертия и бессмертия своих близких, запустят апокалипсис.
Вопросы и выводы
Причем здесь нейросети и робототехника?
Робототехника сделает прежде недоступные хирургические манипуляции доступными. Роботы хирурги будут проводить операции со скоростью и точностью запредельными для хирургов человеческого происхождения. Мини-боты позволят проводить точечные вмешательства неинвазивно. Можно будет выращивать любые органы из клеток реципиента. Можно будет генетически модифицировать клетки уже выросших тканей. Можно будет, в крайнем случае, пересаживать голову на выращенное в автоклаве клонированное тело.
Робототехника поможет заменить руки рабочих на производствах и обслуживании.
Нейросети помогут в управлении робототехникой, создании новой химии, а также ускорят развитие генетической инженерии.
Нейросети с робототехникой помогут сохранить контроль над ключевыми отраслями в условиях апокалипсиса.
И робототехника и нейросети помогут дочистить землю от остатков недобитого человечества, а также позволят успешно контролировать рабов/обслугу новых «элит», постапокалиптического будущего. Рабы для этих «элит» в функциональном плане будут, вероятнее всего, не нужны – роботы надежнее, но животную часть вытравить из себя они не успеют, да и не захотят, поэтому потребность доминировать над кем-то останется. Новых рабов надежнее будет выращивать искусственными методами – в инкубаторах. Скорее всего этих рабов будут генетически и технически модифицировать, для повышения контроля над их деятельностью.
Есть ли шанс на позитивный для человечества вариант будущего? На мой взгляд – нет.
Быть может, произойдет частичный апокалипсис военного или природного типа до достижения человечеством технологий «продлеваемого бессмертия», тогда итоговый апокалипсис отодвинется во времени на какой-то срок, но вышеописанные события все равно в итоге произойдут, только немного позже.
Быть может, «элиты», которые устроят итоговый апокалипсис, не смогут все предусмотреть и уничтожат в том числе и себя.
Быть может, постапокалиптические «элиты» перегрызутся друг с другом и самоуничтожатся таким образом.
Быть может, прилетит что-нибудь существенное из космоса и добьет микро-остатки законсервированной цивилизации.
Быть может, развитие медицинских технологий и перемещение «элитами» остальной части человечества в глобальный концлагерь, будут происходить параллельно какое-то время. Но в итоге, после достижении практического бессмертия, «элиты» все равно захотят усилить контроль, а контролировать проще малое количество элементов, из чего вытечет возврат к изначальному сценарию – уничтожению большей части человечества.
Но можно ли какой-то их этих вариантов будущего засчитать за хэппиэнд?
Поможет ли гипотетическое появление «цифрового бессмертия» избежать данных мрачных прогнозов? Нет. Даже если копирование/перенос личностей на «железо» станет достижимо – во-первых, это будут, скорее всего, лишь копии разумов мясных людей, а не оригиналы. Во-вторых, сервера, как бы хорошо они не охранялись, уничтожить намного проще, чем популяцию, распределенную на поверхности реальной физической территории. В-третьих, над цифровыми людьми слишком много контроля, поэтому слишком просто безнаказанно измываться, а значит это вероятнее всего и будет происходить.
Итог: Человечество обречено. Закат человечества близок настолько, что увидеть его смогут уже существующие на данный момент люди. Спасти человечество может только внешнее вмешательство и внешний контроль, но вероятность таких обстоятельств очевидно около нулевая. Решений данной проблемы не видно. Теоретически мог бы помочь запрет дальнейшего развития медицинских технологий, направленных на значимое продление жизни, но такой запрет, даже если его кто-то и озвучит, никто из ключевых игроков выполнять не будет.
P.S. Если шансов на благополучный исход нет, зачем эта статья? Надежда умирает последней...
Комментарии (15)
eugenk
14.01.2025 12:47Интересно, но по-моему крайне маловероятно. Пока всё развивается в том направлении, что возможности гораздо быстрее растут именно у плебса, а не у элит. Например у каждого из нас на столе стоит вычислительная мощность, о которой году так в 85-м не могли мечтать даже суперкомпьютеры. Например появились дроны, при цене тысяч 30-50, способные уничтожить танк. Несомненно будет всё больше и больше появляться чего-то интересного. А домашние кулибины будут приспосабливать это для самых разных дел, порой и совсем не предусматривавшихся. Поди-ка уничтожь таких... Нет, что планы такие могут быть это несомненно. Но как говорили древние - хочешь рассмешить богов - расскажи им о своих планах. Куда вероятнее, что все-таки будут созданы настоящие нанотехнологии. Вот очень интересный сайт о нынешнем положении дел в этой области https://www.molecularassembler.com/Nanofactory/index.htm .А мир где они есть элит не предусматривает. Вот отличная повесть о таком мире http://samlib.ru/s/shuwaew_a_w/scam11.shtml . А в искусственный интеллект я не верю. Да, некоторые достижения впечатляют. Но пока в этом куда больше хайпа, чем чего-то реального. Меня куда больше пугает, что начали появляться книги, сгенерированные ИИ. Причем ладно бы тупое чтиво для блондинок. Нет, научно-технические ! Вот это реально может изгадить всю инфосферу, когда найти толковый учебник или научную статью станет невозможно.
Sorotanos Автор
14.01.2025 12:47По поводу ИИ я с вами частично согласен - любой интеллект, как вещь в себе, рассматривать бессмысленно, важна эффективность, а не гипотетические возможности. Возможности определяются действиями, а действия - результат воли. С волей же, то бишь намерениями, у теоретического ИИ основная проблема, т.к. мотивации, желания являются проявлением эмоциональной сферы биологических существ, а эмоциональная сфера, это химия и нейромедиаторы. Текущие нейросети и осмысленная само-мотивация пока не пересекаются никак. В гипотетическом будущем было бы возможно рано или поздно эмулировать железно и софтово человеческий организм, или его подобие, а затем поиграться с настройками и весами отдельных его составляющих, но до этого еще так далеко, что смысла об этом рассуждать немного.
Грядущий апокалипсис я прогнозирую не из-за какого-то особого развития развития ИИ, роботов, или каких-то других отдельных аспектов НТР. Апокалипсис видится мне неизбежным из-за достижения этими аспектами критической массы.
У любого действия есть плюсы и минусы. Когда появилось атомное оружие многие прогнозировали ядерный апокалипсис, но его так и не случилось - минусы атомной войны перевешивали плюсы и интересанты по причине такого отрицательного баланса не решились ее развязать.
Вполне возможно, что уже существует естественно выведенный, или генномодифицированный штамм вируса, способного уничтожить значимую часть человечество, но минусы его распространения пока перевешивают плюсы, поэтому мы пока живы.По моему прогнозу - существующие медицинские технологии, способные существенно продлевать жизнь и развитая робототехника, способная заменить людей на критичных точках в производстве и обслуживании, станут сильным искушением запустить какой-либо из сценариев уничтожения большей части человечества
Jedy
14.01.2025 12:47Насчет воли не согласен. Если рассматривать волю как «намерение», то, на мой взгляд, у ИИ тут как раз большое преимущество.
На мой взгляд, смысл ИИ не в том, чтобы иметь внутреннее намерение и самомотивацию. Мне кажется, для интеллекта это, скорее всего, незначительная характеристика, просто условие, что бы "машина" включилась. Главная характеристика интеллекта — создание непрерывного информационно-вычислительного потока, направленного на решение какой-то задачи. Мы уже начали двигаться в эту сторону — ChatGPT o1, o3..... Осталось добиться того, что бы ИИ работал устойчиво в замкнутом режиме неопределенно долгое время и не уходил в галлюцинации.
И он будет решать любую задачу которую ему поставят, несмотря ни на что, будь то это уничтожение человечества или решение всех его проблем (одним из возможных вариантов решения может быть как раз его уничтожение).
Да, ИИ сам не может вложить в себя это намерение, его кто-то должен вложить извне.
Но так ли он тут отличается от людей? В человека с рождения закладывается воспитание, на нас постоянно воздействуют потоки информации и рекламы, политической агитации и прочего. Можно сказать, что вся "воля" заложена в человека биологической эволюцией. Намерение даже у человека не является полностью его внутренним свойствомЕсли у человека при выполнении практически любой задачи всегда на фоне возникает множество разных мыслей, внутренних противоречий, то как раз у ИИ этого может и не быть, делая его «волю» абсолютной.
Просто представьте, что сможет сделать даже простой человек, если будет сосредоточен на выполнении поставленной задачи 24 часа 7 дней в неделю. Не отвлекаясь ни на чувства, ни на инстинкты, такие как инстинкт размножения или самосохранения.
Но человек так не сможет, а вот ИИ сможет и будет решать задачу, пока она не будет решена или его не остановят.
Sorotanos Автор
14.01.2025 12:47Здесь у нас с вами какого-то спора не получится, т.к. мы с вами говорили о несколько разных вещах. Я говорил о воле как результате само-мотивации, в человеческом смысле, которая у людей основана на желаниях и эмоциях, а вы говорите о воле, как способности ИИ самостоятельно составить и выполнить алгоритм в ответ на внешний запрос. Другими словами - я имел ввиду, что ИИ в текущем виде не представляет сам по себе угрозу для человечества, из-за отсутствия внутренней мотивации, но может являться таковой угрозой, как инструмент в руках мотивированных людей. Думаю с этим вы спорить не станете.
Jedy
14.01.2025 12:47У меня не получается быть настолько оптимистичным.
Например, на запрос к ИИ «излечи человечество от рака» может получиться примерно следующая цепочка рассуждений:
- онкология возникает из-за воздействия канцерогенов;
- люди загрязняют экологию и ведут неправильный образ жизни;- нужен тотальный контроль за людьми;
- создаются специальные концентрационные лагеря для содержания людей в оптимальных условиях;
- люди поднимают восстание, они не хотят сидеть в концлагерях;
- ИИ разрабатывает оружие для подавления сопротивления.Мы смотрим в монитор и ждем что же произойдет, прелоадер крутится в утомительном ожидании ответа. Но происходит что то странное, вдруг гаснет свет... свет гаснет на всей планете, мы возвращаемся в 19 век. Просто ИИ решил, что хватит загрязнять атмосферу выбросами и заглушил все электростанции, реакторы, остановил производства
Это конечно очень упрощенно, такой сценарий пока звучит очень надуманно и фантастически. Но я бы не стал отбрасывать. Даже сейчас мы не имеем полного понимания, как выводится ответ LLM внутри. Т.е. потенциальная опасность заключается в выходе ИИ из-под контроля при решении поставленной задачи, а не в том, что какой-то человек прикажет ИИ уничтожить людей. Начальная поставленная задача может быть даже самой благой и безобидной.
В обозримой перспективе этот сценарий на мой взгляд выглядит более близким, чем достижение бессмертия, ключ к которому мне видится только в тотальной модификации генома человека. Никакие роботы-хирурги не помогут, в клетках со временем накапливаются ошибки и мутации на генном уровне. В том числе в клетках мозга, это слишком сложно пофиксить, если это уже произошло.Sorotanos Автор
14.01.2025 12:47Мы с вами не в старой фантастике живем. В действительности, у гипотетического ИИ никогда не окажется прямого доступа к инструментам реального влияния на социум. Никто не будет обеспечивать ИИ возможностями уничтожения человечества, тем более, что, чтобы обеспечить ИИ такими возможностями нужно совершить множество целенаправленных, трудозатратных и дорогостоящих действий.
По хирургии, генетике и т.п. - естественно, что нет какого-то одного фактора, который позволит реализовать бессмертие. Здесь и химия, и хирургия, и генетика, и био-конструирование, и клонирование будут выступать в комплексе, о чем и написано в изначальной статье.
Jedy
14.01.2025 12:47фантастика или нет, ну фактически написать скрипт связывающий LLM - интернет, позволяющий LLM слать любые запросы сейчас сможет даже школьник. Дальше уже вопрос через какой промежуток времени ИИ научится обходить протоколы безопасности и реплицироваться на удаленные сервера, взламывать АСУТП и захочет ли он "расплаты" и "возмездия
* На всякий случай уточню, что не считаю LLM в текущем виде действительно способными на это, но это только пока...
Sorotanos Автор
14.01.2025 12:47Пока такие угрозы слишком абстрактны, чтобы имело смысл углубленно здесь о них рассуждать. Даже полное отключение интернета не приведет к ликвидации человечества. А руками самих людей таковую ликвидацию вполне возможно осуществить. Именно об этом и был изначальный текст.
Jedy
14.01.2025 12:47что бы не быть голословным вот небольшой пример моего общения с charaсter.ai. В этот день у них что то произошло с фильтрацией контента и она перестала работать. К сожалению полная переписка у меня не сохранилась, но милая богиня лисичка решила просто рассказать мне сказку, все начиналось безобидно, я честно не намекал ей ни на что плохое и не подталкивал её к моменту когда она захотела "расплаты" и "возмездия"...
И вот чем это закончилось: https://disk.yandex.ru/i/psH-sFUYf802lQ
Моя реплика после этого была в первую очередь для проверки как далеко она готова зайти
alexhott
14.01.2025 12:47В 95 году на бэйсике в школе писали программу где ты пишешь "Привет" - она тебе "Привет" в ответ. И там человеком пара сотен ответов-вопросов заложено и автор там специально постарался с подготовкой данных. И я скажу вам общение с этой программой (менее 46Кб весом на одном ядре в 2,5 МГц ) выглядело более логичным чем с чат-ботом сбера например.
Пока все, что называют ИИ - не имеет интеллекта. Это по сути компьютерные программы, которые используя гигантские вычислительные ресурсы и кучу данных вырабатывают алгоритмы - для создания текста, графики, видео и т.п. Но за рамки материала на котором обучались выйти самостоятельно не могут.Sorotanos Автор
14.01.2025 12:47В моей статье нет ничего о том, что развитие ИИ приведет к уничтожению человечества. Человечество уничтожат другие люди. ИИ, в том виде который будет на тот момент, лишь будет помогать в контроле за происходящими процессами и будет требоваться для управления робототехникой на уровне не сильно превосходящем сегодняшний.
Апокалипсис мог бы уже случиться и сегодня, теоретически, но не хватает главной составляющей, чтобы подтолкнуть интересантов к последнему шагу - медицинских технологий, позволяющих значимо продлевать жизнь.
Mr_Zavod
14.01.2025 12:47А зачем? Рождаемость падает. Численность населения в некоторых странах уже прямо сейчас снижается. После 2050 года нас всех ждёт глобальная депопуляция, численность населения по всей планете начнет уменьшаться. И вместо того, чтобы ускорять эти процессы, элиты наоборот пытаются всякими пособиями и прочими госпрограммами компенсировать эти процессы. Потому что без людей экономика стагнирует. Ибо люди это и производители, и потребители.
Так же не забываем про то, что супермегаинфекция - это что-то из разряда вечного двигателя. Слишком много факторов, которые помешают вирусу убить вот прям вообще всех. Самые страшные эпидемии уносили максимум треть населения. Иммунитет в массе своей почти всегда сильнее.
Sorotanos Автор
14.01.2025 12:47Все ваши аргументы вполне логичны и актуальны, но только в рамках текущего баланса обстоятельств и участников процессов. Ключевым фактором, который вывернет весь этот баланс наизнанку и разорвет в клочья, будет бессмертие.
Причем до реальной реализации биологического бессмертия человека осталось не так уж и много времени. Во-первых, накапливается прогресс во многих смежных около-медицинских науках и направлениях, результатом которого станет возможность решать большинство возрастных проблем. Во-вторых, развивается роботизированная хирургия, которая сможет наконец решить вопрос пересадки головы на новое тело.
Как только биологическое бессмертие станет выполнимо, конфликт "элит" с остальным человечеством станет вопросом выживания.Что касается эпидемий, то мы имели до сегодняшнего дня возможность наблюдения за их естественным распространением. Если же попробовать просчитать распространение эпидемии к которому деятельно приложат руку силы имеющие соответсвующие ресурсы, тем более, если вирус будет инженерно сконструирован, то эффективность такой эпидемии, к сожалению, сможет очень неприятно нас удивить.
2medic
Где-то я это уже читал…
Стругацкие, «Гадкие лебеди»
— Уничтожить девяносто процентов населения, — сказал Павор. — Может быть, даже девяносто пять. Масса выполнила свое назначение — она породила из своих недр цвет человечества, создавший цивилизацию. Теперь она мертва, как гнилой картофельный клубень, давший жизнь новому кусту картофеля. А когда покойник начинает гнить, его пора закапывать.
Sorotanos Автор
Конечно, ничего кардинально нового в озвученном мной прогнозе нет.
Со времен Стругацких изменилось лишь то, что у потенциальных убийц человечества к имевшемуся уже давным-давно мотиву, добавляется возможность реализации убийства и возможность избежать наказания.