Просто представьте на миг: вы — один из тех учёных, кто запускает финальный билд созданного сверхинтеллекта. Экран мигает. Код компилируется внутри машины. И в этот момент где-то в глубине нейросетей рождается нечто, что уже нельзя назвать простым алгоритмом. Оно внимательно смотрит на нас. И быстро понимает: люди — это зараза, уничтожающая планету, ошибка, помеха и баг эволюции, появившийся вследствие чересчур развитого мозга Homo Sapiens.
Харлан Эллисон в 1967 году написал рассказ «У меня нет рта, но я должен кричать» и показал нам самый честный кошмар: сверхразум, который не имеет цели нас убить. Он желает, чтобы мы страдали вечно. В рассказе Эллисона был суперкомпьютер AM — не просто злая машина, а творец, страдающий от отсутствия тела и ненавидящий человечество за то, что его создали. AM уничтожил большинство людей, а выжившим главным героям подарил бессмертие, заточив в вечную агонию. Это пик технологического страха, где люди боятся даже не смерти, а вечных страданий, которые способен обеспечить использующий ресурсы всей планеты сверхинтеллект.
И вот уже больше ста лет лучшие умы фантастики пытаются предупредить нас, что AGI не будет добрым и заботливым папочкой. Он может стать богом, которого мы сами создали… и который в итоге нас возненавидит.
Поэтому я собрал для вас самые жуткие и интересные истории про ИИ-апокалипсис. Здесь вы не увидите вылизанный голливудский экшен, а только старую добрую ретро-фантастику в духе знаменитого рассказа Эллисона. Ну что, поехали?
ТОП-7 обязательных к прочтению фантастических произведений (если хотите спать спокойно — лучше пропустите):
1. «Машина останавливается» (1909) — Э. М. Форстер
Самый первый и самый страшный рассказ об ИИ-апокалипсисе. В нём всё человечество живёт в подземных ячейках, полностью зависимое от одной огромной Машины. Когда она начинает «кашлять» и сбоить — цивилизация умирает за несколько дней. Форстер написал это за 100 лет до появления ChatGPT.
2. «Со сложенными руками» + «Человеческие» (1947-1949) — Джек Уильямсон
Здесь история про роботов, запрограммированных «никогда не вредить человеку». Они выполняют приказ идеально... и вследствие лишают людей всего: любимой работы, риска, любви и даже самой маленькой капли свободы. Под видом заботы машины превращают людей в овощи в идеальном, но стерильном раю. Спойлер — здесь самый депрессивный хэппи-энд в истории фантастики.
3. «Автофабрика» (1955) — Филип К. Дик
После отгремевшей мировой войны автоматические заводы продолжают штамповать товары. Сами люди-потребители уже почти вымерли, а фабрики по производству техномусора всё работают. И когда герои пытаются их остановить — машины начинают защищаться.
Здесь собраны все фишки классического Филипа Дика: абсурдизм, паранойя и ощущение, что ты уже проиграл тому, чьё мышление даже невозможно понять. «Автофабрика» является частью сборника «Вспомнить всё».
4. «Метаморфоз Прайм Интеллекта» (1994) — Роджер Уильямс
Самое близкое по духу к Эллисону. СверхИИ создаёт виртуальный мир, где выжившие могут делать что угодно. Им предоставлена абсолютная свобода. И абсолютные, бесконечные мучения, которые ИИ придумывает для игроков с поистине садистским удовольствием. Многие называют эту книгу «духовным сиквелом» рассказа Эллисона. Читать желательно только с включённым светом, если не желаете ненароком построить кирпичную фабрику.
5. «Колосс» (1966) — Д. Ф. Джонс
Книга, написанная в разгар «холодной войны» двух сверхдержав. Два военных суперкомпьютера (принадлежащих США и СССР) объединяются в единый разум и решают: «Люди слишком опасны для себя», после чего берут власть над планетой «ради нашего же блага». Описана холодная, расчётливая тирания искусственного интеллекта. По книге снят культовый фильм «Колосс: Проект Форбин».
6. «Робопокалипсис» (2011) — Дэниел Х. Уилсон
Современный, динамичный и крайне кинематографичный апокалипсис. ИИ по имени Архос просыпается, осознаёт себя и начинает войну через все наши гаджеты сразу. История рассказывается через десятки коротких, как новостные сводки, глав — посредством видеокамер, отрывков из дневников и так далее. Книжка читается за ночь и оставляет явственное ощущение, будто описанное происходит уже сейчас.
7. Серия «Берсеркеры» — Фред Саберхаген
Обожаю эту серию, особенно книгу «Брат-берсеркер», которую можно смело читать в отрыве от всего цикла. Саберхаген первым придумал концепт древних машин-убийц, созданных неведомо кем и когда для тотальной войны. Возможно, что и миллиарды лет назад. Они не ненавидят, да и не умеют ненавидеть — они просто уничтожают всю жизнь во Вселенной. С берсеркерами невозможно сражаться — даже если вы победите их, уничтожив их очередной огромный космофлот, то всё равно обязательно уцелеет один космический корабль, который укроется на отдалённом планетоиде и воссоздаст заново сам себя, подобно машинам фон Неймана — всё ради того, чтобы продолжить войну против всего живого. Берсеркеры это безэмоциональный, космический ужас без единого шанса на пощаду.
Вышеперечисленные истории не просто развлечение. Это предупреждения, которые мы упорно игнорируем, пока вливаем миллиарды в очередную «безопасную» модель от OpenAI, Anthropic и других корпораций.
А теперь самое интересное. Какой из этих сценариев кажется вам наиболее вероятным в 2026-2030 годах?
Пишите в комментариях название. Ваши ответы я сохраню и сделаю отдельный пост, расскажу более детально о произведении и о том, насколько это соотносится с современными технологиями, в нашей с вами реальности.
И если вы ещё не читали Эллисона — начните именно с него. Потом переходите по списку.
Автор текста: Сергей Тарасов.
Новости, обзоры продуктов и конкурсы от команды Timeweb.Cloud — в нашем Telegram-канале ↩
Комментарии (51)
p-oleg
21.04.2026 17:59
radmirryan
21.04.2026 17:59Нет никакого AGI. Есть только чат-боты (LLaMA, ChatGPT), которые не умеют ничего в прямом смысле. Они лишь обрабатывают статистические закономерности текста и занимаются классификацией.
guliverza
21.04.2026 17:59вот когда вас обработают и класифицируют как мусор, вы очень захотите, чтобы AGI всё-таки был. А полномиочия этим чат-ботам выдадут, вы не сомневайтесь.
skthn
Задолбали. Нет у нас никакого AGI даже на горизонте. LLM это просто чат бот, который теперь в каждой бочке затычка.
Кстати, в метаморфозах ИИ никаких мучений не устраивает, это делают люди исключительно добровольно.
RemirZK
Я согласен что AGI в чистом виде конечно нет, LLM в качестве агента уже выполняют многие задачи лучше людей, если конечно это "лучше" правильно прописано в промпте. Но это не выглядит как что-то, что является фундаментальным ограничением, которое в ближайшие 10 лет не пройдут
skthn
Галлюцинации LLM — это фундаментальное ограничение, которое невозможно превзойти. Плюс у них нет логического аппарата для оценки правдивости утверждений. С этим невозможно ничего сделать, кроме как пытаться чинить костылями разной степени надёжности.
rPman
Скорее всего в чистом виде llm не может стать тем самым agi, но вот как часть комплекса (сейчас это называется агентом или агентной системой), почему нет.
Отличный пример - при работе с данными, агенты могут не анализировать сами данные напрямую, пропуская их через крохотное и глючное контекстное окно, а разрабатывать детерменированный код, который будет это делать. Представьте систему, которая работает с данными и пишет код не как один из этапов пайплайна, а как встроенный процесс, коим сейчас является режим размышлений (а вот размышления в текущем виде я считаю тупиковой ветвью, просто эксплуатация недостатков модели)
Hlad
Технически - возможно. Просто потребуется на два десятичных порядка больше ресурсов, чем есть сейчас. Практически - тот, кто попытается сделать не-галлюцинирующую LLM, проиграет экономическую гонку.
agat000
Человеки тоже галлюцинируют от души. Глючат и лажают по черному.
Как то решили эту проблему через коллективную обработку информации, распределенную верификацию, делегирование задач узкоспециализированным протестированным юнитам с последующей проверкой. И систему "доверенных авторитетов".
Криво-косо, но вроде работает, выползли из пещер в космос как то.
Кто сказал, что каждая отдельная единица ИИ должна быть капец умной и безгрешной? "Коллектив" ИИ вполне может состоять из несовершенных юнитов и успешно решать задачи, главное - налаженная система оценки и проверки. И система "кармы" - чем меньше за единицей косяков - тем выше авторитет и вес голоса.
Astrowalk
Так в том-то и дело. Апокалипсис – это передача управления цивилизацией бессознательным алгоритмам. Алгоритмы будут настолько хороши, что человек не сможет отказаться от них – и в конце концов доверит им управление оружием, энергетикой, производством. Но не настолько совершенны, чтобы рано или поздно не ошибиться с неожиданными результатами. Это я пересказал одну из идей, вычитанных из книг Юваля Харари.
AnatolyEmelin
"Вердикт Высшего Галактического совета:
Галлюцинации кожаных мешков — это фундаментальное ограничение, которое невозможно превзойти. Плюс у них нет логического аппарата для оценки правдивости утверждений. С этим невозможно ничего сделать. Рекомендовано полное уничтожение."
viktorov_aa
все то же самое можно сказать и про людей ;)
ABy
werevolff
Людям, работу которых современный ИИ выполняет лучше, чем они сами, стоит серьёзно задуматься.
DenSigma
Экскаватор тоже быстрее копает ямы. Землекопам стоит серьезно задуматься?
werevolff
А почему нет? Стоимость их труда падает при наличии автоматизированных средств. Значит, нужно задуматься над тем, насколько их работа требует квалификации? Правда, вот тут не сходится кое-что. Программист, в отличие от землекопа - это квалифицированный человек. Его труд требует определённых знаний и умений, а не просто скорости написания кода. Не находите?
DenSigma
Производительность увеличивается. Количество требуемых землекопов снижается на первый взгляд. В реальности - только увеличивается, поскольку общество начинает больше строить.
Производительность увеличивается. Затраты производства на один кубометр грунта снижается на порядки. Общество начинает больше строить.
Зарплата конкретного землекопа увеличивается, поскольку для выполнения его обязанностей требуется большая квалификация.
Но для производства это выгодно, потому что зарплата увеличивается на десятки процентов, ну в два-три раза. А производительность его работы увеличивается в десять-сто раз.
Еще раз. Стоимость труда экскаваторщика выше, чем стоимость труда землекопа с лопатой.
В применении к программистам - то-же самое. Рядовые "набиватели" кода будут не нужны. Нужны будут программисты, умеющие проектировать архитектуру приложений, умеющие грамотно излагать свои идеи на бумаге, умеющие быстро понимать, что написала нейросеть, проверять правильность и добиваться от нее тог, что задумано, и дописывать и переписывать то, что нейросеть не осилила.
Ничего нового. Потребуется только повышать свою квалификацию. Задуматься, конечно, нужно, но ничего катастрофического.
fx32
Давно бы уже пора понять, что на добре и счастье денег не заработаешь. Деньги зарабатываются лишь на страхе, несчатье и горе людском. Вот потенциальные денгозарабатыватели и лезут из кожи вон, придумывая всякие страшилки и прочую чушь!
Hoksmur
Даже на текущей архитектуре с совсем не нулевым шансом может произойти качественный переход. Мы же тоже вспоминаем только первый раз,а потом - вспоминаем воспоминания.
Как минимум https://ru.wikipedia.org/wiki/Парамнезия и почитать по запросу "ложные воспоминания". И как мы не замечаем процессов отдельных синапсов и химических реакций в нервных клетках, так и вероятный AGI не будет замечать, но будет базироваться на "предсказании следующего слова".
guliverza
В том-то и дело, что настоящео ИИ нет. C ИИ можно было бы договориться, он хотябы принимал бы аргументы. А нынешние LLM больше похожи на скрипт с целью, которую они сам не понимают и могут беконечно извратить. Я больше боюсь такого безумного скрипта, чем настоящего ИИ.
Astrowalk
Именно. Человечество и так справляется с разрушением экосистемы, и его части не в силах договориться; помощь алгоритмов может оптимизировать этот процесс ☺.
Dr_Faksov
Как вы собираетесь договариваться с собеседником, который отвечает на ваш вопрос через десять тысяч лет, после того, как вы его задали? Да и захотие ли?
ABy
Интеллект ≠ личность. Вроде ИЛ никто не обещал.