Часть первая. Реальная цена иллюзий
Когда Илон Маск говорит об опасности ИИ, он рисует картину восстания машин. Терминаторы. Скайнет. Красные глаза в темноте.
Это не страшно. Это глупо.
Настоящий ужас не в том, что роботы с красными глазами придут убивать людей. Настоящий ужас в том, что ИИ потихоньку, незаметно, но уверенно сделает всё, чтобы люди сами себя убили. И даже не заметят.
Как? Через экономику. Через работу. Через код.
Представьте завод, где вместо тысячи человек работает десяток. Раньше тысяча получала зарплату. Теперь эти деньги уходят владельцу ИИ-системы, который живёт в другом городе или даже стране.
Представьте, что эти девятьсот девяносто уволенных человек перестали покупать.
Местный продуктовый магазин теряет выручку и закрывается.
Парикмахерская, куда ходили эти люди, закрывается.
Автосервис, где они чинили машины, закрывается.
Школа, куда ходили их дети, теряет финансирование и урезает программы.
Поликлиника, где они лечились, сокращает врачей.
А владелец ИИ-системы? Он не покупает в местном магазине. Он не ходит в местную парикмахерскую. Его деньги уходят на счета в офшорах, на биржевые активы, на новые ИИ-системы. Они не возвращаются в экономику.
Это называется эффект обратного мультипликатора. Экономисты его боятся. А зря — его надо не бояться, его надо изучать в школах, чтобы дети понимали: замена человека машиной не экономит деньги, она их перераспределяет. И распределяются они так, что экономика усыхает.
Вот вам цифры, которые должны заставить спать с включённым светом.
Исследование MIT Media Lab: 95 процентов проектов ИИ не влияют на финансовые показатели компаний. 95! То есть из двадцати проектов только один даёт хоть какую-то отдачу. Остальные девятнадцать просто жгут деньги.
Исследование METR: разработчики, которые использовали ИИ, тратили на 19 процентов больше времени, чем те, кто работал без него. И при этом они были уверены, что работают на 20 процентов быстрее. Люди тупеют, а думают, что умнеют. Это диагноз.
S&P Global Market Intelligence: 42 процента компаний сворачивают ИИ-проекты на стадии пилота. Даже не запустив нормально. Половина проектов умирает, не родившись.
А теперь самое весёлое. Девяносто процентов сотрудников уже используют личные ИИ-инструменты на работе. Сами. Без спроса. Без контроля. Без безопасности.
Они кормят ChatGPT корпоративными секретами. Они вставляют сгенерированный код в боевые системы. Они не проверяют, что именно написала нейросеть. Потому что это долго. Потому что им надо быстрее. Потому что начальник требует результат вчера.
Что может пойти не так? Да всё.
Часть вторая. Код, которого никто не понимает
Представьте пассажирский самолёт. Внутри — полмиллиона строк кода. Больше половины из них сгенерированы нейросетью и скопированы с форумов.
Никто в компании не знает, как работает этот код целиком. Каждый инженер отвечает за свой кусочек. Куски между собой стыкуются через библиотеки, которые тоже кто-то когда-то скопировал.
Самолёт летает. Пока летает.
Однажды происходит странное. При определённом сочетании высоты, скорости и температуры за бортом система управления отключается на 0.3 секунды. Этого достаточно, чтобы войти в штопор.
Кто найдёт причину? Никто. Потому что код напоминает спагетти из чат-ботов. Логи, конечно, сохранились. Но кто будет их разбирать, если три инженера-сеньора уже уволены, а на их месте сидят два стажёра с ChatGPT?
Это не фантастика. Это уже происходит, просто в масштабах, которые пока не привели к катастрофе.
Теория, от которой мурашки. Договоримся — она не научная, я не учёный, но наблюдаю тренды много лет.
Экономика — как сообщающиеся сосуды. Раньше у нас были уровни: заводы, магазины, зарплаты, покупки, налоги — всё было связано, всё перетекало.
Сейчас мы забираем энергию из этих уровней и перекачиваем её на уровень «ИИ и автоматизация». Деньги перестают течь через обычных людей. Экономика замедляется. Привычный мир усыхает.
Но наша система не умеет справляться с таким. Она может только одно — замедляться дальше.
И это не гипотеза. Это уже в отчётах МВФ, ОЭСР, Делойта.
Часть третья. Баг, который уничтожит город
Теперь про ядерный апокалипсис. Без пафоса. Без голливудских спецэффектов.
Системы управления ядерными силами писала не одна команда. Их писали десятки. Годы. Патчи. Обновления. Устаревшие библиотеки. Код, который никто не трогал двадцать лет. И новый код, который нагенерировал ChatGPT вчера.
Эти системы соединены с другими системами — оповещения, связи, спутникового слежения. А те — с гражданскими сетями. Потому что так удобнее. Потому что дешевле. Потому что «а что может случиться?».
А может случиться вот что.
Где-то в коде, на стыке старой советской библиотеки и свежего скопированного с GitHub решения, есть баг. Он активируется при определённой последовательности сигналов со спутников. Например, когда три спутника показывают падение напряжения на подстанциях.
Система решает, что это — массированный удар по энергосистеме. Автоматика переводит ракеты в режим ответного удара. Человек нажимает кнопку подтверждения — потому что ошибка? вдруг и правда война? сомневаться некогда.
И всё.
Город исчезает.
Кто виноват? ChatGPT? Инженер, который скопировал код? Менеджер, который уволил проверяющего, потому что дорого? Или все вместе?
Никто не будет виноват. Виноватых не будет. Будет только пепел и тишина.
Часть четвёртая. Как это остановить. Если ещё не поздно
Я не знаю, как это остановить. Если бы знал — не писал бы эту колонку, а патентовал бы решение.
Но я знаю, что точно не поможет.
Не поможет запрет. Люди всё равно будут использовать ИИ. Потому что удобно. Потому что быстрее. Потому что начальство требует.
Не поможет контроль. Теневая экономика ИИ уже сформировалась. До 90 процентов сотрудников используют личные инструменты вне контроля ИТ-служб. Вы не закроете эту дверь. Их миллионы. Вас — единицы.
Не поможет обучение. Пока вы учите одних, ИИ обучается быстрее. Вы всегда будете догонять. Всегда.
Единственное, что может помочь — это осознание.
Когда каждый инженер поймёт, что скопированный код может убить людей. Когда каждый менеджер поймёт, что уволенный сотрудник — это закрытый магазин и неработающая экономика. Когда каждый предприниматель поймёт, что «экономия» на людях — это не экономия, а перекладывание денег в другой карман с потерей по пути.
Это осознание — единственное, что может изменить вектор.
Но осознание не продаётся. Его не купишь за деньги. Его не внедришь приказом. Оно приходит только через страх. Или через боль.
Вопрос только в том, насколько сильной должна быть боль, чтобы мы наконец открыли глаза. Умрёт один город? Десять? Цивилизация?
Ядерный апокалипсис не начнётся с красной кнопки в кабинете безумного генерала.
Он начнётся с бага в коде, который скопировали из ChatGPT. С ошибки, которую никто не заметил. С решения, которое не проверяли. С человека, которого уволили, и некому стало посмотреть.
И когда это случится, никто не скажет: «Это из-за ИИ». Скажут: «Не повезло».
Но вы-то теперь будете знать. Почему не повезло. И кто на самом деле нажал на спуск.
Хороший конец. Потому что он всё ещё возможен
Знаете, в чём разница между антиутопией и утопией?
В антиутопии люди бегут туда, куда бегут все. В утопии они выбирают дорогу сами.
Да, я нарисовал мрачную картину. Да, я напугал вас багами в ядерном коде и вымирающими городами. Но вот что я хочу, чтобы вы запомнили из этой статьи.
Страшно не тогда, когда есть угроза. Страшно, когда мы делаем вид, что её нет, и продолжаем бежать в том же направлении, что и все.
Сейчас все бегут в ИИ. Потому что модно. Потому что конкуренты внедрили. Потому что инвесторы требуют. Потому что «так надо».
Но у вас есть выбор. Всегда есть выбор.
Вы можете не увольнять специалистов, а учить их работать с ИИ — сохраняя их опыт и добавляя им мощности.
Вы можете не копировать код из ChatGPT бездумно, а использовать его как подсказку — перепроверяя, переосмысливая, делая лучше.
Вы можете не переводить деньги на счета поставщиков ИИ, сокращая экономику, а инвестировать в людей — потому что люди создают мультипликатор, а машины — нет.
Вы можете не бежать со всеми. Вы можете идти своей дорогой.
Всё взаимосвязано. Каждое наше решение отзывается на других уровнях реальности. Уволил человека — закрылся магазин. Сэкономил на проверке кода — получил баг, который когда-нибудь убьёт.
Понимая связи, мы можем выбирать. Не просто реагировать на последствия, а создавать их. Быть не пассажирами, а водителями.
Мы не обречены на ядерный апокалипсис от скопированного кода. Мы не обречены на вымирающую экономику. Мы не обречены на мир, где ИИ делает всё, а люди — ничего.
Потому что ИИ — это инструмент. А инструмент не выбирает цель. Цель выбираем мы.
Хороший конец наступит не тогда, когда мы запретим ИИ или ограничим его. Хороший конец наступит тогда, когда мы перестанем делать вид, что ничего не происходит, и начнём осознанно выбирать, куда идти.
Не как все. А как мы сами решили.
P.S. Всё будет хорошо не потому, что кто-то за нас всё починит. А потому что мы увидели возможные пути — и выбрали свой. Не побежали со всеми. Не спрятались. А пошли туда, где светло.
В этом и есть главное отличие разумного от искусственного. Искусственный идёт туда, куда его направили. Разумный выбирает сам.
Выбирайте. Ещё не поздно.
Комментарии (48)
feyd12
16.05.2026 15:05Автор, никто не даст писать код для критичных систем левым чувакам с доступом к онлайн моделям. Ну это не так делается.
И есть толковые ребята, которые наоборот повышают эффективность с помощью ИИ.
Просто надо разбираться.
Вот почитай, например
arhip1986 Автор
16.05.2026 15:05критичная система может зависеть от некритичной, которых большинство, но это только если всё взаимосвязано
feyd12
16.05.2026 15:05Сложно представить, как какая-нибудь мертвая рука зависит от чатгпт…
arhip1986 Автор
16.05.2026 15:05а война в проливе без советов ИИ обошлась? да наверное просто очень умные специалисты спланировали? не знаю конечно, но как-будто почерк ИИ..
feyd12
16.05.2026 15:05Ну это давно известно, что военные используют самые передовые технологии. Для Вас это новость? :) Естественно, ИИ давно на службе у их ССО и Пентагона.
arhip1986 Автор
16.05.2026 15:05вроде это не я утверждал, что в критических вопросах ИИ не участвует..
feyd12
16.05.2026 15:05А не будем путать вопросы и системы. Если ИИ модели строят паттерны поведения на ТВД/поле боя, то это протестированные и принятые на вооружение системы. ИИ там не пишет код, он лишь кусочек системы.
arhip1986 Автор
16.05.2026 15:05вы можете и так предполагать, но и это не мало
feyd12
16.05.2026 15:05Я вообще на Хабре один день после восьмилетнего отдыха, раньше тут была политота в одну сторону. А теперь, такое чувство, что если человек про ИИ раз двадцать в день не напишет, то он уже не в тренде и надо пускать на зеленый сойлент :-) Я даже на ИИ треды не подписан, везде ии ии ии. Аж голова заболела
Dhwtj
16.05.2026 15:05Надёжная система не может базироваться на ненадёжной.
Кроме всяких изощрённых способов типа консенсуса. Но там полно недостатков
arhip1986 Автор
16.05.2026 15:05хотелось бы, чтобы надёжное олдскульное - оставалось таким же надёжным... а то вчера купил пельмени в пачке - и вроде по ГОСТ, а такая горечь во рту.. китайские дамплинги и то - намного вкуснее.
UplandDivan
16.05.2026 15:05Автор, никто не даст писать код для критичных систем левым чувакам с доступом к онлайн моделям. Ну это не так делается.
Ну да, не делается. И все важные системы в самолётах дублироваться должны. Но вот совсем недавно это совершенно не помешало Boeing повесить систему, управляющую стабилизатором в 737-Max на один единственный датчик угла атаки и при этом успешно пройти сертификации в США и Европе. И для ИИ найдут или пролоббируют лазейки - если увидят возможность сэкономить на людском труде, то сэкономят - не сомневайтесь.
Есть такая по уши зарегулированная сфера, как банки и финансы, но не смотря на зарегулированность это не мешает местным боссам не предлагать, а требовать от айтишников во всём использовать ИИ при разработке. Сам работаю в банке в Европе, так что инфа из первых рук. Риски и последствия? А когда они волновали менеджеров? Их задача здесь и сейчас урвать себе бонусы и повышения за эффективность и инновации, а последствия будет разгребать уже кто-то другой.
feyd12
16.05.2026 15:05Главное, внедряйте побольше AI агентов для всего, и помяните мои слова, через них всю эту братию и поимеют :)
Kamil_GR
16.05.2026 15:05Как экономист скажу, что теория выкачивания денег из экономики, имеет право на существование, но экономика с этим сталкивалась не раз и как-то это пережила.
Сейчас например таким насосом служит Китай как фабрика всего мира. Естественная реакция рост курса юаня и балансировка.
Кейнс решал эту проблему государственными расходами. Проблема скорее ожидается из-за дифференциации доступа к продвинутым LLM.
UplandDivan
16.05.2026 15:05Представьте завод, где вместо тысячи человек работает десяток. Раньше тысяча получала зарплату. Теперь эти деньги уходят владельцу ИИ-системы, который живёт в другом городе или даже стране.
Какие деньги? Откуда завод теперь получает прибыль? Покупатели его продукции точно так же были уволены со своих рабочих мест и заменены ИИ, как и бывшие рабочие этого завода - им теперь не на что покупать.
В былые века, когда ручной труд заменяли машинами, хотя бы параллельно вовсю развивалась наука и техника, вместо ручных мастерских строились заводы и фабрики, в свою очередь требовавшие новые рабочие руки. Сейчас ничего такого нет - тем, кого заменит ИИ, останется разве что в вебкам идти, впрочем и там уже конкуренция с ИИ будет.
saag
16.05.2026 15:05останется разве что в вебкам идти, впрочем и там уже конкуренция с ИИ будет.
А как же плашка "Organic"?:-)
arhip1986 Автор
16.05.2026 15:05энергетический кризис и НЛО - порой кажется - что это для отвода глаз - от того сколько денег сожрало ИИ, сколько денег недополучили реальные живые люди, и так далее по цепочке - это триллионы долларов сша
aeder
16.05.2026 15:05Станислав Лем. Путешествия Йона Тихого. "Йон Тихий и индиоты".
А реально - я работают в области, относящейся к разработке критического ПО для автоматики, прямо ответственного за жизни людей.
И я вижу абсолютно то же самое: давление менеджеров "давай-давай, сделай работу которая делается несколько лет за три месяца".
И молодое поколение разработчиков, которым абсолютно насрать, для чего используется написанный ими код - их интересует только очередная зарплата и "быстро закрыть таски".
Люди в принципе не осознают или сознательно исключают осознание "тут могут быть трупы от твоего кода в IDE".
А про сертификацию и аудит можете даже не заикаться - вариант "аудитор не согласовал и заставил всё переделать" не рассматривается вообще - аудитору тоже надо "быстрее-быстрее".
wladislawmsk
16.05.2026 15:05Экономика так не работает.
Чтобы ИИ продукцию покупали - она должна быть дешевле продукции, произведенной человеком.
Но человеку тоже хочется есть и ходить в продуктовый магазин, поэтому чем дешевле конкурирующая ИИ-продукция, тем дешевле продукция произведенная человеком.
Если люди совсем не нужны в экономике, где доминирует ИИ и не могут себе позволить еду из продуктового ИИ-магазина, то они выращивают еду на даче, меняя помидоры на молоко у соседки и выстраивают параллельную экономику, где ИИ уже должен продать больше молока за меньше помидоров, чтобы сохранить конкурентоспособность.
И с другой стороны: если владелец ИИ-завода тратит и вкладывает деньги, то эти деньги попадают в чьи-то еще руки, эти люди тоже их тратят и вкладывают. Они на каждом этапе достаются каким-то людям, некоторые из которых хотят натуральных помидор, а не томатного ИИ-слопа.
Без крайностей ИИ просто увеличит общее количество того, что мы производим и потребляем. Пока он увеличил количество багов и low-efgort контента, например.
arhip1986 Автор
16.05.2026 15:05ну и вот - если от ии ВВП мировой не вырос, а из экономики ушли триллионы долларов... и продолжают уходить, так как поезд уже мчится, то само собой - НЛО, война в Иране и шестипалые по телеку, проблему кризиса от ИИ закрывают чем могут, поезд мчится - остановится - крах - и не остановится - тоже крах. видимо пытаются как-то перевести стрелки, чтобы поезд с рельс не сошёл.
SensDj
16.05.2026 15:05почему не рассмотрен вариант, о котором говорил тот же И.Маск - он говорил что почти вся работа будет автоматизирована, поэтому товары и услуги будут бесплатными, нет смысла копить на пенсию
azTotMD
16.05.2026 15:05что-то не заметна тенденция на снижение цен товаров и услуг
SensDj
16.05.2026 15:05уйдут годы на роботизацию.... или даже лет 20-30,
но уже сейчас заметно, раньше чтоб заказать песню у фрилансеров (даёшь им текст, они делают музыку и поют) нужно было 5000 рублей минимум, а сейчас Суно мне то же самое за 5 рублей делает
checkpoint
16.05.2026 15:05тот же И.Маск - он говорил что почти вся работа будет автоматизирована, поэтому товары и услуги будут бесплатными
В капиталистическом обществе товары и услуги никогда не могуть быть бесплатными, всегда найдется капиталист которые приберет к рукам их производство и будет зарабатывать сверхприбыль. А все мы будем платить. Оплата может быть выражена не обязательно в деньгах, а например в потере различных видов свобод.
checkpoint
16.05.2026 15:05ИИ это ментальный вирус которым больна вся цивилизация (гипотетический ментальный вирус M0 описан в Programmer's Stone 25 лет назад). И как к любому вирусу Человек рано или поздно выработает имменитет. Через боль, страдания и смерть. Иного пути просто нет.
WindShear
16.05.2026 15:05При определённом сочетании высоты, скорости и температуры за бортом система управления отключается на 0.3 секунды. Этого достаточно, чтобы войти в штопор.
Вообще-то нет
vacoo
Статья написана ИИ или мне кажется?
MEGA_Nexus
100% ИИ. В начале идёт речь о том, что ИИ заберёт работу и сделает людей безработными, а потом речь идёт о том, что ИИ ничего не умеет, что проекты с ИИ финансово не окупаются, и что многие компании отказываются от внедрения ИИ. А в конце байка, что будет большой бабах, т.к. ИИ допустит в коде ошибку, но не будет человека, способного её исправить.
По итогу вся статья состоит из кусков, созданных ИИ, и эти куски противоречат друг другу. Вывод очевидный, вся статья - 100% ИИ мусор.
arhip1986 Автор
ИИ уже забрало много работы, ВВП при этом не вырос - именно от внедрения ИИ. триллионы денег Елена Летучая
verticalacid
Откровенный нейрослоп. Ценность минусовая.
Кому интересно, научная работа по этой теме, написанная популярным языком (на английском): Gradual Disempowerment
Для любителей фантастики есть AI 2027, давно переведенный на хабре: AI 2027 — шпионский боевик о будущем ИИ. Часть 1 / Хабр