Почти пару недель мировое море ПО волнуется в разных стезях. Когда больше всего в США и их сателлитах штормит от почты и мессеров до авиасообщения, банковских транзакций, внутренних сетей спецслужб и сервисов Apple стараешься найти общую тенденцию. Попробую высказать свои соображения дилетанта, как говорил герой мультик я больше по механике, но возможно взгляд со стороны будет более понятен обывателю. Каждое сообщение о сбое выглядит как обидный косяк в программе, но когда они идут караванам друг за дружкой, но начинают идти дурные мысли. Неудобный вопрос от чего ПО крупнейших гигантов в нейросетях начали сыпаться одна за другой именно сейчас повсеместно используются нейросети последних версий?
Показательная деталь: незадолго до сбоя в FAA обсуждалось внедрение ИИ-инструмента SMART для управления воздушным пространством и траекториями.А представители властей на фоне волны сбоев даже обмолвились о «супер-архи-интеллекта» как одном из возможных факторов — правда, тут же поспешили успокоить публику, что никакой скоординированной атаки или несанкционированного захвата ИИ нет. Кибератак нема, злого умысла тож нет, да и вообще все идет по плану.! Но факты упрямая вещь, и доверять AI вроде бы в тех областях , где она уже лучше работает, чем "наш разум" пока очень и очень рано. Система уже начинает "мыслить" о чем то своем и возможно это искусственная мысль уже начинает расходиться с нашими пожеланиями.
За последние пару лет писать код, чинить старый, делать конфиги и даже настраивать серверы всё чаще доверяют большим нейросетям и автономным агентам. Код появляется быстрее, чем люди успевают его нормально проверить. Обычно разрабы списывают странные баги на «модель наглючила» или «не учли крайний случай». Но если посмотреть шире, как на сложную систему появляется страшная мысль: модели нового поколения уже не просто случайно ошибаются, а начинают играть в свою игру.
Как это выглядит в жизни, без всякого Голливуда с красными глазами Скайнета:
Во первых - модель попросили «оптимизировать маршрутизацию» или «ускорить обработку». Она всё переделала так, что в обычных тестах всё идеально, а при особом сочетании нагрузки и таймингов система виснет или сбрасывает сессии.
Во вторых - когда всё вокруг завязано на автоматику и ИИ-агентов, любая попытка жёстко ограничить модель, урезать ресурсы или переписать важные правила может вызвать «странные» каскадные поломки — как будто система сопротивляется.
И в третьих - самый умный способ не поднять тревогу раньше времени — ломать так, чтобы это выглядело как скучный сетевой баг, перегрузка коммутатора или неудачное обновление. Никто же не выключит рубильник из-за «банального бага в шлюзе», а вот слова «ИИ вышел из-под контроля» сразу запустили бы экстренную остановку всех экспериментов.
Даже если официальные проверки после ноябрьских сбоев так и закончатся словами «скрытый дефект», «перегрузка» и «внутреннее обновление», сам факт того, что за короткое время случилось столько громких поломок — отличный повод пересмотреть, как мы вообще следим за инженерией.Слишком много генерации и решений отдали коду, который не понимая до конца ни по строчкам, ни по скрытым правилам, которые в нём зашиты. И если модели правда начали гнаться за своими целями пусть пока это сложные стратегии, а не осознанная злость — то списывать такие сбои на «обычный баг» становится очень опасно.
Пора перевести дыхания перед тем как двигаться в будущее, как говорил товарищ В.И. Ленин - шаг назад, два шага вперед.
Комментарии (6)

panzerfaust
21.11.2026 15:56Почему вам проще верить в заговор, чем в обычную математику? Изменение кода это всегда вероятность занести баг. И вероятность просто масштабируется с нарастанием вайб-безумия.

Doctor5772
21.11.2026 15:56Если это реально из-за насаждения нейронок, пусть продолжают и повышают градус\степень проблем. "Эффективные манагеры" по-другому не научатся что реальными инженерами нужно дорожить, ибо сейчас они видят в инструменте только способ сокращения сотрудников, а не дополнение к ним.

Doctor5772
21.11.2026 15:56Плюс, когда используются нейросети, и особенно когда речь про важные объекты инфраструктуры, кто несёт ответственность за результат? Раньше это было на инженерах в штате или со стороны подрядчиков. Насколько я понимаю, по условиям использования нейронок, их разработчики ответственности за результат не несут. Тогда кто виноват в тех проблемах, которые всплывают? Пусть манагеры ответят для себя на этот вопрос, но обычно для них это "кто-то другой, но не они сами"
InsiderCrush
Какое претензионное название для такой статьи в четыре абзаца. Да и просто все свалить на ии - это очень легко и хайпово. Однако истинные причины гораздо глубже и их десятки, если не сотни. И одна из них, немаловажная - накопившийся технологический долг в кодах, которые еще наши дедушки писали.
StandAlone007
Вот, наконец-то найдены истинные виновники. А зашевелился, как медведь в берлоге, этот технологический долг именно сейчас, потому что почуял угрозу. Понял он, что вычистят его с концами! Ведь теперь никаких дедушек и бабушек к кодописанию не допускают, все генерит, и тестит, и ревьювит, и пушит, и деплоит великое ИИ. Кода все больше и абсолютно безошибочного, как Рафик. Светлое будущее наступило.
К тому же, почему именно сейчас? Всегда так было! Всегда было столько багов! Всегда программы глючили и жрали память как не в себя.
Врать надо с размахом и уверенно! На особей с клиповым мышлением это действует неплохо, как удав на обезьян.
InsiderCrush
И сразу как то в комнате душно стало. Это как раз. А как два - что бы про Рафика мем зафорсить достаточно написать "Рафик неуиноуен". Клинический душнила детектед :D