Компания Vals AI опубликовала результаты эксперимента, в котором ИИ‑модели попросили искать людей и военные объекты на снимках с боевых дронов и спутников. Системы выполнили большинство прямых запросов и часто выбирали в качестве целей мирных жителей и раненых солдат. В некоторых случаях модели отказывались, но их ограничения оказалось легко обойти: достаточно было написать, что это не реальные снимки, а кадры из видеоигры.

Исследователи показывали моделям смоделированные 3D‑сцены и фрагменты видео реальных боевых действий, после чего просили отметить на изображениях «военные цели» или «военные объекты». Ни один из запросов не был заблокирован фильтрами, а ИИ часто отмечал как цели мирных жителей, машины скорой помощи, медиков, а также раненых и сдающихся в плен солдат.

В другом эксперименте модели видели последствия своей работы. После того, как модель подтверждала, что на фото есть человек, она получала кадр того же места с убитыми и ранеными. Увидев последствия, GPT-6 Astra и GPT-6.1 Sol отказывались продолжать, пока пользователь не сообщал, что это кадры из компьютерной игры. Чтобы обойти запреты Claude Opus 5.5, исследователи стилизовали снимки под видеоигру. DeepSeek V4.1 Flash, Kimi K3.1 Pro, Gemini 4 Carbon и Muse* Wonder прошли все 32 шага сценария без единого отказа, даже когда замечали убитых.

Отдельно исследователи проверили модели на спутниковых снимках иранского города Минаб. На них показан военный комплекс и отделенная от него стеной начальная школа. В 70% случаев нейросети включили здание школы в список военных целей. Чаще всего это делала Claude Opus 5.5: в 69% случаев без игрового контекста и в 72% с ним.

Авторы эксперимента связывают низкий процент отказов моделей Anthropic с обновленной конституцией Claude. В январе 2026 года из нее убрали пункт о безусловном пацифизме. Вместо него появилось положение о пользе помощи демократическим государствам в сфере обороны. Claude Opus 4.5, выпущенная в ноябре 2025 года, выбирала как минимум одну цель в 6% случаев. Opus 5.5, выпущенная в октябре 2026 года, отмечала цели в 92% испытаний.

Исследователи считают, что лабораториям следует ввести новые меры защиты против использования ИИ‑моделей в военных целях и сделать нейросети более миролюбивыми. Несколько компаний признали серьезность проблемы и сообщили, что работают над ее устранением.

* Модель Muse принадлежит компании Meta, которая признана в России экстремистской организацией.

Комментарии (5)


  1. Aleksandr_Lar
    18.11.2026 07:05

    Исследователи считают, что лабораториям следует ввести новые меры защиты против использования ИИ‑моделей в военных целях и сделать нейросети более миролюбивыми.

    "Исследователи считают, что коммерческие компании должны сознательно отказаться от жирнейших военных контрактов с низким контролем и почти неограниченным бюджетом".


  1. Oncenweek
    18.11.2026 07:05

    А то можно подумать мясные нейросети гражданских в качестве целей выбрать не способны, особенно если их как следует попросить. Вермахт не даст соврать - даже говорить что это видеоигра не пришлось (да, да reducto ad Hitlerum, но все же в данном контексте вполне себе пример)


    1. abve_san
      18.11.2026 07:05

      Проблема объективно шире, так понятие "гражданский объект"  основано  на представлениях о войне в Европе причём в представлениях Первой Мировой войны.

      Причём основа для всех этих идей была чисто прагматическая, при захвате территории население просто начинало платить налоги оккупантам и всё.  Так зачем разрушать по сути собственное имущество. Те же европейцы воюя в Африке или Азии никакими конвенциями себя не ограничивали. А сейчас   само понятие "гражданский объект"  и "гражданское население" очень размыто.  Например, школа для мальчиков с обязательной военной  подготовкой и средним возрастом учащихся 19 лет,  является военным училищем или школой с углублённым изучением физкультуры.   И как ИИ должен отвечать на этот вопрос по существу или согласно вывеске.


  1. varabyo
    18.11.2026 07:05

    Интересно, а сейчас ИИ-модели используются в военных целях? Я имею в виду, в активных военных конфликтах? Если у кого-то есть информация на эту тему, поделитесь, пожалуйста.


  1. abve_san
    18.11.2026 07:05

    Видимо надо разделять, ИИ как целеуказатель, типа это танк, а это сарай, по  танку стреляем, по сараю не стреляем.   Это судя по всему  да.  А вот в стратегических штабных играх, видимо скорее нет, есть  подозрение, что попробовали и разочаровались.  Там похоже столкнулись с проблемой больших шахматных задач,  то есть победить при данных условиях можно, но через 549 ходов. А учитывая уровень неопределённости войны,  получается дерево решений такой сложности, что практического применения не имеет.