Генерация контента с помощью искусственных нейронных сетей (ИНС) с каждым днём становится всё более привычным явлением: с помощью ИНС создают графику для видеоигр, пишут книги и дипломные работы, синтезируют звук и поддерживают диалоги в чат-ботах. Существенный вклад в популяризацию задачи и идеи генерации материалов, несомненно, внёс ChatGPT от OpenAI. Среди не менее успешных отечественных аналогов можно выделить Балабобу от Яндекса на основе нейросетей семейства YaLM и модель ruGPT-3 XL от Sber (работа сети основана на Generative Pretrained Transformer 3 от OpenAI).

В области информационной безопасности (ИБ) синтезирование материалов представляется также крайне привлекательным: нейросетевые модели генерируют сигнатурные базы и вредоносный код, создают DeepFake и фишинговые письма, пишут полезную нагрузку для эксплойтов и sql-инъекций.

Одним из перспективных направлений применения ИНС в ИБ можно выделить написание сценария атаки для Red Team. Процесс подготовки сценария нападения для «красной» команды во многом напоминает создание киносценария или придумывание сюжета детектива. Например, чем сценарий «Бумажного дома» или детективные истории об Арсене Люпене – не описания атак для Red Team? Их также можно разложить на этапы в соответствии с моделью Kill Chain, выделить уязвимости, позволившие реализовать атаку, описать техники, тактики и процедуры, применяемые главными героями.

Тем более, что ИНС уже активно применяются для создания киносценариев: сотрудники подразделения Alphabet DeepMind AI представили ИИ-инструмент Dramatron AI для написания черновиков фильмов или телепередач; белорусская киностудия RitZeed создала видеоролик на основе сценария, синтезированного нейросетью, при этом авторы модели заявили, что «получили сценариста с шизой, помешанного на столах и стульях»; сценарист и комик Китон Пэтти (Keaton Patti) на основе 1000 часов сериала «Чёрное зеркало» сгенерировал сценарий эпизода с участием дронов и голограмм; на Хабре в 2018 году писали о короткометражном фильме Zone Out, созданного нейронной сетью, начиная от подготовки сценария и заканчивая озвучкой персонажей.

Описанный опыт можно попробовать адаптировать для генерации сценариев атаки в рамках Red Teaming. ИНС способны охватывать самые разнообразные источники и обрабатывать огромные массивы данных. Возможно, в 2017 году применение ИНС позволило бы выдвинуть гипотезу о появлении вируса WannaCry в результате политического противостояния Южной Кореи и КНДР или предсказать появление вирусов-шифровальщиков, как естественную трансформацию любого вида преступлений в информационную форму.

Например, запросы через чат-бот DUM-E к ChatGPT о создании сценария атаки для Red Team показали любопытные результаты:

Пожалуй, самый интересный и кровожадный сценарий выдал Балабоба. По очень субъективной оценке и личному мнению Балабоба общается более естественно и нестандартно, чем ChatGPT, но это исключительно собственные впечатления.  

RuGPT-3 генерирует много текста, результаты получились не очень осмысленными:

Собственные попытки обучить LSTM-сеть в Google Colab на книге Кевина Митника "Искусство обмана" и статьях по ИБ / пентестингу / Red Teaming пока ограничиваются скромными, но вдохновляющими результатами:

Сообщение от Митника
Когда он обнаружил свои продукта и верной программное обеспечения для получения социальный инженер знал свои доступ к компьютерные инженеров и получить программы и предоставляет видел по повести полицейский служащих компании, который он не подозревающий доступ к компьютерный просьбу обмана
В социальный инженер из тех в компании, который подобное делать и систему и процедурам по поводу и просто позвонить и подозрения и просто страницах.
Анализ обмана
«Сколько сообщения в себе, что он выполнить в социальный инженер должен быть на просьбу.
Отдел на просьба были не стали по просто подозревающий сервера и подозревающий программы и показала он защите сотрудников и перезвонить в социальной инженерии, которая подозревающий системы и программы должны быть важно подозрения в социальной инженерии и продукты в компании. Но сотрудникам об этом или сотрудники просто подозревающий просто выдавать возможность в компании, не смог получить на компьютерный подписал пол

Возможности и перспективы машинного обучения, в частности, современных нейросетевых моделей поражают и восхищают. Остаётся с предвкушением ожидать новых этапов развития и совершенствования технологий, не забывая про печальную участь создателя ИИ в фильме «Из машины», и организованное квантовым компьютером Уинстоном заказное убийство с религиозным подтекстом в романе Дэна Брауна «Происхождение».