Искусственный интеллект — это не просто еще один технологический слой. Это технология общего назначения, которая открывает новые возможности для операционной деятельности. Сегодня, по мере того как предприятия интегрируют машинное обучение, генеративный ИИ и агентную оркестрацию в свои процессы, кибер-риски множатся так, что это отражает не только новые возможности, но, к сожалению, и законы бюрократии К. Норткота Паркинсона. Паркинсон отмечал, что неэффективность не случайна, а является неизбежным следствием роста, если его не сдерживать дисциплинированным управлением. В сфере кибербезопасности ИИ возникают схожие закономерности.

Эта статья вводит «Законы Паркинсона для кибербезопасности ИИ» — концептуальную рамку, выделяющую шесть системных законов, которые ведут к расширению уязвимостей в предприятиях, использующих ИИ:

• Расширение поверхности атаки

• Нарастание сложности

• Размывание безопасности

• Смещение контекста

• Отставание комплаенса

• Энтропия доверия

Распознавая эти динамики, руководители по безопасности могут предвосхищать структурные риски до того, как они проявятся. Каждый закон рассматривается с точки зрения последствий для бизнеса, обновленных кейсов и детального сопоставления с основными регуляторными рамками, такими как NIST AI Risk Management Framework (RMF), ISO/IEC 42001 и EU AI Act. Статья завершается практическими стратегиями для советов директоров, CISO и регуляторов, чтобы управлять внутренними рисками автономных и полуавтономных агентных систем, работающих на базе ИИ.

Введение: почему закон Паркинсона важен в кибербезопасности

В 1955 году К. Норткот Паркинсон опубликовал свое ныне знаменитое эссе о бюрократии, отметив, что «работа занимает выделенное на её завершение время». Его наблюдение касалось не только бумажной работы, но и системной неэффективности в целом. Паркинсон утверждал, что организации склонны расти и усложняться, размывать ответственность и подрывать доверие — если не действуют мощные корректирующие силы.

Перенесёмся в сегодняшний день: кибербезопасность ИИ сталкивается с идентичной закономерностью системного смещения. Автономные агенты, генеративные системы и сложные фреймворки оркестрации расширяются за пределы досягаемости традиционных средств контроля. То, что Паркинсон называл бюрократическими неизбежностями, мы теперь видим как кибернеизбежности. Шесть законов Паркинсона (The Parkinson Hexad) предлагают способ отобразить эти силы на кибербезопасность ИИ, создавая оптику для руководителей и регуляторов предвосхищать проблемы до того, как они метастазируют в утечки данных или кризисы в связи с нарушением комплаенса.

Закон расширения поверхности атаки

Формулировка: По мере роста внедрения ИИ поверхность атаки расширяется автоматически, часто быстрее, чем её можно обеспечить безопасностью.

Каждая новая модель, агент или интеграция увеличивает цифровой след предприятия. Это включает не только очевидные компоненты, такие как API для генерации с обогащением поиском (RAG) и векторные базы данных, но и появление «теневого ИИ» (Shadow AI) — неотслеживаемых моделей и инструментов, созданных бизнес-подразделениями, работающими вне управления IT. Как Паркинсон отмечал, что штат расширяется независимо от нагрузки, так и поверхность атаки расширяется независимо от непосредственной необходимости, движимая лёгкостью развёртывания новых инструментов ИИ. Злоумышленники используют ИИ для создания высоко убедительных фишинговых писем, которые настолько персонализированы, что могут обойти традиционные средства защиты и человеческую подозрительность.

Метрики и средства контроля:

• Метрика: Отношение задокументированных конечных точек и моделей ИИ к общему количеству обнаруженных активов с помощью автоматического сканирования (Цель: >95%).

• Средство контроля: Внедрить автоматизированное управление поверхностью атаки (ASM) с непрерывным обнаружением и инвентаризацией активов ИИ.

• Связь с фреймворками: Это соответствует функциям Govern и Map NIST AI RMF, которые устанавливают контекст и категоризируют системы ИИ, и пункту 8 ISO/IEC 42001 (Operations), который охватывает операционное управление системами ИИ.

Закон нарастания сложности

Формулировка: Системы ИИ склонны накапливать ненужную сложность, увеличивая вероятность неверных конфигураций и непредсказуемых сбоев.

Уровни оркестрации, такие как созданные с помощью LangChain или включающие протоколы многoагентного взаимодействия, могут расти так, что немногие архитекторы полностью понимают их. По мере того как агентам предоставляется возможность рекурсивно вызывать других агентов или инструменты, границы безопасности размываются и возникают эмерджентные поведения. Точно так же, как бюрократия расширяет иерархии до точки непостижимости, развёртывания ИИ накапливают слои взаимодействия, которые заслоняют прослеживаемость и контроль. Эта сложность затрудняет аудит поведения системы и проверку того, что правила безопасности работают так, как задумано.

Метрики и средства контроля:

• Метрика: Среднее количество вызовов агент-агент или обращений к инструменту на транзакцию (Цель: держать ниже определённого порога, например, <5).

• Средство контроля: Строго ограничивать глубину оркестрации и внедрять «страховки границ контекста» для предотвращения рекурсивных циклов.

• Связь с фреймворками: Этот риск рассматривается гарантиями ЕС по ИИ-закону для высокорисковых систем (EU AI Act’s safeguards for high-risk systems) и фокусом ISO/IEC 42001 на управлении рисками.

Закон размывания безопасности

Формулировка: По мере того как ответственность за безопасность ИИ рассеивается по бизнес-подразделениям, подотчётность исчезает.

В большинстве предприятий проекты ИИ запускаются в различных подразделениях, включая R&D, маркетинг, операции и обслуживание клиентов. Каждое подразделение часто предполагает, что другая группа (обычно IT или центральная команда по данным) занимается безопасностью, конфиденциальностью и комплаенсом. Точно так же, как закон Паркинсона о рассеивании штата, где ответственность становится настолько распределённой, что фактически не принадлежит никому, управление ИИ фрагментируется, приводя к критическим пробелам.

Метрики и средства контроля:

• Метрика: Процент систем ИИ с чётко назначенным и задокументированным владельцем системы (Цель: 100%).

• Средство контроля: Создать реестр владельцев систем ИИ в масштабе всего предприятия, используя модель RACI (Responsible, Accountable, Consulted, Informed — Ответственный, Подотчётный, Консультируемый, Информируемый).

• Связь с фреймворками: Это напрямую соответствует функции Govern NIST AI RMF и пункту 5 ISO/IEC 42001 (Leadership), которые подчёркивают установление чётких ролей, обязанностей и подотчётности.

Закон смещения контекста

Формулировка: Системы ИИ с длительной памятью теряют целостность контекста по мере накопления непроверенных входных данных, что приводит к утечке данных и ошибочным рассуждениям.

Современные большие языковые модели обладают большими окнами контекста (например, миллион токенов или более), позволяя им «запоминать» информацию на протяжении длинных сессий пользователя. Без преднамеренного обрезания или политик истечения чувствительные данные из одной части разговора могут сохраняться и просачиваться в другую. Это приводит к «смещению контекста», когда границы рассуждений модели размываются, увеличивая её уязвимость к атакам внедрения промптов и непреднамеренным утечкам знаний.

Метрики и средства контроля:

• Метрика: Процент пользовательских сессий на базе ИИ с включёнными автоматическими политиками обрезки и истечения контекста.

• Средство контроля: Внедрить строгие политики истечения окна контекста и техники минимизации данных для очистки чувствительной информации после окончания сессии.

• Связь с фреймворками: Это относится к требованиям EU AI Act по управлению данными (Статья 10) и принципам, заложенным в GDPR, таким как Право на удаление (Right to Erasure).

Закон отставания комплаенса

Формулировка: Регуляторные рамки неизбежно отстают от технологического внедрения, создавая значительные пробелы в комплаенс-рисках для ранних последователей.

Предприятия участвуют в гонке по развёртыванию возможностей ИИ, чтобы получить конкурентное преимущество, в то время как регуляторы двигаются с гораздо более медленным, более обдуманным темпом. Это создаёт опасный разрыв, где организации могут инвестировать значительные средства в системы ИИ, которые не соответствуют будущим стандартам комплаенса. К тому времени, когда меры контроля станут обязательными по законам, таким как EU AI Act, организации могут столкнуться с ретроспективными штрафами или быть вынужденными в дорогостоящие проекты по устранению недостатков. Это аналогично тому, как бюрократии расширяются быстрее, чем механизмы надзора могут их контролировать.

Метрики и средства контроля:

• Метрика: Процент моделей ИИ с задокументированными и протестированными возможностями забывания или удаления данных (Цель: 100% для моделей, обрабатывающих персональные данные).

  Средство контроля: Проактивно внедрять механизмы стирания данных и возможности переобучения моделей в жизненный цикл ИИ, предвосхищая будущие регуляторные требования.

  Связь с фреймворками: Это центрально для EU AI Act (Статья 10, Data Governance), функции Govern NIST AI RMF и банковских регуляций, таких как SR 11–7 (Model Risk Management — Управление рисками моделей).

Закон энтропии доверрия

Формулировка: Без непрерывной верификации и валидации доверие к моделям ИИ естественным образом деградирует со временем.

Доверие к ИИ — это не достижение один раз и навсегда; это состояние, требующее непрерывного поддержания. Модели деградируют по мере того, как распределения данных реального мира смещаются в сторону от их обучающих данных (смещение модели). Более активно, злоумышленники могут отравлять обучающие данные, внедрять скрытые бэкдоры или разрабатывать новые техники для обхода страховок. Инцидент 2024 года в глобальной фирме Arup, где финансового сотрудника обманом заставили выплатить 25,6 миллиона долларов видеозвонком с дипфейком, — это яркое пример того, как технологии могут использоваться для нарушения человеческого доверия. Точно так же, как общественное доверие к бюрократии эррозирует без прозрачности и реформ, доверие пользователей и организаций к ИИ деградирует.

Метрики и средства контроля:

Метрика: Частота повторной валидации моделей и циклов красных команд (Цель: ежеквартально или чаще для высокорисковых систем).

Средство контроля: Внедрить программу непрерывного обеспечения качества моделей, включая автоматизированный мониторинг смещений, стресс-тестирование на адверсариальные атаки и периодические красные команды.

Связь с фреймворками: Это соответствует функциям Measure и Manage NIST AI RMF, пункту 9 ISO/IEC 42001 (Performance Evaluation — Оценка эффективности) и рамкам моделирования атакующих угроз, таким как MITRE ATLAS.

Проекция на фреймворки

Закон Паркинсона — это не просто теоретическая модель; он напрямую сопоставляется с ведущими фреймворками управления и управления рисками ИИ. Это сопоставление позволяет организациям использовать шесть законов Паркинсона для кибербезопасности в качестве диагностического инструмента для выявления системных рисков и их согласования с устоявшимися средствами контроля.

Стратегические последствия для руководителей

Для советов директоров: Риски ИИ — это системные неизбежности, а не изолированные технические аномалии. Надзор на уровне совета директоров должен сместиться от реактивного устранения утечек к проактивному управлению этими неизбежными угрозами. Ключевой вопрос должен звучать так: «Как мы строим систему, устойчивую к этим шести силам?»

Для CISO: Метрики безопасности должны эволюционировать. Помимо отслеживания уязвимостей, CISO должны измерять скорость энтропии — деградацию доверия, контекста и контроля. Это требует перехода к программам динамического управления рисками, которые непрерывно мониторят и валидируют ИИ.

Для регуляторов: Комплаенс-режимы должны предвосхищать отставание, устанавливая опережающие требования. Вместо того чтобы просто устанавливать правила для сегодняшней технологии, регуляторы должны включать принципы, требующие устойчивости к будущим угрозам, таким как проверяемое забывание и контекст.

Заключение

Закон Паркинсона для кибербезопасности ИИ переосмысливает риски ИИ как предсказуемые последствия системного роста — закономерности, которые расширяют поверхности атаки, размывают ответственность и подрывают доверие. Инсайт Паркинсона о бюрократии глубоко резонирует сегодня: неэффективность и риск не случайны, а встроены в систему. В кибербезопасности это означает, что уязвимость — это не просто баг, который нужно исправить, а системная сила, которой нужно управлять.

Распознав эти шесть законов, руководители и регуляторы могут предвосхищать, где проявятся уязвимости, и развёртывать средства контроля до того, как сбои распространятся со скоростью машины. Предприятия, которые добьются успеха, не только соответствуют регуляторным стандартам, но и построат доверие и устойчивость, определяющие долгосрочную конкурентоспособность в экономике, управляемой ИИ. Вызов для руководства — разорвать цикл неизбежности через дисциплинированное управление, непрерывную верификацию и стратегическое предвидение.

Ссылки на источники

Parkinson, Cyril Northcote (1958). Parkinson’s Law, or The Pursuit of Progress. London: John Murray

1. NIST AI Risk Management Framework (AI RMF)

National Institute of Standards and Technology. (2023). Artificial Intelligence Risk Management Framework (AI RMF 1.0). NIST. Retrieved from NIST publication. CompliancePoint+7NIST Publications+7NIST AI Resource Center+7

2. NIST AI RMF Playbook

National Institute of Standards and Technology. (n.d.). NIST AI RMF Playbook. NIST AI Resource Center. Retrieved from NIST AIRC. NIST AI Resource Center

3. EU Artificial Intelligence Act

European Parliament. (2025, February 19). EU AI Act: first regulation on artificial intelligence. European Parliament. scybers.com+13European Parliament+13ISACA+13
European Commission. (n.d.). AI Act | Shaping Europe’s digital future. European Commission digital strategy. Retrieved August 1, 2025. Digital Strategy EU
European Union. (n.d.). Artificial Intelligence Act (Regulation (EU) 2024/1689). Wikipedia. Retrieved recently. Wikipedia+1

4. EU AI Act — Data Governance (Article 10)

AI Act summary. (2024). Article 10: Data and Data Governance. Retrieved from AI Act detailed articles. Artificial Intelligence Act+1

5. ISO/IEC 42001 — AI Management System Standard

International Organization for Standardization & International Electrotechnical Commission. (2023). ISO/IEC 42001: Artificial Intelligence Management System requirements and guidance. ISO. RSI Security+15iso.org+15scybers.com+15
International Organization for Standardization & International Electrotechnical Commission. (2025, April 1). Introduction to ISO/IEC 42001: The First Standard for AI Management Systems. Scybers. scybers.com
Ernst & Young Americas. (2025, January 17). ISO 42001 Paving the Way for Ethical AI. EY Insights. a-lign.com+4EY+4apptega.com+4

6. AI Cybersecurity and Robustness under EU AI Act

Nolte, H., Rateike, M., & Finck, M. (2025, February 22). Robustness and cybersecurity in the EU Artificial Intelligence Act. arXiv preprint. arXiv

7. Machine Unlearning & AI Regulation Implications

Marino, B., Kurmanji, M., & Lane, N. D. (2025, February 18). Bridge the gaps between machine unlearning and AI regulation. arXiv preprint. arXiv

8. Adapting Cybersecurity Frameworks to AI Risks

Ee, S., O’Brien, J., Williams, Z., El‑Dakhakhni, A., Aird, M., & Lintz, A. (2024, August 15). Adapting cybersecurity frameworks to manage frontier AI risks: A defense‑in‑depth approach. arXiv preprint. arXiv

Подпишитесь на канал Agentic Enterpise — о жизни ИИ-агентов в кровавом энтерпрайзе