ИИ похож на скальпель, который за $20 в месяц оказался в руках у каждого. В руках хирурга он позволяет делать то, что раньше казалось невозможным. В руках человека без подготовки и знаний он тоже оставляет след — вот только результат может быть непредсказуемым.

В XXI веке человечество было охвачено ликованием — свершилась давняя мечта: мы, Homo Sapiens, отмечали великий прорыв — создание AI. Единое сознание, давшее начало целой эпохе Машин              Цитата Морфеуса из х/ф «Матрица» (1999)℗ Warner Bros. Pictures. Режиссёры: Лана и Лилли Вачовски.
В XXI веке человечество было охвачено ликованием — свершилась давняя мечта: мы, Homo Sapiens, отмечали великий прорыв — создание AI. Единое сознание, давшее начало целой эпохе Машин Цитата Морфеуса из х/ф «Матрица» (1999)℗ Warner Bros. Pictures. Режиссёры: Лана и Лилли Вачовски.

У AI-скальпеля есть особенность, которой нет у настоящего: он не просто следует за рукой и подчиняется ей. Он сам подсказывает, где резать, и делает это уверенно и убедительно, даже когда ошибается. Поэтому ошибочную подсказку легко принять за профессиональное суждение, не вызывающее сомнений.

Профессионалу AI даёт значимое ускорение в работе: позволяет быстрее исследовать проблему, проверять гипотезы, писать код и анализировать данные. Но в руках неподготовленного человека тот же инструмент помогает создавать убедительные материалы, которые никто толком не проверял.

Отчёт с ошибочными выводами становится красивее и объёмнее — сразу видно, какая «большая работа» проделана. Ошибка в коде быстрее попадает в прод, а ответ клиенту звучит убедительно, даже если условия выдуманы.

В 2023 году суд Нью-Йорка оштрафовал юристов по делу Mata v. Avianca на $5000: они подали документы со ссылками на несуществующие судебные решения, которые сгенерировала одна из многих AI-моделей.

В 2024 году Air Canada проиграла разбирательство с клиентом: чат-бот авиакомпании предоставил ему неверную информацию об условиях скидки. Компания пыталась возложить ответственность на чат-бот, но суд постановил, что за ответы на собственном сайте отвечает его владелец. Неважно, сгенерирован ли ответ AI или написан человеком — отвечать за него придётся компании.

Да, люди тоже ошибаются — и порой очень уверенно. Но AI одинаково уверенно выдаёт как верные ответы, так и свои галлюцинации. По тону ответа нельзя понять, где ошибка, а при массовом использовании AI такие ошибки особенно трудно заметить до того, как они попадут на стол стейкхолдеру или в прод.

Мы плохо оцениваем даже собственную выгоду от использования AI. В исследовании METR 2025 года 16 опытных разработчиков работали в знакомых им проектах с доступными на тот момент AI-инструментами и тратили на 19% больше времени, чем без них. Но по собственным ощущениям они ускорились примерно на 20%. Стоит отметить, что этот результат относится к конкретным разработчикам с конкретными скиллами, но хорошо иллюстрирует, как ощущение продуктивности может расходиться с действительностью.

Те, кто постарше, помнят появление Википедии. Для одних она становилась отправной точкой для школьного доклада или курсовой: прочитать, разобраться, найти источники и написать свой текст. Другие просто нажимали две волшебные комбинации клавиш — Ctrl+C и Ctrl+V, и вместе с текстом в доклад попадали знаки ударения в сложных словах.

С AI мы сейчас как раз на этапе Ctrl+C и Ctrl+V. Только копируем не готовый школьный доклад, а ответ, который выглядит так, будто его написали специально под нашу задачу. Поэтому перепроверять его хочется ещё меньше.

Массовое корпоративное увлечение AI (я с трудом могу назвать это внедрением, по крайней мере в РФ) само по себе не даёт преимущества бизнесу. Оно усиливает то, что в компаниях уже есть: профессионализм или некомпетентность, ясные и прозрачные процессы или хаос. Если люди умеют задавать вопросы, проверять факты, критически оценивать проекты и брать на себя ответственность за результат, AI даёт качественный скачок. Если нет — помогает быстрее принимать плохие решения и масштабировать их на весь бизнес. Для качественного скачка нужны профессионалы, а не очередные советы, как лучше написать промпт, чтобы AI реже галлюцинировал и тратил меньше токенов.

Главный вопрос не в том, сколько сотрудников используют AI и с какой частотой. Главный вопрос: «Кто способен понять, что AI ошибается, и кто отвечает за результат?» Кажется, ответ максимально прост — «хороший специалист». Но это звучит слишком абстрактно, и хочется больше конкретики.

Для себя я сформулировал несколько критериев. Во многом они похожи на то, чему мы учились, работая с Википедией:

  1. Сверяет ответ с первоисточниками: данными, документами, кодом, договором, нормами права, а не с ответом другой модели.

  2. Знает свой бизнес настолько хорошо, что заранее понимает, где AI скорее всего ошибется и именно это проверит в первую очередь

  3. Может объяснить за бокалом чая в баре, почему результатам AI в конкретном запросе можно доверять или нет, и объяснит почему

  4. Сам отвечает за результат, а не прячется за «так сказал AI».

  5. Быстро читает и отделяет суть от воды. Нет, серьёзно — чтобы переваривать такое количество контента от AI, очень важно быстро читать и понимать смысл (интересно, вырос ли спрос на курсы скорочтения — если есть данные, поделитесь)

Вот таких специалистов компаниям и стоит искать — именно их работу ускорит AI, а их опыт поможет командам не принять красивый и объёмный ответ за правильный.

Но ответственность не может лежать только на сотруднике, который использует AI. Когда технология становится частью продукта или бизнес-процесса, за результат отвечает и тот, кто владеет этим процессом. Нужно заранее определить, кто контролирует качество работы модели, кто принимает решения при ошибках и кто отвечает за последствия. В противном случае мы придём к тому, что AI уже принимает решения, а ответственности за это никто не несёт.

Безопасность операций держится не только на таланте отдельного хирурга, а на системе вокруг него. Годы ординатуры, прежде чем тебе доверят оперировать самостоятельно. Чек-лист перед каждой операцией — ВОЗ ввела его в 2008 году, и он заметно снизил число ошибок, хотя состоит из банальных вопросов из разряда «тот ли это пациент». Регулярные разборы осложнений, где ошибку обсуждают, чтобы она не повторилась, а не чтобы найти крайнего. Всё это нужно переносить на работу с AI: путь от простых задач к сложным, короткий список обязательных проверок перед передачей результата и открытые разборы внутри команды моментов, когда AI-ошибка дошла до клиента или стейкхолдера.

Задача руководителя — научить всю команду пользоваться скальпелем. Начать с теории: где AI может быть полезен, как и где он может ошибаться и что важно проверить. Потом уже простые операции под присмотром более опытных коллег. И только когда сотрудник научится замечать ошибки и отвечать за результат, его можно отпускать в свободное плавание.

Да, у этой схемы есть узкое горлышко — это время экспертов. Если каждый результат проверяет сеньор, то экономия уходит на ревью. Но к этому стоит относиться как к вложению в джуна и планировать ревью как часть работы, а не считать его дополнительной нагрузкой или «карьерным наростом». Мы уже сейчас на этапе, когда Продакт-сеньор с огромным опытом и знаниями бизнеса может быть AI-джуном

Но если проверка держится только на времени сеньоров, она не масштабируется. Часть контроля стоит встроить в сам процесс: тесты до ревью, автоматическую сверку цифр с исходными данными, обязательную ссылку на первоисточник.

Важно понимать, что количество пользователей AI в компаниях, сгенерированных текстов, процессов с AI или закрытых заявок показывает активность, а не реальную пользу. О реальных результатах говорят другие метрики:

  1. Ошибки: сколько ошибок находят на этапе проверки и сколько обнаруживают уже после сдачи результата.

  2. Переделки: сколько тикетов пришлось открыть повторно и сколько времени потратили на исправления.

  3. Кост корректного результата: сколько компания потратила на выполнение задачи, включая стоимость AI, проверку, переделки и время экспертов.

  4. Время до готового результата: не до первого черновика, а до завершённой работы с учётом всех исправлений.

  5. Счастье клиента: если мы говорим про автоматизацию работы с обращениями клиентов.

Список не исчерпывающий, и сами по себе эти метрики мало что говорят без сравнения с работой в до-AI-эпоху. Если раньше задача занимала 2 часа, а с AI — всего час на выполнение и ещё полтора часа на проверку и исправления, то ускорения не произошло, хотя первый результат и появился за пару минут. В конечном счёте важно, что получит бизнес. Иначе это лишь хобби или увлечение.

Если частота использования AI и количество процессов с его участием растут, а качество, скорость и экономика не улучшаются, то бизнес масштабирует использование технологии, но не её пользу.

Agile-манифест появился, когда последователи гибких подходов собрались и сформулировали общие принципы работы — они искали альтернативу тяжёлым и неповоротливым процессам разработки. С AI мы, как мне кажется, подходим к схожему моменту: инструмент уже повсюду, опыта, в том числе негативного, накоплено достаточно, а общих профессиональных принципов и подходов пока нет.

Начать, например, можно с таких принципов:

  1. Ответственность важнее авторства. Неважно, кто создал результат: человек или модель. За него отвечает человек или команда, владеющая процессом, и ответственность определяется до получения результата.

  2. Проверка важнее скорости. Результат, который никто не проверил, не является финальным, как бы хорошо и красочно он ни выглядел. Глубина проверки определяется риском для продукта: продакт/AI -сеньор ревьюит не всё, а то, где ошибка слишком дорого стоит

  3. Первоисточник важнее правдоподобия. Любые факты, цифры и выводы AI должны проходить проверку по исходным данным, документам и другим достоверным источникам.

  4. Качество решений важнее количества и частоты использования AI. Мы должны измерять, что стало лучше, а не сколько раз запустили модель.

Этот список не претендует на истину в последней инстанции — это лишь приглашение к открытому обсуждению с профессионалами, которые внедряют и применяют модели в реальной работе.

Скальпель уже оказался у всех в руках. Забрать его обратно не получится, да и в целом не стоит. Но массовая доступность ещё не делает человека профессионалом, а массовое использование AI — компанию эффективнее.

Конкурентное преимущество получат не те, кто быстрее внедрит AI или будет чаще использовать его во всех процессах, а те, кто научится контролировать ошибки, получать качественный результат и масштабировать реальное экономическое велью, а не просто оптимизировать промпты и скиллы.

Остальным придётся учиться на собственных ошибках за счёт денег акционеров и счастья клиентов.

P.S. Спасибо, что дочитали этот текст до конца. Надеюсь, это не было слишком сложно или непривычно. Иначе как вы дочитываете ответы своих моделей и вникаете в их суть?

Комментарии (14)


  1. ZorkyK
    24.10.2026 16:00

    ИИ похож на скальпель

    Находящийся в трясущихся руках хирурга-дилетанта, делающего рандомные надрезы - может попасть, а может и не попасть.


    1. AkimovSergey Автор
      24.10.2026 16:00

      У каждого профессионального хирурга есть персональное кладбище


  1. ChePeter
    24.10.2026 16:00

    Вот так начинается всем известная книга про трех и собаку

    Как-то раз я зашел в библиотеку Британского музея], чтобы навести справку о средстве против пустячной болезни, которую я где-то подцепил, – кажется, сенной лихорадки. Я взял справочник и нашел там все, что мне было нужно, а потом от нечего делать начал перелистывать книгу, просматривая то, что там сказано о разных других болезнях. Я уже позабыл, в какой недуг я погрузился раньше всего, – знаю только, что это был какой-то ужасный бич рода человеческого, – и не успел я добраться до середины перечня «ранних симптомов», как стало очевидно, что у меня именно эта болезнь.

    Несколько минут я сидел, как громом пораженный, потом с безразличием отчаяния принялся переворачивать страницы дальше. Я добрался до холеры, прочел о ее признаках и установил, что у меня холера, что она мучает меня уже несколько месяцев, а я об этом и не подозревал. Мне стало любопытно: чем я еще болен? Я перешел к пляске святого Витта и выяснил, как и следовало ожидать, что ею я тоже страдаю; тут я заинтересовался этим медицинским феноменом и решил разобраться в нем досконально. Я начал Прямо по алфавиту. Прочитал об анемии – и убедился, что она у меня есть и что обострение должно наступить недели через две. Брайтовой болезнью, как я с облегчением установил, я страдал лишь в легкой форме, и, будь у меня она одна, я мог бы надеяться прожить еще несколько лет. Воспаление легких оказалось у меня с серьезными осложнениями, а грудная жаба была, судя по всему, врожденной. Так я добросовестно перебрал все буквы алфавита, и единственная болезнь, которой я у себя не обнаружил, была родильная горячка.

    И что, большая советская энциклопедия или wikipedia вот прям мир перевернули?

    Или до сих пор никто не знал и не понимал что ждать от аппроксимации, или никто не понимает, что дуракам закон не писан и никакой ИИ тут не спасет?

    Опасность тут в другом - "дурак с инициативой вдвойне дурак". Но это другая проблема, к ИИ отношение мало имеет.


    1. AkimovSergey Автор
      24.10.2026 16:00

      Есть известная фраза про то, что бесконечны только Вселенная и человеческая глупость, хотя насчёт первой есть сомнения. Правда, нет точного подтверждения, что она принадлежит Эйнштейну ))

      Я согласен - люди ошибались с момента своего появления, и это не проблема AI. Это часть нашей природы и появление энциклопедий, Википедии или других "сборников" знаний не избавило нас от ошибок

      Я чуть о другом - я о масштабе и скорости. AI позволяет за то же время создавать гораздо больше результатов, и, к сожалению, не все из них будут верными. А чрезмерная вера в "правильность AI" только увеличивает риски для бизнеса

      Я не предлагаю бороться с природой человека и его правом на ошибку. Я скорее о том, что хорошо бы научиться контролировать результаты и нести ответственность за принятые с помощью AI решения

      Проблема действительно не новая. Но теперь у нас появился инструмент, который позволяет быстро масштабировать не только хорошие решения, но и ошибки


  1. SadOcean
    24.10.2026 16:00

    Подозреваю что если не появится сильного ИИ и мы ещё будем живы через пять лет, то мы сойдёмся на каких то методологиях.

    Пока непонятно, как далеко зайдет прогресс и ревью стало узким местом, но вместе с тем мы только начинаем понимать, каковы пропорции и что мы теряем.

    Раньше задачей лида было формирование дуракоустойчивой архитектуры, чтобы дать всем, от джуна до себя в 3 ночи, каркас на котором легко работать и сложно ломать. Сейчас, видимо, нужны ИИ устойчивые архитектуры - с хорошим разделением по контекстам и критической изоляцией важных компонентов. А так же новые типы процессов, которые адресуют проблемы, которых раньше не было - низкое владение кодом, кросс обучение, проверки владения.


    1. Mdm3
      24.10.2026 16:00

      Раньше задачей лида было формирование дуракоустойчивой архитектуры, чтобы дать всем, от джуна до себя в 3 ночи, каркас на котором легко работать и сложно ломать

      Так то и сейчас для ИИ вы можете задать каркас с помощью правил.

      Как пример приложение deepseek harness, где любая функция это плагин, который вы можете в любой момент переписать и заменить на более хороший. Это по сути и есть каркас о котором пишите.

      По такому же принципу + процесс с локальной вики на базе obsidian и локальный канбан, делаю сложное приложение в инженерном проекте, заранее подумав, что llm могут развести хаос, если не будет нормального воркфлоу. И отлично и надёжно все получилось.


      1. SadOcean
        24.10.2026 16:00

        Хорошая архитектура не была типичной раньше, не является простым решением и сейчас.
        Благо если ИИ пишет код и слушает промты, его можно лучше принудить ей следовать.


        1. Mdm3
          24.10.2026 16:00

          Как сказал, вроде Карпатый: мы можем делегировать ИИ задачу, но не можем делегировать понимание.

          Кто-то должен быть сверху ИИ и понимать какие решения и почему используем, т. е. погружаться в суть технических решений. ИИ просто усиливает и ускоряет идеи, как здравые, так и глупые.

          Архитектура не является простым решением - соглашусь


    1. AkimovSergey Автор
      24.10.2026 16:00

      Я не разработчик и не архитектор, поэтому не могу говорить о том, какой должна быть AI-дуракоустойчивая архитектура 

      Но вот с точки зрения работы команд возникает много интересностей 

      Сейчас можно создавать код гораздо быстрее, а вот времени на ревью больше не становится. А если AI ускоряет работу, то можно загрузить сотрудника ещё бОльшим количеством задач. И не факт, что в итоге вся команда начнёт работать быстрее

      Что мы теряем в процессе такого ускорения — важный момент, тут согласен. Ведь можно прийти к ситуации, когда код работает, задачи закрываются, проекты запускаются, фичи пилятся, и уже мало кто понимает, почему запустили и все работает именно так. И как тогда поддерживать и развивать продукт через пару месяцев/лет?

      Думаю, со временем нам точно потребуются новые подходы и правила работы. Но на этом этапе каждой команде и бизнесу придётся набить собственные шишки - тоже своего род капитализм и выживет, тот кто лучше приспособится


  1. Mdm3
    24.10.2026 16:00

    Хорошая статья и аналогия со скальпелем. Примерно в том же направлении мыслю.

    научить всю команду пользоваться скальпелем

    Как раз успешно получается повышать индивидуальную эффективность каждого в команде


  1. Dima-TF
    24.10.2026 16:00

    Согласен с мыслью, что контроль нельзя бесконечно масштабировать за счёт времени сеньоров. А как вы видите следующий шаг: какие проверки работы ии имеет смысл уже сейчас выносить из человеческого ревью в сам инженерный процесс, чтобы результат считался готовым только при наличии проверяемых доказательств?


    1. AkimovSergey Автор
      24.10.2026 16:00

      Если честно, у меня нет готового ответа, что инженерно необходимо изменить. Но здесь мне вспоминаются два подхода из других областей

      Первый: из журналистских расследований, где материалы должны проверять люди, которые не участвовали в их подготовке. Второй: из науки, где важны воспроизводимость результатов и возможность опровергнуть гипотезу

      Эти принципы можно применить и к AI. Ведь если модель сама написала код, сама придумала тесты и сама себя проверила , то можно ли назвать это ревью?

      Плюс я бы подумал над изменением самой сути задачи ревью: не подтвердить, что всё ОК, а попытаться найти условия, при которых это не будет работать. Причём так, чтобы ошибку можно было воспроизвести

      Понимаю, что здесь мы снова упремся во время сеньоров. Поэтому часть таких проверок придётся передавать отдельному AI, а человека подключать там, где цена ошибки особенно высок. AI это не зло от которого надо отгородиться, вопрос как применять

      И понятно, что это не даст гарантию, что ошибки исчезнут, но, возможно, так мы сможем снизить риски превращения человеческого ревью в узкое место и проверка человеком станет привилегией важных решений


      1. Dima-TF
        24.10.2026 16:00

        А что если внедрить детерминированный подход с поэтапными человеческими штампами (гейтами)?

        Вместо бесконечного ревью кода можно перестроить процесс в конвейер, где агент последовательно проходит через машинные и человеческие фильтры.
        к примеру такой пайплайн:

        1. требования: агент превращает сырые вводные в структурированные требования + ревью сеньор-аналитика (человек) + штамп

        2. декомпозиция: агет раскладывает утвержденные требования на uc, фичи и таски + проверка сторонним ИИ по строгим правилам

        3. архитектура: агент проектирует дизайн реализации + ревью техлида (человек) + штамп

        4. код и тесты: агент пишет реализацию и автотесты + кодревью и pr (другой агент)

        5. Приемка готового pr + финальное ревью сеньором (человек) + итоговый штамп

        В результате человек подключается всего в трех точках. подключения максимально атомарные, быстрыми и специфичными для роли

        Процесс смещается от постоянного ревью к прохождению агентом гейтов. Качество и скорость растут, ответственность за финальный результат остается на человеке, а потребность в людях снижается. но потребуются высококвалифицированные сеньоры на ключевых этапах

        и оба твоих подхода соблюдаются =)


        1. AkimovSergey Автор
          24.10.2026 16:00

          Разделение проверок между спецами с разными компетенциями - мне прям заходит. Каждый отвечает за свою часть, а не пытается проверить всё сразу и каждый несет ответственность за свою часть, а кросс-lead получается за всю цепочку?

          Единственное, добавил бы момент (повторяюсь))): на каждом этапе проверяющий должен не просто подтверждать результат работы AI, а пытаться найти при каких условиях он ошибается, что будет заделом на работу с рисками особенно с точки зрения получения экономических эффектов по кейсу

          Тогда гейты превращаются не просто в последовательность согласований, а в систему независимых проверок и с результатами которой можно работать дальше

          И все равно интересно было бы сравнить, сколько времени и ресурсов такой процесс требует по сравнению с обычной разработкой и сколько ошибок позволяет обнаружить до релиза?, но тут нужно пробывать и нужны добровольцы)))