За последние два года отношение крупного бизнеса к большим языковым моделям изменилось. Спор о том, нужны ли LLM бизнесу, закончился, а технология перешла из разряда забавных игрушек в категорию стратегических инструментов.
Мы в Content AI провели более 50 глубинных интервью с представителями ИТ- и ИБ-служб среднего и крупного бизнеса в отраслях ритейла, банков, нефтегаза, ТЭК, телекома и др. Разговор шел о готовности к внедрению, передаче данных, инициаторах и стоп-факторах LLM-проектов, экономике пилотов и требованиях к поставщикам.
Результатами и выявленными трендами на ближайшие 1-2 года поделимся в этой статье.
Стратегии еще нет, а кейсы уже в проде
Первый результат исследования оказался достаточно парадоксальным. Кейсы внедрения LLM в бизнес-процессы появляются быстрее, чем компании разрабатывают ИИ-стратегии.
Генеративный ИИ уже применяется в операционных процессах у 53% опрошенных. Еще 29% ведут пилотные проекты. Оставшиеся 18% пока ограничиваются личным использованием моделей сотрудниками.
При этом у половины компаний-участников опроса нет утвержденной ИИ-стратегии либо она присутствует в зачаточном виде, а политики и регламенты появляются с опозданием. Типичная картина: пункт о развитии ИИ в общей стратегии цифровизации есть, а конкретных положений по работе с данными, выбору моделей и использованию агентов нет.
Уровень зрелости рынок оценивает сдержанно. Почти четверть опрошенных считает, что находится на начальном этапе, 41% относят себя к «уровню 2» — тем, кто изучает эффект от пилотов, но еще не запускал проекты в прод. Еще 29% относят себя к «уровню 3»: у них есть рабочие кейсы, внутренние модели или шлюзы, но системное управление только выстраивается. И только 6% опрошенных считают, что достигли «уровня 4–5» — с гибридом моделей, четкими регламентами и измеримым эффектом.
Выбор архитектуры: своя инфраструктура, облако или гибрид
Вопрос размещения LLM оказался одним из самых сложных. Разброс ответов показывает, что рынок еще не договорился сам с собой.
Собственную инфраструктуру для развертывания моделей предпочли 41% опрошенных, 35% выбрали гибридную схему. Использовать облачные сервисы как на основную платформу готовы только 24%. Отдельный вариант «частное облако», то есть выделенный контур у провайдера, не назвал никто: на практике его приравнивают к облаку, и службы информационной безопасности относятся к нему с недоверием.
В пилотах картина другая. На запуск в публичном облаке на нечувствительных данных или на синтетических наборах согласны 65% респондентов. Выносить туда реальную информацию готовы 21%. А 14% категорически против использования облака даже в пилотах.
Отношение к российским облачным LLM скептическое, но прагматичное. Их качество считают недостаточным 70% опрошенных, при этом 30% уже используют такие модели или готовы их использовать.
К китайским и открытым моделям в закрытом контуре рынок относится спокойнее. Положительно их воспринимают или уже применяют 56%. Четверть респондетнтов испытываютк ним настороженность, 19% пока нейтральны и прагматичны. Происхождение модели пока не стало решающим фактором, важнее то, как реализован контроль над данными.
Зарубежные API вызывают настороженность. Прямой внутренний запрет на них действует у 37% опрошенных компаний, ограниченное применение допускают 50%, по контракту используют 13%. Причины такой осторожности продиктованы санкционными рисками, опасениями потерять доступ и нежеланием передавать данные в чужие юрисдикции.
Границы готовности к передаче данных
В результате опроса стало понятно, что готовность отдавать данные наружу зависит от класса информации и важности процесса.
Относительно персональных данных мнения разделились почти пропорционально. 31% опрошенных сообщили о полном табу на любую передачу ПДн, еще 31% разрешают обработку исключительно внутри своего контура. Оставшиеся 38% допускают работу внешней модели с ПДн, но только с маскированием и отдельным договором.
Итого — 62% респондентов в той или иной форме блокируют передачу персональных данных во внешние сервисы.
Отношение к коммерческой тайне и ноу-хау оказалось еще острее. Работу с ними только в своем контуре допускают 56%, полный запрет на обработку с помощью LLM вводят 25%, и только 19% готовы передать это внешней модели.
Часть задач компании все же выносят в облако. 46% респондентов готовы выполнять там сервис-деск, обработку обращений, работу с открытыми данными, 38% условно согласны на такие сценарии.
Финансовые и платежные операции ИИ-агенты проводят с оговоркой почти у всех: 80% опрошенных компаний допускают их только с обязательным подтверждением от человека. Полную автономию агента в финансовых вопросах рынок пока не принимает.
В отдельных отраслях запреты еще жестче. Так, в банковском секторе применение открытых облачных моделей и сервисов на их основе запрещено полностью. При этом эксперты отмечают побочный эффект, выражающийся в том, что тотальный запрет без безопасной альтернативы порождает «теневой ИИ», когда сотрудники пользуются публичными сервисами скрыто, и риски от этого становятся выше.
ИБ тормозит 76% проектов с ИИ
Инициатива запуска LLM-проекта почти никогда не исходит только от одного человека. В 47% опрошенных компаний ее продвигают сразу несколько служб: бизнес-подразделения рассчитывают на экономию, инженерные службы привлекают новые технологические возможности, топ-менеджмент видит в этом способ структурной оптимизации. В 27% компаний-респондентов инициатором выступает бизнес, в 26% — ИТ-команды и топ-менеджмент.
Главным стоп-фактором тут выступает служба информационной безопасности, на нее как на препятствие указали 76% опрошенных. Экономика и ROI тормозят процесс в 6% случаев, бюрократия и закупки — тоже в 6%. Еще 12% респондентов сообщили о сочетании факторов.
В результате рынок на данный момент вынужден лавировать между политикой информационной безопасности и прецедентами. 53% опрошенных компаний сообщили, что принимают решение по фактически возникающим кейсам, у 47% есть заранее утвержденные политики ИБ.
Компании ждут легких пилотов и быстрых результатов
Вопрос про капитальные затраты оказался одним из самых острых. По признанию 77% респондентов, высокий CAPEX сильно тормозит пилотные проекты, у 15% это оказывает умеренный охлаждающий эффект, и только для 8% деньги не являются сдерживающим фактором.
Типичный сценарий на рынке выглядит так: вендор обещает быстрый возврат инвестиций, но для начала предлагает приобрести вычислительный кластер за 20–30 млн рублей. При сокращающихся ИТ-бюджетах такой вариант практически нереализуем. Компании в большинстве своем ждут быстрых результатов и не готовы замораживать средства в оборудовании.
В способе старта пилотов рынок практически единодушен: 83% опрошенных считают критически важной возможность начать с легкого облачного пилота, измерить эффект за 2–3 месяца и только потом, при успешном результате, перенести решение во внутренний контур. Такой подход позволяет показать результат до того, как запрашивать серьезные инвестиции.
Горизонт ожиданий тоже различается: средний бизнес хочет видеть эффект в течение квартала, крупный готов считать совокупную стоимость владения на годы вперед. Но для всех действует общее правило: без быстрой демонстрации результата крупные суммы на проект не выделят.
Требования заказчика к поставщику LLM-платформ
Главным критерием выбора вендора однозначно становится возможность контролировать данные и обеспечение информационной безопасности — так ответили 59% респондентов. На втором месте (в 35% случаев) оказались ТСО, возврат инвестиций и цена, а скорость запуска важна лишь для 6% опрошенных.
Возможность принести свою модель (BYO-LLM) важна или желательна для 86% ответивших. Компании не хотят привязываться к конкретному поставщику и предпочитают сами выбирать модель под задачу.
Помощь с инфраструктурой нужна 56% опрошенных. Они ждут решения «под ключ», особенно когда внутри компании нет компетенций по развертыванию больших моделей. Оставшиеся 44% готовы управлять инфраструктурой самостоятельно, но не откажутся от опциональной поддержки.
Автономных агентов готовы пилотировать только 15% компаний
Вопрос о том, насколько бизнес готов к полноценно автономным агентам, разделил респондентов на три группы. Скептически настроены оказались 47%. Применение агентов только с участием человека готовы поддержать 38%. Пилотировать полностью автономные решения согласны только 15%.
В плане инструментов ИБ мнения сложились следующим образом. Маскирование данных рынок считает самым сильным инструментом защиты. Способность этого инструмента снять часть внутренних ограничений и открыть дорогу гибридным схемам признали 91% опрошенных. Но часть экспертов все же считает, что маскирование не спасает само по себе, если данные все равно идут по незащищенному каналу.
С «теневым ИИ» компании борются по-разному. 56% считают самой успешной стратегией корпоративный шлюз, через который проходят все внешние запросы к LLM, с логированием и фильтрацией. Еще 22% не имеют ИБ-политики по этому вопросу. Оставшиеся 22% пытаются блокировать действия сотрудников и признают, что такое решение не работает.
Отдельно рынок фиксирует новый класс рисков агентной автоматизации: ситуацию, когда агенты «договариваются» между собой. По мнению 70% опрошенных, ИБ-службам придется пересматривать политики с учетом этого эффекта.
Что изменится за два года
На основе собранных мнений довольно четко вырисовываются 6 трендов.
Политики безопасности догонят реальные внедрения. Стратегии и регламенты сейчас мало у кого есть, и это не мешает запуску проектов. За два года рынок наверстает отставание: появятся типовые модели рисков, опросники для вендоров и готовые регламенты.
Гибридная архитектура станет стандартом. Треть компаний уже работает по гибридной логике. Маскирование, признанное эффективным большинством опрошенных, станет универсальным подходом к работе с данными.
Служба ИБ останется главным барьером. Преодолеть его получится за счет схемы, которая учитывает ключевые требования ИБ: пакет документов, тестовая зона, четкая модель ответственности.
Легкий старт окажется важнее больших капитальных затрат. Вложения в собственный контур останутся для боевой среды, а пилоты почти всегда будут стартовать в облаке или на арендованных мощностях.
ИИ-агенты возьмут на себя рутинные операции с документами. Но процессы еще долго будут проходить под контролем человека (HITL).
Ценность сместится с самой модели на ее обвязку. Продукт, вокруг которого выстраивается ИИ-проект, будет оцениваться по инструментам управления, пайплайнам контроля качества, логированию и системе ответственности.
А как у вас с внедрением LLM, ситуация совпадает с результатами нашего исследования или все выглядит иначе? Расскажите в комментариях, какой путь вы выбрали и что из этого получилось.