Всем привет, я Александр Константинов — технический эксперт из Cloud.ru. Всё чаще в жизни и работе мы имеем дело с AI-агентами — стремимся делегировать рутинные задачи или ускорить что-то сложное. И мы, само собой, в команде тоже их используем. В этой статье я подсобрал весь опыт — свой, команды, коллег и клиентов — и разобрал, с автоматизацией чего AI-агенты здорово помогут, а где лучше найти другое решение. А еще в конце показал, как быстро создать собственного помощника.
Пройдемся по устройству AI-агентов
Перед тем, как мы перейдем к сути, кратко расскажу, как вообще устроены AI-агенты. В их архитектуре есть три компонента:
1. Модуль мозга — LLM. Большая языковая модель — центральный движок рассуждений, который обрабатывает входы, принимает решения и генерирует ответы. Разные LLM подходят для разных задач, и выбирать модель, на которой будет базироваться ваш агент, стоит по бенчмаркам.
На какие бенчмарки смотреть? К примеру, MERA — тест для оценки того, как LLM отвечает на русском языке. Еще есть HumanEval — оценка того, как модель пишет код, SimpleQA для определения точности ответов, GSM8K для знаний по математике, MMLU для оценки общих знаний и их широты.
Еще есть специализированные агентные бенчмарки. Они оценивают, насколько хорошо LLM-агенты выполняют задачи, планируют, принимают решения. Один из таких тестов — GAIA (General AI Assistants Benchmark), который оценивает работу агентов с помощью намеренно сложных многоступенчатых задач.
Сравнивайте модели по интересующим вас бенчмаркам, выбирайте нужную и разворачивайте на них агентов.
2. Память и управление состоянием. У AI-агентов есть кратковременная и долговременная память. Первая сохраняет контекст разговора и текущий статус задач, вторая хранит изученные паттерны, пользовательские предпочтения и историю взаимодействий.
3. Планирование и логика решений. У продвинутых агентов есть модули планирования — они разбивают сложные задачи на управляемые подзадачи, определяют последовательность их выполнения.
Что хорошо поддается автоматизации
У процессов, куда относительно легко внедрить AI-агентов, есть общие черты. Это, к примеру, наличие структурированных входных данных, предсказуемая схема работы, четко определенные критерии успеха. Участие человека тут не обязательно, потому что результат работы будет не сильно лучше, или вовсе не будет. Ниже перечислю, какие вещи можно делегировать AI-агентам.
Ввод и обработка данных
Здесь автоматизация применяется довольно часто и успешно. AI-агенты могут извлекать информацию из счетов, сканов документов, проверять данные на соответствие правилам, автоматически обновлять системы учета — и не только.
Еще один пример — использование AI-агентов в CRM-системах. Можно настроить агента так, что он будет фиксировать информацию о клиентах, запоминать информацию, которую они ввели, структурировать ее или автоматически подтягивать в CRM-систему.
Поддержка клиентов по рутинным вопросам
Здесь AI-агенты работают так: несложные шаблонные задачи обрабатывают сами, если что-то посложнее — отправляют клиентов к людям. Агенты могут сделать саммари из цепочки сообщений, собрать релевантные источники из документации или решенных кейсов, которые помогут решить проблему. Тут среди сценариев — ответы на часто задаваемые вопросы, управление базовыми процедурами устранения неполадок и передача сложных проблем людям.
Обработка и анализ документов
Например,контрактов, медицинских записей, юридических документов. AI-агенты извлекают ключевые пункты, оценивают, насколько все правильно заполнено, нет ли недочетов в оформлении. А еще помечают документы, которые надо доработать или рассмотреть людям.
Стоит помнить: если компания работает с персональными или высокочувствительными данными — сведениями о здоровье, ПДн, реквизитами, — разворачивать AI-агентов стоит локально, в облаке, аттестованном по № 152-ФЗ, или маскировать данные.
Административные задачи в офисе
Поручите AI оформлять отпуска, отслеживать заявки от сотрудников в техподдержку, уведомлять о сроках задач. Еще можно упростить онбординг: пришел новый человек в команду, вышел в первый день, а AI-агент сразу отправил ему письмо с важной информацией и создал аккаунт на корпоративном портале.
Анализ покупателей и прогнозирование продаж
К примеру, можно выделить несколько сегментов аудитории по ключевым параметрам — допустим, по городу проживания или среднему чеку, — и отправлять им персонализированные предложения. Сегментировать аудиторию по этим признакам может AI-агент. А еще — предлагать, какие товары какой клиент захочет добавить в корзину, прогнозировать, что он вероятнее всего купит.
Контроль производства и логистики
AI-агенты анализируют данные с датчиков и направляют уведомления. Делают прогнозы о том, что может выйти из строя, какое сырье или товары закончатся, что стоит докупить, что в какую точку доставить. Для такого анализа можно использовать как исторические, так и данные в реальном времени, и комбинировать их для более точных прогнозов.
Разработка MVP или POC проектов
AI-агенты могут разработать POC или MVP с нуля по PRD или техническому заданию. Также они составят список инструментов и технологий, которые нужны для реализации проекта, создадут базовую архитектуру ПО, сгенерируют RESTful API, макеты интерфейсов — и не только.
Суммаризация созвонов, интервью и переписок
Подключите в беседу чат-бота на базе AI — например, путем интеграции модели, на которой построен агент, и фреймворка LangChain. Агенты проанализируют звонки и встречи, сделают саммари, выделят ключевые тезисы. Еще можно сделать так, чтобы сотрудники и руководители ставили задачи прямо в чате — а AI-агент сам создаст карточку в таск-менеджере.
Что автоматизировать с осторожностью
Есть вещи, которые поддаются автоматизации ограниченно — какую-то часть работы можно делегировать AI, но нельзя оставить за ним право принимать решения или действовать полностью автономно. Зачастую это касается принятия рискованных действий, творчества и общения с людьми, где важна эмпатия и личное участие. Расскажу подробнее, какие процессы я имею в виду.
Творческие и оригинальные решения: создание маркетинговых кампаний, дизайн продуктов, написание статей и сценариев, локализация продуктов, где важно учитывать культурный и социальный контекст региона — эти и схожие задачи плохо подходят для полной автоматизации.
Высокорисковые финансовые решения. AI может помогать с анализом и рекомендациями, но окончательные решения по инвестициям, одобрению кредитов выше определенных порогов, проведению закупок должны оставаться за человеком.
Операции, важные для безопасности инфраструктуры или жизни людей. Контроль человека нужен там, где есть риски взломов, физического или морального вреда — «черный ящик» AI-систем мешает понять, как модели принимают решения в критических ситуациях. AI-агент может помогать в медицинской диагностике, планировании операций, прогнозировать сбои в оборудовании или оценивать риски киберугроз, но финальное решение должно быть за человеком.
Общение с клиентами и партнерами. Несмотря на что, AI-агент может взять на себя ответы на простые вопросы, сложные случаи стоит рассматривать людям. Еще трудно автоматизировать переговоры, решение уникальных проблем, преподавание, где участие человека представляет высокую ценность.
Процессы без четкого регламента. Бывает, что процессы часто меняются, в них нет четких правил или используются неструктурированные данные — такое автоматизировать довольно тяжело.
Юридические и этические вопросы. AI-агенты могут помечать потенциальные проблемы и давать предварительный анализ, но решения должны принимать люди. В вопросах права, этики и морали слишком много нюансов, для которых важны уникальная экспертиза и понимание контекста. К примеру, бывает, что в законе прописано несколько вариантов решения ситуации, но в судебной практике популярно только одно из них. Тут только опытный юрист подскажет, каковы шансы на победу в суде.
Когда использовать co-pilot вместо AI-агента
Одно из решений, когда хочется что-то автоматизировать, но это сложно — использовать искусственный интеллект не как агента, а в режиме co-pilot, второго пилота. Есть несколько уровней автономности агентов, на каждой из которых разная степень участия человека и AI. Уровень автономности надо выбирать для каждого конкретного случая, исходя из оценки рисков.
Итак, вот пять уровней автономности:
Режим оператора. Люди сохраняют полный контроль, AI лишь помогает. Допустим, агент генерирует предложения и черновики ответов, а люди принимают все решения и выполняют все действия.
Режим сотрудничества. AI дает рекомендации, а люди их одобряют или отклоняют.
Режим консультанта. AI автономно выполняет предварительно утвержденные действия низкого риска. Если попадается решение высокого риска, агент запрашивает помощь человека.
Режим утверждающего. AI-агенты сами справляются с большинством операций и оценивают их уровни риска. Если риск превышает определенное пороговое значение, агент запрашивает человеческое одобрение.
Режим наблюдателя. Агенты работают автономно в пределах определенных границ. Люди только мониторят производительность, при этом у них остается возможность вмешаться.
Как создать своего AI-агента и что для этого нужно
Итак, вы решили, что вам или вашему бизнесу нужен AI-агент. Для этого пригодится железо — мощная или не очень GPU, в зависимости от размера агента — или аренда ресурсов у облачного провайдера. А еще нужно определиться, как разрабатывать агента — с нуля с помощью фреймворков или на NoCode платформе. И важно, чтобы были специалисты, которые смогут обслуживать, дообучать модели и промптить агентов.
Ниже подробнее расскажу о каждом из пунктов, а еще дам инструкцию, как развернуть агента в визуальном интерфейсе на примере сервиса Evolution AI Agents.
Требования к технической инфраструктуре
Вычислительные ресурсы. Агенты базируются на LLM, а для инференса LLM нужна хорошая GPU. Небольшие агенты могут работать с консьюмерским железом, например, с видеокартами RTX 4090. Такое железо стоит не очень дорого, однако мощности хватит для небольших моделей, у которых примерно 7–8 млрд параметров. Для моделей посерьезнее нужны сервера с 8H100 и более.
Чтобы избежать таких трат, можно арендовать ресурсы в облаке. Есть несколько вариантов аренды, рассмотрю на примере облака Cloud.ru:
Покупка токенов по API подойдет для прототипирования, запуска агентов с небольшой или средней нагрузкой и в случаях, когда нагрузка непостоянная.
Serverless-размещение моделей. Можно запустить любую модель из библиотеки Hugging Face или свою. А еще есть возможность арендовать часть GPU, а не целую видеокарту — это сэкономит вам денег. Хорошее решение, когда нужны уникальные модели или на вашего агента идет большая нагрузка. А еще не пригодятся глубокие познания в ML Ops.
Аренда полного GPU. Можно сделать все что угодно, никаких ограничений — аренда целой видеокарты подойдет, когда вам надо обучать собственную модель или на нее постоянно высокая нагрузка. Сложнее масштабировать из-за трудностей настройки новых инстансов, надо знать ML Ops, при этом возможностей больше.
Платформы разработки и фреймворки. Команды могут создавать агентов с нуля — тут подойдут фреймворки, например LangChain, LlamaIndex или CrewAI. Еще есть много No- или LowCode платформ, допустим dify, langfuze, Evolution AI Agents — такие платформы позволяют делать агентов и мультиагентов в визуальном редакторе. Из коробки есть большое количество интеграций.
Качество данных. Здесь формула простая: чем лучше данные, тем эффективнее AI-агент. Информацию для обучения, файнтюнинга моделей, построения RAG-систем надо собирать в надежных источниках, следить за актуальностью, чистить от дубликатов и мусора, а еще безопасно это все хранить.
Команда разработки. Чтобы разрабатывать и поддерживать работу AI-агентов, хорошо, если в команде есть:
Дата-сайентист (AI и ML). Обучает и дообучает модели через fine tuning, подготавливает датасеты, проводит исследования.
Промпт-инженер. Разрабатывает инструкции для работы модели. Это может быть как отдельный разработчик, так и дата-сайентист с задачами разработчика.
AI-инженер. Разрабатывает на NoCode платформах.
Разработчик. Пишет код, делает интеграции в бизнес-системы.
Аналитик. Прорабатывает поведение агента на основе бизнес-логики.
Оговорюсь, что список не исчерпывающий, а функционал спецов может меняться от команды к команде.
Как создать агента
Расскажу, как создать своего агента, на примере сервиса Evolution AI Agents. Удобство в том, что инференс можно организовать в графическом интерфейсе, без глубоких знаний в ML.
Итак, что надо сделать:
1. Убедиться, что подключены ML Inference или Foundation Models. Без этого создать агента не получится — на базе этих сервисов будет развернута модель.
2. Перейти в AI Factory → AI Agents → Агентные системы.
3. Выбрать нужную агентную систему и кликнуть Добавить агента.
4. Выбрать способ создания агента — от этого зависят возможности для кастомизации:
Простой агент — не надо писать код, агент создается на основе Docker-образа по умолчанию. Нужен минимум настроек.
Агент из Маркетплейса настроен и готов к работе, будет загружен из Маркетплейса. Если надо, можно минимально кастомизировать.
Агент из Docker-образа потребует загрузки вашего Docker-образ в Artifact Registry. Вариант посложнее, но с большей кастомизацией.
Дальше даю инструкцию на примере Простого агента, но в документации вы можете посмотреть установку для других вариантов.
5. Заполнить поле Название и, если надо, Описание.
6. Выбрать источник модели, откуда будете брать инференс: Foundation Models или ML Inference.
7. Выбрать одну из популярных моделей или нажать Показать все модели, чтобы посмотреть больше вариантов.
8. Выбрать созданный ранее инференс или создать новый. Для этого надо зарегистрироваться в Hugging Face, получить токен доступа и создать секрет в Secret Management.
9. Задать конфигурацию ресурсов для агента.
10. Составить системный промпт, который задаст сущность действий агента. От промпта зависит, насколько последовательно и эффективно будет работать агент.
11. Задать настройки MCP-сервера — сервера для интеграции с внешними приложениями, например календарями, трекерами задач, мессенджерами.
Выбрать источник: Маркетплейс, MCP Registry, если уже создан MCP-сервер, или новый MCP-сервер из Docker-образа.
Задать переменные окружения, с секретом или без.
Проверить ресурсы MCP-сервера — в зависимости от модели, они выбираются автоматически.12.Нажмите Создать — и ваш агент готов.
12. Нажмите Создать — и ваш агент готов.
Подытожим
Итак, что мы имеем? Если что и автоматизировать, то задачи с четкими критериями успеха и невысокой ценой ошибки: заполнение полей в анкете пользователя, суммаризацию диалогов, выжимку важного из документов, общение с клиентами в техподдержке по простым вопросам. Если что-то посложнее, с высокой долей ответственности и рисками, AI тоже хорошо себя покажет, но уже как co-pilot, а не полноценный агент.
Но вполне возможно, что в будущем мы сможем делегировать AI куда более творческие и ответственные задачи.
А для чего вы хотите или уже используете AI-агентов? Делитесь идеями и кейсами в комментариях ?