Привет, на связи Шерпа Роботикс. Сегодня мы перевели для вас статью, тема которой напрямую касается нашей деятельности, как вендора платформ для умной роботизации бизнес-процессов. В этой статье вы узнаете о процессе эволюции роботизации, а также рекомендации, в каких случаях какой подход к ней лучше использовать. В завершение статьи мы поделимся с вами своим опытом создания нейро-сотрудников с помощью нашей платформы Sherpa AI Server и приведем примеры реальных кейсов.

Агенты ИИ представляют собой новую парадигму программного обеспечения, основанную на больших языковых моделях (LLM). Эти агенты могут рассуждать, взаимодействовать и действовать аналогично людям.

Что такое корпоративный ИИ-агент?

Спустя десять лет после появления роботизированной автоматизации процессов (RPA) мы на пороге нового прорыва в автоматизации предприятий с помощью интеллектуальных ИИ-агентов, работающих на основе LLM. Агенты — это не просто улучшенный способ автоматизации, а совершенно новая прорывная технология, требующая новых навыков и инструментов для освоения. Они расширяют рамки от тактической автоматизации задач до автоматизации и дополнения сложной интеллектуальной деятельности.

Переход от RPA к ИИ-агентам — это стратегическая инициатива, требующая поддержки на уровне руководства для успешной реализации. В то же время это возможность для лидеров в области автоматизации переосмыслить свою роль в во внедрении новых решений внутри компании. В этой статье мы рассмотрим некоторые практические аспекты перехода от RPA к корпоративным ИИ-агентам.

Эволюция автоматизации предприятий

• Автоматизация задач — RPA;

• Автоматизация процессов — Автоматизация кодированием;

• Автоматизация работы — Интеллектуальные ИИ-агенты.

Автоматизация предприятий проходит через эволюцию. Она начиналась с роботизированной автоматизации процессов (RPA) и была популяризирована компанией UiPath в середине 2010-х годов. Популярность RPA была вызвана подходом "записать и воспроизвести" для автоматизации интерфейса пользователя, что способствовало буму низкокодовых бизнес-приложений.

Несмотря на первоначальные опасения скептиков о хрупкости RPA и надежности автоматизации ботов, сегодня каждая крупная компания создала подразделение развития в области автоматизации и расширила свои возможности до того, что обычно называют интеллектуальной автоматизацией (IA).

IA не имеет четкого определения и часто включает в себя смесь техник — от RPA до автоматизации API и обработки документов с помощью OCR. Это сигнализирует о переходе от автоматизации с простым кликом к автоматизации процессов с инструментами, которые часто сочетают кодирование с низкокодированием и требуют специализированных навыков для развертывания. Однако основные принципы остаются неизменными — RPA и IA чисто основаны на правилах и подходят для четко определенных, хорошо структурированных процессов.

В тоже время ИИ-агенты используют совершенно другой рабочий процесс планирования и выполнения. Они могут изначально понимать неструктурированные данные и неструктурированные процессы благодаря своим гибким способностям к рассуждениям. Это делает агентов подходящими для работы, которую нельзя описать простыми правилами, но которая изложена в естественном языке и рабочих руководствах. Это позволяет агентам быть более устойчивыми, чем запрограммированные боты — агенты могут исправлять собственные ошибки, если сталкиваются с проблемой, или обращаться за обратной связью к человеку.

Хотя ИИ-агенты применяют совершенно другой подход к автоматизации предприятий, это не означает конец эры RPA. Если ваша задача заключается в вводе тысячи записей в систему ERP ежедневно или миграции ста тысяч электронных медицинских записей в новую систему, то нет смысла пытаться адаптировать агента для решения рутинной задачи. Не стоит забивать гвозди микроскопом!

Категории задач и оптимальные методы их автоматизации

ИИ-агенты расширяют рамки автоматизации предприятий за пределы того, что ранее было возможно. Поскольку ИИ-агенты являются новой категорией, которая все еще формируется, самый простой способ представить примеры их использования — это расширение существующих автоматизированных процессов за счет агентного рассуждения. Со временем ИИ-агенты будут интегрироваться в стратегические бизнес-процессы, которые находятся в центре работы предприятия.

На иллюстрации выше показаны три разные категории автоматизации. Внизу находится большое количество тактической работы, которая не требует сложного принятия решений и основана на специфическом для данной компании контексте. Эта работа оперирует данными, документами и системами, которые являются высоко специфичными для конкретного предприятия.

Именно здесь работает RPA, и это хорошее место для начала первых проектов с ИИ-агентами. Ищите возможности в рабочих процессах, которые предшествуют и следуют за рутинными задачами RPA, и расширяйте сферы автоматизации с помощью агентов. Используйте ИИ-агентов для увеличения объема автоматизации за пределами возможностей стандартного RPA.

На пути к верхней части пирамиды мы видим работу, которая включает стандартные решения, опирающиеся на стандартный контекст. Это работа, которая часто фиксируется на платформах и системах учета. Здесь вам лучше приобрести ИИ и автоматизационные решения от этих поставщиков и полагаться на их способность к инновациям в данных и процессах, которые они контролируют. 

На вершине пирамиды находится наиболее стратегическая категория работы, которая играет центральную роль в функционировании предприятия. Эта работа включает в себя сложные решения и работает на основе индивидуального контекста. Никто не сможет прийти извне и научить вас, как выполнять эту работу лучше, поскольку именно ради этого существует ваша компания. Именно здесь ИИ-агенты, созданные специально для предприятий, окажут наибольшее влияние.

Агенты могут работать рядом с людьми или полностью заменять некоторые из наших человеческих задач, позволяя сосредоточиться на более продуктивной работе. Поскольку мы, как отрасль, все еще находимся на ранних этапах нашего пути с интеллектуальными ИИ-агентами, потребуется время, чтобы достичь наиболее ценной и стратегической работы, но сейчас — самое время для начала строительства навыков и платформ, необходимых для этого.

Три шага от автоматизации к ИИ

Темп изменений и инноваций в области ИИ может показаться шокирующим, и мы часто сталкиваемся с вопросом, с чего начать. 

Шаг 1. Установить правила управления ИИ и безопасностью.

Как мы будем контролировать использование ИИ? Как мы позволим нашим данным быть доступными для ИИ-приложений и как мы можем гарантировать, что ИИ не станет угрозой для безопасности? Это основа, которую должна заложить каждая компания, установив четкие правила для экспериментов с ИИ. 

Шаг 2. Определить сроки и критерии успеха, а также согласовать их с организацией.

Вторым шагом является установка правильных ожиданий, сроков и стратегического видения. Например: «К концу года мы определим и создадим трех ИИ-агентов, которые будут работать в повседневной практике. Наша цель — стать компанией, использующей ИИ, в течение следующих двух лет и применить ИИ-агентов к нашим основным бизнес-процессам». Начав с четко определенных сроков и разумных ожиданий, мы позволим организации учиться и развиваться с агентами, достигая первых положительных результатов. Необходимо стратегическое видение, чтобы гарантировать, что мы остаемся на правильном пути и достигаем необходимого воздействия. Поддержка руководства на высшем уровне имеет ключевое значение для успеха программы.

Шаг 3. Определить примеры использования, начиная с тактической автоматизации и переходя к стратегической.

Изучите существующий процесс автоматизации, чтобы определить первые примеры использования ИИ-агентов, или посмотрите на рабочие процессы, которые предшествуют и следуют за текущими автоматизациями. Это хорошая возможность для начала сбора идей для агентов и избегания случаев, которые попадают в средний уровень нашей пирамиды. Понимать какие стратегические процессы могут быть автоматизированы — это хорошо, но начните с небольших шагов, чтобы оставаться в рамках графика и облегчить обучение.

Технологии ИИ и агентов развиваются стремительными темпами, с новыми прорывами и LLM, которые появляются бесконечными потоками. Чтобы оставаться актуальными в этом рынке, стоит избегать привязки к конкретной технологии или поставщику LLM. Вместо этого ищите поставщиков, которые используют открытые технологии в своих решениях, поскольку открытый код ведет к инновациям в области ИИ-агентов.

ИИ-агенты уже здесь

ИИ-агенты — это новая прорывная технология, а не просто следующая ступень традиционной автоматизации. Обычно стратегия касательно автоматизации и ИИ заключается в том, чтобы планировать следующее большое событие, преодолевая текущие трудности. Однако темпы, с которыми развивается генеративный ИИ, предполагают критический поворот в этом подходе. Будущее наступило.

Лидерам в области автоматизации предприятий важно сосредоточиться на немедленном внедрении технологий ИИ. Ожидание адаптации влечет за собой утрату конкурентного преимущества, которое ИИ предлагает сегодня. Многие дальновидные компании уже получают значительные выгоды от программ ИИ, которые они создают.

Комментарий Sherpa Robotics

Наша компания на рынке уже 5 лет. Начинали мы как вендор RPA-решения, но в конце прошлого года наша команда создала новый продукт - первую и на данный момент единственную оффлайн-LLM платформу в РФ которая находится в реестре отечественного ПО и позволяет реализовать и эффективно использовать большие языковые модели в закрытом контуре.

Основное преимущество в том, что мы не просто используем готовые LLM-модели и дообучаем их, а разворачиваем их на своей платформе, улучшаем и делаем точней и удобней в использовании.

Например, длина контекста LLM-модели Lama 2 - 8 тысяч токенов, мы же можем увеличивать этот параметр до 128 токенов.

У нас в платформе поддерживается русский язык.
Есть веб-чат – для сотрудников компании в стиле ChatGPT с историей и диалогами.

Также есть встроенное векторное хранилище документов – у нас предусмотрен функционал загрузки документов в разных форматах (структурированные и неструктуривонные PDF) и автоматический перенос их в эмбединнги, после чего в короткое время можно задавать вопросы по этим документам.

Возможности:

• Большие языковые модели (LLM) в закрытом контуре;

• Веб-чат для сотрудников компании в стиле ChatGPT с историей и диалогами;

• Поддержка русского языка;

• Длина контекста до 128 тысяч токенов на «обычном» железе;

• Ответы на вопросы по собственным документам;

• Встроенное векторное хранилище документов;

• API для любых приложений компании, совместимое с OpenAI;

• Интеграция с Sherpa RPA - работа с LLM из сценариев роботов;

• Безопасность, конфиденциальность, мониторинг, аудит;

• Многопользовательский и многопоточный режим;

• Выбор из более 500 доступных языковых моделей;

• Работа с CPU / GPU и самыми современными методами квантования и батчинга нейросетей;

• Дообучение нейросетей на своих данных;

• Работа с голосом и изображениями.

  
  

  

  Преимущества наших нейро-сотрудников

  • Более гибкие для достижения цели;

  • Выбирают и используют вспомогательные инструменты – браузер, файловую систему, свободное ориентирование в программах на экране компьютера, другие нейросети для работы с картинками и видео, API различных систем;

  • Обладают кратковременной памятью в границах окна контекста;

  • Обладают долговременно памятью – что делали, что видели, что получилось – и могут выборочно получать нужные данные из памяти;

  • Способны к критическому мышлению и саморефлексии;

  • Учатся на примерах пользователя и допускают обратную связь во время работы.

  Теперь перейдем к нашим кейсам.

  Робот-юрист по налоговому праву.

  Предметная область: налоговое законодательство.

  Робот протоколирует вопросы и ответы всех пользователей для последующей оценки.

  Робот собирает оценки ответов непосредственно у пользователей и использует их для повышения качества ответов.

  Источники данных:

  • Платная веб-версия Консультант+;

  • Платная веб-версия Главбух.

  

  Результаты

  • 86% ответов пользователи посчитали полезными.

  • 340 человеко-часов в месяц сэкономлено.

  • На 22% увеличилось количество клиентов благодаря wow-эффекту от новой технологии.

  

  Другие реализованные роботы для юристов

  • Внутренний бот-юрист для сотрудников компании;

  • Робот для проверки договоров по чек-листам и на соответствие законам и внутренним регламентам компании;

  • Робот для сверки подписанных сканов договоров с оригиналами;

  • Робот для отслеживания движения дел в судах и автоматических генераций претензий, возражений, ответов на претензии;

  • Робот для архивирования и классификации юридических документов и извлечения из них фактов для карточек дел.

  Робот-консультант по продажам.

  Консультирует покупателей в WhatsApp.

  Предметная область: онлайн-магазин смартфонов.

  Робот должен отвечать на общие вопросы о доставке, оплате, возвратах, помогать с выбором товара.

  Робот должен отвечать на конкретные вопросы об ассортименте магазина, советовать модели которые подходят под запросы клиента.

  

  Источники данных:

  База данных интернет-магазина с характеристиками и ценами;

  Инструкция продавца и общая информация из разделов и блога интернет-магазина.

  Результаты

  Робот в 6 раз быстрее отвечает на вопросы потенциальных покупателей.

  На 22% возросла конверсия из начала диалога до покупки.

  

  Другие интеллектуальные ассистенты для продаж 

  • Success Bot - этот бот способен оценивать уровень удовлетворенности клиентов и предлагать советы по улучшению взаимодействия с ними. Он также может анализировать обратную связь от клиентов и предлагать стратегии для улучшения.

  • Renewal Bot - этот бот автоматизирует процесс продления контрактов, уведомляя о приближающихся сроках и помогая собрать необходимую информацию для обновления.

  • Support Bot - бот помогает клиентам решать проблемы, отвечая на вопросы в режиме реального времени. Он также может эскалировать сложные вопросы на внутренний персонал поддержки.

  • Onboarding Bot - этот бот автоматизирует процесс онбординга, помогая новым клиентам быстро и эффективно настроить их учетные записи.

  • Survey Bot - бот, который автоматически создает и отправляет опросы клиентам, чтобы собрать ценные данные о их опыте работы с вашей компанией.

  • Data Analysis Bot - этот бот собирает и анализирует данные о поведении клиентов, помогая определить области для улучшения и предлагая новые стратегии для удержания клиентов.

  • Feedback Bot - бот, который активно собирает отзывы от клиентов и использует эти данные для предложения улучшений в продуктах или услугах.

  • Billing Bot - этот бот управляет всеми аспектами процесса выставления счетов, включая отправку напоминаний о платежах и обработку транзакций.

  • Training Bot - бот обучает клиентов использованию продуктов или услуг, предлагая интерактивные учебники и ответы на часто задаваемые вопросы.

  • Reporting Bot - этот бот автоматически создает и отправляет отчеты о производительности службы поддержки, помогая лидерам команды принимать обоснованные решения.

  Робот-оператор ITSM поддержки

  Робот берет в работу тикеты в ITSM системе и взаимодействует с пользователями через: тикеты\чат\мессенджеры\почту.

  Робот должен обрабатывать запросы первой и второй линий и давать четкие ответы для решения проблемы сотрудников, при необходимости задавая уточняющие вопросы.

  В случае если требуется физическое присутствие человека, робот эскалируют задачу на третью линию поддержки.

  Робот должен соответствовать требованиям SLA и всем принципам ITIL.

  Источники данных:

  ITSM система - база знаний, CMDB;

  Active Directory, Management Console и т.д.

  

  
  

  Результаты

  В 12 раз увеличилась скорость обработки тикетов.

  На 65% снизились затраты на ITSM (лицензии и софт).

  На 55% увеличилось качество обработки тикетов (SLA).

Другие реализованные роботы для ITSM

• Дискаверинг в системах Service Desk;

• Упреждающее решение проблем;

• Обнаружение аномалий;

• Управление знаниями на основе искусственного интеллекта;

• Управление изменениями на основе искусственного интеллекта;

• Интеллектуальное управление жизненным циклом активов;

• Прогнозная аналитика для выявления нарушений SLA;

• Возможности интеллектуального поиска и рекомендации;

• Робот ESM для автоматизации запросов разных отделов.

Мы описали малую часть реализованных нами нейро-сотрудников. Возможно, вы уже даже сталкивались с ними или их аналогами. Поделитесь в комментах, как ИИ-агенты повлияли на вашу работу?