В компании внедрили ИИ-ассистента – дорого, технологично, с красивой демонстрацией возможностей. А через месяц выяснилось, что сотрудники им почти не пользуются. Или хуже – пользуются, но верят ему, а он выдаёт неактуальные инструкции, противоречащие друг другу. Почему так вышло?
Языковые модели отлично справляются с задачами на общие знания: написать код, перевести фразу, объяснить физический процесс. Но с тем, как работает конкретная компания – её правила, процессы, продукты и принятая терминология – они не знакомы. Чтобы AI-агент правильно отвечал на рабочие вопросы, он должен получать эти сведения из внутренней базы.
Вот только в эту базу часто попадает не то, что нужно: устаревшие инструкции, противоречащие версии файлов, документы без структуры и не читаемые форматы. С такими данными даже продвинутая модель с RAG будет бесполезна.
В статье разберем 5 ошибок, которые мешают внедрению ИИ-ассистентов и расскажем как эти ошибки устранить.
Ошибка №1. Нет единого формата документов
Знания существуют в разных форматах: PDF, вордовские файлы, таблицы, сканы, презентации, переписка в чатах. Отдел ведут документацию как удобно им. Где-то инструкция расписана по шагам, где-то – сплошным текстом или сведена в таблицу.
При запуске RAG-системы начинаются проблемы. Даже одинаковые по назначению документы структурированы по-разному. Например, в ретейле инструкция для продавца по возврату товара в одном документе может содержать: условия → порядок действий → исключения → документы. А в другом – всё в произвольном порядке.
Что не так
ИИ-ассистенту нужно определить:
что в документе правило, а что – исключение;
какая версия актуальна;
к какой должности относится инструкция;
какие условия применяются к конкретному вопросу.
Если документы не отредактированы, правильный контекст из них извлекать сложно. Например, пункт договора про ответственность начинается на одной странице, а заканчивается на другой. Если чанки нарезаны бездумно – скажем, по 500 символов с перекрытием, важные смысловые блоки будут разорваны. Первая половина в одном чанке, вторая в другом. Пользователь спрашивает «какая ответственность по договору» – поиск находит первую половину (там есть слово «ответственность»), но не находит вторую (там уже про суммы и сроки). Модель отвечает неполно.
Как правильно
Договориться о единой структуре документов: условия, порядок действий, исключения, ответственные – всё в предсказуемом порядке. Это позволяет модели при поиске находить именно тот блок, который относится к вопросу.
Снабдить документы метаданными и разметкой ключевых сущностей. Отмечать, где правило, где исключение, для какой должности инструкция, какая версия актуальна. Так поиск станет точнее – модель видит не просто текст, а структурированные данные.
Собрать всё в единую векторную базу знаний. При этом подключать стоит не все документы сразу, а только самые надёжные источники: утверждённые инструкции, проверенные продуктовые листы, официальные регламенты. Остальное – позже, когда система обучится на качественном материале.
Задать приоритеты. Если один и тот же вопрос описан в нескольких документах по-разному, модель должна знать, какому источнику верить. Для этого назначаются канонические документы – эталонные, и именно они становятся основным ориентиром для ответов.
Ошибка №2. Дублирование контента и конфликтующие версии
Одна и та же информация существует в нескольких местах: инструкция в базе знаний, PDF на общем диске, презентация для обучения, памятка руководителя, сообщение в корпоративном чате. А потом кто-то обновляет только один вариант. Например, политика возврата товара описана в трёх разных документах с разными сроками и условиями. ИИ-ассистент выдаёт один из вариантов, который оказывается неактуальным для конкретного магазина.
Что не так
Человек может позвонить коллеге и уточнить. ИИ-ассистент такой возможности не имеет – он должен сам определить, какой источник считать актуальным. Если в данных заложены противоречия, устаревшие сведения и разные версии одного и того же, модель будет выдавать противоречивые ответы. Без обучения ИИ не понимает, чему верить.
Как правильно
Устранить дублирование. Когда в организации удаляют повторяющиеся документы и оставляют только проверенный контент, количество ошибок ИИ резко снижается – по некоторым данным, с 25% практически до нуля.
Внедрить систему версионности и чётко обозначать, какой документ является актуальным. Настроить приоритеты источников: если информация конфликтует, модель должна обращаться к авторитетному источнику.
Научить ИИ воздерживаться от ответа при отсутствии данных. Дайте ему прямое разрешение говорить: «Я не знаю». Это лучше, чем уверенная галлюцинация. Даже если модель получает релевантные источники, неоднозначность в них всё равно может привести к ошибкам – поэтому чёткие правила и валидация контента критически важны.
Ошибка №3. Базу знаний создают без пользовательских сценариев
Компании часто внедряют ИИ-ассистента, потому что «это модно» или «у конкурентов есть», без понимания, какую именно задачу он должен решать. Ещё одна распространённая ошибка – делать одного универсального помощника для всех. Но у бухгалтера, логиста и продавца принципиально разные вопросы.
Продавцу в магазине нужна инструкция, что делать при возврате товара. Логисту – как проверить остатки на складе. Бухгалтеру – как провести документ в учётной системе. Если ассистент не умеет различать эти запросы и давать ответы с учётом роли, он становится бесполезным.
Что не так
ИИ-ассистент – это интерфейс к знаниям. Он должен работать так, чтобы каждый специалист быстро получал ответ на вопрос.
Ошибка многих проектов: сначала собирают все документы, потом пытаются подогнать их под роли. Должно быть наоборот – сначала понять, какие вопросы возникают у разных ролей, и уже под эти вопросы собирать нужные знания.
Как правильно
Перед тем как наполнять базу знаний, нужно собрать реальные запросы от каждой группы сотрудников:
что чаще всего спрашивают у поддержки;
что ищут в корпоративных системах;
с какими вопросами новички приходят к наставникам;
какие ошибки повторяются чаще всего;
с чем руководители обращаются к своим командам.
На основе этих данных построить цепочку: роль → сценарий → вопрос → какие знания нужны → где они хранятся → какой должен быть ответ.
Ошибка №4. Неактуальный контент
Статьи годами не обновляются. Часть существует в нескольких редакциях. Некоторые процессы описаны по-разному в зависимости от автора. В базе накапливаются:
устаревшие инструкции;
материалы по несуществующим процессам;
документы без ответственных;
дубли;
файлы, которые никто не открывает.
Формально база большая. Фактически полезных знаний – гораздо меньше. Если в базе знаний содержатся ошибки или отсутствует структура, эти ошибки неизбежно перекочуют в ответы ассистента. Модель не умеет отделять хорошее от плохого – она работает с тем, что ей дали.
Что не так
Если в базе лежит несколько похожих инструкций, ИИ не должен угадывать, какая из них правильная. Ему нужны понятные признаки актуальности: дата, версия, статус. Модель не знает, что документ этого года важнее прошлого, если ей не объяснили через метаданные, версионность или приоритеты источников.
Как правильно
Назначить ответственных за актуальность каждого документа. Внедрить процессы регулярного обновления и проверки контента. Автоматизировать отслеживание ошибок и устаревших данных.
Провести аудит знаний до внедрения ИИ: выяснить, где и в каком состоянии хранятся документы, какими материалами сотрудники реально пользуются, а какие давно потеряли актуальность.
После этого настроить процессы управления знаниями: кто за что отвечает, как часто пересматриваются документы, по каким метрикам оценивается качество базы.
Важно не только обновлять контент, но и систематически выявлять пробелы. Если нужная информация есть в базе – ассистент скорее всего ответит правильно. Но о том, чего в базе не хватает, он сам не сообщит. Пробелы становятся заметны только в работе: когда ассистент не может найти ответ, когда пользователь переспрашивает или ставит оценку «бесполезно». Это и есть сигналы, по которым нужно обновлять знания.
Ошибка №5. Игнорирование аналитики и KPI
Компания смотрит на количество статей и радуется: «У нас уже 15 000 материалов!» Но эта цифра почти ничего не говорит о качестве базы. Гораздо важнее другое:
что ищут сотрудники;
что не находят;
после каких запросов идут к коллегам;
какие статьи открывают чаще всего;
какие не открывают никогда;
на каком этапе сотрудники прекращают поиск;
какие вопросы постоянно повторяются в поддержку.
Без аналитики компания не видит, как база знаний влияет на скорость поиска, число ошибок и качество работы. В итоге знания размещаются формально, а система не развивается.
Что не так
После запуска ассистента появляется дополнительный слой данных:
какие вопросы ему задают;
на какие он не может ответить;
какие ответы пользователи оценивают как полезные, а какие – нет;
какие источники используются чаще;
где уверенность модели низкая;
какие вопросы требуют подключения человека.
То есть ИИ становится инструментом диагностики самой базы знаний. Он не просто отвечает на вопросы, а показывает, где в знаниях есть пробелы, двусмысленности и устаревшая информация.
Как правильно
Замкнуть цикл: поиск → вопрос → ответ → оценка → аналитика → обновление знаний → новый ответ. Это позволяет постепенно превращать базу знаний из статичного хранилища в работающую, самообновляющуюся систему.
Что проверить перед внедрением ИИ-ассистента
Перед запуском стоит пройти по короткому списку. База знаний готова к работе с ИИ, если выполнены все пункты:
✅ есть источники истины (единые, авторитетные, без дублей);
✅ документы имеют понятную и предсказуемую структуру;
✅ дубли контролируются и устраняются;
✅ у знаний есть владельцы, ответственные за актуальность;
✅ устаревшие материалы регулярно удаляются или архивируются;
✅ база строится вокруг реальных пользовательских сценариев;
✅ поисковые запросы анализируются;
✅ есть механизм обратной связи от пользователей;
✅ понятно, какие источники может использовать ИИ, а какие – нет;
✅ для критичных ответов определены правила проверки.
***
Внедрение ИИ-ассистента упирается в дисциплину работы со знаниями. Платформа сама по себе ничего не решает – результат зависит от того, как компания организовала базу знаний: есть ли чёткие процессы, назначены ли ответственные за актуальность, отслеживаются ли метрики. Технологии выступают инструментом и не гарантируют успех.
Готовитесь к внедрению? Начните не с выбора модели и не с покупки платформы. Начните с аудита того, что уже есть. Где лежат документы? Кто за них отвечает? Когда их обновляли в последний раз? Какие вопросы сотрудники задают чаще всего?
И только когда база знаний приведена в порядок, можно подключать ИИ. Такой подход даёт предсказуемый результат: ассистент отвечает точно, сотрудники ему доверяют, проект приносит реальную пользу. Вложения в подготовку данных окупаются.