Появление ИИ и поиск решения

Мой интерес к системам искусственного интеллекта начался с выхода ChatGPT-3,5. С первых же месяцев я стал активно использовать нейросеть в своей работе: писал посты для сообщества интерната ВКонтакте о событиях и мероприятиях, использовал для консультаций по рабочим и бытовым вопросам.

Со временем я осознал огромный потенциал ИИ как инструмента, способного значительно повысить эффективность повседневной работы. Я счёл важным дать максимальному числу коллег в психоневрологическом интернате доступ к современным ИИ-инструментам.

Сотрудники интерната для общения в локальной сети использовали устаревшую программу Net Speakerphone. Это был подходящий момент не просто заменить её, а значительно расширить функционал. Идеальным решением стало развертывание корпоративного чата Mattermost со встроенным ИИ-ассистентом. Это позволило модернизировать систему коммуникации и дать сотрудникам мощный инструмент для улучшения их работы.

Почему именно Mattermost? Mattermost — это решение с открытым исходным кодом, которое можно развернуть на собственном сервере. Это даёт полный контроль над данными, безопасностью, что критически важно в условиях госучреждения. Наличие приложений для десктопных и мобильных устройств стало дополнительным аргументом в пользу Mattermost.

Создание сервера

Для реализации проекта я использовал списанный системный блок с характеристиками: i5-2310, 16 ГБ DDR3, SSD 240 ГБ, который был преобразован в сервер.

Моей первой большой сложностью было отсутствие опыта разворачивания серверов на Linux. Раньше я работал исключительно с Windows, поэтому мне пришлось уделить время изучению принципов работы и возможностей этой ОС. Я начал с установки Ubuntu 22.04 LTS без графического интерфейса, так как для сервера графическая оболочка не нужна и только потребляет лишние ресурсы.

Для удобства администрирования был установлен Webmin — программный комплекс, позволяющий управлять системой через веб-интерфейс. Это незаменимый инструмент, так как он позволяет отслеживать системные характеристики (нагрузку на процессор, использование памяти, состояние дисков), и помогает визуально настраивать систему.

Затем был установлен Docker. Он позволяет запускать приложения в изолированных контейнерах, что упрощает их развертывание и управление. Для проекта это было особенно важно, так как появилась возможность устанавливать и удалять приложения, не боясь нарушить работу всей системы. Работа с Docker стала отдельным этапом обучения. Необходимые приложения подбирались опытным путём, тестировались различные конфигурации. Для управления контейнерами был выбран Portainer — веб-интерфейс, который позволил легко запускать, останавливать и настраивать контейнеры, не используя командную строку.

Получился такой стэк управления: Ubuntu (ОС) -> Webmin (администрирование) -> Docker (контейнеризация) -> Portainer (управление контейнерами).

Развертывание Mattermost и интеграция с ИИ

Настала очередь самого Mattermost. В Portainer я создал стек для Mattermost, в котором прописал настройки программы и базы данных PostgreSQL. После установки Mattermost запустился на порту 8065, и я смог получить доступ к веб-интерфейсу.

Далее после регистрации в качестве администратора и, перейдя в системную консоль, в разделе плагинов Agents заполнил необходимые поля: адрес сервера с LLM, API-ключ, модель по умолчанию и системный промпт. Последний особенно важен, так как он ограничивает ответы ассистента, фокусируя его исключительно на рабочих вопросах.

Безопасность и этика

• Сервер не имеет открытых портов для доступа извне. Использование корпоративного чата ведётся в пределах локальной сети и Wi-Fi в стенах интерната.

• Так как модель является внешней, сотрудники предупреждены о запрете на передачу в сеть личных данных и другой конфиденциальной информации.

Внедрение данного решения проходит не без сложностей. Несмотря на очевидные преимущества, переход от привычной, пусть и устаревшей, Net Speakerphone к Mattermost требует индивидуального подхода. Приходится лично объяснять сотрудникам преимущества нового решения, демонстрировать его возможности и отвечать на вопросы. Но результат того стоит.

Этот кейс — только начало пути. В следующей статье я расскажу о том, как мы развернули систему для работы с документами на базе RAG-архитектуры с помощью связки LightRAG и Open WebUI.