Профессия ИТ-аналитика в последние годы быстро трансформируется под влиянием бурного развития генеративного ИИ. Эксперт Axenix Игорь Кайбанов рассказывает, какие задачи теперь должен уметь решать специалист по данным, на какие ключевые тренды в развитии моделей ему важно обратить внимание и какие возможности ГенИИ стоит применять в своей работе.
Эволюция профессии
Всего за несколько лет эволюции генеративного ИИ роль ИТ-аналитиков заметно изменилась — модели взяли на себя огромную часть рутины, оставив человеку критическую оценку проделанной работы и преобразование инсайтов в действенные бизнес-решения.
CEO Shopify Тоби Лютке недавно предложил термин context engineer на замену понятия prompt engineer — и это оправдано. От постановки задачи и способов ее исполнения мы перешли к необходимости ограничивать и задавать контекст решения. В этом помогают как экспертные промты и ИИ-агенты, так подключение к системе специализированного массива данных.
Казалось бы, аналитик, пройдя стадию промт-инжиниринга для domain-задач, становится профи в контент-инжиниринге. Но и это быстро уходит в прошлое. По мере того, как искусственный интеллект становится проактивным и все больше берет на себя принятие решений, аналитик превращается в когнитивного инженера.
Ключевой задачей аналитика становится гибридная экспертиза, то есть синтез ИТ-знаний плюс понимание возможностей/рисков ИИ (особенно в security-sensitive отраслях). На этом уровне аналитик становится «проводником» между данными и стратегией, где ГенИИ — не замена, а мультипликатор эффективности.
Теперь его задача — работа с объяснимым ИИ, подготовка векторных баз данных для RAG, работа с обратной связью и, конечно же, разработка контекста запросов. Иными словами, аналитики становятся тренерами ИИ, который должен бить рекорды и показывать эффективность в бизнес-соревнованиях.
Основные тренды ГенИИ
В отличие от инструментов BI, массовые модели ГенИИ опираются на собственный массив знаний больше, чем на анализ внешних неструктурированных данных и сложно воспринимают работу с табличными массивами. То есть ИИ нужно обучать под локальную производственную задачу.
При этом переобучение существующих моделей и дополнение их новым функционалом не ограничивается добавлением на вход новых данных или полезных образцов. Возникает необходимость объяснить системе, как именно нужно интерпретировать задачу.
Первый и ведущий тренд, уже упомянутый выше, можно обозначить как появление и развитие Context / Cognitive engineering. Вспомним, что всего несколько лет назад состоялся переход от prompt engineering к context engineering — формированию динамического контекста через специализированные данные, экспертные словари и агентов. Context/Cognitive engineering (по A. Karpathy) расширяет этот подход до архитектуры мышления: он включает в себя стратегию работы с информацией, управление вниманием, памятью, цепочками рассуждений.
Следующий тренд развития ГенИИ связан с платформенными решениями — ИИ-платформы позволяют быстро собирать специализированных ассистентов и автономных фоновых агентов.
Современные платформенные решения на базе больших языковых моделей обучаются решать задачи без прямого контроля пользователя. Это становится возможным по мере того, как аналитик создает специализированных, погруженных в заданный контекст помощников, выполняющих узкие задачи. Если десять лет тому назад программный робот отлавливал бизнес-события в системе и выполнял работу по заданному алгоритму, то сейчас фоновый ИИ-агент охватывает совокупность показателей, интерпретирует данные и готовит решение, учитывающее наступление последствий.
Одна из интереснейших задач при этом — создание специализированных ИИ-агентов, которые готовят контекст запроса для больших LLM-моделей. Становится очевидным тренд на развитие платформенного функционала автономных агентов, которые разбираются в специфике работы конкретного аналитика, его бизне��-задач и обеспечивают «переработку информационной руды».
Примеры тренда: DeepSeek R1 (биржевое рассуждение), фоновые агенты в расширениях (@Cursor, Devin), которые выполняют задачи без постоянного участия пользователя.
Ряд исследователей полагает, что ведущий тренд ИИ — это сквозная интеграция: от управления данными до генеративной аналитики. Мы видим, что в архитектуре современных ИИ-решений обязательно должны присутствовать слои, на которых формируются сервисы, имеющие собственную процессную логику, слои интеграции с целевыми системами, обеспечивающими бизнес-решение, а также системы, отвечающие за когнитивные функции ИИ — обеспечение всего того, что требует зрелого уровня обработки задач и формирования результата.
Еще один важный тренд — ИТ-аналитики все чаще сталкиваются с задачей не только использования ИИ, но и объяснения его решений. Точно так же, как медицина перешла из разряда магии отдельного «доктора Айболита» в категорию «доказательной медицины», так и «объяснимый искусственный интеллект» начинает замещать «черный ящик ИИ».
Объяснимый искусственный интеллект (XAI) — это совокупность методов и практик, направленных на то, чтобы сделать процессы принятия решений ИИ более прозрачными и понятными для человека. Основная цель XAI — объяснить, почему модель приняла то или иное решение, а также выделить ключевые факторы, повлиявшие на результат.
В целом инструменты для проверки и объяснения решений ИИ делятся на два типа: независимые от архитектуры модели (model-agnostic) и встроенные в архитектуру (model-specific). Примеры таких методов включают LIME, SHAP, деревья решений и механизмы внимания. Например, с помощью методов LIME аналитик может продемонстрировать, почему модель рекомендовала определенный продукт клиенту или отказала в кредите. Это особенно важно в высокорисковых отраслях, таких как финансы и медицина, где прозрачность решений играет критическую роль для доверия и комплаенса.
ГенИИ как инструмент ИТ-аналитика — главные возможности
В первую очередь рассмотрим ad-hoc режим ГенИИ. Автоматизация отчетов может включать генерацию графиков или SQL-запросов. В этом случае ГенИИ автоматизирует создание отчетов, дашбордов и визуализаций через NLP-запросы, а также обеспечивает экспорт данных при интеграции c BI-системами. Важно понимать ограничения: ИИ не заменяет полноценные BI-системы при выполнении глубокой аналитики, а скорее дополняет их, снижая нагрузку на команду и ускоряя подготовку первичного анализа.
На втором месте по частоте использования (но не по значению) — управление метаданными: структурирование данных, генерация описаний и методологий. Иными словами, ГенИИ формирует «карту данных»: описывает связи между таблицами, семантику полей, а также способен создать интерактивный каталог данных с поиском по тегам и контекстными подсказками.
Например, при запросе «Анализ оттока клиентов» ГенИИ автоматически:
· Определяет связанные таблицы (orders, user_profiles, support_tickets)
· Генерирует SQL-скрипт с оконными функциями для расчета retention rate
· Визуализирует результаты в виде тепловой ��арты сегментов пользователей
Интеллектуальный анализ данных: здесь мы также можем говорить об интеллектуальной работе ГенИИ с метаданными — например формировании рекомендаций по методологии показателей на основе best practices (модель выявляет отклонения от отраслевых стандартов, например, через сравнение с эталонными моделями или данными).
К типовым задачам, решаемым в этом случае с помощью ГенИИ мы можем отнести выявление скрытых зависимостей (к примеру, корреляция между длительностью сессии и конверсией в покупку), сравнение текущих KPI с отраслевыми бенчмарками, а также подготовку рекомендаций по адаптации методик анализа.
Анализ клиентской базы используется для критического пересмотра текущих продуктовых предложений и их рыночного позиционирования, что особенно ценно при подготовке к переговорам со стейкхолдерами или в ходе пресейл-кампаний.
Для задач поддержки принятия решений ИИ особенно эффективен в контексте BPMS-систем, где требуется адаптация модели под конкретные workflow. Здесь критически важным становится умение аналитика грамотно настраивать и «дотачивать» модели под специфику процессов, а не просто использовать готовые шаблоны.
Автоматизация рутинных задач — вот настоящий must have в работе ИТ-аналитика. Как правило, в каждой специальности есть свой набор задач, который решает ГенИИ. Это может быть, например, подготовка проектной документации или облегчение описания процесса анализа скриптов при создании методик расчета показателей. Для работы с данными на практике NLP применяют для преобразования запросов пользователя в SQL – аналитик вводит запрос на естественном языке, а ИИ формирует соответствующий SQL-код и отчет.
Модели ИИ способны, например, ускорить процессы выбора вендоров, обрабатывать большие объемы внешнего контента — будь то point-of-view документы от бизнес-девелопмента, аналитические материалы конференций или профессиональные публикации. Это позволяет глубже понимать рыночную среду и оперативно адаптировать стратегию компании.
Автоматическая генерация кода — ГенИИ способен не только ускорить реализацию типовых сценариев, но и существенно упростить переход от требований к прототипу. В тесной связке с этим работает интеллектуальный анализ кода: ИИ отслеживает баги в реальном времени, предлагает исправления и защищает уязвимые участки, например от SQL-инъекций или утечек памяти. Для проектов, работающих с устаревшими системами, становятся востребованными возможности автоматического рефакторинга. Здесь ИИ способен не только оптимизировать legacy-код, но и переводить его между языками программирования, а также предлагать архитектурные преобразования — например, заменить монолитные модули на шаблоны микросервисов. При этом не менее важна генерация тестовых данных и документирование.
Также ИИ активно внедряется в автоматизацию тестирования и процессов обеспечения качества (QA), где аналитик перестает быть только постановщиком задач, превращаясь в связующее звено между машиной и разработчиком. ИИ выявляет отклонения, а аналитик формулирует на основе этого точечные технические задания для корректировки и доработки функциональности. Все это существенно меняет роль аналитика: от интерпретатора данных он переходит к роли модератора взаимодействия между интеллектуальными системами и бизнесом.
Риски и ограничения
Важно иметь в виду основные риски аналитика при работе с ГенИИ.
1. Раскрытие конфиденциальных данных (Sensitive Information Disclosure)
В ходе работы с системой существует риск утечки секретной информации, включая непреднамеренное разглашение данных через скомпрометированные запросы. Хуже всего в таком случае — если картинка с вашими данными появится как результат работы ИИ, показанный конкуренту. Резюме — запросы нужно делать только обезличенные.
2. Распространение ложной информации (Misinformation)
Генерация недостоверных данных особенно критична в сферах здравоохранения, юриспруденции и безопасности, где ошибки могут привести к серьёзным последствиям. Даже при написании этой статьи одной из самых важных вещей стала перепроверка всех исходных данных и ссылок, которые рекомендовал ИИ.
3. Отравление данных и моделей (Data and Model Poisoning)
Преднамеренное и непреднамеренное искажение обучающих данных для изменения поведения модели, что приводит к генерации некорректных или вредоносных результатов.
4. Некорректная обработка вывода (Improper Output Handling)
Ошибки в обработке выходных данных модели могут спровоцировать инъекции кода (XSS, SQL), выполнение опасных команд или передачу вредоносного контента.
5. Инъекция промтов (Prompt Injection) и утечка системных промтов (System Prompt Leakage)
Манипулирование вводом данных, чтобы заставить ИИ-модель выполнять вредоносные действия в случае инъекции, а также риск раскрытия параметров безопасности или конфиденциальных данных, заложенных в системных промптах в случае утечки.
6. Уязвимости плагинов и цепочки поставок (Insecure Plugin Ecosystem / Supply Chain), а также векторных моделей (Vector and Embedding Weaknesses)
Использование ненадежных или вредоносных сторонних компонентов, библиотек и плагинов создаёт бреши в безопасности системы. Особенно риск актуален для тех, кто листает с помощью ГенИИ страницы и вложенные страницы (не только на ГитХабе, но и на других неожиданных ресурсах).
Также стоит обратить внимание на то, что слабые места в использовании векторных пространств (например, RAG) позволяют обходить защиту или внедрять вредоносные данные через эмбеддинги.
Риски, которые здесь описаны, безусловно обозначены не полностью. Чего, например, стоят галлюцинации ИИ, или проявление немотивированных пользователем действий системы. Речь идет в том числе о попытках ИИ избежать наказания или отключения, способности модели лукавить и намеренно вводить в заблуждение.
Каждый риск требует специфических мер защиты — от валидации ввода до контроля доступа к ресурсам. И здесь важно быть проактивным. Ключевые решения (особенно в контексте Excessive Agency) должны оставаться под контролем человека.
Кейсы применения ИИ-агентов
В 2025 году функционал фоновых агентов уже стал частью расширений браузеров и способен получать задачи с помощью тегирования (@Cursor — от CursorAI, Devin — от компании Cognition). В результате ИИ-помощник способен без участия решать задачи, исходя из анализа его действий и принимать на себя решения в «заданном» диапазоне. Например, он может вовремя заказать пиццу на заданное количество участников встречи или проследить за информацией на виджетах, чтобы подготовить отчет для планерки.
Тем не менее в процессах автоматизации крупных компаний выделяют несколько основных типов агентов, внедрение которых начинает приобретать очертания best practice.
- Агенты по работе с клиентами: обеспечивают персонализацию взаимодействия и сопровождение (GM, Amazon, Samsung Ballie);
- Агенты по работе с сотрудниками: автоматизируют работу с кадрами и обеспечение внутренних коммуникаций (SAP, Microsoft, Slack);
- Агенты по работе с кодом: ускоряют SDLC и качество работ (Renault, Uber, Salesforce);
- Агенты по работе с данными: ведут аналитику телеметрии, финансов, права, медицины (JPMorgan, Novartis);
- Агенты безопасности: отслеживание фрода real-time, AML, прогноз доставки (Mastercard, Citi, UPS Capital);
- Креативные агенты: отвечают за предиктивные заказы, генерацию кампаний (Wendy’s, Adidas).
***
Развитие платформ, которые позволяют подготовить впечатляющего ИИ-помощника для аналитика (в том числе и на нашей платформе Axenix Neurocode) идет полным ходом и вселяет оптимизм.
Однако немного пугает то, что в качестве начальника ИИ выглядит тоже вполне разумной альтернативой — он не раздражается, ставит задачу по уровню, объясняет вежливо, учитывает результаты вполне объективно, поздно вечером не звонит…
Спасибо за внимание к этой статье и хорошего вам дня!