Привет, меня зовут Филипп Бочаров, CPO в МТС Web Services и член программного комитета HighLoad++. Восемь лет я занимаюсь наблюдаемостью (observability) продуктов — внедряю, обучаю, выступаю и менторю. В этом году мы с командой придумали воркшоп «Смотри, как думает агент: Observability AI-агентов с Langfuse», подготовили его всего за два месяца и успешно провели на AIConf 2026 и Saint HighLoad++ 2026.

Наш воркшоп прошли уже 60+ человек, которые оценили его содержание на 4.62 из 5 баллов и дали положительный фидбек. Но когда мы начали его готовить, оказалось, что мероприятие требует совершенно другого подхода, чем обычный доклад. Некоторые проблемы мы вообще не могли предсказать. 

В этой статье я поделюсь нашей историей, ошибками и выводами о том, как готовить интерактивные форматы: воркшоп и мастер-класс. Ведь московский HighLoad++ 2026 уже не за горами!

Разбираем вопрос участника на Saint HighLoad++
Разбираем вопрос участника на Saint HighLoad++

Как мы пришли к формату воркшопа

Никогда раньше я не делал воркшопы и не особо интересовался этим форматом. У меня был значительный опыт выступлений с классическими докладами по теме наблюдаемости и я не видел смысла что-то менять. Не видел, пока не зашел в тупик — закончились темы! Я уже рассказал про метрики, логи, трейсы, экономику и моя фантазия иссякла.

Но тут мы как раз запустили внутри МТС сервис наблюдаемости ИИ-агентов на базе open source решения Langfuse. Это был успешный опыт, им хотелось поделиться. Но я понимал, что материала не хватит на полноценный доклад: нет «добавочной стоимости» или технической новизны, каких-то собственных доработок open source. А еще пока нет завершенных масштабных кейсов внедрения, на которых можно было бы построить рассказ.

Кроме этого, появление LLM повысило требования к докладам. Теорию стало проще найти самостоятельно, поэтому большую ценность приобретают опыт, практика и возможность поработать руками. Об этом, например, в интервью рассказывал Олег Бунин из Онтико. И программный комитет, прекрасно понимая новую реальность, сместил акцент на реальный опыт, интерактивные форматы и нетворкинг.

Все это в совокупности трансформировало идею доклада в воркшоп по Langfuse — обучению настройке наблюдаемости ИИ-агентов на реальном примере. 

Воркшоп идеально вписывается в новый формат:

  • Участники приходят с ноутбуками и получают реальный опыт, решая задачи почти как в жизни.

  • Интерактивное взаимодействие со спикером помогает разобраться и не потерять мотивацию.

  • Совместное преодоление трудностей - самый лучший и естественный нетворкинг.

Первые открытия или Во что мы влезли

Первым делом мы с командой принялись уточнять детали формата и составлять план подготовки. Тут появились первые открытия:

Воркшоп в два–четыре раза длиннее доклада

Доклад — это обычно от 10 до 30 минут монолога и 15 минут на вопросы. Воркшоп и мастер-класс обычно длятся дольше и могут занимать до двух часов.

Разные критерии отбора

Для доклада важна техническая новизна, а для воркшопа и мастер-класса — применимость полученных навыков. Никто не будет с открытым ртом слушать про классический RAG — теорию уже разобрали до молекул. Но вот сделать его своими руками, на реальной задаче — совсем другое дело. Про внутреннюю кухню того, как программный комитет отбирает доклады, рекомендую почитать тут.

Трудозатраты на воркшоп в два раза выше чем у доклада

Воркшоп — самый трудоемкий в подготовке формат. Нужно продумать рабочее окружение пользователя, канал коммуникации с аудиторией, вовремя заметить вопрос и ориентировать на скорость работы участников. Два часа неожиданностей и живого общения.

Трудозатраты на доклад могут быть очень разными, в зависимости от качества материала. Например, подготовка материала, имеющего значительную техническую новизну, требует сбора фактов: графиков, цифр, результатов экспериментов. А обзорный доклад — лишь несколько часов поиска материалов в интернете.

Воркшоп можно повторять снова и снова

С повторами докладов и мастер-классов обычно сложно — крупные конференции не берут доклады, которые уже были представлены на других площадках, если их аудитории похожи. Ведь для слушателя нет принципиальной разницы — в живую он послушает доклад или в записи.

А хороший воркшоп с каждым разом становиться только лучше — ошибки, которые вы не заметили в начале подготовки, можно исправить, а непонятные моменты объяснить подробнее. Воркшоп можно повторять снова и снова, сделать его публичным и доступным всем желающим. А еще его можно превратить в статью, курс или пост в телеграм. Мы, например, провели в МТС мастер-класс по материалам воркшопа — просто прошли воркшоп сами, вживую перед слушателями.

Подготовка

Мы с командой накидали примерно такой план:

  • Создать демо-агента

    • Определить стек

    • Придумать легенду — что он будет делать

    • Продумать для агента проблемы — кейсы для диагностики в Langfuse 

  • Развернуть Langfuse

  • Подготовить презентацию

  • Отрепетировать

Наш готовый план воркшопа можно скачать и использовать как образец.

Первый вопрос — как запускать демо-агент у участников?

Особенность воркшопа в том, что участники работают руками в каком-то рабочем окружении.

Обычно вариантов три:

  1. Все запускается локально, на ноутбуке пользователя.

  2. Вы предоставляете инфраструктуру для воркшопа.

  3. Оба варианта одновременно.

Локальный запуск не требует от вас ресурсов, спокойно переносит увеличение количества участников и решает проблему изоляции — участники не будут мешать друг другу во время работы. Но вы не знаете с какими ноутбуками они придут. Получается, вам нужно протестировать возможность локального запуска воркшопа для разных ОС, архитектур и версий браузера.

Если вы предоставляете свою инфраструктуру, то встают вопросы изоляции и стоимости. Если инфраструктура — это один стенд на всех, то участники могут мешать друг другу или подглядывать. Выделенный стенд для каждого участника может стоить дорого и этот вариант предполагает, что вы должны хотя бы примерно знать количество участников. Многие конференции создаются в партнерстве с облачными провайдерами. Так что можно поинтересоваться у программного комитета, есть ли возможность получить инфраструктуру для воркшопа от партнера бесплатно или со скидкой.

В нашем воркшопе мы сочетали запуск демонстрационного агента на Python локально и общую централизованную инфраструктуру в виде поднятого сервиса Langfuse. Чтобы снизить риск ошибок запуска на разных машинах, мы реализовали сборку и запуск демонстрационного агента полностью в Docker. Наличие Docker было единственным требованием к ноутбуку участника. Мы много дискутировали внутри команды, но решили все же обойтись без Langchain и других популярных фреймворков, так как они скрывают детали реализации демо-агента.

Общую часть инфраструктуры, сервис Langfuse, развернули за собственные средства на VPS. Пришлось продумать подход к изоляции участников, потому что в community версии Langfuse есть ограничения. Мы остановились на варианте, при котором создается одна организация на воркшоп и по проекту для каждого участника. Такая схема, с одной стороны — изолирует участников друг от друга, а с другой — дает возможность подглядеть решение у соседа.

Второй вопрос — сколько участников мы потянем?

Сколько угодно — неверный ответ. Даже если вы разворачиваете все локально, все равно можно упереться в лимиты. Например, в одиночку вы вряд ли сможете оперативно отвечать на вопросы сотен участников. Риск, что значительная часть участников отстанет от вас и самых продвинутых коллег растет.

Мы заранее обговорили ограничения на количество участников с программным комитетом. Договорились, что офлайн их будет не более 50. По итогу к нам пришло 38 человек и двух спикеров хватило с запасом.

Как мы придумывали кейсы

На что пойдет слушатель, который хочет получить практический опыт? Очевидно, на решение реальных задач, с которыми он может столкнуться в своей работе. Нам требовалось придумать реалистичные и специфичные для ИИ-агента сценарии ошибок, научиться их воспроизводить в демо-агенте и диагностировать с помощью Langfuse.

Благодаря брейншторму, опросу коллег и общению с ChatGPT, родился список техник и компонент, которые часто используются в ИИ-агентах, а также ТОП главных проблем в их применении:

Концепт / паттерн

Какую проблему покажем

RAG

Агент не находит документ из-за некорректного размера чанка

Short-term memory

Агент забывает инструкции из-за разрастания контекста (Memory inflation / context rot)

Guardrails / validation

Некорректная проверка не пропускает верный ответ

Model routing

Агент выбирает неоптимальную (дорогую) модель под задачу

Вызов MCP tools

MCP нестабилен, возвращает ошибку или падает по timeout.

Количество MCP-tools разрастается и агент ошибается в выборе.

Structured output

UI получает от агента ответ в виде невалидного JSON

Prompt management

Изменение промпта ухудшает качество ответа (prompt regression)

LLM-as-a-judge

Контроль качества ответа с помощью другой LLM

Кейсы решили пронумеровать и воспроизводить ошибочные ситуации с помощью фича-флагов — булевых переменных в настройках вида STEP_1, STEP_2 и так далее. Так заодно мы не давали участникам намеков, где именно нужно искать проблему.

Не все кейсы в итоге вошли в программу — что-то не удалось гарантировано воспроизводить, что-то оказалось слишком трудоемким. В итоге осталось только пять сценариев.

Коммуникации — основная трудность

Когда мы начали готовить презентацию, столкнулись с тем, что нам нужно передать участникам подробные инструкции по настройке, запуску и имитации кейсов. И презентация не очень для этого подходит — много текста на слайд не поместишь, с дальних рядов будет плохо видно, не все успеют вовремя прочитать. Нужен какой-то другой канал: ссылка на документацию, общий чат или раздаточный материал.

Особенно сложно оказалось взаимодействовать с онлайн-участниками: их не видно, сложно оценить их вовлеченность и среагировать вовремя на вопрос. Поэтому заранее узнайте — будут ли они у вас. Если будут, то либо настройте всплывающее уведомление на вопросы, либо попросите ведущего или хелперов в зале зачитывать вопросы. 

Первой нашей идеей было кидать ссылки на сниппеты кода в gist. Но в процессе мы поняли, что это порождает множество ссылок, в которых участники путаются. А сам gist имеет ограничения на контент.

В результате сейчас мы уже переделали все с использованием mkdocs — сделали красивые инструкции в виде статического сайта:

  • ссылку на сайт разместили крупно на слайде, продублировав с помощью QR;

  • доступ закрыли простым паролем, чтобы ключи не утекли в сеть. Сообщили его участникам на воркшопе;

  • инструкции на сайте открывали постепенно, чтобы участники не забегали вперед и не рушили интригу. Для этого просто раскомментировали строчки в настройках mkdocs.

Инструкции к воркшопу в mkdocs
Инструкции к воркшопу в mkdocs

Кроме этого мы организовали группу в telegram. Она была не слишком востребована для вопросов, зато потом помогла для сбора обратной связи.

Презентация — только часть подготовки

Во время доклада на сцене есть только вы и ваша презентация. Поэтому для доклада крайне важна ваша личная харизма и качество слайдов. 

А вот на воркшопе вы с участниками в основном работаете руками и презентация укорачивается. Она нужна только для переключения между блоками и погружения аудитории в предмет. Все остальное время участники взаимодействуют с вами, с рабочим окружением и обучающими материалами. Поэтому, чтобы не тратить лишнее время, лучше вложится в автоматизацию настройки окружения участника и качество самих инструкций.

Как привлечь слушателей и не сидеть в пустом зале

Не надейтесь только на организаторов конференции - возьмите в свои руки рекламу вашего выступления! Сделайте посты во всех соцсетях. Запишите короткое видеоприглашение на пару минут - пусть потенциальные слушатели оценят вашу харизму!

Мы с коллегой записали небольшое видеообращение на пару минут прямо в офисе - кто мы, о чем доклад, где и когда будет. Такой формат легко воспринимается, позволяет сразу оценить спикера и его тему. Посты могут помочь участникам заранее подготовиться - скачать нужный софт и образы, чтобы не терять время на воркшопе. 

Наше видеоприглашение для участников Saint HighLoad++
Наше видеоприглашение для участников Saint HighLoad++

Ошибки

Мы так и не научились укладываться в тайминг

Оба раза мы не уложились в отведенное время и последний сценарий проходили скомкано и в спешке. Почему так?

Дело в том, что с докладом и мастер-классом нет проблем точно рассчитать тайминг - все можно отрепетировать заранее и засечь время. Каждый слайд презентации считаем за 1 минуту. Учитываем, что на реальном выступлении, вы скорее всего расскажете на 1-2 минуты быстрее из-за волнения.

В случае с воркшопом это несколько сложнее. Скорость освоения материала будет напрямую зависеть от того, насколько опытными и подготовленными будут участники. А к вам придут очень разные люди и обязательно будут те, кто только открыл ноутбук, когда другие уже заканчивают.

Рабочей техникой оказалась декомпозиция воркшопа на этапы и оценка каждого из них по времени. Эмпирическое правило: если вы справляетесь с этапом за пять минут, то  закладывайте вдвое больше для участников. Точное время вы узнаете только на практике — проведите воркшоп для друзей или коллег и замерьте реальное время. Тайминг каждого сценария в минутах мы написали на слайдах презентации и запустили таймер с обратным отсчетом на экране, чтобы участники работали в темпе.

Нашей изначальной ошибкой было то, что мы тестировали наш воркшоп в основном на разработчиках senior-уровня. И даже заложив чуть больше времени, все равно переоценили среднюю скорость работы участников.

Стараемся уложиться в отведенный тайминг
Стараемся уложиться в отведенный тайминг

Не сразу додумались до системы мотивации

Одна из проблем, которую мы с командой обсуждали на ретро после первого воркшопа — удержание внимания аудитории, особенно в конце, когда все устали. Одним из решений было придумать систему мотивации участников. 

Мы решили раздавать вот такие монетки "observability coin" за правильные ответы и быстрое выполнение задач. Дизайн монеты сгенерировала нейросеть и наши DevRel’ы заказали тираж в 100 экземпляров в типографии. Три участника с наибольшим количеством монет получали призы от конференции и от МТС Web Services. 

Соревновательный элемент действительно добавил мотивации участникам и второй воркшоп прошел заметно бодрее!

Вот такие Observability Coin раздавали за активную работу
Вот такие Observability Coin раздавали за активную работу

Поломки во время воркшопа

Во время выступления пропал доступ к одной из используемых нами моделей. К счастью, все оперативно починили. У части слушателей не открылся QR код из-за каких-то сетевых проблем на площадке - пришлось перебивать адрес инструкции вручную. Примерно половина участников столкнулась с подвисанием Langfuse в одном из сценариев из-за бага.

Обычно, слушатели прощают такие инциденты в интерактивных форматах — все понимают, что это не заученный заранее доклад, а живая работа. Надеюсь, у вас есть пара коротких, но увлекательных историй из жизни. Если нет — срочно придумайте. Они вам пригодятся, когда на воркшопе или мастер-классе ноутбук выкинет синий экран смерти, исчезнет wifi на площадке или тысячу раз запущенный скрипт выдаст ошибку.

Что я понял, когда провел воркшопы

Нужны постоянные улучшения

После каждого воркшопа нужно ретро: разобрать что пошло не так, где потратили слишком много времени, на чем участники спотыкались чаще всего. Очень здорово провести опрос среди участников с помощью программного комитета или самостоятельно, чтобы услышать живую обратную связь.

Например, после первого воркшопа мы переработали документацию и внесли правки в код. Это, к сожалению, все равно не помогло уложиться в тайминг, но мы продолжим улучшать материал.

Самое сложное — придумать идею

Придумать идею воркшопа сложно, потому что четкого алгоритма действий не существует. Но я для себя выработал такой подход...

Сначала отвечаем на вопросы:

  1. В чем я эксперт? Что я хорошо умею делать руками?

  2. Что сейчас актуально? О чем пишут в каналах и статьях Хабра? Какие технологии в тренде?

  3. За какие практические навыки люди готовы платить? Покупают курсы и обучение?

Выписываем как можно больше идей на пересечении этих тем. 

 Теперь убираем лишнее, ответив на вопросы по каждой из идей:

  • Не было ли похожих воркшопов раньше?

  • Почему именно я рассказываю про это? Почему меня должны слушать?

  • С какими практическими навыками уйдет слушатель?

  • Не проще ли слушателю пообщаться с ChatGPT для получения этих знаний?

Все идеи, по которым ответы звучат приемлемо, можно брать в оборот.

Например, когда мы готовили воркшоп, у меня получились такие ответы:

  1. Эксперт в наблюдаемости, мониторинге, управление продуктом.

  2. Тренд на ИИ, импортозамещение, автоматизацию.

  3. Люди платят за обучение по использованию LLM и созданию агентов.

Атмосфера выступления и воркшопа про разное

По моим субъективным ощущениям, стресс и напряжение докладчика во время воркшопа ниже, чем при докладе. На интерактивных форматах другая атмосфера, где ты просто более опытный участник, который делится им и не претендует на абсолютное знание. 

Так что если вы всегда хотели выступать, но боязнь сцены вас останавливала — рассмотрите интерактив!

После двух конференций я понял, что хороший воркшоп — это не презентация, а почти продукт. Ведь его приходится проектировать, тестировать, собирать обратную связь и постоянно улучшать.

Надеюсь, этот опыт и готовый шаблон помогут вам избежать наших ошибок.

Комментарии (0)