Полный цикл решения задач аналитики тернист и скрупулёзен. Зачастую он выполняется частями в виде смешения этапов без целостного видения общей структуры реализуемого процесса.

Здесь хотел бы поделиться опытом и навязать один из вариантов ведения и реализации аналитических решений. Суммарно в области разработки продуктов оптимизации и автоматизации бизнес процессов проработал 10 лет, участвовал в реализации крупных, средних и мелких проектов. В настоящее время занимаюсь исследованием операций в компании ПГК в проекте Навигатор. В общем, есть чем поделиться.

Под аналитическим решением будем понимать инструмент, который преобразует данные в бизнес выгоду. Сама по себе аналитика является симбионтом и без анализируемого процесса особо не несет пользы. Повествование будет в общем о подходе, сопровождаемое обезличенными примерами. В конце бонус о деньгах и полезности аналитики для капиталистов. Приступим!

Введение

Видение плана и возможность его придерживаться помогают и позволяют измерить объем и потенциал решения, производить оценку и переоценку ценностей изначальной идеи. Эскиз на холсте предоставляет возможность ощутит концепт изображения на холсте, аналогично и план очерчивает границы разрабатываемого решения/продукта. Начиная от реалистичности задуманного, понижения или повышения изначальных ставок, заканчивая пониманием точки завершения и снятием первых сливок MVP/продукта.

Каждый описанный ниже этап не является строгой последовательностью развития и может вернуть в исходную точку, такова реальность. Заказчик и исполнитель не всегда могут понять друг друга с первого раза. Итерации обеспечивают возможность договориться и скорректировать предыдущие рамки.

Этап 1. Постановка бизнес задачи

Задача бизнеса в основном формулируется в абстрактной форме. Описывается бизнес процесс и указывается показатель для улучшения. Это могут быть физические/финансовые параметры, например, увеличение выручки, сокращение затрат, максимизация прибыли или качественные характеристики, типа, повышение уровня сервиса. Все это преподносится на языке бизнеса в привычной ему терминологии. Тут рекомендация перейти на их язык.

Есть достаточно популярный подход к извлечению важных составляющих бизнес постановки. Опросник:

  • Кто: финансирует, пользователь, разработчик, на кого окажет влияние, заинтересованные стороны?

  • Что: какая проблема возникает?

  • Где: появляется проблема, решение будет востребовано?

  • Когда: возникает/возникла проблема, возникает потребность в решении?

  • Почему: проблема возникает?

Ответы на эти вопросы снизят неопределенность и позволят общаться с вовлеченными участниками бизнеса в рамках их зоны интересов в проекте. Локализация встреч по интересам сократит их неэффективность благодаря уменьшенному кол-ву участников и набору тем к обсуждению.

Погружение в бизнес задачу позволяет перейти к следующей стадии: возможность транслировать в аналитическую проблему.

  • Находится ли анализируемый процесс под контролем организации?

  • Существуют ли необходимые данные или возможность их получить?

  • Можно ли решить и/или смоделировать рассматриваемую задачу?

  • Может ли организация принять и внедрить решение?

Независимо от того, решается ли общеизвестная задача (решена в других компаниях) или есть желание поэкспериментировать с инновациями, ответ на эти вопросы позволит пресечь бесперспективную инициативу (разработку) на стадии зачатия. Что «сэкономит» не потраченный бюджет проекта.

Если испытание пройдено, то можно уточнить постановку в результате первичного анализа и зафиксировать ограничения. Очерчивать рамки бизнес задачи и итеративно их обновлять крайне необходимо, если нет желания поработать бесплатно.

Опыт: в рамках заказной разработки крупного решения заказчик попробовал выйти за пределы решаемой задачи, которая возникла на горячей волне на одной из встреч. Момент не приятный, и документ с зафиксированными ограничениями пришелся кстати. Дополнительный блок бесплатных работ был с легкостью отклонен.

Согласовывайте и фиксируйте договоренности! Это позволит сохранить лицо и не огрести от акул бизнеса. Особенно при реализации мелких проектов для небольших компаний, как правило в таких проектах много «хотелок», низкая продуманность функций продукта и большой поток вбросов в процессе разработки.

Напоследок – определение начального набора выгоды для бизнеса (оборот, качество сервиса, конверсия и др.). Симбиоз в деле! Заказчик хочет вписать вас в амбициозный проект, но задача аналитиков свести это к реалистичным результатам. На этом этапе сложность достижения компромисса в том, чтобы окупаемость инициативы была приемлемой для бизнеса. Стоит ли овчинка выделки?

Опыт: Крупная компания владеет оборудованием для производства продукции. Выставляется цель в повышении загрузки оборудования на 50% за счет внедрения методов оптимизации. Со спросом проблем нет. Текущие показатели использования оборудования – 70-80%. Выходит, что ожидаемый целевой уровень 105-120%, сверхурочные у оборудования.

Этап 2. Постановка аналитической задачи

Крупная уязвимость находится на этом этапе — это конвертация бизнес требований в аналитические ограничения, что и является постановка задачи аналитики. В основном это функция аналитика, который погружен в сферу бизнеса заказчика и владеет языком аналитиков.

 У бизнеса формируется картина с завышенными ожиданиями, а аналитики ожидают требования в более усеченном виде. Возникает задача формулирования так называемых «нормальных» требований (отсылка к Модели требований Кано, см. схему ниже), которые будут устраивать заказчика и аналитиков. Задача не из легких и в тоже время фундаментальная по мерам проекта, на основе этих требований будет строиться дальнейшая работа.

Модель требований Кано
Модель требований Кано

Обобщенный сценарий использования решения также формируется на данном этапе. Здесь достаточно понять, какой результат нужно получить, кто будет действующим лицом, что должен этот участник нового процесса делать и что делать с полученной информацией.

Что и в какой мере влияет на аналитическое решение? Выделяем и взвешиваем факторы, которые в дальнейшем будут формировать двигатель решения. По опыту, набор таких факторов итеративным образом увеличивается, особенно после реализации MVP. Кругозор и опыт аналитика ключ к успеху на данном этапе.

Цель и путь ее достижения. Может существовать несколько путей достижения цели, например, увеличение прибыли на 5% можно достигнуть за счет увеличения оборота на 10% или за счет сокращения затрат на 3%. Фиксируем путь и ключевую метрику, на которую в дальнейшем опираемся. И конечно, коммитим под это заказчика.

Этап 3. Данные

Углем для локомотива аналитического решения являются данные. Выявление потребности в наборе информации, ее степень оцифровки и наличие в общем. В российских не IT компаниях инфраструктура в плане сбора данных порой функционирует постольку, поскольку была определенная необходимость, неподвижна и крайне инертна. Это составляет большую трудность для внедрения продвинутых систем автоматизации, оперативных систем планирования и прогнозирования. Из опыта, во многих случаях требовалось внедрять отдельные процессы сбора, обработки и хранения данных. В частности, приходилось менять целые процессы и системы мотивации сотрудников, чтобы данные не оседали в письмах, чатах, звонках.

Опыт: в некоторых реализованных мной проектах часть эффекта была достигнута за счет внедрения качественного сбора данных и их анализа. Эти данные указывали на расхождения в видении процесса руководством и исполнителем. Синхронизация этих видений приводила к улучшению процесса и, как следствие, получению экономического эффекта.

Одним из вызовов также является преобразование качественных характеристик, которые могут быть в головах участников бизнес процесса, но никак не фигурировать в данных. Например, важность заказа/клиента, срочность заказа (чем быстрее, тем лучше), динамическая смена приоритетов. При экспертных оценках получаются противоречия. На практике, постоянные уточнения и переоценка значений приведут к некоторой адекватности, но придется потратить львиную долю нервов и сил.

Не буду нагружать статью общими методами работы с данными – очистка, стандартизация, восполнение, преобразование, сегментация, классификация, выявление взаимосвязей и т.д. Мелочиться на описании этих процедур – потеря вашего внимания.

Посмотрев на данные, самое время провести переосмысление предыдущих этапов. Данные дают дополнительную аргументацию зафиксированным ранее предположениям или приводят к их корректировке.

Некоторое замечание: крупные компании организуют тендеры (если это внешняя разработка). Подготовка документации для этих тендеров включает проработку первых трех этапов, описанных выше. Зачастую, формирование такого документа выполняет сторонняя консалтинговая организация. Спасибо им за этот труд, так как избавляли от достаточно рутинного формирования самой задачи.

Помним, что бизнес, в основном, не стремится погружаться в детали данных, он ждет осязаемый результат, собственно, для решения этих проблем и приглашали. Поэтому все проблемы в данных необходимо транслировать в проблему бизнеса.

Опыт: на одном из проектов возникла ситуация противостояния двух департаментов. Департамент А выполнял свою функцию, плюс забирал часть функций Департамента Б. Из-за этого происходили потери данных, так как Департамент А нигде не отражал выполнение функций Департамента Б. Проблему на языке отсутствия данных бизнес не решал, но трансляция бизнес ситуации позволило принудить выполнять Департамент Б свои функции.

Этап 4. Выбор методологии

Выделяют три класса общих направлений моделирования: описательная, предсказывающая и предписывающая аналитика.

Описательная аналитика – набор методов для визуализации и интерпретации того, что уже произошло. Это могут быть сводные таблицы, статистики, различные диаграммы или презентация.

Предсказывающая аналитика – методы прогнозирования, симуляционные модели, вероятностные модели, модели машинного обучения, которые отвечают на вопрос: Что произойдет?

Предписывающая аналитика – набор методов для формирования лучшего исхода. В эквиваленте пирамиды Маслоу – рост, развитие, самопознание. Данный тип аналитики позволяет повысить качество принимаемых в компании решений до «совершенства». Спектр методов – линейное, целочисленное, нелинейное программирование, симуляционно-оптимизационные подходы, стохастическая оптимизация.

Основные типы аналитики данных
Основные типы аналитики данных

Зафиксировать направление, кажется, не проблема. Но каждое направление включает широкое множество методов. На помощь приходит набор факторов для принятия решения:

  • Время – подходы к решению задачи имеют разную степень риска и время входа. В зависимости от выделенного времени на разработку, можно сделать ставку на проверку набора простых алгоритмов или же зафиксировать один сложный с низким уровнем риска. Кроме того, нужно учитывать время отклика модели – насколько оперативно требуется получить результат модели.

  • Требуемая точность модели – если целевой результат может быть достигнут простой моделью, то незачем разрабатывать избыточное решение с множеством рисков.

  • Актуальность методологии – речь идет об одно из обобщенных направлений описанных выше.

  • Точность данных -  если точность данных низкая, то нет необходимости использовать высокоточные подходы.

  • Доступность данных – оперативность получения, обновления, поддержки данных.

  • Популярность методологии – в научном мире обсуждаются задачи из индустрии, промышленности. Подобрав подходящие ключевые слова можно найти множество подходов и сравнение их эффективности. Потратив время, можно выбрать трендовые подходы, ознакомиться с их положительными и негативными сторонами.

Опыт: Преемственность. Один из проектов, в котором довелось поучаствовать, имел длинную историю реализации, множество попыток обнуления. Похвалю благородную идею и стремление бизнеса к ее реализации. Дошла и моя очередь попробовать расколоть орешек. Анализируя историю, заметил одну важную особенность, горизонт планирования не соответствует качеству данных. Речь идет об оперативной системе планирование, где требуются данные высокой точности и актуальности, а использовался длинный горизонт с около нулевой точностью в конце периода. В литературе обнаружил работу с описанием внедрения аналогичной системы, где горизонт планирования был минимальным, что подтвердило мою гипотезу. Переход на короткий горизонт и локализация задачи привели к прогрессу.

Разработка модели, тестирование и валидация результата, по аналогии с обучений моделей машинного обучения, проводится на фиксированных наборах данных. Если выбранная модель проходит все этапы, она жизнеспособна. Под каждый шаг выбираются наборы данных, которые максимально отражают потребность и будут информативными для выводов и заключений.

Опыт: Еще один проект с неудачными попытками. Последняя версия использовала пчелиный мета-эвристический алгоритм. Результат получился сугубо теоретический, решает поставленную задачу для малого размера, но реальный кейс вызывает трудности. Декомпозиция планирования и задачи на связанные блоки позволили разработать ансамбль точных моделей, которые, пусть не доставляют абсолютный оптимум, но работают и приносят эффект.

Этап 5. Построение модели

Пришло время обсудить центральный этап реализации аналитического решения – разработка модели. Наверное, самый приятный этап для аналитиков. Начинается с выделения метода или группы подходов для разработки. Далее идет выделение критериев сравнения и набора данных для определения качества подхода.

Разработка моделей различается от решаемой задачи. Поэтому этот интересный этап не буду нагромождать множеством решаемых задач и подходов к их решению, тем более, что владею и имею опыт работы не со всеми методами. Но чтобы не потерять ваш интерес на таком интересном этапе представлю вашему вниманию структуру/алгоритм разработки оптимизационного решения.

  1. Организуем структуры данных таким образом, чтобы построение связей между данными были минимальными. Речь идет об объектной модели данных. Здесь можно оперировать таблицами или разработать объекты соответствующие моделируемым физическим объектам.

  2. Строим модель: инициализация переменных, построение набора ограничений и задание целевой функции.

  3. Ищем готовые пакеты решения задачи или разрабатываем сами алгоритмы решения поставленной задачи.

  4. Исследуем сходимость модели и точность. Докручиваем настройки и добавляем условия завершения расчета на случай плохой сходимости.

  5. Извлекаем результат из модели в виде сырого отчета для разработчика. Насыщаем вспомогательными данными для бизнеса.

  6. Строим модуль отчетов, который демонстрирует качественные характеристики решения.

Этап 6. Внедрение

Проходим валидацию модели бизнесом. Готовим красивые отчеты (в том числе графики) с прозрачными результатами работы модели. Рассказываем особенности модели, методологии, погружаем в детали, описываем допущения и ограничения выбранного подхода. Рекламируем решение.

После получения одобрения бизнесом можно формировать план внедрения. Внедрение может происходить вашими силами или посредством заказчика. Но в любом случае, сопровождаем внедрение - ошибки, неточности, новые сценарии использования - это уже закон, без аналитиков не обойтись.

В зависимости от масштаба влияния решения на бизнес процессы компании выбираем путь внедрения. В случае небольшого влияния – внедряем все и сразу. Подключаем все структуры и отлаживаем измененный процесс, сглаживаем углы и шероховатости. Что касается «крупных» изменений, здесь придется поколдовать. Выделяем наиболее независимый в этом переплетении кусок, продумываем, как заштопать разорванные связи с другими частями. Шаг за шагом добавляем остальные части, убираем заплатки, учимся их склеивать. В конце концов вливаем последние недостающие части – готово.

Разбиение на части это некоторого рода искусство. Локализация иногда кажется невозможным, особенно со стороны бизнеса. Но полномасштабное вливание изменений может не выдержать критики и замечаний, что приведет к негативу и сомнениям. На предпоследнем этапе это не сказать, что здорово.

Опыт: внедрение оптимизационных решений на всей логистической сети РФ, пусть это ЖД/авто/авиаперевозки - затрагивает все логистические центры планирования. Локализация внедрения позволила говорить с каждым участником (регионом) отдельно. Договариваться и адаптироваться в таких условиях легче, особенно, если внедряется не в первый регион.

Участвуем в разработке пользовательских интерфейсов, настройке прав доступа. Нет необходимости выдавать всем права на управление моделью.

Этап 7. Жизненный цикл модели

На данном этапе готовится первое время никому не нужная документация с подробным описанием предположений, источников и структур данных, методов обработки данных, самой модели, кодовой базы и рекомендациями по возможным улучшениям модели.

Мониторинг качества модели. Для аналитиков повышение эго от достигнутого результата, а для бизнеса заветные финансы в виде экономического эффекта. Что рекомендуется отслеживать:

  • Выгода бизнеса, тот же экономический эффект.

  • Что модель привносит нового и полезного.

  • Надежность и стабильность работы модели.

  • Насколько качество данных влияет на результат модели.

Опыт: Экономический эффект от внедрения методов оптимизации и автоматизации 5-12%. Это личная статистика.

По требованию. Калибровка и поддержка модели на случай изменения данных или процессов с течением времени. Аналитическое решение при частом использование со стороны бизнеса может развить другие процессы, например, сбор данных и повышение их качества. Такие изменения приводят к потенциалу для улучшения текущей модели или возможности ее замены на более точную или мощную.

Почуем на лаврах. Проводим мастер классы по сценариям использования и настройкам продукта. Документируем пользовательские сценарии, записываем видео, демонстрируем презентации.

Добавляем себе в портфолио успешный кейс. Сохраняем контакты заказчика, отслеживаем судьбу модели и бизнес выгоду на протяжении всего времени.

Бонус про деньги

В данном разделе хотелось бы поделиться перспективностью аналитики в общем и развитию аналитика как специалиста, в частности. Здесь, перспективность сведена к меркантильной составляющей, но косвенно она влияет и на весь мир в целом. Повышение эффективности бизнеса влечет доступность производимых товаров и услуг.

Структура и львиная доля содержания позаимствована. Многое уже сказано не мной. Поэтому вскрою карты. Американский Институт Исследования операций и Менеджмента   INFORMS проводит сертификацию аналитиков. Для подготовки к сертификации доступны курсы и методички, составленные топ менеджерами разных крупных компаний и профессорами MBA. Информация хорошо структурирована, прозрачна и согласуется с моим опытом. Не реклама.

INFORMS упомянул по причине интересного, на мой взгляд, исследования. Начиная с 1972 года общество присваивает Franz Edelman Award за практические достижения в реализации аналитических решений. Критериями является экономический эффект или качественные показатели, новизна решения. Каждый год формируется шестерка (в основном) финалистов из которой выбирается предводитель. Примечательно в этом то, что организация и аналитики коммитятся под результат и предоставляют доступ к достаточно скрытой информации – деньгам.

На графике ниже представлен накопительный эффект
экономии для бизнеса от внедрения решений, который доставляли шестерки
финалистов с 1972-2019 годы. Суммарно около 300 млрд $.

Накопительный экономический эффект финалистов Edelman Award 1972-2019 гг.
Накопительный экономический эффект финалистов Edelman Award 1972-2019 гг.

Какие методы использовались, тоже не является секретом. Ниже представлена частота упоминания методов, которые использовались для достижения эффекта. Диаграмма усечённая и покрывает 22 метода, что составляет 71,3% упоминаний. Топ формируют методы оптимизации – предписывающая аналитика.

Методы и их частота использования финалистами
Методы и их частота использования финалистами

Заключение

Постарался изложить видение процесса разработки решения задачи аналитики. Сквозь призму опыта и существующих концепций собрал концентрированный гайд с нюансами и личной болью. Удачи!

Ссылки:

Комментарии (5)


  1. odinesnik
    00.00.0000 00:00
    +2

    Странная статья
    Красивая обертка, в которую забыли завернуть смысл


    1. hippy92 Автор
      00.00.0000 00:00

      Жаль, что для вас эта работа не привнесла нового. Но, обнадеживает, что хотя бы упаковка понравилась. Благодарю за уделенное внимание.


  1. avf48
    00.00.0000 00:00

    "Задача бизнеса в основном формулируется в абстрактной форме...."

    "Все это преподносится на языке бизнеса в привычной ему терминологии. Тут рекомендация перейти на их язык."

    А вот что бы не играть в экивоки, нужно взять и начать разговаривать, как профессионалы... Что там такого, в этом бизнесе, сверхъестественного, что нужно новые слова придумывать?!

    Для этого и придуманы словари, что бы не придумывать "свой" язык.

    Всё уже есть в стандартах. Проблема в том, что, чаще всего, заказчик не разбирается в том что он делает (не профессионал), те на повторяемость в его действиях рассчитывать не приходится...

    Если нет, то давайте всех медиков, атомщиков и архитекторов будем учить онлайн за один месяц за 999р... Ну врач с удовольствием перейдет на Ваш язык...

    Не нужно боятся заказчика, ему нужно помочь выстроить/зафиксировать свои бизнес функции (все) документально, по форме. Всегда начинайте диалог с руководителем, не о деятельности его подразделения, а именно о его функциях и ответственности... фраза "я тут всем руковожу и всё...", скажет лишь о том, что проще взять функции из стандарта, чем вести диалог с таким руководителем...

    Каждый описанный ниже этап не является строгой последовательностью развития и может вернуть в исходную точку, такова реальность...

    Как бы Да, но как бы и нет... Цикл постоянного улучшения/разработки, не подразумевает возврата в исходную точку... он подразумевает улучшение/ развитее, накопленный опыт, который возвращает вас в исходную точку - это, в простонародий, граблями называется.

    Стандарты:

    Словарь

    ГОСТ Р ИСО 26162-2016 Системы управления терминологией, базами знаний и контентом. Проектирование, внедрение и поддержка систем управления терминологией

     ГОСТ Р 56265-2014/ISO/TS 15926-6:2013 Системы промышленной автоматизации и интеграция. ИНТЕГРАЦИЯ ДАННЫХ ЖИЗНЕННОГО ЦИКЛА ПЕРЕРАБАТЫВАЮЩИХ ПРЕДПРИЯТИЙ, ВКЛЮЧАЯ НЕФТЯНЫЕ И ГАЗОВЫЕ ПРОИЗВОДСТВЕННЫЕ ПРЕДПРИЯТИЯ. Часть 6. Методология разработки и валидации справочных данных

     ГОСТ Р 57309-2016 (ИСО 16354:2013) РУКОВОДЯЩИЕ ПРИНЦИПЫ ПО БИБЛИОТЕКАМ ЗНАНИЙ И БИБЛИОТЕКАМ ОБЪЕКТОВ

    Про требования

    Архитектура ПО
    eTOM, частный случай
    eTOM, частный случай

     

    Профессия

    ЖЦ Системы

    Спецификация


    1. hippy92 Автор
      00.00.0000 00:00

      Под переходом на язык бизнеса подразумевалось оперирование устоявшейся терминологией. Например, в авто перевозках используется понятие холостого пробега, а в жд перевозках - порожний пробег.

      Отдельное спасибо за выдержки из ГОСТов по теме статьи.


      1. avf48
        00.00.0000 00:00

        "Под переходом на язык бизнеса подразумевалось оперирование устоявшейся терминологией."

        Устоявшейся где? В курилке?... нет, это не подход. Термины меняются, меняются их значения (уточняются). Как видите в прим ниже, общий и частный случай использование терминов относящихся к рискам. Терминология должна быть стандартная... структурированный словарь поможет не заниматься словоблудием, а позволит использовать Одно слово, в конкретном месте с конкретным значением (со ссылкой, от куда взято)...

        А то начинется "- Ой, а мы имели ввиду под собакой, кошку.... у нас так принято хихихи..."

        прим Риски
        	
ГОСТ Р 51897-2021
МЕНЕДЖМЕНТ РИСКА. ТЕРМИНЫ И ОПРЕДЕЛЕНИЯ
        ГОСТ Р 51897-2021 МЕНЕДЖМЕНТ РИСКА. ТЕРМИНЫ И ОПРЕДЕЛЕНИЯ
        ГОСТ Р 56480-2015 Воздушный транспорт. Система управления безопасностью вертолетной деятельности. МЕНЕДЖМЕНТ РИСКА. Термины и определения
        ГОСТ Р 56480-2015 Воздушный транспорт. Система управления безопасностью вертолетной деятельности. МЕНЕДЖМЕНТ РИСКА. Термины и определения