Принято считать, что информационные технологии в государственных ведомствах приживаются тяжелее, и для этого мнения есть ряд объективных причин. Однако, как говорил Альф: «Вы не любите котов? Значит, вы не умеете их готовить!». И сегодня мы хотим поговорить о том, как отличаются проекты в госкомпаниях с точки зрения бизнес-IT интегратора, и для каких целей госы создают большие хранилища для аналитических проектов.

Исторически государственные ведомства отличаются большей инертностью, потому что в них принято дольше согласовывать каждый шаг, потому что точка принятия решения в них размыта, потому что заказчик может многократно менять задание, уточняя, что же ему необходимо в действительности. Сами чиновники в своем большинстве воспринимают ИТ-проекты без лишнего энтузиазма. В госструктурах обычно нет какого-то сильного сопротивления новому, но и стремления к нему тоже нет, в частности, оказывается непросто найти заинтересованный в результатах «локомотив» внедрения новых решений. В итоге внедрение идет медленнее, и со стороны начинает казаться, что заказчику вообще не нужен тот или иной проект.



Однако при всем этом отношение к ИТ в госкомпаниях за последние годы радикально изменилось. Под действием программы «Электронного правительства» госорганы осознали, что применение информационных систем – как минимум, неизбежно. А смена поколений, в рамках которого на руководящие должности приходят относительно молодые управленцы, которые готовы развиваться, создает очень важный прецедент — у госорганов появляются люди, которые могут войти в проект со стороны заказчика, чтобы обеспечивать его поддержку и развитие.

Что нужно госам?


Если бизнес четко знает, что ему нужно и к какому числу, то государственные структуры не могут похвастаться таким знанием. При этом потребности ведомств, как правило, оказываются куда шире, чем ожидалось изначально. Например, как показала практика, при переходе на систему межведомственного взаимодействия третьей версии (СМЭВ 3.х), заказчикам потребовалось куда больше, чем просто внедрение новых модулей – нужны были конверторы форматов, обеспечивающие обратную совместимость со СМЭВ 2.х, а также ряд дополнительных решений. Подобные вещи происходят на любых проектах в госкомпаниях, что требует от интегратора комплексного подхода и готовности ко всему.

Несмотря на то, что в государственных организациях повсеместно используются решения от гигантов отрасли, таких как SAP или Oracle, в последнее время приоритеты смещаются, несмотря на стабильность этих платформ. Все важнее становится стоимость поддержки, а также продолжает набирать обороты курс на импортозамещение. Например, если раньше мы планировали использовать для крупных аналитических проектов OLAP-движки IBM Cognos TM1 и Oracle Hyperion EssBase, то сегодня из-за изменения курсов валют подобные решения перестали входить в предусмотренные бюджеты. В результате были найдены достойные отечественные решения, такие как продукт компании «Полиматика». Эта система размещает данные OLAP-куба в оперативной памяти, благодаря чему анализ происходит с максимальной скоростью, и на стандартном сервере можно обрабатывать несколько миллиардов записей, используя ядра центрального и графического процессора.

Однако российских продуктов нужного уровня на рынке очень мало, и далеко не для каждой сферы применения удается найти достойную замену. Поэтому госструктуры позитивно относятся к заказной разработке на базе платформ с открытым исходным кодом, а также к гарантированному сопровождению систем от зарубежных поставщиков. Конечно, полной автономности тут не добиться, и вместо зависимости от вендора возникает зависимость от разработчика. Заказчика начинает интересовать, кто будет поддерживать и развивать систему? Поэтому подрядчиками для государственных заказчиков чаще всего выступают одни и те же компании: заслуженное доверие является одним из главных аргументов при запуске нового проекта.

Учитывая все сказанное выше, информационные системы в госструктурах похожи на пазл, сборка которого требует применения коробочных и заказных продуктов, открытых платформ и коммерческих решений. При наличии качественной интеграции подобный подход позволяет избежать замыкания на каких-то определенных продуктах, оставляя возможности для добавления новых «деталей» и замены пазликов, если их развитие или поддержка оказываются под вопросом.

Потребности в госструктурах


Формирование в госструктурах комплексного информационного пространства, которое охватывает не одно ведомство, а сразу несколько, создало предпосылки для использования аналитических решений нового поколения. Например, в состав СМЭВ третьей версии также входит аналитический модуль, который собирает статистику по количеству и качеству оказания государственных услуг в электронном виде и межведомственному взаимодействию. На фоне постоянно растущего числа пользователей СМЭВ, в число которых теперь входят и региональные МФЦ, и финансовые организации, объемы взаимодействия растут в геометрической прогрессии. Большое количество данных открывает все возможности для внедрения дополнительных инструментов, которые смогли бы их использовать. Огромные массивы данных открывают возможности для аналитики, и использование новых ИТ-инструментов диктуется реальными потребностями госов. В отличие от коммерческих организаций, где все направлено на получение прибыли и сокращение издержек, в государственных структурах стоят несколько иные задачи, и вот основные из них:

  • Формирование регламентированной отчетности – в каждом государственном ведомстве предусмотрена отчетность по строго определенной форме. В ручном режиме подготовка таких отчетов парализует работу отделов на несколько дней, и аналитические системы позволяют решить этот вопрос максимально четко и быстро. Например, автоматизированная система ПФР готовит более 300 различных отчетов.
  • Ведение реестров – большинству ведомств за последние годы было поручено ведение того или иного реестра. Так, «Роскомандзор» ведет реестр запрещенных сайтов и обнаруживает их клоны, ПФР ведет реестр страховщиков и страхователей. Слежение за актуальностью такого реестра – практически идеальная задача для BI-системы.
  • Мобильная аналитика – руководителям отделов различных организаций оказывается удобно работать с оперативными показателями, которые можно найти на своем планшете. В случае с госструктурами кроме отслеживания общего процесса, данная возможность также дает менеджеру необходимый уровень личной защиты, ведь «на ковре» у начальства можно дать оперативный ответ на любой вопрос.

Данные федерального масштаба


Для решения этих задач необходимо использовать особые технологии, такие как БОЛЬШИЕ хранилища данных и специальные инструменты для работы с ними. В федеральных ведомствах используются базы данных, содержащие до 50 Тб и более. Например, аналитическое хранилище данных ИАП АИС-2 в ПФР отличается следующими характеристиками:

  • Расчетная емкость до 200 Тб.
  • Более 1500 пользователей с перспективой подключения до 6000.
  • 17 источников данных с разной типологией, некоторые из которых – территориально-распределенные.
  • Более 2000 сущностей (таблиц).
  • Порядка 10 000 атрибутов сущностей.
  • Около 300 показателей и 500 измерений модели данных.
  • Более 15 000 атрибутов модели данных.




Чтобы обеспечить работу подобных систем в распределенном варианте (ведь данные хранятся в разных регионах, то есть многие источники работают на территориально-распределенных платформах), мы использовали классический подход создания хранилищ данных по Ральфу Кимбаллу и Биллу Инмону.

Было создано три слоя хранения, которые дополняются одним слоем BI


1. Слой подготовки данных состоит из двух уровней: SRC, где хранятся исходные данные, и Staging, на котором мы применяем алгоритмы объединения и очистки данных. Это необходимо потому, что в распределенных государственных системах нормативно-справочная информация не всегда оказывается однородной. Конкретный пример: справочники в каждом из 85 регионов хоть немного, да отличаются.

2. Слой детальных данных непосредственно обеспечивает хранение данных. К нему нет прямого доступа, но именно в нем постоянно актуализируется информация, важная для заказчика. Детальный слой представляет собой полную картину предметной деятельности организации с точки зрения информации. Приведем пример: в системе персонифицированного учета (СПУ), хранится информация по всем застрахованным лицам, а в системе Администрирования страховых взносов (АСВ) имеются данные платежах от страхователей. Более того, когда застрахованное лицо выходит на пенсию, его данные вносят в Федеральную базу данных пенсионеров (ФБДП). Интеграция всех этих данных по каждому объекту производится именно в слое детальных данных. Для этого происходит серьезная модификация и трансформация данных, построение связей между разными системами.

3. Витрины данных обеспечивают выдачу информации по запросам. Это достаточно сложный слой, так как каждая отдельно взятая витрина может предоставлять информацию, полученную из разных участков детального слоя. Фактически именно витрины данных обеспечивают представление различных показателей или выборок данных. Уже через витрины создается подключение к слою бизнес-логики (BI). Например, когда пользователь хочет узнать значение какого-то показателя и нажимает на кнопку в графическом интерфейсе системы BI, данные моментально поступают из витрины, так как они уже подготовлены для запроса. Если информация о людях, вышедших на пенсию в текущем году, была собрана по всему региону, в витринах уже будут представления по районам, либо по размеру пенсии – по любому заранее заданному критерию.



Особенности эксплуатации


Масштабные информационные системы, используемые в государственных ведомствах, должны также справляться с такими неприятностями, как изменение источников данных, которое неизбежно происходит со временем при таких масштабах. Не исключены и изменения самой логики работы системы, характеристик запросов и представлений данных. Поэтому проект создания масштабной информационной системы для госструктуры требует также ее постепенной адаптации к меняющимся требованиям и условиям.

Кроме этого размеры хранилища и сложность модели данных вынуждают искать возможности различных типов загрузки информации. Она должна быть как полной, так и инкрементальной. Например, после внедрения определенного модуля чаще всего необходимо полностью загрузить какой-то сегмент данных, а дальше – уточнять и дополнять их в асинхронном режиме.

Ну и, наконец, самая любопытная черта организационно-экономических систем и их хранилищ заключается в поддержке историчности данных. Ни для кого не секрет, что в случае исправления ошибок или возобновления канала связи, который не работал, данные могут меняться задним числом. Но для построения отчетов могут потребоваться как актуализированные данные, так и информация «на определенную дату». Как показала практика, поддержка такого функционала требует выделения дополнительных ресурсов хранилища и внесения корректировок в проектирование его топологии. Задумайтесь, кроме хранения разных версий, ко всем полям необходимо привязывать метки времени и периода действия данных, которые также должны учитываться при запросах от BI-системы.

Параллельная обработка запросов


Чтобы получить достаточно высокую производительность и справиться с различными проблемами распределенного хранилища сложной топологии, мы в своей практике используем асинхронные массово-параллельные многопроцессорные MPP-системы, например, IBM Netezza. В этом случае огромные объемы данных размещаются по узлам территориально-распределенного кластера, и каждый аналитический запрос может быть обработан параллельно на целом ряде серверных узлов. Об архитектуре MPP и особенностях ее работы мы расскажем в следующем посте.

Комментарии (13)


  1. Alexsandr_SE
    28.09.2017 17:30
    +1

    В государстве постоянно что-то меняется, меняются данные, даты, контроли, формы данных и кол-во этих данных. Ни одна коммерческая организация не допустит таких постоянных изменений, а вот государство допускает. Никогда не знаешь, что придумают или изменят завтра. Аналогично сложно предлагать гос-ву проект. Вроде бы все согласовано, но потом начинается куда изменений, те кто согласовывал оказывается вообще не в курсе как оно на практике должно работать… и в финале решают, что вводить новое ПО вообще не нужно, так безопаснее.


  1. Varim
    28.09.2017 18:41
    +2

    Не увидел пункта «Некомпетентностью» лиц принимающих решения о нужности функций ПО.


    1. RedSys Автор
      28.09.2017 18:47

      В этом что-то есть) Можно добавить.


      1. WizardryIB
        29.09.2017 08:36

        И зря.


    1. SbWereWolf
      29.09.2017 08:25
      +1

      можно подумать в коммерческих структурах нет такого момента :)


      1. Varim
        29.09.2017 09:57

        В коммерческих, на мой взгляд, хотя бы кому то нужен результат, да и круг заинтересованных лиц можно быстро найти и опросить.
        А в гос. секторе, у меня сложилось впечатление, что реальных данных никому не надо, потому как бумажные всегда можно подкрутить под требуемую «статистику».


  1. Yo1
    29.09.2017 11:54

    слышал что в госструктурах зарплаты у работяг много меньше, отсюда и уровень спецов меньше.
    по системе все здорово, но нафига IBM? в гоструктурах должен быть опенсоурс, дата лейк на хадупе, который все это и дешевле и фичастее сделает


    1. RedSys Автор
      02.10.2017 11:15

      Дешевле – да, но не фичастее.


      1. Yo1
        02.10.2017 15:04

        думаю хадупы намного фичастее. в хадупах можно воротить всякие реалтайм стриминги, кафки, тьма сториджей под различные задачки, джобы на разных языках можно писать, в комплекте мульёны ML библитек.


        1. RedSys Автор
          02.10.2017 18:16

          На наш взгляд, фичастость опенсоурсного BI и коммерческого сравнивать не имеет смысла. Опенсоурсный — это всего лишь телевизор, тогда как в коммерческом (IBM, Oracle, «Полиматика», «Прогноз», ...) — куча функционала нужного конечному пользователю: от регламентированной отчётности до удобного OLAP-анализа.

          По DWH: хадуп фичастей нетизы в том смысле, что хадуп – это платформа с мульёном библиотек, стримингами, кафками и пр. Но нетиза фичастей хадупа в том смысле, что это уже готовый аплайнс для определённого класса больших аналитических хранилищ данных, не с тьмой и мульёнами библиотек, а с сотнями, но необходимых здесь и сейчас, аналитических и специальных функций. Естественно, с возможностью писать джобы на разных языках, со сториджем, обеспечивающим сжатие хранимых данных от 4x до 32х, с реальным ускорением обработки данных на порядок.


          1. Yo1
            02.10.2017 21:28

            ну BI к хадупам может совсем open source и нет, но это же крошечная часть решения, не самая дорогая и к тому же сегодня уже любой BI поверх хадупа бегает. это не самая дорогая и нагруженная часть решения. IBM, Oracle, «Полиматика», «Прогноз» все работают по верх хадупов.
            по нетизе, разве там кроме NZSQL и C++ на чем то можно писать то, что будет на узлах кластера запускаться? там же все языки лишь как SQL клиент выступают.

            как не крути хадупы фичастее и перспективней, а в свете санкций и ориентира на импортнозамещение считай неизбежны в гоструктурах. было бы лучше если бы госсектор в эту сторону развивал компетенции, а не подсаживался глубоко на сугубо американский софт. тем более, что хадупы много выгодней по деньгам.


  1. ALIron
    30.09.2017 13:10

    Ведение реестров… Слежение за актуальностью такого реестра – практически идеальная задача для BI-системы

    и далее
    Слой подготовки данных состоит из двух уровней: SRC, где хранятся исходные данные, и Staging, на котором мы применяем алгоритмы объединения и очистки данных.


    Сходите к вашим коллегам по MDM

    Они поправят.
    BI это только третий слой. Про витрины и далее.


    1. RedSys Автор
      02.10.2017 11:57

      Да, BI – это только слой визуализации данных (в т.ч. реестров).
      Витрина с реестром формируется в верхнем слое DWH.