Облачные сервисы на сегодняшний день стали неотъемлемой частью ландшафта ИТ. Множество различных приложений размещается и успешно функционирует в облаках. У облачных решений есть целый ряд преимуществ, например, мы можем легко масштабировать решение в случае, если увеличилась нагрузка. Также можем выполнить поэтапное обновление компонентов приложения прозрачно для пользователей решения благодаря использованию нескольких экземпляров сервиса.

Но при проектировании систем, основанных на облачных сервисах, важно правильно выбрать архитектуру решения. Конечно, никто не мешает самостоятельно придумывать свою архитектуру, но, скорее всего, то, что вы «изобретете», уже кто-то придумал до вас. Так наиболее успешные реализации приложений получили распространение в качестве шаблонов проектирования.

Привет, Хабр! Меня зовут Андрей Бирюков, я эксперт в области информационной безопасности, эксперт Учебного центра IBS. В этой статье я расскажу о лучших шаблонах и паттернах для облачного проектирования, которые помогут вам создать масштабируемые и надежные приложения.

Всего существует несколько десятков шаблонов проектирования, и в этой статье мы рассмотрим шаблоны, позволяющие наиболее эффективно решать различные задачи, связанные с надежностью работы приложения в облачной среде.

Начнем с шаблона, позволяющего выделить часть функций целевого приложения в отдельный процесс для того, чтобы увеличить производительность и надежность основных функций нашего приложения.

Шаблон Sidecar

Любое достаточно сложное приложение в облаке состоит из множества компонентов, у каждого из которых есть свой набор конфигурационных параметров, необходимых для нормального функционирования. Кроме того, компоненты приложения нуждаются в мониторинге состояния для того, чтобы можно было выявлять проблемы заранее. Журналирование событий помогает увидеть, что уже произошло в системе. При правильной настройке различных политик мы можем отслеживать события, связанные с превышением пороговых значений в производительности процессора, загрузке памяти и другими параметрами. Это позволит оперативно предотвращать возможные инциденты и обеспечивать стабильную работу системы.

Весь перечисленный функционал необходим для работы приложений в облачных средах, но эти сервисы могут влиять на производительность и стабильность работы целевого приложения. Мы можем интегрировать эти функции в основное приложение, но тогда они будут выполняться в одном процессе в качестве приложения, за счет чего будет обеспечиваться эффективное использование общих ресурсов. Но если в одном из этих сервисов произойдет сбой, например, функция мониторинга не сможет получить доступ к какой-либо метрике и повиснет в бесконечном цикле, то это может повлиять на работу всего приложения, к примеру, привести к его зависанию.

Помимо этого, если мы размещаем код всех наших функций в одном приложении (монолитная архитектура), то нам необходимо реализовывать весь функционал на одном языке программирования, а это тоже бывает не всегда удобно, так как не во всех языках могут быть реализованы нужные библиотеки.

Но если мы реализуем каждый сервис отдельно (микросервисная архитектура), то каждый из них можно развернуть с использованием различных языков и технологий. При этом мы получаем дополнительную гибкость, так как у каждого компонента есть собственные зависимости и ему необходимы библиотеки. 

Однако развертывание этих функций в качестве отдельных сервисов в одной виртуальной машине или контейнере с основным приложением также может привести к задержкам в работе и сложностям с использованием зависимостей. При управлении кодом и зависимостями для этих языковых интерфейсов операции могут усложниться, особенно размещение, развертывание и управление.

Таким образом, нам необходимо с одной стороны разместить наши вспомогательные сервисы конфигурации, мониторинга и журналирования отдельно от основного приложения, но при этом в достаточно тесной взаимосвязи с ним. В качестве решения мы можем разместить вспомогательные сервисы в собственном контейнере, предоставляя однородный интерфейс для взаимодействия между службами основного приложения и нашими вспомогательными сервисами.

В примере ниже представлены два контейнера: Primary Application и Sidecar. Основная функциональность приложения реализована в Primary, а вот вспомогательные сервисы представлены в Sidecar. Между основным приложением и вспомогательным контейнером осуществляется постоянное двустороннее взаимодействие.

Поговорим о преимуществах паттерна Sidecar. Он не зависит от среды выполнения и языка программирования основного приложения, поэтому не нужно разрабатывать Sidecar для каждого языка. При обмене данными между расширением и основным приложением задержки не возникают, так как они тесно связаны. Тем самым у нас не должно возникнуть проблем с производительностью приложения в целом.

Если говорить о недостатках Sidecar, то прежде всего необходимо продумывать механизм межпроцессного взаимодействия. Обмен данными не должен вызывать каких-либо сложностей и задержек при обработке. В связи с этим не рекомендуется использовать данный шаблон, если необходимо оптимизировать межпроцессное взаимодействие. Обмен данными между приложением и Sidecar-сервисами вызывает дополнительные нагрузки, в частности задержки в вызовах. Также Sidecar лучше не использовать при работе с небольшими приложениями, так как отдельный вспомогательный процесс или контейнер может использовать значительные по меркам всего приложения ресурсы.

Шаблон Bulkhead

Еще один шаблон, который мы рассмотрим, — это Bulkhead. Данный шаблон реализует подход к дизайну приложения, устойчивого к сбоям. В этом случае мы, как и в Sidecar, изолируем отдельные элементы приложения. Однако метод изоляции будет немного отличаться. В Bulkhead-архитектуре элементы приложения изолированы в пулы, так что в случае сбоя одного остальные продолжат функционировать. Обычно данный подход сравнивают с построением морских судов, трюм которых разделяют с помощью специальных перегородок. И в случае затопления одного из отсеков судно останется на плаву, так как все отсеки изолированы друг от друга.

Наше облачное приложение может обладать распределенной иерархической архитектурой, что позволяет ему эффективно взаимодействовать с нижестоящими компонентами. Соответственно, повышенная нагрузка или сбой в сервисе повлияют на работу всех его компонентов. 

При этом компоненты приложения могут отправлять запросы нескольким сервисам одновременно, используя ресурсы для каждого запроса. Если потребитель отправляет запрос сервису, который перегружен или не отвечает, клиент, в свою очередь, не может своевременно передать данные и освободить ресурсы, в результате чего через некоторое время ресурсы на клиенте также будут исчерпаны. Например, буфер, используемый для передачи данных на клиенте, не бесконечен, и если его своевременно не освобождать, то рано или поздно он обязательно переполнится, какой бы мощной ни была клиентская машина. Аналогичные проблемы будут происходить и у других клиентов, что в итоге может привести к эффекту каскадного сбоя.

Для решения этой проблемы шаблон Bulkhead предлагает разделять экземпляры сервиса на разные группы в зависимости от нагрузки, создаваемой потребителем, и требований к доступности. Таким образом, мы можем изолировать проблемные компоненты и при этом поддерживать функциональность сервисов для некоторых потребителей даже во время сбоя.

В примере ниже каждому клиенту при обращении к сервису выделяется свой экземпляр процесса Service Instance. Первый клиент, вероятно, сделал слишком много запросов к своему экземпляру, и его сервис завис, однако остальные сервисы продолжают исправно работать, так как они никак не связаны с проблемными экземплярами.

Конечно, при использовании шаблона Bulkhead есть ряд нюансов, которые необходимо учитывать. Предлагаемый метод вносит определенную сложность в архитектуру всего приложения, поскольку для каждого потребителя необходимо выделять отдельный процесс. Это, в свою очередь, требует увеличенных аппаратных ресурсов, так как каждый экземпляр представляет собой независимый процесс, который нуждается в определенном объеме памяти и вычислительных мощностей. Как правило, для реализации данной архитектуры используют контейнеры Docker, которые создаются для непосредственного взаимодействия с потребителем и уничтожаются после завершения информационного обмена. Таким образом, необходимо продумывать архитектуру облачного приложения, чтобы обеспечить автоматическое создание нужных экземпляров сервисов и надежное взаимодействие потребителей и соответствующих сервисов.

В некоторых случаях необязательно изолировать все сервисы из приложения, а нужно изолировать только наиболее критичные, например, только бэкенд-компоненты. Во многих случаях приложение способно продолжать работу, хоть и на ограниченном уровне, даже при отказе отдельных сервисов. В таких случаях изоляция этих сервисов не является обязательной.

Шаблоны проектирования значительно облегчают процесс создания облачных приложений. В зависимости от поставленных задач и доступных компонентов вы можете применять различные шаблоны для достижения оптимального результата. Мы рассмотрели шаблоны, позволяющие обеспечить надежность работы приложения в целом.