High availability in a microservice architecture

Abstract

The purpose of this study was to investigate approaches to ensuring high availability of microservice systems with a focus on fault tolerance, scalability, and continuous operation of services. The study applied a comparative and analytical method to analyse technical solutions for ensuring high availability, systematise the characteristics of container orchestration platforms, and evaluate load balancing tools according to the criteria of performance, flexibility, reliability, and integration convenience. Fault-tolerance patterns – retry, circuit breaker, and fallback – that provide flexible error management, reduce the risk of cascading failures, and maintain system continuity are investigated. The study found that the behaviour of fault-tolerance patterns depends on the configuration of execution parameters, such as timeouts, retry limits, and conditions for activating fallback mechanisms. The effectiveness of such tools as NGINX, HAProxy, Envoy, and Amazon Web Services Elastic Load Balancing is evaluated in terms of their impact on the scalability and resilience of the architecture, as well as the possibility of automatic scaling on the example of Amazon Web Services and Google Cloud platforms. It was found that built-in autoscaling services ensure stable operation of services under variable load and enable a rapid response to peak loads. An overview of container orchestrators (Kubernetes, OpenShift, Amazon ES) was provided, among which Kubernetes is recognised as the most effective due to the support of self-healing mechanisms, distributed deployment, health checks, and integration with Continuous Integration/ Continuous Delivery. The findings of this study can serve as an analytical basis for designing sustainable microservice architectures in cloud and enterprise environments to improve the reliability, scalability, and continuity of business processes.

Метою роботи було дослідження підходів до забезпечення високої доступності мікросервісних систем з акцентом на стійкість до відмов, масштабування і безперервну роботу сервісів. У дослідженні застосовано порівняльно-аналітичний метод, аналізу технічних рішень забезпечення високої доступності, систематизації характеристик платформ оркестрації контейнерів і оцінки інструментів балансування навантаження за критеріями продуктивності, гнучкості, надійності та інтеграційної зручності. Досліджено fault-tolerance патерни – retry, circuit breaker і fallback – які забезпечують гнучке управління помилками, знижують ризик каскадних відмов і підтримують безперервність роботи систем. Встановлено, що поведінка fault-tolerance патернів залежить від конфігурації параметрів виконання, таких як таймаути, ліміти повторних спроб і умови активації fallback-механізмів. Оцінено ефективність таких інструментів, як NGINX, HAProxy, Envoy та Amazon Web Services Elastic Load Balancing, з огляду на їх вплив на масштабованість і стійкість архітектури, а також можливості автоматичного масштабування на прикладі хмарних платформ Amazon Web Services і Google Cloud. Виявлено, що вбудовані сервіси autoscaling забезпечують стабільну роботу сервісів при змінному навантаженні та дозволяють оперативно реагувати на пікові навантаження. Надано огляд оркестраторів контейнерів (Kubernetes, OpenShift, Amazon EСS), серед яких Kubernetes визнано найбільш ефективним завдяки підтримці механізмів самовідновлення, розподіленого розгортання, health checks та інтеграції з CI/CD. Результати дослідження можуть слугувати аналітичною основою для проєктування стійких мікросервісних архітектур у хмарному та корпоративному середовищах з метою підвищення надійності, масштабованості та безперервності бізнес-процесів.