Ostatnia aktualizacja:
Stanislav Anisimov
Throttling i Circuit Breaker
Click to expand / collapse
Przy dużym obciążeniu i wielu integracjach ważne jest nie tylko skalowanie, ale także zapobieganie przeciążeniom i awariom przypominającym lawinę. W tym celu stosuje się dwa kluczowe mechanizmy:
  • Throttling - kontroluje częstotliwość żądań w czasie rzeczywistym, wyłącznik - łamie łańcuch połączeń, gdy awarie usług zależnych.

Chronią one API przed upadkiem, zwiększają tolerancję usterek systemu i pomagają utrzymać stabilną pracę nawet w przypadku częściowych awarii.


Co to jest dławienie

CharakterystykaOpis
Ograniczenie częstotliwościKontrolować liczbę żądań w danym przedziale czasowym (RPS, RPM)
Elastyczne dostrajaniePunkt końcowy, klucz, limit użytkownika lub IP
Gładkie uwalnianieRedukcja obciążenia bez pełnego blokady

Co to jest wyłącznik

FunkcjaCo robi
Monitorowanie błędówMonitoruje częstotliwość błędów/terminów w interfejsie API lub usłudze zewnętrznej
Odłączenie wywołaniaTymczasowo blokuje połączenia po osiągnięciu progu awarii
Automatyczne odzyskiwanieSprawdzanie dostępności i włączanie połączeń podczas stabilizacji

Jak wdrażamy

Korzystanie z bibliotek (np. Resilience4j, Hystrix, Wysłannik, Kong)

Konfigurowanie limitów bramy i logiki backendu

Rejestrowanie zdarzeń i wskaźniki awarii/odzysku

Powiadomienia o wyłączniku i znacznie zmniejszona przepustowość

Integracja z Prometeusem, Datadog, Grafana do monitorowania


Zalety

Ochrona przed „zawaleniem” systemu w przypadku awarii w zależności od

Stabilność pod obciążeniem i podczas incydentów

Izolowanie problematycznych komponentów i poprawa niezawodności API

Uproszczone debugowanie i szybka reakcja na nieprawidłowości

Unikaj awarii kaskadowych w architekturze mikroservice


Gdzie szczególnie ważne

Interfejsy API współdziałające z bramami płatności i zewnętrznymi bankami

Architektury mikroservice wielonależnościowe

Aplikacje z milionami użytkowników i wysoką konkurencję zasobów

Platformy w czasie rzeczywistym wrażliwe na opóźnienia


Przepustnica i wyłącznik to strategiczne mechanizmy przetrwania API. Wdrożymy ochronę, która pozwoli Twojej usłudze zachować stabilność, szybkość i przewidywalność nawet w najbardziej niestabilnych warunkach.

Popularne tematy


Główne tematy