Throttling и circuit breaker

Throttling и Circuit Breaker

Yüksək yük və bir çox inteqrasiya ilə, yalnız miqyaslı deyil, həm də həddindən artıq yükləmə və uçqun kimi uğursuzluqları geri qaytarmaq vacibdir. Bunun üçün iki əsas mexanizm istifadə olunur:

• Throttling - real vaxt sorğu tezliyi nəzarət,
• Circuit Breaker - asılı xidmətlərdə uğursuzluqlar zamanı çağırışlar zəncirini qırır.

Onlar API-ni yıxılmaqdan qoruyur, sistemin pozulma müqavimətini artırır və qismən nasazlıqlarda belə sabit işləməyə kömək edir.

throttling nədir

Xüsusiyyətlər	Təsvir
Tezliyin məhdudlaşdırılması	Verilən vaxt intervalında sorğuların sayının idarə edilməsi (RPS, RPM)
Çevik konfiqurasiya	Endpoint, açar, istifadəçi və ya IP limitləri
Hamar tormozlama	Tam bloklanmadan yükün azaldılması

circuit breaker nədir

Funksiya	Nə edir
Səhvlərin monitorinqi	API və ya xarici xidmətdə səhvlərin/vaxtların tezliyini izləyir
Çağırışların kəsilməsi	Uğursuzluq həddinə çatdıqda çağırışları müvəqqəti bloklayır
Avtomatik bərpa	Sabitləşmə zamanı zənglərin mövcudluğunun yoxlanılması və aktivləşdirilməsi

Necə həyata keçiririk

Kitabxanaların istifadəsi (məsələn, Resilience4j, Hystrix, Envoy, Kong)
Giriş limitlərini (gateway) və backend məntiqini konfiqurasiya edin
Hadisələrin loqosu və uğursuzluq/bərpa metrikası
Circuit breaker işə salındıqda bildirişlər və bant genişliyinin kəskin azalması
Monitorinq üçün Prometheus, Datadog, Grafana ilə inteqrasiya

Üstünlüklər

Asılı olaraq nasazlıqlar zamanı sistemin «çöküşündən» qorunma
Yük altında və hadisələr zamanı sabitlik
Problemli komponentlərin izolyasiyası və API etibarlılığının artırılması
Sadələşdirilmiş hata ayıklama və anomaliyalara sürətli reaksiya
Mikroservis memarlığında kaskad nasazlıqlarının qarşısının alınması

Harada xüsusilə vacibdir

Ödəniş şlüzləri və xarici banklarla qarşılıqlı əlaqədə olan API
Bir çox asılılığı olan mikroservis arxitekturaları
Milyonlarla istifadəçi və yüksək resurs rəqabəti olan proqramlar
Gecikmələrə həssas realtime platformaları

Throttling və circuit breaker API-nin strateji sağ qalma mexanizmləridir. Xidmətinizin ən qeyri-sabit şəraitdə belə sabit, sürətli və proqnozlaşdırıla bilən qalmasına imkan verən qorunma tətbiq edəcəyik.