Son güncelleme:
Stanislav Anisimov
Throttling ve Circuit Breaker
Click to expand / collapse
Yüksek yük ve birçok entegrasyon ile, sadece ölçeklendirmek değil, aynı zamanda aşırı yüklenmeleri ve çığ benzeri arızaları önlemek de önemlidir. Bunun için iki anahtar mekanizma kullanılır:
  • Kısma - isteklerin sıklığını gerçek zamanlı olarak kontrol eder, Devre Kesici - bağımlı hizmetlerde arıza olduğunda çağrı zincirini kırar.

API'nin düşmesini önler, sistemin hata toleransını arttırır ve kısmi arızalarda bile istikrarlı çalışmanın sürdürülmesine yardımcı olurlar.


Kısma nedir

KarakteristikAçıklama
Frekans sınırlamasıBelirli bir zaman aralığındaki istek sayısını kontrol etme (RPS, RPM)
Esnek ayarlamaUç nokta, anahtar, kullanıcı veya IP sınırları
Düzgün serbest bırakmaTam kilitleme olmadan yük azaltma

Devre kesici nedir

FonksiyonNe yapar
Hata izlemeAPI veya harici hizmetteki hataların/zaman aşımlarının sıklığını izler
Çağrı bağlantısı kesmeHata eşiğine ulaşıldığında çağrıları geçici olarak engeller
Otomatik kurtarmaStabilizasyon Sırasında Kullanılabilirliği Kontrol Etme ve Çağrıları Etkinleştirme

Nasıl uyguluyoruz

Kütüphaneleri kullanma (örn. Resilience4j, Hystrix, Elçi, Kong)

Ağ geçidi sınırlarını ve arka uç mantığını yapılandırma

Olay günlüğü ve hata/kurtarma metrikleri

Devre kesici bildirimleri ve önemli ölçüde azaltılmış bant genişliği

İzleme için Prometheus, Datadog, Grafana ile entegrasyon


Avantajları

Bağlı arızalar durumunda sistemin "çökmesine" karşı koruma

Yük altında ve olaylar sırasında kararlılık

Sorunlu bileşenleri izole edin ve API güvenilirliğini geliştirin

Basitleştirilmiş hata ayıklama ve anormalliklere hızlı yanıt

Microservice mimarisinde basamaklı hatalardan kaçının


Özellikle önemli olan yerlerde

Ödeme ağ geçitleri ve dış bankalarla etkileşime giren API'ler

Çok bağımlı mikro hizmet mimarileri

Milyonlarca kullanıcıya ve yüksek kaynak rekabetine sahip uygulamalar

Gecikmeye duyarlı gerçek zamanlı platformlar


Kısma ve devre kesici, API'nin stratejik hayatta kalma mekanizmalarıdır. Hizmetinizin en istikrarsız koşullarda bile istikrarlı, hızlı ve öngörülebilir kalmasını sağlayacak korumayı uygulayacağız.

Popüler konular


Ana konular