API bir ürünün temeli haline geldiğinde ve saniyede on binlerce isteği işlemeye başladığında, onu yatay olarak ölçeklendirmek çok önemlidir. Bu, hizmeti durdurmadan yeni örnekler eklemek ve dengeleyiciler kullanarak yükü aralarında dağıtmak anlamına gelir.
Esnek bir şekilde büyüyebilen ve herhangi bir pik yüke dayanabilen ölçeklenebilir bir API mimarisi tasarlıyor ve uyguluyoruz.
Yatay ölçekleme nasıl çalışır
| Bileşen | Ne yapar |
|---|---|
| Yük dengeleyici | API sunucuları arasında gelen trafiği dağıtır (HAProxy, Nginx, AWS ELB) |
| API örnekleri | Paralel olarak API uygulama işleme isteklerinin bağımsız kopyaları |
| Paylaşılan Veri Deposu | Merkezi veritabanı veya önbellek tüm örnekler için kullanılabilir |
| Otomatik iyileşme и sağlık kontrolü | İzleme örneği kullanılabilirliği ve otomatik kurtarma |
Neden buna ihtiyacın var
Taleplerin keskin büyümesi durumunda sağlamlık
Hata toleransı - bir düğümün arızası API çalışmasını etkilemez
Uygulama mantığını değiştirmeden geniş ölçeklendirme desteği
Güncellemeleri aşamalı olarak dağıtma yeteneği (yuvarlanan güncelleme)
Dinamik ölçeklendirme yoluyla maliyet optimizasyonu
Ne kullanıyoruz
Yük dengeleyiciler: HAProxy, Nginx, AWS ELB, GCP Yük Dengeleyici
Orkestracılar: Docker Swarm, Kubernetes, ECS
Кеш и paylaşılan durum: Redis, Memcached, S3
İzleme: Prometheus, Grafana, Datadog
CI/CD: Yeni örneklerin yükle otomatik olarak boşaltılması
Nerede kritik
Finansal ve bankacılık API'leri
Gerçek zamanlı oyunlar ve akış hizmetleri
Satış ve pik yükler sırasında e-ticaret
Global kapsama ve GEO dağıtımına sahip ürünler
Yatay ölçeklendirme, büyümenin mimari temelidir. API'nizin yüksek hata toleransı, dinamik ölçeklendirme ve sürekli kullanılabilirlik ile herhangi bir trafik hacminde çalışmasını sağlayacağız.