Horizontal scaling（負載平衡）

Horizontal scaling（負載平衡）

當API成為產品基礎並開始處理每秒數千個查詢時，確保自動同步擴展至關重要。這意味著使用平衡器在不停止服務的情況下添加新的實例來分配它們之間的負載。

我們設計和實施可擴展的API體系結構,能夠靈活增長並承受任何峰值負載。

Horizontal scaling如何工作

組件	做什麼
負載平衡器	在API服務器（HAProxy、Nginx、AWS ELB）之間分配傳入流量
API實例	並行處理請求的API應用程序的獨立副本
共享數據存儲	所有實例均可訪問的集中DB或緩存
健康檢查和自動恢復	實例可用性控制和自動恢復

為什麼需要它

在查詢急劇增長時具有彈性
容錯性-單節點故障不會影響API的運行
支持在不更改應用程序邏輯的情況下縮放「vshir」
能夠分階段推出更新（滾動更新）
通過動態擴展優化成本

我們用什麼

Load balancers: HAProxy, Nginx, AWS ELB, GCP Load Balancer
管弦樂隊：Docker Swarm，Kubernetes，ECS
Кеш и shared state: Redis, Memcached, S3
監視：Prometheus，Grafana，Datadog
CI/CD：自動交付新的負載實例

關鍵的地方

金融和銀行API
Realtime遊戲和流媒體服務
銷售和峰值負載時的電子商務
具有全球覆蓋範圍和GEO分布的產品

Horizontal scaling是增長的建築基礎。我們將確保您的API以高容錯性、動態擴展和持續可用性的流量運行。