Horizontal scaling（负载平衡）

Horizontal scaling（负载平衡）

当API成为产品基础并开始处理每秒数千个查询时，确保自动同步扩展至关重要。这意味着使用平衡器在不停止服务的情况下添加新的实例来分配它们之间的负载。

我们设计和实施可扩展的API体系结构,能够灵活增长并承受任何峰值负载。

Horizontal scaling如何工作

组件	做什么
负载平衡器	在API服务器（HAProxy、Nginx、AWS ELB）之间分配传入流量
API实例	并行处理请求的API应用程序的独立副本
共享数据存储	所有实例均可访问的集中DB或缓存
健康检查和自动恢复	实例可用性控制和自动恢复

为什么需要它

在查询急剧增长时具有弹性
容错性-单节点故障不会影响API的运行
支持在不更改应用程序逻辑的情况下缩放"vshir"
能够分阶段推出更新（滚动更新）
通过动态扩展优化成本

我们用什么

Load balancers: HAProxy, Nginx, AWS ELB, GCP Load Balancer
管弦乐队：Docker Swarm，Kubernetes，ECS
Кеш и shared state: Redis, Memcached, S3
监视：Prometheus，Grafana，Datadog
CI/CD：自动交付新的负载实例

关键的地方

金融和银行API
Realtime游戏和流媒体服务
销售和峰值负载时的电子商务
具有全球覆盖范围和GEO分布的产品

Horizontal scaling是增长的建筑基础。我们将确保您的API以高容错性、动态扩展和持续可用性的流量运行。