当API成为产品基础并开始每秒处理数万个请求时,确保其水平扩展至关重要。这意味着添加新的实例而不停止服务,并使用平衡器在它们之间分配负载。
我们设计和实施可扩展的API体系结构,能够灵活增长并承受任何峰值负载。
Horizontal scaling如何工作
| 构成部分 | 做什么 |
|---|---|
| Load balancer | 在API服务器之间分配传入流量(HAProxy, Nginx, AWS ELB) |
| API实例 | 并行处理请求的API应用程序的独立副本 |
| 共享数据存储 | 可供所有实例使用的集中式DB或缓存 |
| Health-check и auto-recovery | 控制实例可用性和自动恢复 |
为什么需要它
在查询急剧增长时具有弹性- 容错性-单节点故障不会影响API的运行
- 支持在不更改应用程序逻辑的情况下缩放"vshir"
- 能够分阶段推出更新(滚动更新)
- 通过动态扩展优化成本
我们用什么
Load balancers: HAProxy, Nginx, AWS ELB, GCP Load Balancer- 管弦乐队:Docker Swarm,Kubernetes,ECS
- Кеш и shared state: Redis, Memcached, S3
- 监视:Prometheus,Grafana,Datadog
- CI/CD:自动交付新的负载实例
关键的地方
金融和银行API- Realtime游戏和流媒体服务
- 销售和峰值负载时的电子商务
- 具有全球覆盖范围和GEO分布的产品
Horizontal scaling是增长的建筑基础。我们将通过高容错性、动态扩展和持续可用性确保您的API在任何流量上运行。
联系我们
请填写下方表格,我们会尽快回复您。