API가 제품의 기초가되어 초당 수만 건의 요청을 처리하기 시작하면 수평으로 확장하는 것이 중요합니다. 이는 서비스를 중단하지 않고 밸런서를 사용하여 서비스를 분배하지 않고 새로운 인스턴스를 추가하는 것을
유연하게 성장하고 피크로드를 견딜 수있는 확장 가능한 API 아키텍처를 설계 및 구현합니다.
수평 스케일링 작동 방식
| 구성 요소 | 무엇을합니까 |
|---|---|
| 밸런서로드 | API 서버간에 인바운드 트래픽을 분배합니다 (HAProxy, Nginx, AWS ELB) |
| API 인스턴스 | 병렬로 API 응용 프로그램 처리 요청의 독립 사본 |
| 공유 데이터 저장소 | 모든 인스턴스에서 사용할 수있는 중앙 집중식 데이터 |
| 건강 검사... 자동 복구 | 인스턴스 가용성 및 자동 복구 모니터링 |
왜 필요합니까?
요청이 급격히 증가하는 경우 견고성- 오류 허용 오류-한 노드의 오류가 API 작동에 영향을 미치지 않습니다
- 프로그램 로직을 변경하지 않고 넓은 스케일
- 단계적으로 업데이트를 출시하는 기능 (롤링 업데이트)
- 동적 스케일링을 통한 비용 최적화
우리가 사용하는 것
로드 밸런서: HAProxy, Nginx, AWS ELB, GCP 로드 밸런서
오케스트레이터: Docker Swarm, Kubernetes, ECS
공유 상태: Redis, Memcashed, S3
모니터링: Prometheus, Grafana, Datadog
CI/CD: 하중에 의하여 새로운 인스턴스의 자동 덤핑
중요한 곳
금융 및 은행 API- 실시간 게임 및 스트리밍 서비스
- 판매 및 피크로드 중 전자 상거래
- 글로벌 커버리지 및 GEO 배포 제품
수평 스케일링은 성장을위한 건축 기반입니다. 높은 내결함성, 동적 스케일링 및 지속적인 가용성으로 모든 트래픽에서 API가 작동하도록합니다.
문의하기
아래 양식을 작성해주시면 최대한 빨리 답변드리겠습니다.