수평 스케일링

수평 스케일링

API가 제품의 기초가되어 초당 수만 건의 요청을 처리하기 시작하면 수평 스케일링을 보장하는 것이 중요합니다. 이는 서비스를 중단하지 않고 밸런서를 사용하여 서비스를 분배하지 않고 새로운 인스턴스를 추가하는 것을

유연하게 성장하고 피크로드를 견딜 수있는 확장 가능한 API 아키텍처를 설계 및 구현합니다.

수평 스케일링 작동 방식

구성 요소	무엇을하는가
로드 밸런서	API 서버 (HAProxy, Nginx, AWS ELB) 간에 들어오는 트래픽을 분배합니다.
API 인스턴스	병렬
공유 데이터 스토어	중앙 데이터베이스 또는 모든 인스턴스에 액세스 할 수있는 캐시
건강 점검 및 자동 복구	인스턴스 가용성 제어 및 자동 복구

왜 필요합니까?

요청이 급격히 증가하는 경우 견고성
오류 허용 오류-한 노드의 오류가 API 작동에 영향을 미치지 않습니다
응용 프로그램 논리를 변경하지 않고 넓은 스케일
단계적으로 업데이트를 출시하는 기능 (롤링 업데이트)
동적 스케일링을 통한 비용 최적화

우리가 사용하는 것

로드 밸런서: HAProxy, Nginx, AWS ELB, GCP 로드 밸런서
오케스트레이터: Docker Swarm, Kubernetes, ECS
공유 상태: Redis, Memcashed, S3
모니터링: Prometheus, Grafana, Datadog
CI/CD: 하중에 의하여 새로운 인스턴스의 자동 덤핑

중요한 곳

금융 및 은행 API
실시간 게임 및 스트리밍 서비스
판매 및 피크로드 중 전자 상거래
글로벌 커버리지 및 GEO 배포 제품

수평 스케일링은 성장을위한 건축 기반입니다. 귀하의 API는 높은 내결함성, 동적 스케일링 및 지속적인 가용성으로 모든 양의 트래픽에서 작동하도록합니다.