高負荷と多くの統合により、スケールだけでなく、過負荷や雪崩のような故障を防ぐことも重要です。これには2つの重要なメカニズムが使用されます：
- スロットリング-リアルタイムでリクエストの頻度を制御するCircuit Breaker-依存サービスの障害時にコールチェーンを破損します。
APIを落下から保護し、システムのフォールトトレランスを向上させ、部分的な故障の場合でも安定した動作を維持するのに役立ちます。
スロットリングとは
| 特徴的な | Description（説明 |
|---|---|
| 周波数制限 | 指定した時間間隔（RPS、 RPM）のリクエスト数を制御する) |
| 柔軟なチューニング | エンドポイント、キー、ユーザー、またはIPの制限 |
| スムーズなリリース | 完全な連結なしの負荷減少 |
サーキットブレーカとは
| Function（関数） | 何をするのですか？ |
|---|---|
| エラーモニタリング | APIまたは外部サービスのエラー/タイムアウトの頻度を監視 |
| コール切断 | 障害スレッショルドに達したときにコールを一時的にブロックする |
| 自動リカバリ | 安定化中の可用性のチェックと通話の有効化 |
どのように実装するか
ライブラリの使用（例： Resilience4j、ヒストリックス、特使、香港）
ゲートウェイ制限とバックエンドロジックの設定
イベントログと障害/リカバリの指標
遮断器の通知と帯域幅の大幅な削減
Prometheus、 Datadog、 Grafanaとの統合による監視
利点
故障時のシステムの「崩壊」からの保護
負荷およびインシデント中の安定性
問題のあるコンポーネントを分離し、APIの信頼性を向上
デバッグの簡素化と異常への迅速な対応
マイクロサービス・アーキテクチャのカスケード障害を回避
特に重要な点
ペイメントゲートウェイや外部銀行と相互作用するAPI
多依存性マイクロサービスアーキテクチャ
数百万人のユーザーと高いリソース競争力を持つアプリケーション
遅延に敏感なリアルタイムプラットフォーム