最終更新:
スタニスラフ・アニシモフ
Throttling、Circuit Breaker
Click to expand / collapse
高負荷と多くの統合により、スケールだけでなく、過負荷や雪崩のような故障を防ぐことも重要です。これには2つの重要なメカニズムが使用されます:
  • スロットリング-リアルタイムでリクエストの頻度を制御するCircuit Breaker-依存サービスの障害時にコールチェーンを破損します。

APIを落下から保護し、システムのフォールトトレランスを向上させ、部分的な故障の場合でも安定した動作を維持するのに役立ちます。


スロットリングとは

特徴的なDescription(説明
周波数制限指定した時間間隔(RPS、 RPM)のリクエスト数を制御する)
柔軟なチューニングエンドポイント、キー、ユーザー、またはIPの制限
スムーズなリリース完全な連結なしの負荷減少

サーキットブレーカとは

Function(関数)何をするのですか?
エラーモニタリングAPIまたは外部サービスのエラー/タイムアウトの頻度を監視
コール切断障害スレッショルドに達したときにコールを一時的にブロックする
自動リカバリ安定化中の可用性のチェックと通話の有効化

どのように実装するか

ライブラリの使用(例: Resilience4j、ヒストリックス、特使、香港)

ゲートウェイ制限とバックエンドロジックの設定

イベントログと障害/リカバリの指標

遮断器の通知と帯域幅の大幅な削減

Prometheus、 Datadog、 Grafanaとの統合による監視


利点

故障時のシステムの「崩壊」からの保護

負荷およびインシデント中の安定性

問題のあるコンポーネントを分離し、APIの信頼性を向上

デバッグの簡素化と異常への迅速な対応

マイクロサービス・アーキテクチャのカスケード障害を回避


特に重要な点

ペイメントゲートウェイや外部銀行と相互作用するAPI

多依存性マイクロサービスアーキテクチャ

数百万人のユーザーと高いリソース競争力を持つアプリケーション

遅延に敏感なリアルタイムプラットフォーム


スロットリングとサーキットブレーカは、APIの戦略的サバイバルメカニズムです。私たちは、最も不安定な状況でも安定した、迅速かつ予測可能なサービスを可能にする保護を実装します。

人気トピック


主なトピック