JackCode навигациясыiGaming-продукттарды түзүңүз, ишке киргизиңиз жана масштабдаңыз.
Тилди алмаштыруу
Практикалык гайд

Throttling жана Circuit Breaker

Throttling жана circuit breaker - АПИнин ашыкча жүктөө жана каскаддык мүчүлүштүктөрдөн коргоо механизмдери: жүктү максималдуу башкаруу жана туруксуз кызматтарды автоматтык түрдө өчүрүү.
Эксперт Станислав Анисимов

Жогорку жүк жана интеграциялардын көптүгү менен масштабдоо гана эмес, ашыкча жүк жана кар көчкү сыяктуу мүчүлүштүктөрдү алдын алуу да маанилүү.

Бул үчүн эки негизги механизм колдонулат:
  • Throttling - реалдуу убакыт режиминде чалуулардын жыштыгын көзөмөлдөйт, Circuit Breaker - көз каранды кызматтарда үзгүлтүккө чалуулар чынжырын үзөт.

Алар кулагандан API коргойт, системанын бузулушуна туруктуулугун жогорулатат жана жарым-жартылай бузулганда да туруктуу иштешине жардам берет.

throttling деген эмне

Мүнөздөмөсү Сүрөттөө
Жыштык чектөө Белгиленген убакыттын ичинде суроо санын башкаруу (RPS, RPM)
Ийкемдүү орнотуу Endpoint, ачкыч, колдонуучу же IP боюнча лимиттер
Жылмакай оттормаждар Жүктү толук бөгөттөбөстөн азайтуу

circuit breaker деген эмне

Функция Эмне кылып жатат
Каталарды көзөмөлдөө API же тышкы кызматта ката/тайм жыштыгын көзөмөлдөйт
Чалууларды өчүрүү Мүчүлүштүктөрдүн босогосуна жеткенде чалууларды убактылуу бөгөттөйт
Автоматтык калыбына келтирүү Турукташтыруу учурунда жеткиликтүүлүгүн текшерүү жана чалууларды киргизүү

Биз кантип ишке ашырабыз

Китепканаларды колдонуу (мисалы, Resilience4j, Hystrix, Envoy, Kong)

Кирүү чектерин орнотуу (gateway) жана backend логикасы

Окуялардын логикасы жана мүчүлүштүктөрдүн/калыбына келтирүүлөрдүн метрикасы

Circuit Breaker иштеп жатканда эскертмелер жана кубаттуулуктун кескин төмөндөшү

Prometheus менен бириктирүү, Datadog, мониторинг үчүн Grafana

Артыкчылыктары

Системанын "кыйроосуна" каршы коргоо

жүк жана окуялар учурунда туруктуулук

Көйгөйлүү компоненттерди изоляциялоо жана API ишенимдүүлүгүн жогорулатуу

Жөнөкөйлөтүлгөн оңдоо жана аномалияларга тез жооп

Микросервис архитектурасында каскаддык мүчүлүштүктөрдү алдын алуу

Кайда өзгөчө маанилүү

Төлөм шлюздары жана тышкы банктар менен өз ара аракеттенүүчү API

Көптөгөн көз карандылыктар менен микросервис архитектурасы

Колдонуучулардын миллиондогон жана ресурстар үчүн жогорку атаандаштык менен тиркемелер

Реалтайм-платформалар, кечиктирүүгө сезгич


Throttling жана circuit breaker API аман стратегиялык механизмдери болуп саналат. Биз сиздин кызмат да туруксуз шарттарда туруктуу, тез жана алдын ала сактоого мүмкүндүк берет коргоону киргизүү.