Sentinel 系統自適應限流原理剖析與實戰指導

作積極的人，越努力越幸運！

看到標題中的幾個關鍵字系統自適應限流是否是以爲高大上，這個自適應又是如何實現的呢？

一、Sentinel 系統自適應概述

---

從官方瞭解到 Sentienl 系統自適應限流是一個全局的概念，對應用入口流量統一進行統一控制，結合應用的機器負載、CPU 使用率，整體平均響應時間、入口 QPS 和併發線程數等幾個維度的監控指標從而決定是否調用進行限流操做。爲了有一個直觀的感覺，咱們能夠從官方的運維平臺看看其系統自適應限流的操做界面：

RT、線程數、入口QPS這三個指標是能夠經過採集調用信息進行統計計算的，那系統LOAD、CPU使用率是如何獲取的呢？你們能夠帶着這個問題進入本文的學習中來。
在詳細分析系統自適應實現原理以前咱們先來思考一下 Sentinel 引入該機制的目的。

官方文檔針對這個問題有過仔細闡述，咱們先來看看官方文檔對其闡述。

引入系統自適應限流的主要的目的有以下兩個：

• 保證系統不被拖垮
• 在系統穩定的前提下保證系統的吞吐量。
  目前咱們接觸的限流的防禦思路都是設定一個指標（闊值），例如系統的負載 load 超過某個闊值後就阻止或減小流量的繼續進入，當系統負載下降到某一水平後則恢復流量的進入。一般都是被動的，其實際效果取決於闊值設置是否合理，但每每設置合理不是一件容易的事情。

那 Sentinel 提供的系統自適應是能夠將設定的規則做爲一個保護因子，而容許經過的流量由處理請求的能力來決定，即根據請求的響應時間、當前系統正在處理的請求速率來決定。

那 Sentinel 是如何實現的呢？接下來用源碼的手段來揭曉其實現原理。

二、系統自適應限流原理

---

Sentinel 執行系統限流的核心入口類爲 SystemSlot，該類實現簡單，以下圖所示：

SystemRuleManager#checkSystem

從這裏能夠看出實現的關鍵在於SystemRuleManager，這裏是直接調用 checkSystem 進行是否觸發其限流，那咱們接下來重點跟蹤一下該方法的實現。

2.1 自適應限流檢測流程

系統自適應限流檢測具體由 SystemRuleManager 的 checkSystem 方法實現，接下來詳細剖析其實現細節。

Step1：驗證相關資源，主要包含三層驗證：

• 若是資源名稱爲空，則直接跳過，這個是容錯機制。
  若是系統自適應開關爲打開，直接放行，該開關初始化時爲 false，在加載到一條系統自適應配置規則時該狀態會設置爲 true，具體在 loadSystemConf 中。
  若是資源的類型不是入口流量(EntryType.IN),則直接放行。
  
  Step2：從QPS爲維度驗證是否須要被限流，其實現關鍵點以下：
• 當前的qps，若是 ENTRY_NODE 爲空則返回0，不然返回該統計節點的成功 qps，那 ENTRY_NODE 統計節點是「何許人也」，原來是 Sentinel 特定定義了一個資源，其名稱爲total_inbound_traffic，用來採集全部入口調用的信息，當資源進入類型爲 ENTRY_TYPE_IN 時，會自動採集信息，其具體統計信息在 StatisticSlot 的 entry 方法中被調用，其截圖以下：
  
• 若是當前調用的 QPS 大於設定的QPS，即觸發限流，那這個 qps 又是在何時被設置的呢？也是在加載系統限流規則時被設置，若是一個應用同一個限流點（LOAD、QPS)設置了多條規則，最小值生效。
  
  Step3：關於線程數、響應時間限流模式與QPS相似，就再也不重複介紹。
  

Step4：若是當前系統的負載超過了設定的闊值的處理邏輯，這裏就是自適應的核心所在，並非超過負載就限流，而是須要根據當前系統的請求處理能力進行綜合判斷，具體邏輯在 checkBbr 方法中實現。關於如何得到系統負載與 checkBbr 方法稍後會詳細介紹。

Step5：若是當前CPU的負載超過了設置的闊值，觸發限流，那在JAVA中是如何獲取CPU的使用率的呢？稍後詳細介紹。

2.2 根據系統負載自適應算法詳解

正如上面的第4步驟，根據系統 Load 的會採用 TCP BBR 算法來評估是否限流，具體實現代碼以下：

SystemRuleManager#checkSystem

在 Sentinel 中估算系統的容量是以 1s 爲度量長度，用該秒內經過的最大 qps 與 最小響應時間的乘積來表示，具體的計算細節：

• maxSuccessQps 的計算取當前採樣窗口的最大值乘以1s內滑動窗口的個數，這裏其實並非十分準確。
• minRt 最小響應時間取自當前採樣窗口中的最小響應時間。
  故得出了上述計算公式，除以1000是由於 minRt 的時間單位是毫秒，統一爲秒。從這裏能夠看出根據系統負載作限流，最終的判斷依據是線程數量。

2.3 JAVA如何得到操做系統負載狀況

在 Sentinel 中獲取操做系統負載狀況的類：SystemStatusListener，每秒採集一次。

SystemStatusListener#run
原來能夠經過JDK中的 com.sun.management.OperatingSystemMXBean 獲取操做系統相關的信息。

舒適提示：上述只對 Linux/Unix 操做系統有效，對 windows 無效。

三、實踐思考

---

通過上面的分析，Sentinel 中的系統自適應其實指的是按照應用所在機器的操做系統負載，再結合應用自己的請求處理能力進行的自適應，操做系統的負載狀況能夠經過 top 命令輸出，其示例以下：

儘管 Sentienl 的系統規則配置類型分爲 LOAD、CPU、RT、線程數、入口QPS等維度進行限流，但自適應主要是針對 LOAD 這種狀況的。
Sentinel 系統級別的限流規則並非針對某一個資源，而是針對應用全部定義EntryType.IN的資源，在使用時尤爲須要注意，特別是若是一個機器上部署了多個應用，可能會形成應用自己負載不高，但所在的機器因爲其餘應用程序致使資源負載偏高，從而觸發限流。
原創不易，若是對你有所幫助請你爲本文點個【在看】吧，這將是我寫做更多優質文章的最強動力。

歡迎加入個人知識星球，一塊兒交流源碼，探討架構，揭祕億級訂單的架構設計與實踐經驗，打造高質量的技術交流圈，爲廣大星友提供高質量問答服務，長按以下二維碼加入。