輕攏慢捻，微服務熔斷大總管。一文講透SpringCloud熔斷組件

原創：小姐姐味道（微信公衆號ID：xjjdog），歡迎分享，轉載請保留出處。

我這篇文章來的晚了些，由於hystrix已經進入維護模式。但已經有很是多的同窗入坑了，那麼本篇文章就是及時雨。本文將說明熔斷使用的一些注意事項，可能會細的讓你厭煩。

前半段，是理論部分，各類熔斷都適用。後半段，是參數部分，適合微調。

那咱們開始。

一般來講，皇帝在微服務裏想夜生活過得舒服，可以大刀闊斧單刀直入，不因私事丟江山，就不得不靠熔斷大總管。

時過境遷。提到熔斷大總管就不得不說他手下最突出的三位公公：sentinel，或hystrix，也多是resilience4j。

這三位都是解決一類問題的，如著名的雪崩：A→B→C互相依次調用，但C項目極可能出現問題（流量過大或者報錯等），引起線程一直進行等待，致使拖垮整個鏈路層，線程資源耗盡。

1、背景

假如是用的spring全家桶系列，在接口調用上大多會走這個路線。咱們這裏依然是在說hystrix，雖然如今再也不受寵。

Feign -----> Hystrix -----> Ribbon -----> Http Client（apache http components/Okhttp）

具體以下圖所示：

2、配置

首先來點理論性的東西。好吃不貴。

Ⅰ隔離方式

線程隔離（默認）：使用一個線程池來存儲當前的請求，線程池對請求做處理，設置任務返回處理超時時間，堆積的請求堆積入線程池隊列。這種方式須要爲每一個依賴的服務申請線程池，有必定的資源消耗，好處是能夠應對突發流量（流量洪峯來臨時，處理不完可將數據存儲到線程池隊裏慢慢處理）

信號隔離：使用一個原子計數器（或信號量）來記錄當前有多少個線程在運行，請求來先判斷計數器的數值，若超過設置的最大線程個數則丟棄改類型的新請求，若不超過則執行計數操做請求來計數器+1，請求返回計數器-1。這種方式是嚴格的控制線程且當即返回模式，沒法應對突發流量（流量洪峯來臨時，處理的線程超過數量，其餘的請求會直接返回，不繼續去請求依賴的服務）

Ⅱ熔斷

若是某個目標服務調用慢或者大量超時，則此時熔斷該服務的調用，對於後續調用請求，再也不繼續調用目標服務，直接返回，快速釋放資源。若是目標服務狀況好轉，則恢復調用。

這個過程，能夠想象成保險絲的行爲。

行爲雖然簡單，但須要調節的參數卻很是多。

使用方式

1.引入依賴

<dependency>
    <groupId>org.springframework.cloud</groupId>
    <artifactId>spring-cloud-starter-hystrix</artifactId>
</dependency>
複製代碼

2.配置參數

feign:
  hystrix:
#不配置或爲false則不生效
    enabled: true
hystrix:
  command:
    default:
      execution:
        isolation:
          thread:
#若配置了重試則超時時間= (1 + MaxAutoRetries + MaxAutoRetriesNextServer) * ReadTimeout
            timeoutInMilliseconds: 60000
  threadpool:
    default:
      coreSize: 10
      maxQueueSize: 50
      queueSizeRejectionThreshold: 30
      keepAliveTimeMinutes: 3
複製代碼

3.配置fallback

因業務處理不一樣，建議每一個feign client使用不一樣的fallback

到此，hystrix已經能夠走立刻任，至於幹活兒穩不穩那是後話。

4.配置的其餘姿式

hystrix到任後，發現有的服務接口1s內就完事兒 ，還有的5s到10幾秒才堪堪返回。一刀切的配置已難以管理諸多服務&接口。

想必已經有人發現，以前配置中混進了奇怪的東西——default關鍵詞。這是對全局配置，那麼對應的確定有局部的配置。

如：對服務的，對某個接口的...

hystrix:
  command:
    default:
      execution:
        isolation:
          thread:
            timeoutInMilliseconds: 60000
  threadpool:
  #全局配置
    default:
      coreSize: 10
      maxQueueSize: 50
      queueSizeRejectionThreshold: 30
      keepAliveTimeMinutes: 3
    #對某個服務配置，寫service-id
    base-rpc:
      coreSize: 10
      maxQueueSize: 30
      queueSizeRejectionThreshold: 20
      keepAliveTimeMinutes: 3
    #對某個接口配置
    BaseApiClient#searchItemSkuList(PosSkuSearch):
      coreSize: 10
      maxQueueSize: 40
      queueSizeRejectionThreshold: 30
      keepAliveTimeMinutes: 1
複製代碼

另外，還可使用@HystrixCommand註解進行配置。

5.配置的動態修改

不少狀況下，不能修改個配置，特別是臨時修改配置就重啓下服務，能動態刷新就最好了。 因而咱們盯上了hystrix使用archaius管理配置的問題。

archaius是Netflix公司開源項目之一，基於java的配置管理類庫，主要用於多配置存儲的動態獲取。 主要功能是對apache common configuration類庫的擴展。在雲平臺開發中能夠將其用做分佈式配置管理依賴構件。同時，它有以下一些特性： 動態獲取屬性 高效和線程安全的配置操做 配置改變時提供回調機制 能夠經過jmx操做配置 複合配置

說了這麼多那該怎麼整呢？如下就是簡單的示例。

//撈配置
AbstractConfiguration config = ConfigurationManager.getConfigInstance();
 
//提取關注的部分，好比hystrix.threadpool
Iterable<String> iterable = () -> config.getKeys("hystrix.threadpool");
List<Property> result = StreamSupport.stream(iterable.spliterator(), false).map(t -> new Property(t, config.getString(t, "")))
        .sorted(Comparator.comparing(Property::getName)).collect(Collectors.toList());
 
//修改配置
config.setProperty("hystrix.threadpool.base-rpc.coreSize", 20);
 
//移除配置
config.clearProperty(hystrix.threadpool.base-rpc.coreSize"); 複製代碼

3、其餘參數

要是以爲hystrix這麼聽話，那就過小看它了。別忘了前面有feign，後面還有ribbon，再日後http client呢！一堆超時參數，當代的八門金鎖陣

1.feign超時

feign:
  hystrix:
    enabled: true
  client:
    config:
      default:
        connectTimeout: 5000
        readTimeout: 5000
      rpc-pos:
        connectTimeout: 5000
        readTimeout: 8000
      xx-rpc:
        connectTimeout: 5000
        readTimeout: 12000
      order-rpc:
        connectTimeout: 5000
        readTimeout: 8000
複製代碼

feign是暴露給用戶使用的，Spring在處理這一塊的時候，會有意識地使用feign的超時時間來設置後面的ribbon 和http client組件。

2.ribbon超時

#全局配置
ribbon:
  ReadTimeout: 60000
  ConnectTimeout: 10000
  #false to only allow get method to retry
  OkToRetryOnAllOperations: true
  # Max number of next servers to retry (excluding the first server)
  MaxAutoRetriesNextServer: 2
  # Max number of retries on the same server (excluding the first try)
  MaxAutoRetries: 0
  # Interval to refresh the server list from the source
  ServerListRefreshInterval: 5000
  retryableStatusCodes: 404,500
  #服務配置
base-rpc:
  ribbon:
    ReadTimeout: 60000
    ConnectTimeout: 10000
    #false to only allow get method to retry
    OkToRetryOnAllOperations: true
    # Max number of next servers to retry (excluding the first server)
    MaxAutoRetriesNextServer: 2
    # Max number of retries on the same server (excluding the first try)
    MaxAutoRetries: 0
    # Interval to refresh the server list from the source
    ServerListRefreshInterval: 5000
    retryableStatusCodes: 404,500
複製代碼

當feign設置了超時時間，Ribbon會依據feign的設置同步。Ribbon的這個超時時間，用於指導真正調用接口時，設置真正實現者的超時時間。

httpclient超時

feign:
  hystrix:
    enabled: true
  okhttp:
    enabled: true
  httpclient:
    enabled: false
//鏈接池最大鏈接數，默認200
    max-connections: 500
//每個IP最大佔用多少鏈接 默認 50
    max-connections-per-route: 50
//默認鏈接超時時間：2000毫秒
    connection-timeout: 8000
//鏈接池管理定時器執行頻率：默認 3000毫秒
    connection-timer-repeat: 6000
//鏈接池中存活時間，默認爲5
    time-to-live: 5
    time-to-live-unit: minutes
複製代碼

超時設置遵循的基本原則是：依賴方的超時配置覆蓋被依賴方的配置，而其配置覆蓋的形式，則是使用的Spring Boot 的 AutoConfiguration 機制實現的

如：若開啓feign.okhttp.enabled=true，則okhttp的超時時間是feign.httpclient.connectionTimeout的值，默認2000毫秒

總結：超時——仍是 feign 說了算！

4、hystrix dashboard

可以將這些狀態可視化，是很是棒的，須要引入一個jar包。

<dependency>
    <groupId>org.springframework.cloud</groupId>
    <artifactId>spring-cloud-starter-hystrix-dashboard</artifactId>
</dependency>
複製代碼

下面這張圖，就是針對後臺監控的一些解釋。

(圖片來源於網絡)

附：配置參數說明

1、Command Properties

如下屬性控制HystrixCommand，前綴hystrix.command.default

一、Execution

如下屬性控制HystrixCommand.run()如何執行。 比較重要的參數，有： execution.isolation.strategy execution.isolation.thread.timeoutInMilliseconds

二、Fallback

如下屬性控制HystrixCommand.getFallback()如何執行。這些屬性適用於ExecutionIsolationStrategy.THREAD和ExecutionIsolationStrategy.SEMAPHORE。

三、Circuit Breaker

斷路器屬性控制HystrixCircuitBreaker。

四、Metrics

如下屬性與從HystrixCommand和HystrixObservableCommand執行捕獲指標有關。

五、Request Context

這些屬性涉及HystrixCommand使用的HystrixRequestContext功能

2、Command Properties

下列屬性控制HystrixCollapser行爲。前綴:hystrix.collapser.default

3、ThreadPool Properties

如下屬性控制Hystrix命令在其上執行的線程池的行爲。 大多數時候，默認值爲10的線程會很好（一般能夠作得更小）前綴:hystrix.threadpool.default

End

這貨，說不更新，還真不更新了。但咱們的遺留系統，有不少模塊在用着，因此我仍是把它的細節參數給摳出來了。這應該是絕版吧，由於hystrix是絕更了。

本文只適合收藏，不適合分享。分享出去，會等於拿着大喇叭告訴別人，你正在給某個遺留系統填坑呢。

做者簡介：小姐姐味道 (xjjdog)，一個不容許程序員走彎路的公衆號。聚焦基礎架構和Linux。十年架構，日百億流量，與你探討高併發世界，給你不同的味道。個人我的微信xjjdog0，歡迎添加好友，​進一步交流。​