Spring Cloud(三) --- hystrix

Hystrix

說到Hystrix就得先說一下產生的背景等等,那就是雪崩效應. 在微服務中確定存在多個服務層之間的調用,基礎服務的故障可能會致使級聯故障,進而形成整個系統不可用的狀況,這種現象被稱爲服務雪崩效應. 簡單的來講就是一種因"服務提供者"的不可用致使"服務消費者"的不可用,並將不可用逐漸放大的過程.以下圖所示:

A是服務提供者,B是A的消費者,CD是B的消費者(這也就是前面說的服務者和提供者並無明顯的界限,一個服務能夠是提供者,也多是其它服務的提供者). A的不可用引發了B的不可用,並將不可用逐漸放大到CD,服務雪崩就造成了.

那歸根結底,形成服務雪崩效應的緣由以下:

• 服務提供者不可用
  • 硬件故障
  • 程序Bug
  • 緩存擊穿
  • 用戶大量請求
• 重試加大流量
  • 用戶重試
  • 代碼邏輯重試
• 服務調用者不可用
  • 同步等待形成的資源耗盡

對於每個緣由都有對應的應對策略:

• 流量控制
  • 網關限流
  • 用戶交互限流
  • 關閉重試
• 改進緩存模式
  • 緩存預加載
  • 同步改成異步刷新
• 服務自動擴容
  • AWS的auto scaling
• 服務調用者降級服務(Hystrix)
  • 資源隔離
  • 對依賴服務進行分類
  • 不可用服務的調用快速失敗

而Hystrix就是爲了預防鏈路雪崩效應產生的,下面說說Hystrix的特性.

Hystrix的特性

服務降級(Fallback)

Fallback至關於降級操做.對於查詢操做,實現一個fallback方法,當請求後端服務出現異常的時候,可使用fallback方法返回值,這個值通常是默認值或者來自緩存.

資源隔離

在 Hystrix 中，主要經過線程池來實現資源隔離。一般在使用的時候咱們會根據調用的遠程服務劃分出多個線程池。例如調用產品服務的 Command 放入 A 線程池，調用帳戶服務的Command放入B線程池。這樣作的主要優勢是運行環境被隔離開了。這樣就算調用服務的代碼存在 bug 或者因爲其餘緣由致使本身所在線程池被耗盡時，不會對系統的其餘服務形成影響。

這樣,經過對依賴服務實現線程池隔離,可讓應用更健壯,不會由於個別依賴服務出現問題而引發非相關服務的異常.可是這樣要維護線程池會帶來額外的開銷, Netflix Hystrix 官方實例中,99%的狀況下,使用線程池隔離的延遲有9ms,這個對於大多數需求來講幾乎是沒有影響;固然,若是以爲9ms的延遲開銷接受不了,而且依賴服務足夠可靠的狀況下,可使用信號模式來隔離資源,Hystrix在HystrixCommand 和 HystrixObservableCommand 中 2 處支持信號量的使用：

• 命令執行：若是隔離策略參數 execution.isolation.strategy 設置爲 SEMAPHORE，Hystrix 會使用信號量替代線程池來控制依賴服務的併發控制。
• 降級邏輯：當 Hystrix 嘗試降級邏輯時候，它會在調用線程中使用信號量。

信號量的默認值爲 10，也能夠經過動態刷新配置的方式來控制併發線程的數量。

斷路器機制

當Hystrix Command請求後端服務失敗數量超過必定比例(默認50%), 斷路器會切換到開路狀態(Open). 這時全部請求會直接失敗而不會發送到後端服務. 斷路器保持在開路狀態一段時間後(默認5秒), 自動切換到半開路狀態(HALF-OPEN). 這時會判斷下一次請求的返回狀況, 若是請求成功, 斷路器切回閉路狀態(CLOSED), 不然從新切換到開路狀態(OPEN). Hystrix的斷路器就像咱們家庭電路中的保險絲, 一旦後端服務不可用, 斷路器會直接切斷請求鏈, 避免發送大量無效請求影響系統吞吐量, 而且斷路器有自我檢測並恢復的能力.

使用Feign Hystrix

熔斷通常是用在服務調用者層面,因此在上一個eureka項目中,修改調用者.在配置文件中添加

feign.hystrix.enabled=true

---

建立回調類:

@Component
public class HelloRemoteHystrix implements HelloRemote {

    @Override
    public String hello(@RequestParam(value = "name") String name) {
        return "Hello World!!!";
    }
}

---

添加fallback,修改遠程調用的接口

@FeignClient(name = "eureka-service-producter",fallback = HelloRemoteHystrix.class)
public interface HelloRemote {

    /**
     * 遠程調用提供者的hello
     * @param name
     * @return
     */
    @GetMapping("/hello")
    public String hello(@RequestParam("name") String name);

}

這個時候三個都啓動的話,訪問http://localhost:9010/hello/wangzhi會顯示提供者的helloController中hello方法返回的內容,這個時候將提供者服務關掉,再次訪問就會返回回調類的內容,也就是Hello World!!!

最後說一句,使用Hystrix,能夠有效的防止雪崩,同時使系統具備自動降級和自動恢復服務的效果.

Hystrix Dashboard和Turbine

Hystrix-dashboard是一款針對Hystrix進行實時監控的工具，經過Hystrix Dashboard咱們能夠在直觀地看到各Hystrix Command的請求響應時間, 請求成功率等數據。可是隻使用Hystrix Dashboard的話, 你只能看到單個應用內的服務信息, 這明顯不夠. 咱們須要一個工具能讓咱們彙總系統內多個服務的數據並顯示到Hystrix Dashboard上, 這個工具就是Turbine.

Hystrix Dashboard

建立標準的SpringBoot項目hystrix-dashborad-demo,添加依賴,添加註解,添加配置,代碼以下:

<dependency>
    <groupId>org.springframework.cloud</groupId>
    <artifactId>spring-cloud-starter-netflix-hystrix</artifactId>
</dependency>
<dependency>
    <groupId>org.springframework.cloud</groupId>
    <artifactId>spring-cloud-starter-netflix-hystrix-dashboard</artifactId>
</dependency>


@EnableHystrixDashboard
@SpringBootApplication
public class HystrixDashboradDemoApplication {

    public static void main(String[] args) {
        SpringApplication.run(HystrixDashboradDemoApplication.class, args);
    }

}


spring.application.name=hystrix-dashboard
server.port=11000

啓動就能夠訪問了: localhost:11000/hystrix就能夠看到界面了.

這個時候還沒完,由於這個hystrix dashborad是監控,因此必須有服務讓他監控,因此須要修改一下服務消費者,添加下面依賴:

<dependency>
    <groupId>org.springframework.boot</groupId>
    <artifactId>spring-boot-starter-actuator</artifactId>
</dependency>
<dependency>
    <groupId>org.springframework.cloud</groupId>
    <artifactId>spring-cloud-starter-netflix-hystrix</artifactId>
</dependency>

---

添加註解

@SpringBootApplication
@EnableDiscoveryClient
@EnableFeignClients
@EnableHystrix
public class ServiceConsumerDemoApplication {

    public static void main(String[] args) {
        SpringApplication.run(ServiceConsumerDemoApplication.class, args);
    }

}

---

添加配置

server.port=9010
spring.application.name=eureka-service-consumer
eureka.client.service-url.defaultZone=http://localhost:8761/eureka
feign.hystrix.enabled=true
# 用來暴露 endpoints的,若是自身就是監控的話,能夠不寫(http://www.ityouknow.com/springcloud/2017/05/18/hystrix-dashboard-turbine.html)
management.endpoints.web.exposure.include=hystrix.stream

上面的配置基本就OK了,以後所有啓動,訪問localhost:11000/hystrix,在第一行輸入 http://localhost:9010/actuator/hystrix.stream,點擊monitor stream就能夠進入監控界面了.

進入監控界面會顯示loading,這個是等待你訪問,因此這個時候訪問localhost:9010/hello/wangzhi,這邊監控就會有結果展現了,重點看那6個顏色不一樣的數字就能夠,右邊會有說明每一個數字表示什麼!!!

Turbine

經過 Hystrix Dashboard，咱們能夠方便的查看服務實例的綜合狀況，好比：服務調用次數、服務調用延遲等。可是僅經過 Hystrix Dashboard 咱們只能實現對服務當個實例的數據展示，在生產環境咱們的服務是確定須要作高可用的，那麼對於多實例的狀況，咱們就須要將這些度量指標數據進行聚合。這個時候就要用到Turbine.

在前面的基礎上(也就是前面的系統要啓動),從新建立項目turbine-demo,添加依賴等等操做以下

<dependency>
    <groupId>org.springframework.cloud</groupId>
    <artifactId>spring-cloud-starter-netflix-turbine</artifactId>
</dependency>

spring.application.name=turbine
server.port=11001
eureka.client.service-url.defaultZone=http://localhost:8761/eureka
turbine.app-config==eureka-service-consumer
turbine.cluster-name-expression=new String("default")
turbine.combine-host-port=true

@EnableTurbine
@SpringBootApplication
public class TrubineDemoApplication {

    public static void main(String[] args) {
        SpringApplication.run(TrubineDemoApplication.class, args);
    }

}

配置文件參數說明:

• turbine.app-config參數指定了須要收集監控信息的服務名；
• turbine.cluster-name-expression 參數指定了集羣名稱爲 default，當咱們服務數量很是多的時候，能夠啓動多個 Turbine 服務來構建不一樣的聚合集羣，而該參數能夠用來區分這些不一樣的聚合集羣，同時該參數值能夠在 Hystrix 儀表盤中用來定位不一樣的聚合集羣，只須要在 Hystrix Stream 的 URL 中經過 cluster 參數來指定；
• turbine.combine-host-port參數設置爲true，可讓同一主機上的服務經過主機名與端口號的組合來進行區分，默認狀況下會以 host 來區分不一樣的服務，這會使得在本地調試的時候，本機上的不一樣服務聚合成一個服務來統計。

這樣就能夠啓動了,直接在瀏覽器訪問localhost:11001/turbin.stream就能夠看到效果了.

這就是hystrix的使用和監控面板以及turbine的使用了,兩個監控哦.