Spring cloud系列十七 Ribbon六大組件的詳細說明和實現類,配置屬性的詳細說明

概念

Ribbon在Spring Cloud中的用法詳細見這裏Spring cloud系列七 爲@Feign中集成的Ribbon進行個性化配置,本文從新整理我對Ribbon的新的理解算法

Ribbon定義 Ribbon:實現客戶端的負載均衡spring

region、zone、Eureka集羣關係 region和zone(或者Availability Zone)均是AWS的概念。在非AWS環境下,將region理解爲Eureka集羣,zone理解成機房。 如圖:一個Eureka集羣被部署在了zone1機房和zone2機房中。 如下圖片來自網路: api

這裏寫圖片描述

Ribbon主要組件: ServerList:定義獲取服務器列表 ServerListFilter:對ServerList服務器列表進行二次過濾 ServerListUpdater: 定義服務更新策略 IPing: 檢查服務列表是否存活 IRule :根據算法中從服務列表中選取一個要訪問的服務 ILoadBalancer:軟件負載平衡器入口,整合以上全部的組件實現負載功能緩存

Ribbon組件之間的關係簡單整理以下:bash

ServerList和ServerListFilter生成客戶端能夠訪問的服務列表
	ServerListUpdater和IPing:根據服務的狀態更新服務列表
	IRule:服務的選擇策略
	ILoadBalancer:將以上組件組合到這個類中一塊兒工做
複製代碼

組合關閉以下,如下圖片來自網絡服務器

這裏寫圖片描述


##Ribbon主要組件 下方配置相似myclient.ribbon.EnableZoneAffinity=true的配置中myclient值是ribbon的客戶端的名稱,若是去除myclient,則這個配置做用在全部的ribbon客戶端網絡

ServerList:定義獲取服務器列表

實現類和重要實現類說明: 併發

這裏寫圖片描述

ConfigurationBasedServerList:從配置文件中獲取全部服務列表 配置:負載均衡

client.ribbon.listOfServers=www.microsoft.com:80,www.yahoo.com:80,www.google.com:80
複製代碼

DiscoveryEnabledNIWSServerList:從註冊中心獲取服務列表(默認配置) 配置:根據Eureka服務實例名稱,從Eureka Client中獲取服務列表dom

myClient.ribbon.NIWSServerListClassName=com.netflix.niws.loadbalancer.DiscoveryEnabledNIWSServerList 
# the server must register itself with Eureka server with VipAddress "myservice"
myClient.ribbon.DeploymentContextBasedVipAddresses=myservice
複製代碼

ServerListFilter:對ServerList服務器列表進行二次過濾

對獲取的服務進行二次過濾 實現類和重要類說明:

這裏寫圖片描述

AbstractServerListFilter 負責從負載均衡器中過濾出當前可用的服務器列表的類

ZoneAffinityServerListFilter: 過濾掉全部的不和客戶端在相同zone的服務 過濾掉全部的不和客戶端在相同zone的服務,若是和客戶端相同的zone不存在,纔不過濾不一樣zone有服務

配置以下:

myclient.ribbon.EnableZoneAffinity=true
複製代碼

ServerListSubsetFilter: 在第一個類的基礎上,只返回全部服務的子集 此過濾器確保客戶端僅看到由ServerList實現返回的整個服務器的固定子集。 它還能夠按期用新服務器替代可用性差的子集中的服務器。 若是服務器場很大,這頗有用。在成百上千的狀況下,使用它們中的每個,並保持http客戶端鏈接池中的鏈接是沒必要要的。它還能夠經過比較總的網絡故障和併發鏈接來驅逐相對不健康的服務器

要啓用此過濾器,配置以下:

myClient.ribbon.NIWSServerListClassName=com.netflix.niws.loadbalancer.DiscoveryEnabledNIWSServerList 
# 指定要負載均衡服務實例的服務應用名稱
myClient.ribbon.DeploymentContextBasedVipAddresses=myservice
myClient.ribbon.NIWSServerListFilterClassName=com.netflix.loadbalancer.ServerListSubsetFilter
# 指定返回服務器子集的數量,默認20
myClient.ribbon.ServerListSubsetFilter.size=5
複製代碼

ZonePreferenceServerListFilter:在ZoneAffinityServerListFilter的基礎上,再增根據消費者配置預設的區域Zone來進行過濾(默認配置)

ServerListUpdater: 定義服務更新策略

定義:定時更新服務列表 實現類和重要類說明:

這裏寫圖片描述

PollingServerListUpdater:定時更新(默認配置)

EurekaNotificationServerListUpdater:監聽Eureka的事件更新服務列表 由Eureka的事件監聽來驅動服務列表的更新操做

IPING: 檢查服務列表是否存活

在後臺運行的一個程序,用於檢查服務列表是否都活

這裏寫圖片描述

DummyPing: 簡單實現,所有返回true NoOpPing:什麼都不作 PingConstant:經過配置參數設置指定服務器存活狀態 NIWSDiscoveryPing: 若是服務實例在本地的Eureka緩存中存在,則返回true(默認配置)。ribbon-eureka包中提供的類,結合eureka使用時,若是Discovery Client在線,則認爲心跳檢測經過 PingUrl: ribbon-httpclient包中提供的類,採用此方式,會使用httpclient調用服務的一個url,若是調用成功則認爲本次心跳檢測經過,即服務存活可用。

IRule :根據算法中從服務列表中選取一個要訪問的服務

做用:根據算法中從服務列表中選取一個要訪問的服務 實現類以下:

這裏寫圖片描述

RandomRule:隨機,使用Random對象從服務列表中隨機選擇一個服務

RoundRobinRule:輪訓策略。默認策略,同時也是更高級rules的回退策略

RetryRule: 輪詢 + 重試 先使用RoundRobinRule進行服務實例選擇,若是選擇服務實例失敗,則在指定時間不斷進行重試直至找到服務或超時

WeightedResponseTimeRule: 優先選擇響應時間快 此策略會根據每一個實例的平均響應時間,計算出每一個服務的權重,響應時間越快,服務權重越重、被選中的機率越高。此類有個DynamicServerWeightTask的定時任務,默認狀況下每隔30秒會計算一次各個服務實例的權重。 剛啓動時,若是統計信息不足,則使用RoundRobinRule策略,等統計信息足夠,會切換到WeightedResponseTimeRule。

BestAvailableRule: 優先選擇併發請求最小的 先過濾到斷路器處於打開的服務,而後選擇併發請求最小的服務實例來使用。 剛啓動時,若是統計信息不足,則使用RoundRobinRule策略,等統計信息足夠,會切換到BestAvailableRule。

PredicateBasedRule 抽象類。 PredicateBasedRule是ClientConfigEnabledRoundRobinRule的一個子類,它先經過內部定義的一個過濾器過濾出一部分服務實例清單,而後再採用輪詢的方式從過濾出來的結果中選取一個服務實例

AvailabilityFilteringRule: (默認實現) 這個負載均衡器規則,會先過濾掉如下服務: a. 因爲屢次訪問故障而處於斷路器打開的服務 b. 併發的鏈接數量超過閾值 而後對剩餘的服務列表按照RoundRobinRule策略進行訪問

若是RestClient最近3次鏈接服務實例都失敗,則對應的服務的斷路器打開。斷路器打開的狀態默認會持續30s,而後再關閉。若是再次鏈接又失敗,則斷路器又打開,而且等待的時間隨着連續失敗的次數,成指數值增長,可是等待的時間不能超過最長的等待時間

ZoneAvoidanceRule 根據如下的規則過濾服務: 1. 若是一個ZONE不可用,則丟棄這個zone裏的全部服務實例 2. 過濾如下服務實例:"因爲屢次訪問故障而處於斷路器打開的服務"和"併發的鏈接數量超過閾值" 而後再使用輪詢從過濾後的服務列表中選擇一個服務

ILoadBalancer:將以上組件組合到這個類中一塊兒工做

做用:定義軟件負載平衡器操做的接口。典型的負載均衡至少包括如下元素:一組服務器來進行負載平衡,淘汰不可用的服務器的策略,以及從服務器列表中選擇一個服務進行訪問

這裏寫圖片描述

NoOpLoadBalancer 什麼都沒作

BaseLoadBalancer 負載均衡器的基本實現。 此類內部維護一個存儲全部服務實例列表和一個當前活着的服務實例列表。默認使用輪詢策略選擇一個服務實例作爲請求對象。定義一個定時器,根據IPingStrategy定時輪詢ping服務實例,用於判斷服務列表是否活着。默認的ping策略爲SerialPingStrategy

DynamicServerListLoadBalancer DynamicServerListLoadBalancer是BaseLoadBalancer的一個子類,對基礎負載均衡器的功能作了進一步的擴展。增長了服務實例列表動態更新的功能,同時增長對服務實例列表過濾的功能 此類內部依靠DomainExtractingServerList從EurekaClient從註冊中心獲取服務實例列表,將狀態爲UP的服務實例組成新的服務列表,使用ZoneAffinityServerListFilter再對這個列表進行過濾。 此類內部默認使用PollingServerListUpdater對服務實例列表進行定時更新,保證服務的有效性

ZoneAwareLoadBalancer: 默認實現 ZoneAwareLoadBalancer是DynamicServerListLoadBalancer的子類,增長zone策略。DynamicServerListLoadBalancer默認使用輪詢策略,可是此策略在進行跨區域調用時,可能會產生高延遲。 此類使用ZoneStats存儲每一個Zone的狀態和平均請求狀況,當一個zone的平均請求達到閾值或請求超時的比例達到閾值或zone不可用,則將該zone的服務實例中刪除。此類使用AvailabilityFilteringRule選擇一個服務實例。

Ribbbon在集成到Spring cloud中的以上組件的默認配置

# 負載均衡類,默認爲om.netflix.loadbalancer.ZoneAwareLoadBalance 
NFLoadBalancerClassName=ZoneAwareLoadBalancer
# 負載均衡規則類,默認爲com.netflix.loadbalancer.AvailabilityFilteringRule 
NFLoadBalancerRuleClassName=AvailabilityFilteringRule
# 心跳檢測類,ribbon默認爲com.netflix.loadbalancer.DummyPing,結合eureka使用時默認值爲NIWSDiscoveryPing
NFLoadBalancerPingClassName=NIWSDiscoveryPing
# 服務列表類,ribbon默認爲com.netflix.loadbalancer.ConfigurationBasedServerList,結合eureka使用時默認值爲com.netflix.niws.loadbalancer.DiscoveryEnabledNIWSServerList
NIWSServerListClassName=DiscoveryEnabledNIWSServerList
# 服務過濾類,ribbon默認爲com.netflix.loadbalancer.ZoneAffinityServerListFilter。結合spring cloud eureka使用時默認爲org.springframework.cloud.netflix.ribbon.ZonePreferenceServerListFilter
NIWSServerListFilterClassName=ZonePreferenceServerListFilter
複製代碼

Spring Cloud中Ribbon簡單工做流程

Ribbon客戶端啓動時,從註冊中心獲取服務實例列表並初始化, 對獲取的服務實例列表根據指定的算法進行過濾 定時更新服務實例列表的狀態 Ribbon客戶端要訪問http://authority/api/xxx 根據算法從服務實例列表中選擇一個服務實例 使用服務實例真實的IP和端口並替換authority部分 向真正的服務發送請求,並完成請求


Ribbon屬性配置

配置的位置: Ribbon屬性能夠定義在屬性文件中,也能夠定義在系統變量(system properties)中

屬性格式

<clientName>.<nameSpace>.<propertyName>=<value>
複製代碼

說明: clientName :ribbon的客戶端的名稱。若是此值爲沒有配置,則此條屬性會做用到全部的客戶端 nameSpace:ribbon的命令空間,默認值爲ribbon,通常不建議修改 propertyName:屬性命令。全部的可用的屬性都在com.netflix.client.conf.CommonClientConfigKey類中定義。若屬性沒有配置,則會使用DefaultClientConfigImpl類中的默認配置

配置文件demo

除了第一個是配置爲全局屬性外,其餘的屬性都是爲一個名稱爲"sample-client"的ribbon客戶端配置的屬性

# 設置全局默認的ribbon的讀超時
ribbon.ReadTimeout=1000
# Max number of retries on the same server (excluding the first try)
sample-client.ribbon.MaxAutoRetries=1
# Max number of next servers to retry (excluding the first server)
sample-client.ribbon.MaxAutoRetriesNextServer=1
# Whether all operations can be retried for this client
sample-client.ribbon.OkToRetryOnAllOperations=true
# Interval to refresh the server list from the source
sample-client.ribbon.ServerListRefreshInterval=2000
# Connect timeout used by Apache HttpClient
sample-client.ribbon.ConnectTimeout=3000
# Read timeout used by Apache HttpClient
sample-client.ribbon.ReadTimeout=3000
# Initial list of servers, can be changed via Archaius dynamic property at runtime
sample-client.ribbon.listOfServers=www.microsoft.com:80,www.yahoo.com:80,www.google.com:80
複製代碼
相關文章
相關標籤/搜索