一分鐘瞭解負載均衡

原創 58沈劍 架構師之路

 什麼是負載均衡

負載均衡（Load Balance）是分佈式系統架構設計中必須考慮的因素之一，它一般是指，將請求/數據【均勻】分攤到多個操做單元上執行，負載均衡的關鍵在於【均勻】。

 

常見的負載均衡方案

常見互聯網分佈式架構如上，分爲客戶端層、反向代理nginx層、站點層、服務層、數據層。能夠看到，每個下游都有多個上游調用，只須要作到，每個上游都均勻訪問每個下游，就能實現「將請求/數據【均勻】分攤到多個操做單元上執行」。

 

【客戶端層->反向代理層】的負載均衡

【客戶端層】到【反向代理層】的負載均衡，是經過「DNS輪詢」實現的：DNS-server對於一個域名配置了多個解析ip，每次DNS解析請求來訪問DNS-server，會輪詢返回這些ip，保證每一個ip的解析機率是相同的。這些ip就是nginx的外網ip，以作到每臺nginx的請求分配也是均衡的。

 

【反向代理層->站點層】的負載均衡

【反向代理層】到【站點層】的負載均衡，是經過「nginx」實現的。經過修改nginx.conf，能夠實現多種負載均衡策略：

1）請求輪詢：和DNS輪詢相似，請求依次路由到各個web-server

2）最少鏈接路由：哪一個web-server的鏈接少，路由到哪一個web-server

3）ip哈希：按照訪問用戶的ip哈希值來路由web-server，只要用戶的ip分佈是均勻的，請求理論上也是均勻的，ip哈希均衡方法能夠作到，同一個用戶的請求固定落到同一臺web-server上，此策略適合有狀態服務，例如session（58沈劍備註：能夠這麼作，但強烈不建議這麼作，站點層無狀態是分佈式架構設計的基本原則之一，session最好放到數據層存儲）

4）…

 

【站點層->服務層】的負載均衡

【站點層】到【服務層】的負載均衡，是經過「服務鏈接池」實現的。

上游鏈接池會創建與下游服務多個鏈接，每次請求會「隨機」選取鏈接來訪問下游服務。

上一篇文章《RPC-client實現細節》中有詳細的負載均衡、故障轉移、超時處理的細節描述，歡迎點擊link查閱，此處再也不展開。

 

【數據層】的負載均衡

在數據量很大的狀況下，因爲數據層（db，cache）涉及數據的水平切分，因此數據層的負載均衡更爲複雜一些，它分爲「數據的均衡」，與「請求的均衡」。

數據的均衡是指：水平切分後的每一個服務（db，cache），數據量是差很少的。

請求的均衡是指：水平切分後的每一個服務（db，cache），請求量是差很少的。

業內常見的水平切分方式有這麼幾種：

1、按照range水平切分

每個數據服務，存儲必定範圍的數據，上圖爲例：

user0服務，存儲uid範圍1-1kw

user1服務，存儲uid範圍1kw-2kw

這個方案的好處是：

（1）規則簡單，service只需判斷一下uid範圍就能路由到對應的存儲服務

（2）數據均衡性較好

（3）比較容易擴展，能夠隨時加一個uid[2kw,3kw]的數據服務

不足是：

（1）請求的負載不必定均衡，通常來講，新註冊的用戶會比老用戶更活躍，大range的服務請求壓力會更大

 

2、按照id哈希水平切分

每個數據服務，存儲某個key值hash後的部分數據，上圖爲例：

user0服務，存儲偶數uid數據

user1服務，存儲奇數uid數據

這個方案的好處是：

（1）規則簡單，service只需對uid進行hash能路由到對應的存儲服務

（2）數據均衡性較好

（3）請求均勻性較好

不足是：

（1）不容易擴展，擴展一個數據服務，hash方法改變時候，可能須要進行數據遷移

 

總結

負載均衡（Load Balance）是分佈式系統架構設計中必須考慮的因素之一，它一般是指，將請求/數據【均勻】分攤到多個操做單元上執行，負載均衡的關鍵在於【均勻】。

（1）【客戶端層】到【反向代理層】的負載均衡，是經過「DNS輪詢」實現的

（2）【反向代理層】到【站點層】的負載均衡，是經過「nginx」實現的

（3）【站點層】到【服務層】的負載均衡，是經過「服務鏈接池」實現的

（4）【數據層】的負載均衡，要考慮「數據的均衡」與「請求的均衡」兩個點，常見的方式有「按照範圍水平切分」與「hash水平切分」

 

謝謝大夥，幫忙轉發，歡迎討論，有問必答。

==【完】==

原文地址：

 

回【sed】一分鐘sed入門（一分鐘系列）

回【廣告】一分鐘讀懂互聯網廣告競價策略（一分鐘系列）

回【陣列】一張「神圖」看懂單機/集羣/熱備/磁盤陣列（一分鐘系列）

回【awk】一分鐘學awk夠用（一分鐘系列）

回【perl】十分鐘學perl夠用（一分鐘系列）

回【mongo】一分鐘瞭解mongodb（一分鐘系列）

回【2pc】一分鐘瞭解兩階段提交2PC（一分鐘系列）

回【join】30秒懂SQL中的join（一分鐘系列）

回【百度】百度咋作長文本去重（一分鐘系列）