(轉)詳解LVS負載均衡之三種工做模型原理和10種調度算法

原創做品，容許轉載，轉載時請務必以超連接形式標明文章  原始出處 、做者信息和本聲明。不然將追究法律責任。 http://linuxnx.blog.51cto.com/6676498/1195379

 

LVS負載均衡原理和算法詳解

   Internet的快速增加使多媒體網絡服務器面對的訪問數量快速增長，服務器須要具有提供大量併發訪問服務的能力，所以對於大負載的服務器來說，CPU、I/O處理能力很快會成爲瓶頸。因爲單臺服務器的性能老是有限的，簡單的提升硬件性能並不能真正解決這個問題。爲此，必須採用多服務器和負載均衡技術才能知足大量併發訪問的須要。Linux 虛擬服務器(Linux Virtual Servers,LVS) 使用負載均衡技術將多臺服務器組成一個虛擬服務器。它爲適應快速增加的網絡訪問需求提供了一個負載能力易於擴展，而價格低廉的解決方案。 LVS是一個開源的軟件，能夠實現LINUX平臺下的簡單負載均衡。LVS是Linux Virtual Server的縮寫，意思是Linux虛擬服務器。 

 

   在調度器的實現技術中，IP負載均衡技術是效率最高的。在已有的IP負載均衡技術中有經過網絡地址轉換（Network Address Translation）將一組服務器構成一個高性能的、高可用的虛擬服務器，咱們稱之爲VS/NAT技術（Virtual Server via Network Address Translation），大多數商品化的IP負載均衡調度器產品都是使用此方法，如Cisco的LocalDirector、F5的Big/IP和 Alteon的ACEDirector。在分析VS/NAT的缺點和網絡服務的非對稱性的基礎上，經過IP隧道實現虛擬服務器的方法VS/TUN （Virtual Server via IP Tunneling），和經過直接路由實現虛擬服務器的方法VS/DR（Virtual Server via Direct Routing），它們能夠極大地提升系統的伸縮性。因此，IPVS軟件實現了這三種IP負載均衡技術，它們的大體原理以下。

 

1,Virtual Server via Network Address Translation（VS/NAT）

  經過網絡地址轉換，調度器重寫請求報文的目標地址，根據預設的調度算法，將請求分派給後端的真實服務器；真實服務器的響應報文經過調度器時，報文的源地址被重寫，再返回給客戶，完成整個負載調度過程

 

 

2,Virtual Server via Direct Routing（VS/DR）

  VS/DR經過改寫請求報文的MAC地址，將請求發送到真實服務器，而真實服務器將響應直接返回給客戶。同VS/TUN技術同樣，VS/DR技術可極大地 提升集羣系統的伸縮性。這種方法沒有IP隧道的開銷， 對集羣中的真實服務器也沒有必須支持IP隧道協議的要求，可是要求調度器與真實服務器都有一塊網卡連 在同一物理網段上。

 

 

 

3,Virtual Server via IP Tunneling（VS/TUN）

  採用NAT技術時，因爲請求和響應報文都必須通過調度器地址重寫，當客戶請求愈來愈多時，調度器的處理能力將成爲瓶頸。爲了解決這個問題，調度器把請求報 文經過IP隧道轉發至真實服務器，而真實服務器將響應直接返回給客戶，因此調度器只處理請求報文。因爲通常網絡服務應答比請求報文大許多，採用 VS/TUN技術後，集羣系統的最大吞吐量能夠提升10倍。

  

 

  LVS系統結構與特色：

   使用LVS架設的服務器集羣系統從體系結構上看是透明的，最終用戶只感受到一個虛擬服務器.物理服務器之間能夠經過高速的LAN或分佈在各地的WAN相連。最前端是負載均衡器，它負責將各類服務請求分發給後面的物理服務器，讓整個集羣表現得象一個服務於同一IP地址的虛擬服務器 

 

   LVS集羣系統具備良好的可擴展性和高可用性。 可擴展性是指，LVS集羣創建後，能夠很容易地根據實際的須要增長或減小物理服務器。而高可用性是指當檢測到服務器節點或服務進程出錯、失效時，集羣系統可以自動進行適當的從新調整系統。

 

   LVS集羣採用IP負載均衡技術和基於內容請求分發技術。調度器具備很好的吞吐率，將請求均衡地轉移到不一樣的服務器上執行，且調度器自動屏蔽掉服務器的故障，從而將一組服務器構成一個高性能的、高可用的虛擬服務器。整個服務器集羣的結構對客戶是透明的，並且無需修改客戶端和服務器端的程序。  

爲此，在設計時須要考慮系統的透明性、可伸縮性、高可用性和易管理性。 

 

 LVS集羣採用三層結構，其主要組成部分爲：

   A、負載調度器（load balancer），它是整個集羣對外面的前端機，負責將客戶的請求發送到一組服務器上執行，而客戶認爲服務是來自一個IP地址（咱們可稱之爲虛擬IP地址）上的。

   B、服務器池（server pool），是一組真正執行客戶請求的服務器，執行的服務有WEB、MAIL、FTP和DNS等。

   C、共享存儲（shared storage），它爲服務器池提供一個共享的存儲區，這樣很容易使得服務器池擁有相同的內容，提供相同的服務。 

 

 

 

針對不一樣的網絡服務需求和服務器配置，IPVS調度器實現了以下十種負載調度算法：

 

1,輪叫（Round Robin）簡稱RR

   調度器經過"輪叫"調度算法將外部請求按順序輪流分配到集羣中的真實服務器上，它均等地對待每一臺服務器，而無論服務器上實際的鏈接數和系統負載。

 

2,加權輪叫（Weighted Round Robin） 簡稱WRR

   調度器經過"加權輪叫"調度算法根據真實服務器的不一樣處理能力來調度訪問請求。 這樣能夠保證處理能力強的服務器處理更多的訪問流量。調度器能夠自動問詢真實服務器的負載狀況，並動態地調整其權值。

 

3,最少連接（Least Connections）簡稱LC

  調度器經過"最少鏈接"調度算法動態地將網絡請求調度到已創建的連接數最少的服務器上。 若是集羣系統的真實服務器具備相近的系統性能，採用"最小鏈接"調度算法能夠較好地均衡負載。

 

4,加權最少連接（Weighted Least Connections）簡稱WLC

  在集羣系統中的服務器性能差別較大的狀況下，調度器採用"加權最少連接"調度算法優化負載均衡性能，具備較高權值的服務器將承受較大比例的活動鏈接負載。調度器能夠自動問詢真實服務器的負載狀況，並動態地調整其權值。

 

5,基於局部性的最少連接（Locality-Based Least Connections）簡稱LBLC

  "基於局部性的最少連接" 調度算法是針對目標IP地址的負載均衡，目前主要用於Cache集羣系統。該算法根據請求的目標IP地址找出該目標IP地址最近使用的服務器，若該服務器 是可用的且沒有超載，將請求發送到該服務器；若服務器不存在，或者該服務器超載且有服務器處於一半的工做負載，則用"最少連接"的原則選出一個可用的服務 器，將請求發送到該服務器。

 

6,帶複製的基於局部性最少連接（Locality-Based Least Connections with Replication）簡稱LBLCR

  "帶複製的基於局部性最少連接"調度算法也是針對目標IP地址的負載均衡，目前主要用於Cache集羣系統。它與LBLC算法的不一樣之處是它要維護從一個 目標IP地址到一組服務器的映射，而LBLC算法維護從一個目標IP地址到一臺服務器的映射。該算法根據請求的目標IP地址找出該目標IP地址對應的服務 器組，按"最小鏈接"原則從服務器組中選出一臺服務器，若服務器沒有超載，將請求發送到該服務器，若服務器超載；則按"最小鏈接"原則從這個集羣中選出一 臺服務器，將該服務器加入到服務器組中，將請求發送到該服務器。同時，當該服務器組有一段時間沒有被修改， 將最忙的服務器從服務器組中刪除，以下降複製的 程度。

 

7,目標地址散列調度（Destination Hashing）簡稱DH

   算法也是針對目標IP地址的負載均衡，但它是一種靜態映射算法，經過一個散列（Hash）函數將一個目標IP地址映射到一臺服務器。目標地址散列調度算法先根據請求的目標IP地址，做爲散列鍵（Hash Key）從靜態分配的散列表找出對應的服務器，若該服務器是可用的且未超載，將請求發送到該服務器，不然返回空。

 

8,源地址散列調度（Source Hashing）簡稱SH

 算法正好與目標地址散列調度算法相反，它根據請求的源IP地址，做爲散列鍵（Hash Key）從靜態分配的散列表找出對應的服務器，若該服務器是可用的且未超載，將請求發送到該服務器，不然返回空。它採用的散列函數與目標地址散列調度算法的相同。除了將請求的目標IP地址換成請求的源IP地址外，它的算法流程與目標地址散列調度算法的基本類似。在實際應用中，源地址散列調度和目標地址散列調度能夠結合使用在防火牆集羣中，它們能夠保證整個系統的惟一出入口。 

 

9,最短的指望的延遲（shortest expected delay scheduling）簡稱sed
   基於wlc算法，舉例說明
  ABC三臺機器分別權重123，鏈接數也分別是123，name若是使用WLC算法的話一個新請求 進入時他可能會分給ABC中任意一個，使用SED算法後會進行這樣一個運算.
   A:(1+1)/2
   B:(1+2)/2
   C:(1+3)/3
   根據運算結果，把鏈接交給C

 

10,最少隊列調度（never queue scheduling）簡稱nq

 無需列隊，若是有臺realserver的鏈接數=0 就直接分配過去，不須要進行sed運算 .

 

 

 

本文出自 「linux_夏日」 博客，請務必保留此出處http://linuxnx.blog.51cto.com/6676498/1195379