負載均衡算法及手段

時間 2019-11-30

原文原文鏈接

負載均衡器

能夠是專用設備，也能夠是在通用服務器上運行的應用程序。分散請求到擁有相同內容或提供相同服務的服務器。專用設備通常只有以太網接口，能夠說是多層交換機的一種。負載均衡器通常會被分配虛擬IP地址，全部來自客戶端的請求都是針對虛擬IP地址完成的。負載均衡器經過負載均衡算法未來自客戶端的請求轉發到服務器的實際IP地址上。java

負載均衡算法

private Map<String,Integer> serverMap = new HashMap<String,Integer>(){{
        put("192.168.1.100",1);
        put("192.168.1.101",1);
        put("192.168.1.102",4);
        put("192.168.1.103",1);
        put("192.168.1.104",1);
        put("192.168.1.105",3);
        put("192.168.1.106",1);
        put("192.168.1.107",2);
        put("192.168.1.108",1);
        put("192.168.1.109",1);
        put("192.168.1.110",1);
    }};

1.隨機算法

Random隨機，按權重設置隨機機率。在一個截面上碰撞的機率高，但調用量越大分佈越均勻，並且按機率使用權重後也比較均勻，有利於動態調整提供者權重。linux

public void random(){
        List<String> keyList = new ArrayList<String>(serverMap.keySet());
        Random random = new Random();
        int idx = random.nextInt(keyList.size());
        String server = keyList.get(idx);
        System.out.println(server);
    }

WeightRandomnginx

public void weightRandom(){
        Set<String> keySet = serverMap.keySet();
        List<String> servers = new ArrayList<String>();
        for(Iterator<String> it = keySet.iterator();it.hasNext();){
            String server = it.next();
            int weithgt = serverMap.get(server);
            for(int i=0;i<weithgt;i++){
                servers.add(server);
            }
        }
        String server = null;
        Random random = new Random();
        int idx = random.nextInt(servers.size());
        server = servers.get(idx);
        System.out.println(server);
    }

2.輪詢及加權輪詢

輪詢(Round Robbin)當服務器羣中各服務器的處理能力相同時，且每筆業務處理量差別不大時，最適合使用這種算法。輪循，按公約後的權重設置輪循比率。存在慢的提供者累積請求問題，好比：第二臺機器很慢，但沒掛，當請求調到第二臺時就卡在那，長此以往，全部請求都卡在調到第二臺上。web

private Integer pos = 0;
public void roundRobin(){
        List<String> keyList = new ArrayList<String>(serverMap.keySet());
        String server = null;
        synchronized (pos){
            if(pos > keyList.size()){
                pos = 0;
            }
            server = keyList.get(pos);
            pos++;
        }
        System.out.println(server);
    }

加權輪詢(Weighted Round Robbin)爲輪詢中的每臺服務器附加必定權重的算法。好比服務器1權重1，服務器2權重2，服務器3權重3，則順序爲1-2-2-3-3-3-1-2-2-3-3-3- ......算法

public void weightRoundRobin(){
        Set<String> keySet = serverMap.keySet();
        List<String> servers = new ArrayList<String>();
        for(Iterator<String> it = keySet.iterator();it.hasNext();){
            String server = it.next();
            int weithgt = serverMap.get(server);
            for(int i=0;i<weithgt;i++){
               servers.add(server);
            }
        }
        String server = null;
        synchronized (pos){
            if(pos > keySet.size()){
                pos = 0;
            }
            server = servers.get(pos);
            pos++;
        }
        System.out.println(server);
    }

3.最小鏈接及加權最小鏈接

最少鏈接(Least Connections)在多個服務器中，與處理鏈接數(會話數)最少的服務器進行通訊的算法。即便在每臺服務器處理能力各不相同，每筆業務處理量也不相同的狀況下，也可以在必定程度上下降服務器的負載。segmentfault
加權最少鏈接(Weighted Least Connection)爲最少鏈接算法中的每臺服務器附加權重的算法，該算法事先爲每臺服務器分配處理鏈接的數量，並將客戶端請求轉至鏈接數最少的服務器上。瀏覽器

4.哈希算法

普通哈希緩存

public void hash(){
        List<String> keyList = new ArrayList<String>(serverMap.keySet());
        String remoteIp = "192.168.2.215";
        int hashCode = remoteIp.hashCode();
        int idx = hashCode % keyList.size();
        String server = keyList.get(Math.abs(idx));
        System.out.println(server);
    }

一致性哈希一致性Hash，相同參數的請求老是發到同一提供者。當某一臺提供者掛時，本來發往該提供者的請求，基於虛擬節點，平攤到其它提供者，不會引發劇烈變更。安全

5.IP地址散列

經過管理髮送方IP和目的地IP地址的散列，未來自同一發送方的分組(或發送至同一目的地的分組)統一轉發到相同服務器的算法。當客戶端有一系列業務須要處理而必須和一個服務器反覆通訊時，該算法可以以流(會話)爲單位，保證來自相同客戶端的通訊可以一直在同一服務器中進行處理。服務器

6.URL散列

經過管理客戶端請求URL信息的散列，將發送至相同URL的請求轉發至同一服務器的算法。

負載均衡算法的手段(`DNS->數據鏈路層->IP層->Http層`)

一、DNS域名解析負載均衡(`延遲`)

利用DNS處理域名解析請求的同時進行負載均衡是另外一種經常使用的方案。在DNS服務器中配置多個A記錄，如：www.mysite.com IN A 114.100.80.一、www.mysite.com IN A 114.100.80.二、www.mysite.com IN A 114.100.80.3.

每次域名解析請求都會根據負載均衡算法計算一個不一樣的IP地址返回，這樣A記錄中配置的多個服務器就構成一個集羣，並能夠實現負載均衡。

DNS域名解析負載均衡的優勢是將負載均衡工做交給DNS，省略掉了網絡管理的麻煩，缺點就是DNS可能緩存A記錄，不受網站控制。

事實上，大型網站老是部分使用DNS域名解析，做爲第一級負載均衡手段，而後再在內部作第二級負載均衡。

二、數據鏈路層負載均衡(`LVS`)

數據鏈路層負載均衡是指在通訊協議的數據鏈路層修改mac地址進行負載均衡。

這種數據傳輸方式又稱做三角傳輸模式，負載均衡數據分發過程當中不修改IP地址，只修改目的的mac地址，經過配置真實物理服務器集羣全部機器虛擬IP和負載均衡服務器IP地址同樣，從而達到負載均衡，這種負載均衡方式又稱爲直接路由方式（DR）.

在上圖中，用戶請求到達負載均衡服務器後，負載均衡服務器將請求數據的目的mac地址修改成真是WEB服務器的mac地址，並不修改數據包目標IP地址，所以數據能夠正常到達目標WEB服務器，該服務器在處理完數據後能夠通過網管服務器而不是負載均衡服務器直接到達用戶瀏覽器。

使用三角傳輸模式的鏈路層負載均衡是目前大型網站所使用的最廣的一種負載均衡手段。在linux平臺上最好的鏈路層負載均衡開源產品是LVS(linux virtual server)。

三、IP負載均衡(`SNAT`)

IP負載均衡：即在網絡層經過修改請求目標地址進行負載均衡。

用戶請求數據包到達負載均衡服務器後，負載均衡服務器在操做系統內核進行獲取網絡數據包，根據負載均衡算法計算獲得一臺真實的WEB服務器地址，而後將數據包的IP地址修改成真實的WEB服務器地址，不須要經過用戶進程處理。真實的WEB服務器處理完畢後，相應數據包回到負載均衡服務器，負載均衡服務器再將數據包源地址修改成自身的IP地址發送給用戶瀏覽器。

這裏的關鍵在於真實WEB服務器相應數據包如何返回給負載均衡服務器，一種是負載均衡服務器在修改目的IP地址的同時修改源地址，將數據包源地址改成自身的IP，即源地址轉換（SNAT），另外一種方案是將負載均衡服務器同時做爲真實物理服務器的網關服務器，這樣全部的數據都會到達負載均衡服務器。

IP負載均衡在內核進程完成數據分發，較反向代理均衡有更好的處理性能。但因爲全部請求響應的數據包都須要通過負載均衡服務器，所以負載均衡的網卡帶寬成爲系統的瓶頸。