面對大量用戶訪問、高併發請求,海量數據,可使用高性能的服務器、大型數據庫,存儲設備,高性能Web服務器,採用高效率的編程語言好比(Go,Scala)等,當單機容量達到極限時,咱們須要考慮業務拆分和分佈式部署,來解決大型網站訪問量大,併發量高,海量數據的問題。算法
從單機網站到分佈式網站,很重要的區別是業務拆分和分佈式部署,將應用拆分後,部署到不一樣的機器上,實現大規模分佈式系統。分佈式和業務拆分解決了,從集中到分佈的問題,可是每一個部署的獨立業務還存在單點的問題和訪問統一入口問題,爲解決單點故障,咱們能夠採起冗餘的方式。將相同的應用部署到多臺機器上。解決訪問統一入口問題,咱們能夠在集羣前面增長負載均衡設備,實現流量分發。數據庫
負載均衡(Load Balance),意思是將負載(工做任務,訪問請求)進行平衡、分攤到多個操做單元(服務器,組件)上進行執行。是解決高性能,單點故障(高可用),擴展性(水平伸縮)的終極解決方案。編程
本文是負載均衡詳解的第一篇文章,介紹負載均衡的原理,負載均衡分類(DNS負載均衡,HTTP負載均衡,IP負載均衡,鏈路層負載均衡,混合型P負載均衡)。部份內容摘自讀書筆記。瀏覽器
系統的擴展可分爲縱向(垂直)擴展和橫向(水平)擴展。縱向擴展,是從單機的角度經過增長硬件處理能力,好比CPU處理能力,內存容量,磁盤等方面,實現服務器處理能力的提高,不能知足大型分佈式系統(網站),大流量,高併發,海量數據的問題。所以須要採用橫向擴展的方式,經過添加機器來知足大型網站服務的處理能力。好比:一臺機器不能知足,則增長兩臺或者多臺機器,共同承擔訪問壓力。這就是典型的集羣和負載均衡架構:以下圖:緩存
負載均衡的做用(解決的問題):安全
1.解決併發壓力,提升應用處理性能(增長吞吐量,增強網絡處理能力);服務器
2.提供故障轉移,實現高可用;網絡
3.經過添加或減小服務器數量,提供網站伸縮性(擴展性);架構
4.安全防禦;(負載均衡設備上作一些過濾,黑白名單等處理)併發
根據實現技術不一樣,可分爲DNS負載均衡,HTTP負載均衡,IP負載均衡,鏈路層負載均衡等。
最先的負載均衡技術,利用域名解析實現負載均衡,在DNS服務器,配置多個A記錄,這些A記錄對應的服務器構成集羣。大型網站老是部分使用DNS解析,做爲第一級負載均衡。以下圖:
優勢
缺點
實踐建議
將DNS做爲第一級負載均衡,A記錄對應着內部負載均衡的IP地址,經過內部負載均衡將請求分發到真實的Web服務器上。通常用於互聯網公司,複雜的業務系統不合適使用。以下圖:
在網絡層經過修改請求目標地址進行負載均衡。
用戶請求數據包,到達負載均衡服務器後,負載均衡服務器在操做系統內核進程獲取網絡數據包,根據負載均衡算法獲得一臺真實服務器地址,而後將請求目的地址修改成,得到的真實ip地址,不須要通過用戶進程處理。
真實服務器處理完成後,響應數據包回到負載均衡服務器,負載均衡服務器,再將數據包源地址修改成自身的ip地址,發送給用戶瀏覽器。以下圖:
IP負載均衡,真實物理服務器返回給負載均衡服務器,存在兩種方式:(1)負載均衡服務器在修改目的ip地址的同時修改源地址。將數據包源地址設爲自身盤,即源地址轉換(snat)。(2)將負載均衡服務器同時做爲真實物理服務器集羣的網關服務器。
優勢:
(1)在內核進程完成數據分發,比在應用層分發性能更好;
缺點:
(2)全部請求響應都須要通過負載均衡服務器,集羣最大吞吐量受限於負載均衡服務器網卡帶寬;
在通訊協議的數據鏈路層修改mac地址,進行負載均衡。
數據分發時,不修改ip地址,指修改目標mac地址,配置真實物理服務器集羣全部機器虛擬ip和負載均衡服務器ip地址一致,達到不修改數據包的源地址和目標地址,進行數據分發的目的。
實際處理服務器ip和數據請求目的ip一致,不須要通過負載均衡服務器進行地址轉換,可將響應數據包直接返回給用戶瀏覽器,避免負載均衡服務器網卡帶寬成爲瓶頸。也稱爲直接路由模式(DR模式)。以下圖:
優勢:性能好;
缺點:配置複雜;
實踐建議:DR模式是目前使用最普遍的一種負載均衡方式。
因爲多個服務器羣內硬件設備、各自的規模、提供的服務等的差別,能夠考慮給每一個服務器羣採用最合適的負載均衡方式,而後又在這多個服務器羣間再一次負載均衡或羣集起來以一個總體向外界提供服務(即把這多個服務器羣當作一個新的服務器羣),從而達到最佳的性能。將這種方式稱之爲混合型負載均衡。
此種方式有時也用於單臺均衡設備的性能不能知足大量鏈接請求的狀況下。是目前大型互聯網公司,廣泛使用的方式。
方式一,以下圖:
以上模式適合有動靜分離的場景,反向代理服務器(集羣)能夠起到緩存和動態請求分發的做用,當時靜態資源緩存在代理服務器時,則直接返回到瀏覽器。若是動態頁面則請求後面的應用負載均衡(應用集羣)。
方式二,以下圖:
以上模式,適合動態請求場景。
因混合模式,能夠根據具體場景,靈活搭配各類方式,以上兩種方式僅供參考。