Web服務器Tomcat集羣與負載均衡技術

咱們曾經介紹過三種Tomcat集羣方式的優缺點分析。本文將介紹Tomcat集羣與負載均衡技術具體實施過程。

在進入集羣系統架構探討以前，先定義一些專門術語：

1. 集羣(Cluster)：是一組獨立的計算機系統構成一個鬆耦合的多處理器系統，它們之間經過網絡實現進程間的通訊。應用程序能夠經過網絡共享內存進行消息傳送，實現分佈式計算機。

2. 負載均衡(Load Balance)：先得從集羣講起，集羣就是一組連在一塊兒的計算機，從外部看它是一個系統，各節點能夠是不一樣的操做系統或不一樣硬件構成的計算機。如一個提供Web服務的集羣，對外界來看是一個大Web服務器。不過集羣的節點也能夠單獨提供服務。

3. 特色：在現有網絡結構之上，負載均衡提供了一種廉價有效的方法擴展服務器帶寬和增長吞吐量，增強網絡數據處理能力，提升網絡的靈活性和可用性。集羣系統 (Cluster)主要解決下面幾個問題：高可靠性（HA）：利用集羣管理軟件，當主服務器故障時，備份服務器可以自動接管主服務器的工做，並及時切換過去，以實現對用戶的不間斷服務。高性能計算（HP）：即充分利用集羣中的每一臺計算機的資源，實現複雜運算的並行處理，一般用於科學計算領域，好比基因分析，化學分析等。負載平衡：即把負載壓力根據某種算法合理分配到集羣中的每一臺計算機上，以減輕主服務器的壓力，下降對主服務器的硬件和軟件要求。

目前比較經常使用的負載均衡技術主要有：

1. 基於DNS的負載均衡

經過DNS服務中的隨機名字解析來實現負載均衡，在DNS服務器中，能夠爲多個不一樣的地址配置同一個名字，而最終查詢這個名字的客戶機將在解析這個名字時獲得其中一個地址。所以，對於同一個名字，不一樣的客戶機會獲得不一樣的地址，他們也就訪問不一樣地址上的Web服務器，從而達到負載均衡的目的。

2. 反向代理負載均衡 （如Apache+JK2+Tomcat這種組合）

使用代理服務器能夠將請求轉發給內部的Web服務器，讓代理服務器將請求均勻地轉發給多臺內部Web服務器之一上，從而達到負載均衡的目的。這種代理方式與普通的代理方式有所不一樣，標準代理方式是客戶使用代理訪問多個外部Web服務器，而這種代理方式是多個客戶使用它訪問內部Web服務器，所以也被稱爲反向代理模式。

3. 基於NAT（Network Address Translation）的負載均衡技術 （如Linux Virtual Server，簡稱LVS）

網絡地址轉換爲在內部地址和外部地址之間進行轉換，以便具有內部地址的計算機能訪問外部網絡，而當外部網絡中的計算機訪問地址轉換網關擁有的某一外部地址時，地址轉換網關能將其轉發到一個映射的內部地址上。所以若是地址轉換網關能將每一個鏈接均勻轉換爲不一樣的內部服務器地址，此後外部網絡中的計算機就各自與本身轉換獲得的地址上服務器進行通訊，從而達到負載分擔的目的。

介紹完上面的集羣技術以後，下面就基於Tomcat的集羣架構方案進行說明：

上面是採用了Apache httpd做爲web服務器的，即做爲Tomcat的前端處理器，根據具體狀況而定，有些狀況下是不須要Apache httpd做爲 web 服務器的，如系統展示沒有靜態頁面那就不須要Apache httpd，那時能夠直接使用Tomcat做爲web 服務器來使用。使用Apache httpd主要是它在處理靜態頁面方面的能力比Tomcat強多了。

一、 用戶的網頁瀏覽器作完本地 DNS和企業受權的DNS之的請求/響應後，這時候企業受權的DNS（即21cn BOSS DNS）會給用戶本地的DNS服務器提供一個NAT請求分配器（即網關）IP。

二、 NAT分配器，它會根據特定的分配算法，來決定要將鏈接交給哪一臺內部 Apache httpd來處理請求。大多數的NAT請求分配器提供了容錯能力：根據偵測各類WEB服務器的失效情況，中止將請求分配給已經宕掉的服務器。而且有些分配器還能夠監測到WEB服務器機器的負載狀況，並將請求分配給負載最輕的服務器等等。Linux Virtual Server是一個基於Linux操做系統上執行的VS-NAT開源軟件套件，並且它有豐富的功能和良好的說明文件。商業硬件解決方案 Foundry Networks的ServerIron是目前業界公認最佳的請求分配器之一。

三、 Apache httpd + Mod_JK2在這裏是做爲負載均衡器，那爲何要作集羣呢？若是集羣系統要具有容錯能力，以便在任何單一的硬件或軟件組件失效時還能100%可用，那麼集羣系統必須沒有單點故障之憂。因此，不能只架設一臺有mod_jk2的Apache httpd，由於若是 httpd或mod_jk2失效了，將不會再有請求被會送交到任何一個Tomcat 實例。這種狀況下，Apache httpd就是瓶勁，特別在訪問量大的網站。

四、 Mod_JK2負載均衡與故障復原，決定把Apache httpd當成web服務器，並且使用mod_jk2將請求傳送給Tomcat，則可使用mod_jk2的負載均衡與容錯功能。在集羣系統中，帶有 mod_jk2的Apache httpd能夠作的事情包括：

A、 將請求分配至一或多個Tomcat實例上你能夠在mod_jk2的workers.properties文件中，設定許多Tomcat實例，並賦於每一個實例一個lb_factor值，以做爲請求分配的加權因子。

B、 偵測Tomcat實例是否失敗當Tomcat實例的鏈接器服務再也不響應時，mod_jk2會及時偵測到，並中止將請求送給它。其餘的Tomcat實例則會接受失效實例的負載。

C、 偵測Tomcat實例在失效後的什麼時候恢復因鏈接器服務失效，而中止將請求分配給Tomcat實例以後，mod_jk2會週期性地檢查是否已恢復使用性，並自動將其加入現行的Tomcat實例池中。

五、 Tomcat中的集羣原理是經過組播的方式進行節點的查找並使用TCP鏈接進行會話的複製。這裏提示一下就是，對每一個請求的處理，Tomcat都會進行會話複製，複製後的會話將會慢慢變得龐大。

六、 Mod_jk2同時支持會話親和和會話複製。在tomcat 5中如何實現會話親和和會話複製？把server.xml中的標籤去掉就實現會話親和，把標籤加上就實現會話複製。

七、 會話親和：就是表示來自同會話的全部請求都由相同的Tomcat 實例來處理，這種狀況下，若是Tomcat實例或所執行的服務器機器失效，也會喪失Servlet的會話數據。即便在集羣系統中執行更多的Tomcat實例，也永遠不會複製會話數據。這樣是提升集羣性能的一種方案，但不具有有容錯能力了。

八、 使用會話複製，則當一個Tomcat實例宕掉時，因爲至少還有另外一個Tomcat實例保有一份會話狀態數據，於是數據不會喪失。但性能會有所下降。