Nginx+tomcat配置集羣

開發的應用採用F5負載均衡交換機，F5將請求轉發給5臺hp unix服務器，每臺服務器有多個webserver實例，對外提供web服務和socket等接口服務。之初，曾有個小小的疑問爲什麼不採用開源的apache、Nginx軟件負載，F5設備動輒幾十萬，價格昂貴？本身一個比較幼稚的問題，後續明白：F5是操做於IOS網絡模型的傳輸層，Nginx、apache是基於http反向代理方式，位於ISO模型的第七層應用層。直白些就是TCP UDP 和http協議的區別，Nginx不能爲基於TCP協議的應用提供負載均衡。

瞭解了兩者之間的區別於應用場景，對Nginx產生濃厚的興趣，閱讀張宴的<實戰Nginx>（這個85年的小夥子年輕有爲羨慕+妒忌），搞明白了大體原理和配置，Ubuntu10.10，window下對Nginx+tomcat負載均衡作了配置嘗試，將所有請求轉發到tomcat，並未作靜態，動態分開，圖片防盜鏈等配置。

Nginx 介紹

Nginx （發音同 engine x）是一款輕量級的Web 服務器/反向代理服務器及電子郵件（IMAP/POP3）代理服務器，並在一個BSD-like 協議下發行。  其特色是佔有內存少，併發能力強，事實上nginx的併發能力確實在同類型的網頁伺服器中表現較好.目前中國大陸使用nginx網站用戶有：新浪、網易、 騰訊,另外知名的微網誌Plurk也使用nginx。
上面的全是Nginx介紹基本上是廢話，下面轉入正題，圖文結合展現基本配置，首先是window環境、其次是Ubuntu環境（Vbox虛擬）。

Window xp環境：Nginx+Tomcat6
一、下載地址
 http://nginx.org/en/download.html ，這裏咱們推薦下載穩定版（stable versions），本文采用nginx-0.8.20。

二、目錄結構
      Nginx-

               |_  conf   配置目錄

               |_  contrib

               |_  docs 文檔目錄

               |_  logs  日誌目錄

               |_  temp 臨時文件目錄

               |_  html 靜態頁面目錄

               |_  nginx.exe 主程序

window下安裝Nginx極其簡單，解壓縮到一個無空格的英文目錄便可（我的習慣，擔憂中文出問題），雙擊nginx啓動，這裏我安裝到：D:\server目錄，下面涉及到的tomcat也安裝在此目錄。
DOS環境啓動
若果想中止nginx，dos環境運行命令：nginx -s stop

三、nginx.conf配置
Nginx配置文件默認在conf目錄，主要配置文件爲nginx.conf，咱們安裝在D:\server\nginx-0.8.20、默認主配置文件爲D:\server\nginx-0.8.20\nginx.conf。下面是nginx做爲前端反向代理服務器的配置。

Nginx.conf代碼

1. #Nginx所用用戶和組，window下不指定  
2. #user  niumd niumd;  
3.   
4. #工做的子進程數量（一般等於CPU數量或者2倍於CPU）  
5. worker_processes  2;  
6.   
7. #錯誤日誌存放路徑  
8. #error_log  logs/error.log;  
9. #error_log  logs/error.log  notice;  
10. error_log  logs/error.log  info;  
11.   
12. #指定pid存放文件  
13. pid        logs/nginx.pid;  
14.   
15. events {  
16.     #使用網絡IO模型linux建議epoll，FreeBSD建議採用kqueue，window下不指定。  
17.     #use epoll;  
18.       
19.     #容許最大鏈接數  
20.     worker_connections  2048;  
21. }  
22.   
23. http {  
24.     include       mime.types;  
25.     default_type  application/octet-stream;  
26.   
27.         #定義日誌格式  
28.     #log_format  main  '$remote_addr - $remote_user [$time_local] $request '  
29.     #                  '"$status" $body_bytes_sent "$http_referer" '  
30.     #                  '"$http_user_agent" "$http_x_forwarded_for"';  
31.   
32.     #access_log  off;  
33.     access_log  logs/access.log;  
34.   
35.     client_header_timeout  3m;  
36.     client_body_timeout    3m;  
37.     send_timeout           3m;  
38.    
39.     client_header_buffer_size    1k;  
40.     large_client_header_buffers  4 4k;  
41.   
42.     sendfile        on;  
43.     tcp_nopush      on;  
44.     tcp_nodelay     on;  
45.   
46.     #keepalive_timeout  75 20;  
47.   
48.     include    gzip.conf;  
49.     upstream localhost {  
50.       #根據ip計算將請求分配各那個後端tomcat，許多人誤認爲能夠解決session問題，其實並不能。  
51.       #同一機器在多網狀況下，路由切換，ip可能不一樣  
52.       #ip_hash;   
53.       server localhost:18081;  
54.       server localhost:18080;  
55.      }  
56.   
57.     server {  
58.             listen       80;  
59.             server_name  localhost;     
60.   
61.             location / {  
62.                     proxy_connect_timeout   3;  
63.                     proxy_send_timeout      30;  
64.                     proxy_read_timeout      30;  
65.                         proxy_pass http://localhost;  
66.             }  
67.               
68.    }  
69. }  
    

代理設置以下：

Proxy.conf代碼：

1. proxy_redirect          off;  
2. proxy_set_header        Host $host;  
3. proxy_set_header        X-Real-IP $remote_addr;  
4. proxy_set_header        X-Forwarded-For $proxy_add_x_forwarded_for;  
5. client_max_body_size    10m;  
6. client_body_buffer_size 128k;  
7. proxy_connect_timeout   300;  
8. proxy_send_timeout      300;  
9. proxy_read_timeout      300;  
10. proxy_buffer_size       4k;  
11. proxy_buffers           4 32k;  
12. proxy_busy_buffers_size 64k;  
13. proxy_temp_file_write_size 64k;

gzip壓縮相關配置以下：

Gzip.conf代碼：

1. gzip              on;  
2. gzip_min_length      1000;  
3. gzip_types         text/plain text/css application/x-javascript;

四、Tomcat配置

對於tomcat你們都很熟悉，只須要修改server.xml配置文件便可，這裏咱們以apache-tomcat-6.0.14爲例，分別在 server目錄，解壓縮並命名爲：apache-tomcat-6.0.14_一、apache-tomcat-6.0.14_2。

第一處端口修改：Xml代碼

1. <!--  修改port端口：18006 倆個tomcat不能重複，端口隨意，別過小-->  
2. <Server port="18006" shutdown="SHUTDOWN"> 

第二處端口修改：Xml代碼

1. <!-- port="18081" tomcat監聽端口，隨意設置，別過小 -->  
2. <Connector port="18081" protocol="HTTP/1.1"   
3.                connectionTimeout="20000"   
4.                redirectPort="8443" />  
   

第三處端口修改：Java代碼

1. <Connector port="8009" protocol="AJP/1.3" redirectPort="8443" />  
   

Engine元素增長jvmRoute屬性：Xml代碼

<Engine name="Catalina" defaultHost="localhost" jvmRoute="tomcat1"> 

兩個tomcat的端口別重複，保證能啓動起來，另外一個tomcat配置希捷省略，監聽端口爲18080，附件中咱們將上傳全部的配置信息。

五、驗證配置與測試負載均衡

首先測試nginx配置是否正確，測試命令：nginx -t  (默認驗證:conf\nginx.conf),也能夠指定配置文件路徑。

其次驗證tomcat，啓動兩個tomcat，不出現端口衝突即爲成功（tomcat依賴的java等搞「挨踢」的就廢話不說了）；

最後驗證配置負載均衡設置，http://localhost/ 或http://localhost/index.jsp 。我修改了index.jsp頁面，增長日誌輸出信息，便於觀察。注意：左上角小貓頭上的：access tomcat二、access tomcat1。說明訪問了不一樣的tomcat。

至此window下nginx+tomcat負載均衡配置結束，關於tomcat Session的問題一般是採用memcached，或者採用nginx_upstream_jvm_route ，他是一個 Nginx 的擴展模塊，用來實現基於 Cookie 的 Session Sticky 的功能。若是tomcat過多不建議session同步，server間相互同步session很耗資源，高併發環境容易引發Session風暴。請根據 本身應用狀況合理採納session解決方案。

Ubuntu10.10環境：Nginx+Tomcat6

咱們下面簡單說下ubuntu10.10下如何安裝配置

一、下載Nginx

地址：http://nginx.org/en/download.html ，linux版本：nginx-0.8.20.tar.。解壓縮命令：

tar -zxvf nginx-0.8.20.tar.gz

二、編譯安裝Nginx

Nginx依賴一些其餘PCRE、openssl（依賴libssl-dev），本人筆記本Ubuntu環境已經安裝PCRE，僅需安裝依賴的openssl，下面咱們簡單說下如何安裝PCRE和openssl等

PCRE下載地址：ftp://ftp.csx.cam.ac.uk/pub/software/programming/pcre/

Shell代碼

1. tar zxvf  pcre-8.01.tar.gz  
2. cd pcre-8.01  
3. sudo ./configure  
4. sodu make  
5. sodu make install

openssl經過apt-get install安裝

1. sudo apt-get install openssl  
2. sudo apt-get install libssl-dev  
3. //如缺乏其餘包，請採用此方法安裝，ubuntu有依賴提示

依賴的軟件包安裝完畢，下面來編譯Nginx：

Shell代碼

1. #將window共享目錄軟件拷貝到當前工做目錄  
2. cp /mnt/fileshare/nginx-0.8.20.tar.gz ./  
3.   
4. #解壓縮軟件包  
5. tar zxvf nginx-0.8.20.tar.gz  
6.   
7.  cd nginx-0.8.20  
8. //編譯源碼,默認使用nobody，指定本機已存在的用戶，組，啓用nginx-status功能，監控nginx狀態。啓動debug  
9.  sudo ./configure  --user=niumd --group=niumd --with-debug --with-http_stub_status_module   
10.    
11.   
12. sudo make   
13. sudo make install

編譯安裝正確結束，按照上述window下方法檢查默認配置，而後在默認配置下啓動nginx，訪問http://127.0.0.1

Nginx配置成功後咱們對window下nginx.conf少作修改，以下：

Ubuntu nginx.conf代碼

1. #Nginx所用用戶和組  
2. user  niumd niumd;  
3.   
4. #工做的子進程數量（一般等於CPU數量或者2倍於CPU）  
5. worker_processes  2;  
6.   
7. #錯誤日誌存放路徑  
8. #error_log  logs/error.log;  
9. #error_log  logs/error.log  notice;  
10. error_log  logs/error.log  info;  
11.   
12. #指定pid存放文件  
13. pid        logs/nginx.pid;  
14.   
15. events {  
16.   #使用網絡IO模型linux建議epoll，FreeBSD建議採用kqueue  
17.     use epoll;  
18.       
19.     #容許最大鏈接數  
20.     worker_connections  2048;  
21. }  
22.   
23. http {  
24.     include       mime.types;  
25.     default_type  application/octet-stream;  
26.   
27.   #定義日誌格式  
28.     #log_format  main  '$remote_addr - $remote_user [$time_local] $request '  
29.     #                  '"$status" $body_bytes_sent "$http_referer" '  
30.     #                  '"$http_user_agent" "$http_x_forwarded_for"';  
31.   
32.     #access_log  off;  
33.     access_log  logs/access.log;  
34.   
35.     client_header_timeout  3m;  
36.     client_body_timeout    3m;  
37.     send_timeout           3m;  
38.    
39.     client_header_buffer_size    1k;  
40.     large_client_header_buffers  4 4k;  
41.   
42.     sendfile        on;  
43.     tcp_nopush      on;  
44.     tcp_nodelay     on;  
45.   
46.     #keepalive_timeout  75 20;  
47.   
48.     include    gzip.conf;  
49.     upstream localhost {  
50.      #ip_hash  
51.       #ip_hash;  
52.       server localhost:18081;  
53.       server localhost:18080;  
54.      }  
55.   
56.     server {  
57.             listen       80;  
58.             server_name  localhost;     
59.   
60.             location / {  
61.               proxy_connect_timeout   3;  
62.               proxy_send_timeout      30;  
63.               proxy_read_timeout      30;  
64.                 proxy_pass http://localhost;  
65.             }  
66.               
67.    }  
68. }  
    

對於上面關於ubuntu下Nginx配置和window下基本相同，區別在使用的IO網絡模型，linux下建議使用epoll，另外就是運行所用的用戶和組；

三、配置tomcat

請參考window下配置，徹底相同。

四、啓動中止nginx

ubuntu下啓動nginx與window稍有不一樣，大體啓動中止方法以下。

Java代碼

1. #nginx目錄執行  
2. sbin/nginx  
3. 或經過-c 指定配置文件  
4. sbin/nginx -c usr/local/nginx8.20/conf/nginx/conf

Shell代碼

1. niumd@niumd-laptop:/usr/local/nginx$ pwd  
2. /usr/local/nginx  
3. niumd@niumd-laptop:/usr/local/nginx$ sudo sbin/nginx -t  
4. the configuration file /usr/local/nginx/conf/nginx.conf syntax is ok  
5. configuration file /usr/local/nginx/conf/nginx.conf test is successful  
6. niumd@niumd-laptop:/usr/local/nginx$ sudo sbin/nginx -v  
7. nginx version: nginx/0.8.20  
8. niumd@niumd-laptop:/usr/local/nginx$ sudo sbin/nginx -V  
9. nginx version: nginx/0.8.20  
10. built by gcc 4.4.3 (Ubuntu 4.4.3-4ubuntu5)   
11. configure arguments: --user=niumd --group=niumd --with-debug --with-http_sub_module  
12. niumd@niumd-laptop:/usr/local/nginx$ sudo sbin/nginx   
13. niumd@niumd-laptop:/usr/local/nginx$ ps -ef|grep nginx  
14. root      5158     1  0 22:32 ?        00:00:00 nginx: master process sbin/nginx  
15. niumd     5159  5158  0 22:32 ?        00:00:00 nginx: worker process  
16. niumd     5161  1577  0 22:32 pts/0    00:00:00 grep --color=auto nginx  
17. niumd@niumd-laptop:/usr/local/nginx$   
    

咱們經過ps  -ef|grep nginx,看到以下結果:

注意：在啓動時linux提示一句警告【warn】……，是由於咱們設置的 #容許最大鏈接數 worker_connections  2048，超過linux默認1024的限制。

中止：kill -信號類型 pid

nginx/logs目錄下有個nginx。pid的文件，此文件記錄了每次運行的pid，也能夠經過ps命令查詢。

信號類型以下：

信號類型	描述
RERM.INT	快速關閉
HUP	平滑重啓，加載配置
USR1	從新加載日誌
USER2	平滑升級執行程序
WINCH	從容關閉工做進程
QUIT	從容關閉