Nginx負載均衡

時間 2019-11-10

標籤 nginx 負載均衡欄目 Nginx 简体版

原文原文鏈接

最近迷上了Nginx,真實麻雀雖小,五臟俱全..功能實在強大.. javascript

nginx不單能夠做爲強大的web 服務器，也能夠做爲一個反向代理服務器，並且nginx還能夠按照調度規則實現動態、靜態頁面的分離，能夠按照輪詢、ip哈希、URL哈希、權重等多種方式對後端服務器作負載均衡，同時還支持後端服務器的健康檢查。 php

若是隻有一臺服務器時,這個服務器掛了,那麼對於網站來講是個災難.所以，這時候的負載均衡就會大顯身手了,它會自動剔除掛掉的服務器. css

下面簡單的介紹下我使用Nginx作負載的體會 html

下載---安裝Nginx這些不介紹了,前篇有介紹. 前端

windows和Linux下配置Nginx負載的寫法同樣,故不分開介紹. java

Nginx負載均衡一些基礎知識: node

nginx 的 upstream目前支持 4 種方式的分配
1)、輪詢（默認）
每一個請求按時間順序逐一分配到不一樣的後端服務器，若是後端服務器down掉，能自動剔除。
2)、weight
指定輪詢概率，weight和訪問比率成正比，用於後端服務器性能不均的狀況。
2)、ip_hash
每一個請求按訪問ip的hash結果分配，這樣每一個訪客固定訪問一個後端服務器，能夠解決session的問題。
3)、fair（第三方）
按後端服務器的響應時間來分配請求，響應時間短的優先分配。
4)、url_hash（第三方） linux

配置： nginx

在http節點裏添加: web
#定義負載均衡設備的 Ip及設備狀態

upstream myServer {

server 127.0.0.1:9090 down;
server 127.0.0.1:8080 weight=2;
server 127.0.0.1:6060;
server 127.0.0.1:7070 backup;
}

在須要使用負載的Server節點下添加

proxy_pass http://myServer;

upstream 每一個設備的狀態:

down 表示單前的server暫時不參與負載
weight 默認爲1.weight越大，負載的權重就越大。
max_fails ：容許請求失敗的次數默認爲1.當超過最大次數時，返回proxy_next_upstream 模塊定義的錯誤
fail_timeout:max_fails 次失敗後，暫停的時間。
backup：其它全部的非backup機器down或者忙的時候，請求backup機器。因此這臺機器壓力會最輕。

Nginx還支持多組的負載均衡,能夠配置多個upstream 來服務於不一樣的Server.

配置負載均衡比較簡單,可是最關鍵的一個問題是怎麼實現多臺服務器之間session的共享

下面有幾種方法(如下內容來源於網絡,第四種方法沒有實踐.)

1) 不使用session，換做cookie

能把session改爲cookie，就能避開session的一些弊端，在從前看的一本J2EE的書上，也指明在集羣系統中不能用session，不然惹出禍端來就很差辦。若是系統不復雜，就優先考慮可否將session去掉，改動起來很是麻煩的話，再用下面的辦法。

2) 應用服務器自行實現共享

asp.net能夠用數據庫或memcached來保存session，從而在asp.net自己創建了一個session集羣，用這樣的方式能夠令 session保證穩定，即便某個節點有故障，session也不會丟失，適用於較爲嚴格但請求量不高的場合。可是它的效率是不會很高的，不適用於對效率要求高的場合。

以上兩個辦法都跟nginx沒什麼關係，下面來講說用nginx該如何處理：

3) ip_hash

nginx中的ip_hash技術可以將某個ip的請求定向到同一臺後端，這樣一來這個ip下的某個客戶端和某個後端就能創建起穩固的session，ip_hash是在upstream配置中定義的：

upstream backend {
server 127.0.0.1:8080 ;
server 127.0.0.1:9090 ;
ip_hash;
}

ip_hash是容易理解的，可是由於僅僅能用ip這個因子來分配後端，所以ip_hash是有缺陷的，不能在一些狀況下使用：

1/ nginx不是最前端的服務器。ip_hash要求nginx必定是最前端的服務器，不然nginx得不到正確ip，就不能根據ip做hash。譬如使用的是squid爲最前端，那麼nginx取ip時只能獲得squid的服務器ip地址，用這個地址來做分流是確定錯亂的。

2/ nginx的後端還有其它方式的負載均衡。假如nginx後端又有其它負載均衡，將請求又經過另外的方式分流了，那麼某個客戶端的請求確定不能定位到同一臺session應用服務器上。這麼算起來，nginx後端只能直接指向應用服務器，或者再搭一個squid，而後指向應用服務器。最好的辦法是用location做一次分流，將須要session的部分請求經過ip_hash分流，剩下的走其它後端去。

4) upstream_hash

爲了解決ip_hash的一些問題，可使用upstream_hash這個第三方模塊，這個模塊多數狀況下是用做url_hash的，可是並不妨礙將它用來作session共享：

假如前端是squid，他會將ip加入x_forwarded_for這個http_header裏，用upstream_hash能夠用這個頭作因子，將請求定向到指定的後端：

可見這篇文檔：http://www.sudone.com/nginx/nginx_url_hash.html

在文檔中是使用$request_uri作因子，稍微改一下：

hash $http_x_forwarded_for;

這樣就改爲了利用x_forwarded_for這個頭做因子，在nginx新版本中可支持讀取cookie值，因此也能夠改爲：

hash $cookie_jsessionid;

假如在php中配置的session爲無cookie方式，配合nginx本身的一個userid_module模塊就能夠用nginx自發一個cookie，可參見userid模塊的英文文檔：
http://wiki.nginx.org/NginxHttpUserIdModule
另可用姚偉斌編寫的模塊upstream_jvm_route：http://code.google.com/p/nginx-upstream-jvm-route/

如下爲圖文解說：Nginx+tomcat配置集羣負載均衡

開發的應用採用F5負載均衡交換機，F5將請求轉發給5臺hp unix服務器，每臺服務器有多個webserver實例，對外提供web服務和socket等接口服務。之初，曾有個小小的疑問爲什麼不採用開源的apache、Nginx軟件負載，F5設備動輒幾十萬，價格昂貴？本身一個比較幼稚的問題，後續明白：F5是操做於IOS網絡模型的傳輸層，Nginx、apache是基於http反向代理方式，位於ISO模型的第七層應用層。直白些就是TCP UDP 和http協議的區別，Nginx不能爲基於TCP協議的應用提供負載均衡。

瞭解了兩者之間的區別於應用場景，對Nginx產生濃厚的興趣，閱讀張宴的<實戰Nginx>（這個85年的小夥子年輕有爲羨慕+妒忌），搞明白了大體原理和配置，Ubuntu10.10，window下對Nginx+tomcat負載均衡作了配置嘗試，將所有請求轉發到tomcat，並未作靜態，動態分開，圖片防盜鏈等配置。

Nginx 介紹

Nginx （發音同 engine x）是一款輕量級的Web 服務器／反向代理服務器及電子郵件（IMAP/POP3）代理服務器，並在一個BSD-like 協議下發行。其特色是佔有內存少，併發能力強，事實上nginx的併發能力確實在同類型的網頁伺服器中表現較好.目前中國大陸使用nginx網站用戶有：新浪、網易、騰訊,另外知名的微網誌Plurk也使用nginx。

上面的全是Nginx介紹基本上是廢話，下面轉入正題，圖文結合展現基本配置，首先是window環境、其次是Ubuntu環境（Vbox虛擬）。本文主要基於Nginx下配置兩臺tomcat，結構以下圖：

Window xp環境：Nginx+Tomcat6

一、下載地址

http://nginx.org/en/download.html，這裏咱們推薦下載穩定版（stable versions），本文采用nginx-0.8.20。

二、目錄結構

Nginx-

|_ conf 配置目錄

|_ contrib

|_ docs 文檔目錄

|_ logs 日誌目錄

|_ temp 臨時文件目錄

|_ html 靜態頁面目錄

|_ nginx.exe 主程序

window下安裝Nginx極其簡單，解壓縮到一個無空格的英文目錄便可（我的習慣，擔憂中文出問題），雙擊nginx啓動，這裏我安裝到：D:\server目錄，下面涉及到的tomcat也安裝在此目錄。

DOS環境啓動

若果想中止nginx，dos環境運行命令：nginx -s stop

三、nginx.conf配置

Nginx配置文件默認在conf目錄，主要配置文件爲nginx.conf，咱們安裝在D:\server\nginx-0.8.20、默認主配置文件爲D:\server\nginx-0.8.20\nginx.conf。下面是nginx做爲前端反向代理服務器的配置。

Nginx.conf代碼

#Nginx所用用戶和組，window下不指定 #user niumd niumd; #工做的子進程數量（一般等於CPU數量或者2倍於CPU） worker_processes 2; #錯誤日誌存放路徑 #error_log logs/error.log; #error_log logs/error.log notice; error_log logs/error.log info; #指定pid存放文件 pid logs/nginx.pid; events { #使用網絡IO模型linux建議epoll，FreeBSD建議採用kqueue，window下不指定。 #use epoll; #容許最大鏈接數 worker_connections 2048; } http { include mime.types; default_type application/octet-stream; #定義日誌格式 #log_format main '$remote_addr - $remote_user [$time_local] $request ' # '"$status" $body_bytes_sent "$http_referer" ' # '"$http_user_agent" "$http_x_forwarded_for"'; #access_log off; access_log logs/access.log; client_header_timeout 3m; client_body_timeout 3m; send_timeout 3m; client_header_buffer_size 1k; large_client_header_buffers 4 4k; sendfile on; tcp_nopush on; tcp_nodelay on; #keepalive_timeout 75 20; include gzip.conf; upstream localhost { #根據ip計算將請求分配各那個後端tomcat，許多人誤認爲能夠解決session問題，其實並不能。 #同一機器在多網狀況下，路由切換，ip可能不一樣 #ip_hash; server localhost:18081; server localhost:18080; } server { listen 80; server_name localhost; location / { proxy_connect_timeout 3; proxy_send_timeout 30; proxy_read_timeout 30; proxy_pass http://localhost; } } }

代理設置以下：

Proxy.conf代碼

proxy_redirect off; proxy_set_header Host $host; proxy_set_header X-Real-IP $remote_addr; proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for; client_max_body_size 10m; client_body_buffer_size 128k; proxy_connect_timeout 300; proxy_send_timeout 300; proxy_read_timeout 300; proxy_buffer_size 4k; proxy_buffers 4 32k; proxy_busy_buffers_size 64k; proxy_temp_file_write_size 64k;

gzip壓縮相關配置以下：

Gzip.conf代碼

gzip on; gzip_min_length 1000; gzip_types text/plain text/css application/x-javascript;

四、Tomcat配置

對於tomcat你們都很熟悉，只須要修改server.xml配置文件便可，這裏咱們以apache-tomcat-6.0.14爲例，分別在server目錄，解壓縮並命名爲：apache-tomcat-6.0.14_一、apache-tomcat-6.0.14_2。

第一處端口修改：

Xml代碼

<Serverport="18006"shutdown="SHUTDOWN">

<!-- 修改port端口：18006 倆個tomcat不能重複，端口隨意，別過小--> <Server port="18006" shutdown="SHUTDOWN">

第二處端口修改：

Xml代碼

<Connectorport="18081"protocol="HTTP/1.1"
connectionTimeout="20000"
redirectPort="8443"/>

<!-- port="18081" tomcat監聽端口，隨意設置，別過小 --> <Connector port="18081" protocol="HTTP/1.1" connectionTimeout="20000" redirectPort="8443" />

第三處端口修改：

Java代碼

<Connector port="8009" protocol="AJP/1.3" redirectPort="8443" />

Engine元素增長jvmRoute屬性：

Xml代碼

<Engine name="Catalina" defaultHost="localhost" jvmRoute="tomcat1">

兩個tomcat的端口別重複，保證能啓動起來，另外一個tomcat配置希捷省略，監聽端口爲18080，附件中咱們將上傳全部的配置信息。

五、驗證配置與測試負載均衡

首先測試nginx配置是否正確，測試命令：nginx -t (默認驗證:conf\nginx.conf),也能夠指定配置文件路徑。

此例nginx安裝目錄：D:\server\nginx-0.8.20，dos環境下圖畫面成功示例：

其次驗證tomcat，啓動兩個tomcat，不出現端口衝突即爲成功（tomcat依賴的java等搞「挨踢」的就廢話不說了）；

最後驗證配置負載均衡設置，http://localhost/或http://localhost/index.jsp。我修改了index.jsp頁面，增長日誌輸出信息，便於觀察。注意：左上角小貓頭上的：access tomcat二、access tomcat1。說明訪問了不一樣的tomcat。

至此window下nginx+tomcat負載均衡配置結束，關於tomcat Session的問題一般是採用memcached，或者採用nginx_upstream_jvm_route ，他是一個 Nginx 的擴展模塊，用來實現基於 Cookie 的 Session Sticky 的功能。若是tomcat過多不建議session同步，server間相互同步session很耗資源，高併發環境容易引發Session風暴。請根據本身應用狀況合理採納session解決方案。

做者：niumd

Blog:http://ari.iteye.com

Ubuntu10.10環境：Nginx+Tomcat6

咱們下面簡單說下ubuntu10.10下如何安裝配置，主要以圖片爲主，簡單解釋。

一、下載Nginx

地址：http://nginx.org/en/download.html，linux版本：nginx-0.8.20.tar.。解壓縮命令：

tar -zxvf nginx-0.8.20.tar.gz

二、編譯安裝Nginx

Nginx依賴一些其餘PCRE、openssl（依賴libssl-dev），本人筆記本Ubuntu環境已經安裝PCRE，僅需安裝依賴的openssl，下面咱們簡單說下如何安裝PCRE和openssl等

PCRE下載地址：ftp://ftp.csx.cam.ac.uk/pub/software/programming/pcre/

Shell代碼

tar zxvf pcre-8.01.tar.gz cd pcre-8.01 sudo ./configure sodu make sodu make install

openssl經過apt-get install安裝，命令、截圖以下：

Shell代碼

sudo apt-get install openssl sudo apt-get install libssl-dev //如缺乏其餘包，請採用此方法安裝，ubuntu有依賴提示

依賴的軟件包安裝完畢，下面來編譯Nginx：

Shell代碼

#將window共享目錄軟件拷貝到當前工做目錄 cp /mnt/fileshare/nginx-0.8.20.tar.gz ./ #解壓縮軟件包 tar zxvf nginx-0.8.20.tar.gz cd nginx-0.8.20 //編譯源碼,默認使用nobody，指定本機已存在的用戶，組，啓用nginx-status功能，監控nginx狀態。啓動debug sudo ./configure --user=niumd --group=niumd --with-debug --with-http_stub_status_module sudo make sudo make install

截圖以下：

安裝結果截圖以下：

編譯安裝正確結束，按照上述window下方法檢查默認配置，而後在默認配置下啓動nginx，訪問http://127.0.0.1，以下圖說明成功

Nginx配置成功後咱們對window下nginx.conf少作修改，以下：

Ubuntu nginx.conf代碼

#Nginx所用用戶和組 user niumd niumd; #工做的子進程數量（一般等於CPU數量或者2倍於CPU） worker_processes 2; #錯誤日誌存放路徑 #error_log logs/error.log; #error_log logs/error.log notice; error_log logs/error.log info; #指定pid存放文件 pid logs/nginx.pid; events { #使用網絡IO模型linux建議epoll，FreeBSD建議採用kqueue use epoll; #容許最大鏈接數 worker_connections 2048; } http { include mime.types; default_type application/octet-stream; #定義日誌格式 #log_format main '$remote_addr - $remote_user [$time_local] $request ' # '"$status" $body_bytes_sent "$http_referer" ' # '"$http_user_agent" "$http_x_forwarded_for"'; #access_log off; access_log logs/access.log; client_header_timeout 3m; client_body_timeout 3m; send_timeout 3m; client_header_buffer_size 1k; large_client_header_buffers 4 4k; sendfile on; tcp_nopush on; tcp_nodelay on; #keepalive_timeout 75 20; include gzip.conf; upstream localhost { #ip_hash #ip_hash; server localhost:18081; server localhost:18080; } server { listen 80; server_name localhost; location / { proxy_connect_timeout 3; proxy_send_timeout 30; proxy_read_timeout 30; proxy_pass http://localhost; } } }

對於上面關於ubuntu下Nginx配置和window下基本相同，區別在使用的IO網絡模型，linux下建議使用epoll，另外就是運行所用的用戶和組；

三、配置tomcat

請參考window下配置，徹底相同。

四、啓動中止nginx

ubuntu下啓動nginx與window稍有不一樣，大體啓動中止方法以下。

Java代碼

#nginx目錄執行 sbin/nginx 或經過-c 指定配置文件 sbin/nginx -c usr/local/nginx8.20/conf/nginx/conf

Shell代碼

niumd@niumd-laptop:/usr/local/nginx$ pwd /usr/local/nginx niumd@niumd-laptop:/usr/local/nginx$ sudo sbin/nginx -t the configuration file /usr/local/nginx/conf/nginx.conf syntax is ok configuration file /usr/local/nginx/conf/nginx.conf test is successful niumd@niumd-laptop:/usr/local/nginx$ sudo sbin/nginx -v nginx version: nginx/0.8.20 niumd@niumd-laptop:/usr/local/nginx$ sudo sbin/nginx -V nginx version: nginx/0.8.20 built by gcc 4.4.3 (Ubuntu 4.4.3-4ubuntu5) configure arguments: --user=niumd --group=niumd --with-debug --with-http_sub_module niumd@niumd-laptop:/usr/local/nginx$ sudo sbin/nginx niumd@niumd-laptop:/usr/local/nginx$ ps -ef|grep nginx root 5158 1 0 22:32 ? 00:00:00 nginx: master process sbin/nginx niumd 5159 5158 0 22:32 ? 00:00:00 nginx: worker process niumd 5161 1577 0 22:32 pts/0 00:00:00 grep --color=auto nginx niumd@niumd-laptop:/usr/local/nginx$

咱們經過ps -ef|grep nginx,看到以下結果:

注意：在啓動時linux提示一句警告【warn】……，是由於咱們設置的 #容許最大鏈接數 worker_connections 2048，超過linux默認1024的限制。

中止：kill -信號類型 pid

nginx/logs目錄下有個nginx。pid的文件，此文件記錄了每次運行的pid，也能夠經過ps命令查詢。

信號類型以下：

信號控制

信號類型	描述
RERM.INT	快速關閉
HUP	平滑重啓，加載配置
USR1	從新加載日誌
USER2	平滑升級執行程序
WINCH	從容關閉工做進程
QUIT	從容關閉