Linux負載均衡環境搭建-3 配置nginx爲負載均衡前置

nginx不單能夠做爲強大的web服務器,也能夠做爲一個反向代理服務器,並且nginx還能夠按照調度規則實現動態、靜態頁面的分離,能夠按照輪詢、ip哈希、URL哈希、權重等多種方式對後端服務器作負載均衡,同時還支持後端服務器的健康檢查。 

若是隻有一臺服務器時,這個服務器掛了,那麼對於網站來講是個災難.所以,這時候的負載均衡就會大顯身手了,它會自動剔除掛掉的服務器. 

下面簡單的介紹下我使用Nginx作負載的體會 

下載---安裝Nginx這些不介紹了,前篇有介紹. 

windows和Linux下配置Nginx負載的寫法同樣,故不分開介紹. 

Nginx負載均衡一些基礎知識: 

    nginx 的 upstream目前支持 4 種方式的分配 
    1)、輪詢(默認) 
    每一個請求按時間順序逐一分配到不一樣的後端服務器,若是後端服務器down掉,能自動剔除。 
    2)、weight 
    指定輪詢概率,weight和訪問比率成正比,用於後端服務器性能不均的狀況。 
    2)、ip_hash 
    每一個請求按訪問ip的hash結果分配,這樣每一個訪客固定訪問一個後端服務器,能夠解決session的問題。 
    3)、fair(第三方) 
    按後端服務器的響應時間來分配請求,響應時間短的優先分配。 
    4)、url_hash(第三方) 

配置: 

    在http節點裏添加: 
    #定義負載均衡設備的 Ip及設備狀態 

    upstream myServer { 

    server 127.0.0.1:9090 down; 
    server 127.0.0.1:8080 weight=2; 
    server 127.0.0.1:6060; 
    server 127.0.0.1:7070 backup; 
    } 

    在須要使用負載的Server節點下添加 

    proxy_pass http://myServer; 

    upstream 每一個設備的狀態: 

    down 表示單前的server暫時不參與負載 
    weight 默認爲1.weight越大,負載的權重就越大。 
    max_fails :容許請求失敗的次數默認爲1.當超過最大次數時,返回proxy_next_upstream 模塊定義的錯誤 
    fail_timeout:max_fails 次失敗後,暫停的時間。 
    backup: 其它全部的非backup機器down或者忙的時候,請求backup機器。因此這臺機器壓力會最輕。 

Nginx還支持多組的負載均衡,能夠配置多個upstream 來服務於不一樣的Server. 

配置負載均衡比較簡單,可是最關鍵的一個問題是怎麼實現多臺服務器之間session的共享 

下面有幾種方法(如下內容來源於網絡,第四種方法沒有實踐.) 

1) 不使用session,換做cookie 

    能把session改爲cookie,就能避開session的一些弊端,在從前看的一本J2EE的書上,也指明在集羣系統中不能用session,不然惹出禍端來就很差辦。若是系統不復雜,就優先考慮可否將session去掉,改動起來很是麻煩的話,再用下面的辦法。 

2) 應用服務器自行實現共享 

    asp.net能夠用數據庫或memcached來保存session,從而在asp.net自己創建了一個session集羣,用這樣的方式能夠令 session保證穩定,即便某個節點有故障,session也不會丟失,適用於較爲嚴格但請求量不高的場合。可是它的效率是不會很高的,不適用於對效率 要求高的場合。 

    以上兩個辦法都跟nginx沒什麼關係,下面來講說用nginx該如何處理: 

3) ip_hash 

    nginx中的ip_hash技術可以將某個ip的請求定向到同一臺後端,這樣一來這個ip下的某個客戶端和某個後端就能創建起穩固的session,ip_hash是在upstream配置中定義的: 

    upstream backend { 
    server 127.0.0.1:8080 ; 
    server 127.0.0.1:9090 ; 
    ip_hash; 
    } 

    ip_hash是容易理解的,可是由於僅僅能用ip這個因子來分配後端,所以ip_hash是有缺陷的,不能在一些狀況下使用: 

    1/ nginx不是最前端的服務器。ip_hash要求nginx必定是最前端的服務器,不然nginx得不到正確ip,就不能根據ip做hash。譬如使用的是squid爲最前端,那麼nginx取ip時只能獲得squid的服務器ip地址,用這個地址來做分流是確定錯亂的。 

    2/ nginx的後端還有其它方式的負載均衡。假如nginx後端又有其它負載均衡,將請求又經過另外的方式分流了,那麼某個客戶端的請求確定不能定位到同一臺session應用服務器上。這麼算起來,nginx後端只能直接指向應用服務器,或者再搭一個squid,而後指向應用服務器。最好的辦法是用location做一次分流,將須要session的部分請求經過ip_hash分流,剩下的走其它後端去。 

4) upstream_hash 

    爲了解決ip_hash的一些問題,可使用upstream_hash這個第三方模塊,這個模塊多數狀況下是用做url_hash的,可是並不妨礙將它用來作session共享: 

    假如前端是squid,他會將ip加入x_forwarded_for這個http_header裏,用upstream_hash能夠用這個頭作因子,將請求定向到指定的後端: 

    可見這篇文檔:http://www.sudone.com/nginx/nginx_url_hash.html 

    在文檔中是使用$request_uri作因子,稍微改一下: 

    hash $http_x_forwarded_for; 

    這樣就改爲了利用x_forwarded_for這個頭做因子,在nginx新版本中可支持讀取cookie值,因此也能夠改爲: 

    hash $cookie_jsessionid; 

    假如在php中配置的session爲無cookie方式,配合nginx本身的一個userid_module模塊就能夠用nginx自發一個cookie,可參見userid模塊的英文文檔: 
    http://wiki.nginx.org/NginxHttpUserIdModule 
    另可用姚偉斌編寫的模塊upstream_jvm_route:http://code.google.com/p/nginx-upstream-jvm-route/ 

     

    如下爲圖文解說:Nginx+tomcat配置集羣負載均衡 


    開發的應用採用F5負載均衡交換機,F5將請求轉發給5臺hp unix服務器,每臺服務器有多個webserver實例,對外提供web服務和socket等接口服務。之初,曾有個小小的疑問爲什麼不採用開源的apache、Nginx軟件負載,F5設備動輒幾十萬,價格昂貴?本身一個比較幼稚的問題,後續明白:F5是操做於IOS網絡模型的傳輸層,Nginx、apache是基於http反向代理方式,位於ISO模型的第七層應用層。直白些就是TCP UDP 和http協議的區別,Nginx不能爲基於TCP協議的應用提供負載均衡。 


    瞭解了兩者之間的區別於應用場景,對Nginx產生濃厚的興趣,閱讀張宴的<實戰Nginx>(這個85年的小夥子年輕有爲羨慕+妒忌),搞明白了大體原理和配置,Ubuntu10.10,window下對Nginx+tomcat負載均衡作了配置嘗試,將所有請求轉發到tomcat,並未作靜態,動態分開,圖片防盜鏈等配置。 
    Nginx 介紹 


    Nginx (發音同 engine x)是一款輕量級的Web 服務器/反向代理服務器及電子郵件(IMAP/POP3)代理服務器,並在一個BSD-like 協議下發行。 其特色是佔有內存少,併發能力強,事實上nginx的併發能力確實在同類型的網頁伺服器中表現較好.目前中國大陸使用nginx網站用戶有:新浪、網易、 騰訊,另外知名的微網誌Plurk也使用nginx。 


    上面的全是Nginx介紹基本上是廢話,下面轉入正題,圖文結合展現基本配置,首先是window環境、其次是Ubuntu環境(Vbox虛擬)。本文主要基於Nginx下配置兩臺tomcat,結構以下圖: 
     
     

    Window xp環境:Nginx+Tomcat6 

    一、下載地址 

    http://nginx.org/en/download.html,這裏咱們推薦下載穩定版(stable versions),本文采用nginx-0.8.20。 


    二、目錄結構 


    Nginx- 

    |_ conf 配置目錄 

    |_ contrib 

    |_ docs 文檔目錄 

    |_ logs 日誌目錄 

    |_ temp 臨時文件目錄 

    |_ html 靜態頁面目錄 

    |_ nginx.exe 主程序 


    window下安裝Nginx極其簡單,解壓縮到一個無空格的英文目錄便可(我的習慣,擔憂中文出問題),雙擊nginx啓動,這裏我安裝到:D:\server目錄,下面涉及到的tomcat也安裝在此目錄。 

    DOS環境啓動 

    若果想中止nginx,dos環境運行命令:nginx -s stop 


    三、nginx.conf配置 


    Nginx配置文件默認在conf目錄,主要配置文件爲nginx.conf,咱們安裝在D:\server\nginx-0.8.20、默認主配置文件爲D:\server\nginx-0.8.20\nginx.conf。下面是nginx做爲前端反向代理服務器的配置。 
    Nginx.conf代碼             

    #Nginx所用用戶和組,window下不指定 
    #user  niumd niumd; 

    #工做的子進程數量(一般等於CPU數量或者2倍於CPU) 
    worker_processes  2; 

    #錯誤日誌存放路徑 
    #error_log  logs/error.log; 
    #error_log  logs/error.log  notice; 
    error_log  logs/error.log  info; 

    #指定pid存放文件 
    pid        logs/nginx.pid; 

    events { 
        #使用網絡IO模型linux建議epoll,FreeBSD建議採用kqueue,window下不指定。 
        #use epoll; 
        
        #容許最大鏈接數 
        worker_connections  2048; 
    } 

    http { 
        include       mime.types; 
        default_type  application/octet-stream; 

    #定義日誌格式 
        #log_format  main  '$remote_addr - $remote_user [$time_local] $request ' 
        #                  '"$status" $body_bytes_sent "$http_referer" ' 
        #                  '"$http_user_agent" "$http_x_forwarded_for"'; 

        #access_log  off; 
        access_log  logs/access.log; 

        client_header_timeout  3m; 
        client_body_timeout    3m; 
        send_timeout           3m; 
     
        client_header_buffer_size    1k; 
        large_client_header_buffers  4 4k; 

        sendfile        on; 
        tcp_nopush      on; 
        tcp_nodelay     on; 

        #keepalive_timeout  75 20; 

        include    gzip.conf; 
        upstream localhost { 
          #根據ip計算將請求分配各那個後端tomcat,許多人誤認爲能夠解決session問題,其實並不能。 
          #同一機器在多網狀況下,路由切換,ip可能不一樣 
          #ip_hash; 
          server localhost:18081; 
          server localhost:18080; 
         } 

        server { 
                listen       80; 
                server_name  localhost;   

                location / { 
                proxy_connect_timeout   3; 
                proxy_send_timeout      30; 
                proxy_read_timeout      30; 
                            proxy_pass http://localhost; 
                } 
                
       } 
    } 


    代理設置以下: 
    Proxy.conf代碼 

    proxy_redirect          off; 
    proxy_set_header        Host $host; 
    proxy_set_header        X-Real-IP $remote_addr; 
    proxy_set_header        X-Forwarded-For $proxy_add_x_forwarded_for; 
    client_max_body_size    10m; 
    client_body_buffer_size 128k; 
    proxy_connect_timeout   300; 
    proxy_send_timeout      300; 
    proxy_read_timeout      300; 
    proxy_buffer_size       4k; 
    proxy_buffers           4 32k; 
    proxy_busy_buffers_size 64k; 
    proxy_temp_file_write_size 64k; 

    gzip壓縮相關配置以下: 
    Gzip.conf代碼 

    gzip              on; 
    gzip_min_length      1000; 
    gzip_types         text/plain text/css application/x-javascript; 


    四、Tomcat配置 


    對於tomcat你們都很熟悉,只須要修改server.xml配置文件便可,這裏咱們以apache-tomcat-6.0.14爲例,分別在server目錄,解壓縮並命名爲:apache-tomcat-6.0.14_一、apache-tomcat-6.0.14_2。 


    第一處端口修改: 
    Xml代碼 

        <!-- 修改port端口:18006 倆個tomcat不能重複,端口隨意,別過小--> 
        <Server port="18006" shutdown="SHUTDOWN"> 

    <!--  修改port端口:18006 倆個tomcat不能重複,端口隨意,別過小--> 
    <Server port="18006" shutdown="SHUTDOWN"> 


    第二處端口修改: 
    Xml代碼 

        <!-- port="18081" tomcat監聽端口,隨意設置,別過小 --> 
        <Connector port="18081" protocol="HTTP/1.1" 
        connectionTimeout="20000" 
        redirectPort="8443" /> 

    <!-- port="18081" tomcat監聽端口,隨意設置,別過小 --> 
    <Connector port="18081" protocol="HTTP/1.1" 
                   connectionTimeout="20000" 
                   redirectPort="8443" /> 

     

    第三處端口修改: 
    Java代碼 

    <Connector port="8009" protocol="AJP/1.3" redirectPort="8443" /> 

    Engine元素增長jvmRoute屬性: 
    Xml代碼 

    <Engine name="Catalina" defaultHost="localhost" jvmRoute="tomcat1"> 


    兩個tomcat的端口別重複,保證能啓動起來,另外一個tomcat配置希捷省略,監聽端口爲18080,附件中咱們將上傳全部的配置信息。 


    五、驗證配置與測試負載均衡 


    首先測試nginx配置是否正確,測試命令:nginx -t (默認驗證:conf\nginx.conf),也能夠指定配置文件路徑。 

    此例nginx安裝目錄:D:\server\nginx-0.8.20,dos環境下圖畫面成功示例: 

    其次驗證tomcat,啓動兩個tomcat,不出現端口衝突即爲成功(tomcat依賴的java等搞「挨踢」的就廢話不說了); 


    最後驗證配置負載均衡設置,http://localhost/或http://localhost/index.jsp。我修改了index.jsp頁面,增長日誌輸出信息,便於觀察。注意:左上角小貓頭上的:access tomcat二、access tomcat1。說明訪問了不一樣的tomcat。 




    至此window下nginx+tomcat負載均衡配置結束,關於tomcat Session的問題一般是採用memcached,或者採用nginx_upstream_jvm_route ,他是一個 Nginx 的擴展模塊,用來實現基於 Cookie 的 Session Sticky 的功能。若是tomcat過多不建議session同步,server間相互同步session很耗資源,高併發環境容易引發Session風暴。請根據本身應用狀況合理採納session解決方案。 

    做者:niumd 

    Blog:http://ari.iteye.com 

    Ubuntu10.10環境:Nginx+Tomcat6 


    咱們下面簡單說下ubuntu10.10下如何安裝配置,主要以圖片爲主,簡單解釋。 

    一、下載Nginx 

    地址:http://nginx.org/en/download.html,linux版本:nginx-0.8.20.tar.。解壓縮命令: 


    tar -zxvf nginx-0.8.20.tar.gz 


    二、編譯安裝Nginx 


    Nginx依賴一些其餘PCRE、openssl(依賴libssl-dev),本人筆記本Ubuntu環境已經安裝PCRE,僅需安裝依賴的openssl,下面咱們簡單說下如何安裝PCRE和openssl等 


    PCRE下載地址:ftp://ftp.csx.cam.ac.uk/pub/software/programming/pcre/ 
    Shell代碼 

    tar zxvf  pcre-8.01.tar.gz 
    cd pcre-8.01 
    sudo ./configure 
    sodu make 
    sodu make install 

    openssl經過apt-get install安裝,命令、截圖以下: 
    Shell代碼 

    sudo apt-get install openssl 
    sudo apt-get install libssl-dev 
    //如缺乏其餘包,請採用此方法安裝,ubuntu有依賴提示 




    依賴的軟件包安裝完畢,下面來編譯Nginx: 
    Shell代碼 

    #將window共享目錄軟件拷貝到當前工做目錄 
    cp /mnt/fileshare/nginx-0.8.20.tar.gz ./ 

    #解壓縮軟件包 
    tar zxvf nginx-0.8.20.tar.gz 

     cd nginx-0.8.20 
    //編譯源碼,默認使用nobody,指定本機已存在的用戶,組,啓用nginx-status功能,監控nginx狀態。啓動debug
     sudo ./configure  --user=niumd --group=niumd --with-debug --with-http_stub_status_module 
     

    sudo make 
    sudo make install 


    截圖 以下: 

    安裝結果截圖以下: 


    編譯安裝正確結束,按照上述window下方法檢查默認配置,而後在默認配置下啓動nginx,訪問http://127.0.0.1,以下圖說明成功 


    Nginx配置成功後咱們對window下nginx.conf少作修改,以下: 
    Ubuntu nginx.conf代碼 

    #Nginx所用用戶和組 
    user  niumd niumd; 

    #工做的子進程數量(一般等於CPU數量或者2倍於CPU) 
    worker_processes  2; 

    #錯誤日誌存放路徑 
    #error_log  logs/error.log; 
    #error_log  logs/error.log  notice; 
    error_log  logs/error.log  info; 

    #指定pid存放文件 
    pid        logs/nginx.pid; 

    events { 
      #使用網絡IO模型linux建議epoll,FreeBSD建議採用kqueue 
        use epoll; 
        
        #容許最大鏈接數 
        worker_connections  2048; 
    } 

    http { 
        include       mime.types; 
        default_type  application/octet-stream; 

      #定義日誌格式 
        #log_format  main  '$remote_addr - $remote_user [$time_local] $request ' 
        #                  '"$status" $body_bytes_sent "$http_referer" ' 
        #                  '"$http_user_agent" "$http_x_forwarded_for"'; 

        #access_log  off; 
        access_log  logs/access.log; 

        client_header_timeout  3m; 
        client_body_timeout    3m; 
        send_timeout           3m; 
     
        client_header_buffer_size    1k; 
        large_client_header_buffers  4 4k; 

        sendfile        on; 
        tcp_nopush      on; 
        tcp_nodelay     on; 

        #keepalive_timeout  75 20; 

        include    gzip.conf; 
        upstream localhost { 
         #ip_hash 
          #ip_hash; 
          server localhost:18081; 
          server localhost:18080; 
         } 

        server { 
                listen       80; 
                server_name  localhost;   

                location / { 
                  proxy_connect_timeout   3; 
                  proxy_send_timeout      30; 
                  proxy_read_timeout      30; 
                    proxy_pass http://localhost; 
                } 
                
       } 
    } 

    對於上面關於ubuntu下Nginx配置和window下基本相同,區別在使用的IO網絡模型,linux下建議使用epoll,另外就是運行所用的用戶和組; 

    三、配置tomcat 

    請參考window下配置,徹底相同。 

    四、啓動中止nginx 

    ubuntu下啓動nginx與window稍有不一樣,大體啓動中止方法以下。 

    Java代碼 

    #nginx目錄執行 
    sbin/nginx 
    或經過-c 指定配置文件 
    sbin/nginx -c usr/local/nginx8.20/conf/nginx/conf 

    Shell代碼 

    niumd@niumd-laptop:/usr/local/nginx$ pwd 
    /usr/local/nginx 
    niumd@niumd-laptop:/usr/local/nginx$ sudo sbin/nginx -t 
    the configuration file /usr/local/nginx/conf/nginx.conf syntax is ok 
    configuration file /usr/local/nginx/conf/nginx.conf test is successful 
    niumd@niumd-laptop:/usr/local/nginx$ sudo sbin/nginx -v 
    nginx version: nginx/0.8.20 
    niumd@niumd-laptop:/usr/local/nginx$ sudo sbin/nginx -V 
    nginx version: nginx/0.8.20 
    built by gcc 4.4.3 (Ubuntu 4.4.3-4ubuntu5) 
    configure arguments: --user=niumd --group=niumd --with-debug --with-http_sub_module 
    niumd@niumd-laptop:/usr/local/nginx$ sudo sbin/nginx 
    niumd@niumd-laptop:/usr/local/nginx$ ps -ef|grep nginx 
    root      5158     1  0 22:32 ?        00:00:00 nginx: master process sbin/nginx 
    niumd     5159  5158  0 22:32 ?        00:00:00 nginx: worker process 
    niumd     5161  1577  0 22:32 pts/0    00:00:00 grep --color=auto nginx 
    niumd@niumd-laptop:/usr/local/nginx$ 

    咱們經過ps -ef|grep nginx,看到以下結果: 

    注意:在啓動時linux提示一句警告【warn】……,是由於咱們設置的 #容許最大鏈接數 worker_connections 2048,超過linux默認1024的限制。 

    中止:kill -信號類型 pid 

    nginx/logs目錄下有個nginx。pid的文件,此文件記錄了每次運行的pid,也能夠經過ps命令查詢。 

    信號類型以下: 

    信號控制 
    信號類型 描述 
    RERM.INT 快速關閉 
    HUP 平滑重啓,加載配置 
    USR1 從新加載日誌 
    USER2 平滑升級執行程序 
    WINCH 從容關閉工做進程 
    QUIT 從容關閉 
     
     
     
     
    Memcached Session Manager + Ngnix的配置 

    1. 下載三個JAR: 

    memcached-2.5.jar 

    memcached-session-manager-1.5.1.jar 

    memcached-session-manager-tc6-1.5.1.jar 

    把它們 放入%tomcat%/lib/ 目錄下 

    2. 修改 %tomcat%/conf/context.xml文件,加入這樣一行代碼: 

    <Manager className="de.javakaffee.web.msm.MemcachedBackupSessionManager" 
    memcachedNodes="n1:localhost:11211" 

    sticky="false" requestUriIgnorePattern=".*\.(ico|png|gif|jpg|css|js)$" /> 

    3. 配置兩臺這樣的tomcat, 一個8080, 一個8090 

    4. 配置nginx,與個tomcat鏈接起來 

    upstream localhost { 
    server locahost:8080; 
    server locahost:8090; 
    } 

    location / { 
    root html; 
    index index.html index.htm; 

    proxy_set_header Host $host; 
    proxy_set_header X_Real_IP $remote_addr; 
    proxy_set_header X-Forwarded-For $remote_addr; 
    proxy_pass http://localhost; 

    5.OK javascript




首先咱們用的是Linux RedHat 4.6 系統,nginx的版本爲nginx-0.9.4.tar.gz,內核版本以下圖:php

實驗主機:css

192.168.3.2爲nginx主機作負載均衡html

192.168.3.3爲WEB服務器前端

192.168.3.4爲web服務器java

首先進入到192.168.3.2源碼包放置的目錄地下,解壓,而後安裝以下圖:node

#cd /duyunlonglinux

#tar -zxf pcre-7.8.tar.gznginx

#cd pcre-7.8web

#./configure && make && make install

#tar -zxf nginx-0.9.4.tar.gz

#cd nginx-0.9.4

#./configure --prefix=/usr/local/nginx && make && make install

這樣nginx的安裝就完成了

#vim /usr/local/nginx/conf/nginx.conf  以下圖:

修改完以後保存退出,而後用192.168.3.1的主機訪問192.168.3.2以下圖:

看到了很成功

注意:在測試的時候要關閉iptables 要不會出現訪問不了的狀況

相關文章
相關標籤/搜索