Tomcat系列(9)——Tomcat 6方面調優（內存，線程，IO，壓縮，緩存，集羣）

核心部分

1. 內存
2. 線程
3. IO
4. 壓縮
5. 緩存
6. 集羣

1、JVM內存優化

Tomcat內存優化,包括內存大小，垃圾回收策略。

Windows 下的catalina.bat，Linux 下的catalina.sh 

系統響應時間增快；

JVM回收速度增快同時又不影響系統的響應率；

JVM內存最大化利用；

線程阻塞狀況最小化。

-server：必定要做爲第一個參數，在多個 CPU 時性能佳，還有一種叫 -client 的模式，特色是啓動速度比較快，但運行時性能和內存管理效率不高，一般用於客戶端應用程序或開發調試，在 32 位環境下直接運行 Java 程序默認啓用該模式。Server 模式的特色是啓動速度比較慢，但運行時性能和內存管理效率很高，適用於生產環境，在具備 64 位能力的 JDK 環境下默認啓用該模式，能夠不配置該參數。

-Xms：表示 Java 初始化堆的大小，-Xms 與-Xmx 設成同樣的值，避免 JVM 反覆從新申請內存，致使性能大起大落，默認值爲物理內存的 1/64，默認（MinHeapFreeRatio參數能夠調整）空餘堆內存小於 40% 時，JVM 就會增大堆直到 -Xmx 的最大限制。

-Xmx：表示最大 Java 堆的最大值，當應用程序須要的內存超出堆的最大值時虛擬機就會提示內存溢出，而且致使應用服務崩潰，所以通常建議堆的最大值設置爲可用內存的最大值的80%。如何知道個人 JVM 可以使用最大值，使用 java -Xmx512M -version 命令來進行測試，而後逐漸的增大 512 的值,若是執行正常就表示指定的內存大小可用，不然會打印錯誤信息，默認值爲物理內存的 1/4，默認（MinHeapFreeRatio參數能夠調整）空餘堆內存大於 70% 時，JVM 會減小堆直到-Xms 的最小限制。

-Xss：表示每一個 Java 線程堆棧大小，JDK 5.0 之後每一個線程堆棧大小爲 1M，之前每一個線程堆棧大小爲 256K。根據應用的線程所需內存大小進行調整，在相同物理內存下，減少這個值能生成更多的線程，可是操做系統對一個進程內的線程數仍是有限制的，不能無限生成，經驗值在 3000~5000 左右。通常小的應用， 若是棧不是很深， 應該是128k 夠用的，大的應用建議使用 256k 或 512K，通常不易設置超過 1M，要否則容易出現out ofmemory。這個選項對性能影響比較大，須要嚴格的測試。

-XX:NewSize：設置新生代內存大小。

-XX:MaxNewSize：設置最大新生代新生代內存大小

-XX:PermSize：設置持久代內存大小

-XX:MaxPermSize：設置最大值持久代內存大小，永久代不屬於堆內存，堆內存只包含新生代和老年代。

-XX:+AggressiveOpts：做用如其名（aggressive），啓用這個參數，則每當 JDK 版本升級時，你的 JVM 都會使用最新加入的優化技術（若是有的話）。

-XX:+UseBiasedLocking：啓用一個優化了的線程鎖，咱們知道在咱們的appserver，每一個http請求就是一個線程，有的請求短有的請求長，就會有請求排隊的現象，甚至還會出現線程阻塞，這個優化了的線程鎖使得你的appserver內對線程處理自動進行最優調配。

-XX:+DisableExplicitGC：在 程序代碼中不容許有顯示的調用「System.gc()」。每次在到操做結束時手動調用 System.gc() 一下，付出的代價就是系統響應時間嚴重下降，就和關於 Xms，Xmx 裏的解釋的原理同樣，這樣去調用 GC 致使系統的 JVM 大起大落。

-XX:+UseConcMarkSweepGC：設置年老代爲併發收集，即 CMS gc，這一特性只有 jdk1.5
後續版本才具備的功能，它使用的是 gc 估算觸發和 heap 佔用觸發。咱們知道頻頻繁的 GC 會造面 JVM
的大起大落從而影響到系統的效率，所以使用了 CMS GC 後能夠在 GC 次數增多的狀況下，每次 GC 的響應時間卻很短，好比說使用了 CMS
GC 後通過 jprofiler 的觀察，GC 被觸發次數很是多，而每次 GC 耗時僅爲幾毫秒。

-XX:+UseParNewGC：對新生代採用多線程並行回收，這樣收得快，注意最新的 JVM 版本，當使用 -XX:+UseConcMarkSweepGC 時，-XX:UseParNewGC 會自動開啓。所以，若是年輕代的並行 GC 不想開啓，能夠經過設置 -XX：-UseParNewGC 來關掉。

-XX:MaxTenuringThreshold：設置垃圾最大年齡。若是設置爲0的話，則新生代對象不通過 Survivor 區，直接進入老年代。對於老年代比較多的應用（須要大量常駐內存的應用），能夠提升效率。若是將此值設置爲一 個較大值，則新生代對象會在 Survivor 區進行屢次複製，這樣能夠增長對象在新生代的存活時間，增長在新生代即被回收的機率，減小Full GC的頻率，這樣作能夠在某種程度上提升服務穩定性。該參數只有在串行 GC 時纔有效，這個值的設置是根據本地的 jprofiler 監控後獲得的一個理想的值，不能一律而論原搬照抄。

-XX:+CMSParallelRemarkEnabled：在使用 UseParNewGC 的狀況下，儘可能減小 mark 的時間。

-XX:+UseCMSCompactAtFullCollection：在使用 concurrent gc 的狀況下，防止 memoryfragmention，對 live object 進行整理，使 memory 碎片減小。

-XX:LargePageSizeInBytes：指定 Java heap 的分頁頁面大小，內存頁的大小不可設置過大， 會影響 Perm 的大小。

-XX:+UseFastAccessorMethods：使用 get，set 方法轉成本地代碼，原始類型的快速優化。

-XX:+UseCMSInitiatingOccupancyOnly：只有在 oldgeneration 在使用了初始化的比例後 concurrent collector 啓動收集。

-Duser.timezone=Asia/Shanghai：設置用戶所在時區。

-Djava.awt.headless=true：這個參數通常咱們都是放在最後使用的，這全參數的做用是這樣的，有時咱們會在咱們的 J2EE 工程中使用一些圖表工具如：jfreechart，用於在 web 網頁輸出 GIF/JPG 等流，在 winodws 環境下，通常咱們的 app server 在輸出圖形時不會碰到什麼問題，可是在linux/unix 環境下常常會碰到一個 exception 致使你在 winodws 開發環境下圖片顯示的好好但是在 linux/unix 下卻顯示不出來，所以加上這個參數以避免避這樣的狀況出現。

-Xmn：新生代的內存空間大小，注意：此處的大小是（eden+ 2 survivor space)。與 jmap -heap 中顯示的 New gen 是不一樣的。整個堆大小 = 新生代大小 + 老生代大小 + 永久代大小。在保證堆大小不變的狀況下，增大新生代後，將會減少老生代大小。此值對系統性能影響較大，Sun官方推薦配置爲整個堆的 3/8。

-XX:CMSInitiatingOccupancyFraction：當堆滿以後，並行收集器便開始進行垃圾收集，例如，當沒有足夠的空間來容納新分配或提高的對象。對於 CMS 收集器，長時間等待是不可取的，由於在併發垃圾收集期間應用持續在運行（而且分配對象）。所以，爲了在應用程序使用完內存以前完成垃圾收集週期，CMS 收集器要比並行收集器更先啓動。由於不一樣的應用會有不一樣對象分配模式，JVM 會收集實際的對象分配（和釋放）的運行時數據，而且分析這些數據，來決定何時啓動一次 CMS 垃圾收集週期。這個參數設置有很大技巧，基本上知足(Xmx-Xmn)*(100-CMSInitiatingOccupancyFraction)/100 >= Xmn 就不會出現 promotion failed。例如在應用中 Xmx 是6000，Xmn 是 512，那麼 Xmx-Xmn 是 5488M，也就是老年代有 5488M，CMSInitiatingOccupancyFraction=90 說明老年代到 90% 滿的時候開始執行對老年代的併發垃圾回收（CMS），這時還 剩 10% 的空間是 5488*10% = 548M，因此即便 Xmn（也就是新生代共512M）裏全部對象都搬到老年代裏，548M 的空間也足夠了，因此只要知足上面的公式，就不會出現垃圾回收時的 promotion failed，所以這個參數的設置必須與 Xmn 關聯在一塊兒。

-XX:+CMSIncrementalMode：該標誌將開啓 CMS 收集器的增量模式。增量模式常常暫停 CMS 過程，以便對應用程序線程做出徹底的讓步。所以，收集器將花更長的時間完成整個收集週期。所以，只有經過測試後發現正常 CMS 週期對應用程序線程干擾太大時，才應該使用增量模式。因爲現代服務器有足夠的處理器來適應併發的垃圾收集，因此這種狀況發生得不多，用於但 CPU狀況。

-XX:NewRatio：年輕代（包括 Eden 和兩個 Survivor 區）與年老代的比值（除去持久代），-XX:NewRatio=4 表示年輕代與年老代所佔比值爲 1:4，年輕代佔整個堆棧的 1/5，Xms=Xmx 而且設置了 Xmn 的狀況下，該參數不須要進行設置。

-XX:SurvivorRatio：Eden 區與 Survivor 區的大小比值，設置爲 8，表示 2 個 Survivor 區（JVM 堆內存年輕代中默認有 2 個大小相等的 Survivor 區）與 1 個 Eden 區的比值爲 2:8，即 1 個 Survivor 區佔整個年輕代大小的 1/10。

-XX:+UseSerialGC：設置串行收集器。

-XX:+UseParallelGC：設置爲並行收集器。此配置僅對年輕代有效。即年輕代使用並行收集，而年老代仍使用串行收集。

-XX:+UseParallelOldGC：配置年老代垃圾收集方式爲並行收集，JDK6.0 開始支持對年老代並行收集。

-XX:ConcGCThreads：早期 JVM 版本也叫-XX:ParallelCMSThreads，定義併發 CMS 過程運行時的線程數。好比 value=4 意味着 CMS 週期的全部階段都以 4 個線程來執行。儘管更多的線程會加快併發 CMS 過程，但其也會帶來額外的同步開銷。所以，對於特定的應用程序，應該經過測試來判斷增長 CMS 線程數是否真的可以帶來性能的提高。若是還標誌未設置，JVM 會根據並行收集器中的 -XX:ParallelGCThreads 參數的值來計算出默認的並行 CMS 線程數。

-XX:ParallelGCThreads：配置並行收集器的線程數，即：同時有多少個線程一塊兒進行垃圾回收，此值建議配置與 CPU 數目相等。

-XX:OldSize：設置 JVM 啓動分配的老年代內存大小，相似於新生代內存的初始大小 -XX:NewSize。

2、Tomcat線程調優

在server.xml中， 包括線程調優，取消DNS，壓縮。

maxThreads :Tomcat 使用線程來處理接收的每一個請求，這個值表示 Tomcat 可建立的最大的線程數，默認值是 200

minSpareThreads：最小空閒線程數，Tomcat 啓動時的初始化的線程數，表示即便沒有人使用也開這麼多空線程等待，默認值是 10。

maxSpareThreads：最大備用線程數，一旦建立的線程超過這個值，Tomcat 就會關閉再也不須要的 socket 線程。

　　　　上邊配置的參數，最大線程 500（通常服務器足以），要根據本身的實際狀況合理設置，設置越大會耗費內存和 CPU，由於 CPU 疲於線程上下文切換，沒有精力提供請求服務了，最小空閒線程數 20，線程最大空閒時間 60 秒，固然容許的最大線程鏈接數還受制於操做系統的內核參數設置，設置多大要根據本身的需求與環境。固然線程能夠配置在「tomcatThreadPool」中，也能夠直接配置在「Connector」中，但不能夠重複配置。

URIEncoding：指定 Tomcat 容器的 URL 編碼格式，語言編碼格式這塊倒不如其它 WEB 服務器軟件配置方便，須要分別指定。

connnectionTimeout： 網絡鏈接超時，單位：毫秒，設置爲 0 表示永不超時，這樣設置有隱患的。一般可設置爲 30000 毫秒，可根據檢測實際狀況，適當修改。

enableLookups： 是否反查域名，以返回遠程主機的主機名，取值爲：true 或 false，若是設置爲false，則直接返回IP地址，爲了提升處理能力，應設置爲 false。

disableUploadTimeout：上傳時是否使用超時機制。

connectionUploadTimeout：上傳超時時間，畢竟文件上傳可能須要消耗更多的時間，這個根據你本身的業務須要本身調，以使Servlet有較長的時間來完成它的執行，須要與上一個參數一塊兒配合使用纔會生效。

acceptCount：指定當全部可使用的處理請求的線程數都被使用時，可傳入鏈接請求的最大隊列長度，超過這個數的請求將不予處理，默認爲100個。

keepAliveTimeout：長鏈接最大保持時間（毫秒），表示在下次請求過來以前，Tomcat 保持該鏈接多久，默認是使用 connectionTimeout 時間，-1 爲不限制超時。

maxKeepAliveRequests：表示在服務器關閉以前，該鏈接最大支持的請求數。超過該請求數的鏈接也將被關閉，1表示禁用，-1表示不限制個數，默認100個，通常設置在100~200之間。


compression：是否對響應的數據進行 GZIP 壓縮，off：表示禁止壓縮；on：表示容許壓縮（文本將被壓縮）、force：表示全部狀況下都進行壓縮，默認值爲off，壓縮數據後能夠有效的減小頁面的大小，通常能夠減少1/3左右，節省帶寬。

compressionMinSize：表示壓縮響應的最小值，只有當響應報文大小大於這個值的時候纔會對報文進行壓縮，若是開啓了壓縮功能，默認值就是2048。

compressableMimeType：壓縮類型，指定對哪些類型的文件進行數據壓縮。

noCompressionUserAgents="gozilla, traviata"： 對於如下的瀏覽器，不啓用壓縮。

若是已經對代碼進行了動靜分離，靜態頁面和圖片等數據就不須要 Tomcat 處理了，那麼也就不須要配置在 Tomcat 中配置壓縮了。

 

 

3、Tomcat IO 調優

Tomcat 鏈接器的三種方式： bio、nio 和 apr，三種方式性能差異很大，apr 的性能最優， bio 的性能最差。而 Tomcat 7 使用的 Connector  默認就啓用的 Apr 協議，但須要系統安裝 Apr 庫，不然就會使用 bio 方式。

 

1:同步阻塞IO（JAVA BIO） 同步並阻塞，服務器實現模式爲一個鏈接一個線程(one connection one thread 想一想都以爲恐怖,線程但是很是寶貴的資源)，固然能夠經過線程池機制改善.

2:JAVA NIO:又分爲同步非阻塞IO,異步阻塞IO 與BIO最大的區別one request one thread.能夠複用同一個線程處理多個connection(多路複用).

3:,異步非阻塞IO(Java NIO2又叫AIO) 主要與NIO的區別主要是操做系統的底層區別.能夠作個比喻:比做快遞，NIO就是網購後要本身到官網查下快遞是否已經到了(多是屢次)，而後本身去取快遞；AIO就是快遞員送貨上門了(不用關注快遞進度)。

 

BIO方式適用於鏈接數目比較小且固定的架構，這種方式對服務器資源要求比較高，併發侷限於應用中，JDK1.4之前的惟一選擇，但程序直觀簡單易理解.

NIO方式適用於鏈接數目多且鏈接比較短（輕操做）的架構，好比聊天服務器，併發侷限於應用中，編程比較複雜，JDK1.4開始支持.

AIO方式使用於鏈接數目多且鏈接比較長（重操做）的架構，好比相冊服務器，充分調用OS參與併發操做，編程比較複雜，JDK7開始支持.

APR是從操做系統級別來解決異步的IO問題,大幅度的提升性能. (http://apr.apache.org/).

 

4、緩存和壓縮

　　對於靜態頁面最好是可以緩存起來，這樣就沒必要每次從磁盤上讀。這裏咱們採用了Nginx做爲緩存服務器，將圖片、css、js文件都進行了緩存，有效的減小了後端tomcat的訪問。另外，爲了能加快網絡傳輸速度，開啓gzip壓縮也是必不可少的。但考慮到tomcat已經須要處理不少東西了，因此把這個壓縮的工做就交給前端的Nginx來完成。除了文本能夠用gzip壓縮，其實不少圖片也能夠用圖像處理工具預先進行壓縮，找到一個平衡點可讓畫質損失很小而文件能夠減少不少。曾經我就見過一個圖片從300多kb壓縮到幾十kb，本身幾乎看不出來區別。

 

 

5、集羣

　　單個服務器性能老是有限的，最好的辦法天然是實現橫向擴展，那麼組建tomcat集羣是有效提高性能的手段。咱們仍是採用了Nginx來做爲請求分流的服務器，後端多個tomcat共享session來協同工做。

 

摘錄地址

1. 【面試總結】--tomcat調優方案
2. Java面試題Tomcat的優化經驗
3. 閒談Tomcat性能優化
4. Tomcat安裝、配置、優化及負載均衡詳解
5. Tomcat學習總結（8）—— Tomcat常見面試題