JVM性能調優總結

最近在網上看到一些人討論到java.lang.Runtime類中的 freeMemory(), totalMemory(), maxMemory()這幾個方法的一些問題，不少人感到很疑惑，爲何，在java程序剛剛啓動起來的時候freeMemory()這個方法返回的只有一兩兆字節，而隨着java程序往前運行，建立了很多的對象，freeMemory()這個方法的返回有時候不但沒有減小，反而會增長。這些人對 freeMemory()這個方法的意義應該有一些誤解，他們認爲這個方法返回的是操做系統的剩餘可用內存，其實根本就不是這樣的。這三個方法反映的都是 java這個進程的內存狀況，跟操做系統的內存根本沒有關係。下面結合totalMemory(), maxMemory()一塊兒來解釋。

maxMemory()這個方法返回的是java虛擬機（這個進程）可以從操做系統那裏挖到的最大的內存，以字節爲單位，若是在運行java程序的時候，沒有添加-Xmx參數，那麼就是64兆，也就是說maxMemory()返回的大約是64*1024*1024字節，這是java虛擬機默認狀況下能從操做系統那裏挖到的最大的內存。若是添加了-Xmx參數，將以這個參數後面的值爲準，例如java -cp you_classpath -Xmx512m your_class，那麼最大內存就是512*1024*1024字節。

totalMemory()這個方法返回的是java虛擬機如今已經從操做系統那裏挖過來的內存大小，也就是java虛擬機這個進程當時所佔用的全部內存。若是在運行java的時候沒有添加-Xms參數，那麼，在java程序運行的過程的，內存老是慢慢的從操做系統那裏挖的，基本上是用多少挖多少，直到挖到maxMemory()爲止，因此totalMemory()是慢慢增大的。若是用了-Xms參數，程序在啓動的時候就會無條件的從操做系統中挖 -Xms後面定義的內存數，而後在這些內存用的差很少的時候，再去挖。

freeMemory()是什麼呢，剛纔講到若是在運行java的時候沒有添加-Xms參數，那麼，在java程序運行的過程的，內存老是慢慢的從操做系統那裏挖的，基本上是用多少挖多少，可是java虛擬機100％的狀況下是會稍微多挖一點的，這些挖過來而又沒有用上的內存，實際上就是 freeMemory()，因此freeMemory()的值通常狀況下都是很小的，可是若是你在運行java程序的時候使用了-Xms，這個時候由於程序在啓動的時候就會無條件的從操做系統中挖-Xms後面定義的內存數，這個時候，挖過來的內存可能大部分沒用上，因此這個時候freeMemory()可能會有些大。

2.一、堆大小設置

JVM 中最大堆大小有三方面限制：相關操做系統的數據模型（32-bt仍是64-bit）限制；系統的可用虛擬內存限制；系統的可用物理內存限制。32位系統下，通常限制在1.5G~2G；64爲操做系統對內存無限制。我在Windows Server 2003 系統，3.5G物理內存，JDK5.0下測試，最大可設置爲1478m。
典型設置：
java -Xmx3550m -Xms3550m -Xmn2g -Xss128k
- Xmx3550m ：設置JVM最大可用內存爲3550M。
-Xms3550m ：設置JVM初始內存爲3550m。此值能夠設置與-Xmx相同，以免每次垃圾回收完成後JVM從新分配內存。
-Xmn2g ：設置年輕代大小爲2G。整個堆大小=年輕代大小 + 年老代大小 + 持久代大小。持久代通常固定大小爲64m，因此增大年輕代後，將會減少年老代大小。此值對系統性能影響較大，Sun官方推薦配置爲整個堆的3/8。
-Xss128k ：設置每一個線程的堆棧大小。JDK5.0之後每一個線程堆棧大小爲1M，之前每一個線程堆棧大小爲256K。根據應用的線程所需內存大小進行調整。在相同物理內存下，減少這個值能生成更多的線程。可是操做系統對一個進程內的線程數仍是有限制的，不能無限生成，經驗值在3000~5000左右。
java -Xmx3550m -Xms3550m -Xss128k -XX:NewRatio=4 -XX:SurvivorRatio=4 -XX:MaxPermSize=16m -XX:MaxTenuringThreshold=0
-XX:NewRatio=4 :設置年輕代（包括Eden和兩個Survivor區）與年老代的比值（除去持久代）。設置爲4，則年輕代與年老代所佔比值爲1：4，年輕代佔整個堆棧的1/5
-XX:SurvivorRatio=4 ：設置年輕代中Eden區與Survivor區的大小比值。設置爲4，則兩個Survivor區與一個Eden區的比值爲2:4，一個Survivor區佔整個年輕代的1/6
-XX:MaxPermSize=16m :設置持久代大小爲16m。
-XX:MaxTenuringThreshold=0 ：設置垃圾最大年齡。若是設置爲0的話，則年輕代對象不通過Survivor區，直接進入年老代。對於年老代比較多的應用，能夠提升效率。若是將此值設置爲一個較大值，則年輕代對象會在Survivor區進行屢次複製，這樣能夠增長對象在年輕代的存活時間，增長在年輕代即被回收的機率。

2.二、回收器選擇

JVM給了三種選擇：串行收集器、並行收集器、併發收集器，可是串行收集器只適用於小數據量的狀況，因此這裏的選擇主要針對並行收集器和併發收集器。默認狀況下，JDK5.0之前都是使用串行收集器，若是想使用其餘收集器須要在啓動時加入相應參數。JDK5.0之後，JVM會根據當前系統配置進行判斷。
吞吐量優先的並行收集器
如上文所述，並行收集器主要以到達必定的吞吐量爲目標，適用於科學技術和後臺處理等。
典型配置：
java -Xmx3800m -Xms3800m -Xmn2g -Xss128k -XX:+UseParallelGC -XX:ParallelGCThreads=20
-XX:+UseParallelGC ：選擇垃圾收集器爲並行收集器。此配置僅對年輕代有效。即上述配置下，年輕代使用併發收集，而年老代仍舊使用串行收集。
-XX:ParallelGCThreads=20 ：配置並行收集器的線程數，即：同時多少個線程一塊兒進行垃圾回收。此值最好配置與處理器數目相等。
java -Xmx3550m -Xms3550m -Xmn2g -Xss128k -XX:+UseParallelGC -XX:ParallelGCThreads=20 -XX:+UseParallelOldGC
-XX:+UseParallelOldGC ：配置年老代垃圾收集方式爲並行收集。JDK6.0支持對年老代並行收集。
java -Xmx3550m -Xms3550m -Xmn2g -Xss128k -XX:+UseParallelGC -XX:MaxGCPauseMillis=100
-XX:MaxGCPauseMillis=100 : 設置每次年輕代垃圾回收的最長時間，若是沒法知足此時間，JVM會自動調全年輕代大小，以知足此值。
java -Xmx3550m -Xms3550m -Xmn2g -Xss128k -XX:+UseParallelGC -XX:MaxGCPauseMillis=100 -XX:+UseAdaptiveSizePolicy
-XX:+UseAdaptiveSizePolicy ：設置此選項後，並行收集器會自動選擇年輕代區大小和相應的Survivor區比例，以達到目標系統規定的最低響應時間或者收集頻率等，此值建議使用並行收集器時，一直打開。
響應時間優先的併發收集器
如上文所述，併發收集器主要是保證系統的響應時間，減小垃圾收集時的停頓時間。適用於應用服務器、電信領域等。
典型配置：
java -Xmx3550m -Xms3550m -Xmn2g -Xss128k -XX:ParallelGCThreads=20 -XX:+UseConcMarkSweepGC -XX:+UseParNewGC
-XX:+UseConcMarkSweepGC ：設置年老代爲併發收集。測試中配置這個之後，-XX:NewRatio=4的配置失效了，緣由不明。因此，此時年輕代大小最好用-Xmn設置。
-XX:+UseParNewGC :設置年輕代爲並行收集。可與CMS收集同時使用。JDK5.0以上，JVM會根據系統配置自行設置，因此無需再設置此值。
java -Xmx3550m -Xms3550m -Xmn2g -Xss128k -XX:+UseConcMarkSweepGC -XX:CMSFullGCsBeforeCompaction=5 -XX:+UseCMSCompactAtFullCollection
-XX:CMSFullGCsBeforeCompaction ：因爲併發收集器不對內存空間進行壓縮、整理，因此運行一段時間之後會產生「碎片」，使得運行效率下降。此值設置運行多少次GC之後對內存空間進行壓縮、整理。
-XX:+UseCMSCompactAtFullCollection ：打開對年老代的壓縮。可能會影響性能，可是能夠消除碎片。

2.三、輔助信息

JVM提供了大量命令行參數，打印信息，供調試使用。主要有如下一些：
-XX:+PrintGC
輸出形式：[GC 118250K->113543K(130112K), 0.0094143 secs]

[Full GC 121376K->10414K(130112K), 0.0650971 secs]
-XX:+PrintGCDetails
輸出形式：[GC [DefNew: 8614K->781K(9088K), 0.0123035 secs] 118250K->113543K(130112K), 0.0124633 secs]

[GC [DefNew: 8614K->8614K(9088K), 0.0000665 secs][Tenured: 112761K->10414K(121024K), 0.0433488 secs] 121376K->10414K(130112K), 0.0436268 secs]
  -XX:+PrintGCTimeStamps -XX:+PrintGC：PrintGCTimeStamps可與上面兩個混合使用
輸出形式：11.851: [GC 98328K->93620K(130112K), 0.0082960 secs]
  -XX:+PrintGCApplicationConcurrentTime: 打印每次垃圾回收前，程序未中斷的執行時間。可與上面混合使用
輸出形式：Application time: 0.5291524 seconds
  -XX:+PrintGCApplicationStoppedTime ：打印垃圾回收期間程序暫停的時間。可與上面混合使用
輸出形式：Total time for which application threads were stopped: 0.0468229 seconds
  -XX:PrintHeapAtGC :打印GC先後的詳細堆棧信息
輸出形式：
34.702: [GC {Heap before gc invocations=7:
def new generation total 55296K, used 52568K [0x1ebd0000, 0x227d0000, 0x227d0000)
eden space 49152K, 99% used [0x1ebd0000, 0x21bce430, 0x21bd0000)
from space 6144K, 55% used [0x221d0000, 0x22527e10, 0x227d0000)
to space 6144K, 0% used [0x21bd0000, 0x21bd0000, 0x221d0000)
tenured generation total 69632K, used 2696K [0x227d0000, 0x26bd0000, 0x26bd0000)
the space 69632K, 3% used [0x227d0000, 0x22a720f8, 0x22a72200, 0x26bd0000)
compacting perm gen total 8192K, used 2898K [0x26bd0000, 0x273d0000, 0x2abd0000)
the space 8192K, 35% used [0x26bd0000, 0x26ea4ba8, 0x26ea4c00, 0x273d0000)
ro space 8192K, 66% used [0x2abd0000, 0x2b12bcc0, 0x2b12be00, 0x2b3d0000)
rw space 12288K, 46% used [0x2b3d0000, 0x2b972060, 0x2b972200, 0x2bfd0000)
34.735: [DefNew: 52568K->3433K(55296K), 0.0072126 secs] 55264K->6615K(124928K)Heap after gc invocations=8:
def new generation total 55296K, used 3433K [0x1ebd0000, 0x227d0000, 0x227d0000)
eden space 49152K, 0% used [0x1ebd0000, 0x1ebd0000, 0x21bd0000)
from space 6144K, 55% used [0x21bd0000, 0x21f2a5e8, 0x221d0000)
to space 6144K, 0% used [0x221d0000, 0x221d0000, 0x227d0000)
tenured generation total 69632K, used 3182K [0x227d0000, 0x26bd0000, 0x26bd0000)
the space 69632K, 4% used [0x227d0000, 0x22aeb958, 0x22aeba00, 0x26bd0000)
compacting perm gen total 8192K, used 2898K [0x26bd0000, 0x273d0000, 0x2abd0000)
the space 8192K, 35% used [0x26bd0000, 0x26ea4ba8, 0x26ea4c00, 0x273d0000)
ro space 8192K, 66% used [0x2abd0000, 0x2b12bcc0, 0x2b12be00, 0x2b3d0000)
rw space 12288K, 46% used [0x2b3d0000, 0x2b972060, 0x2b972200, 0x2bfd0000)
}
, 0.0757599 secs]
  -Xloggc:filename :與上面幾個配合使用，把相關日誌信息記錄到文件以便分析。

3、常見配置彙總

3.一、堆設置
-Xms :初始堆大小
-Xmx :最大堆大小
-XX:NewSize=n :設置年輕代大小
-XX:NewRatio=n: 設置年輕代和年老代的比值。如:爲3，表示年輕代與年老代比值爲1：3，年輕代佔整個年輕代年老代和的1/4
-XX:SurvivorRatio=n :年輕代中Eden區與兩個Survivor區的比值。注意Survivor區有兩個。如：3，表示Eden：Survivor=3：2，一個Survivor區佔整個年輕代的1/5
-XX:MaxPermSize=n :設置持久代大小
3.二、收集器設置
-XX:+UseSerialGC :設置串行收集器
-XX:+UseParallelGC :設置並行收集器
-XX:+UseParalledlOldGC :設置並行年老代收集器
-XX:+UseConcMarkSweepGC :設置併發收集器
3.三、垃圾回收統計信息
-XX:+PrintGC
-XX:+PrintGCDetails
-XX:+PrintGCTimeStamps
-Xloggc:filename
3.四、並行收集器設置
-XX:ParallelGCThreads=n :設置並行收集器收集時使用的CPU數。並行收集線程數。
-XX:MaxGCPauseMillis=n :設置並行收集最大暫停時間
-XX:GCTimeRatio=n :設置垃圾回收時間佔程序運行時間的百分比。公式爲1/(1+n)
3.五、併發收集器設置
-XX:+CMSIncrementalMode :設置爲增量模式。適用於單CPU狀況。
-XX:ParallelGCThreads=n :設置併發收集器年輕代收集方式爲並行收集時，使用的CPU數。並行收集線程數。

4、調優總結

4.一、年輕代大小選擇

響應時間優先的應用：儘量設大，直到接近系統的最低響應時間限制（根據實際狀況選擇）。在此種狀況下，年輕代收集發生的頻率也是最小的。同時，減小到達年老代的對象。
吞吐量優先的應用：儘量的設置大，可能到達Gbit的程度。由於對響應時間沒有要求，垃圾收集能夠並行進行，通常適合8CPU以上的應用。

4.二、年老代大小選擇

響應時間優先的應用：年老代使用併發收集器，因此其大小須要當心設置，通常要考慮併發會話率和會話持續時間等一些參數。若是堆設置小了，能夠會形成內存碎片、高回收頻率以及應用暫停而使用傳統的標記清除方式；若是堆大了，則須要較長的收集時間。最優化的方案，通常須要參考如下數據得到：
併發垃圾收集信息
持久代併發收集次數
傳統GC信息
花在年輕代和年老代回收上的時間比例
減小年輕代和年老代花費的時間，通常會提升應用的效率
吞吐量優先的應用：通常吞吐量優先的應用都有一個很大的年輕代和一個較小的年老代。緣由是，這樣能夠儘量回收掉大部分短時間對象，減小中期的對象，而年老代盡存放長期存活對象。
較小堆引發的碎片問題
由於年老代的併發收集器使用標記、清除算法，因此不會對堆進行壓縮。當收集器回收時，他會把相鄰的空間進行合併，這樣能夠分配給較大的對象。可是，當堆空間較小時，運行一段時間之後，就會出現「碎片」，若是併發收集器找不到足夠的空間，那麼併發收集器將會中止，而後使用傳統的標記、清除方式進行回收。若是出現「碎片」，可能須要進行以下配置：
-XX:+UseCMSCompactAtFullCollection ：使用併發收集器時，開啓對年老代的壓縮。
-XX:CMSFullGCsBeforeCompaction=0 ：上面配置開啓的狀況下，這裏設置多少次Full GC後，對年老代進行壓縮

5、Tomcat中配置實踐

我在tomcat中的jvm鏈接數，和tomcat優化的使用以下：

一、 tomcat7安裝目錄\bin\catalina.bat (linux修改的是catalina.sh文件)

添加以下語句：

JAVA_OPTS=-Djava.awt.headless=true -Dfile.encoding=UTF-8 -server -Xms1024m -Xmx1024m -Xss1m -XX:NewSize=256m -XX:MaxNewSize=512m -XX:PermSize=256M -XX:MaxPermSize=512m

-XX:+DisableExplicitGC

二、查看tomcat的JVM內存

tomcat7中默認沒有用戶的，咱們首先要添加用戶有：

修改tomcat7安裝目錄下\conf\tomcat-users.xml password是能夠自由定義的。

三、檢查webapps下是否有Manager目錄，通常發佈時咱們都把這個目錄刪除了，如今看來刪除早了，在調試期要保留啊！

四、訪問地址： http://localhost:8080/manager/status 查看內存配置狀況，經測試-Xms512m -Xmx512m與-Xms1024m -Xmx1024m內存使用狀況不同，使用1024的時候有一項內存使用99%。因此看來這個設置多少與實際機器有關，須要Manager進行查看後肯定。

五、在啓動Tomcat中發現，有同志發佈程序時把咱們在TOMCAT7中引用的外部JAR包重複發佈到LIB目錄下了，咱們之後在發佈時要檢查LIB下是否是包括 el-api.jar jsp-api servlet-api,特別注意的是最後一個servlet-api，我發現兩個項目都把它拷貝到了LIB目錄下！！被我刪除了。

六、使用TOMAT的鏈接池：說明：

maxThreads：最大線程數 300
minSpareThreads：初始化創建的線程數 50
maxThreads：一旦線程超過這個值，Tomcat就會關閉再也不須要的線程
maxIdleTime：爲最大空閒時間、單位爲毫秒。
executor爲線程池的名字，對應Executor 中的name屬性；
Connector 標籤中再也不有maxThreads的設置。

七、若是tomcat不使用線程池則基本配置以下：修改Tomcat的/conf目錄下面的server.xml文件，針對端口爲8080的鏈接器添加以下參數：

connectionTimeout：鏈接失效時間，單位爲毫秒、默認爲60s、這裏設置爲30s，若是用戶請求在30s內未能進入請求隊列，視爲本次鏈接失敗。
keepAliveTimeout：鏈接的存活時間，默認和connectionTimeout一致，這裏能夠設爲15s、這意味着15s以後本次鏈接關閉. 若是頁面須要加載大量圖片、js等靜態資源，須要將參數適當調大一點、以避免屢次建立TCP鏈接。
enableLookups：是否對鏈接到服務器的遠程機器查詢其DNS主機名，通常狀況下這並沒必要要，所以設爲false便可。
URIEncoding：設置URL參數的編碼格式爲UTF-8編碼，默認爲ISO-8859-1編碼。
maxHttpHeaderSize：設置HTTP請求、響應的頭部內容大小，默認爲8192字節(8k)，此處設置爲32768字節(32k)、和Nginx的設置保持一致。
maxThreads：最大線程數、用於處理用戶請求的線程數目，默認爲200、此處設置爲300
acceptCount：用戶請求等候隊列的大小，默認爲100、此處設置爲200 Linux系統默認一個進程可以建立的最大線程數爲102四、所以對高併發應用須要進行Linux內核調優，至此文件server.xml修改後的內容以下所示：再次登陸查看狀態， http://localhost:8080/manager/status 用戶名、密碼就是上邊配置的。