（轉）JVM調優

一、freeMemory(), totalMemory(), maxMemory()比較

最近在網上看到一些人討論到java.lang.Runtime類中的 freeMemory(), totalMemory(), maxMemory()這幾個方法的一些問題，不少人感到很疑惑，爲何，在java程序剛剛啓動起來的時候freeMemory()這個方法返回的只有一兩兆字節，而隨着java程序往前運行，建立了很多的對象，freeMemory()這個方法的返回有時候不但沒有減小，反而會增長。這些人對 freeMemory()這個方法的意義應該有一些誤解，他們認爲這個方法返回的是操做系統的剩餘可用內存，其實根本就不是這樣的。這三個方法反映的都是 java這個進程的內存狀況，跟操做系統的內存根本沒有關係。下面結合totalMemory(), maxMemory()一塊兒來解釋。

1.maxMemory()這個方法返回的是java虛擬機（這個進程）能構從操做系統那裏挖到的最大的內存，以字節爲單位，若是在運行java程序的時候，沒有添加-Xmx參數，那麼就是64兆，也就是說maxMemory()返回的大約是6410241024字節，這是java虛擬機默認狀況下能從操做系統那裏挖到的最大的內存。若是添加了-Xmx參數，將以這個參數後面的值爲準，例如java -cp you_classpath -Xmx512m your_class，那麼最大內存就是51210241024字節。

2.totalMemory()這個方法返回的是java虛擬機如今已經從操做系統那裏挖過來的內存大小，也就是java虛擬機這個進程當時所佔用的全部內存。若是在運行java的時候沒有添加-Xms參數，那麼，在java程序運行的過程的，內存老是慢慢的從操做系統那裏挖的，基本上是用多少挖多少，直到挖到maxMemory()爲止，因此totalMemory()是慢慢增大的。若是用了-Xms參數，程序在啓動的時候就會無條件的從操做系統中挖 -Xms後面定義的內存數，而後在這些內存用的差很少的時候，再去挖。

3.freeMemory()是什麼呢，剛纔講到若是在運行java的時候沒有添加-Xms參數，那麼，在java程序運行的過程的，內存老是慢慢的從操做系統那裏挖的，基本上是用多少挖多少，可是java虛擬機100％的狀況下是會稍微多挖一點的，這些挖過來而又沒有用上的內存，實際上就是 freeMemory()，因此freeMemory()的值通常狀況下都是很小的，可是若是你在運行java程序的時候使用了-Xms，這個時候由於程序在啓動的時候就會無條件的從操做系統中挖-Xms後面定義的內存數，這個時候，挖過來的內存可能大部分沒用上，因此這個時候freeMemory()可能會有些大。

二、堆大小設置

首先明確JVM內存模型：
JVM運行時內存 = 共享內存區（堆+永久代） + 線程內存區
堆=年輕代+老年代
年輕代=伊甸區+2*倖存者區
線程內存區=單個線程內存*線程數
單個線程內存=PC 寄存器+JVM棧+本地方法棧
JVM棧=棧幀+棧幀+.....
棧幀=局域變量區+操做數區+幀數據區
Xms 是指設定程序啓動時佔用內存大小。通常來說，大點，程序會啓動的快一點，可是也可能會致使機器暫時間變慢。

Xmx 是指設定程序運行期間最大可佔用的內存大小。若是程序運行須要佔用更多的內存，超出了這個設置值，就會拋出OutOfMemory異常。

Xss 是指設定每一個線程的內存大小。這個就要依據你的程序，看一個線程大約須要佔用多少內存，可能會有多少線程同時運行等。

以上三個參數的設置都是默認以Byte爲單位的，也能夠在數字後面添加[k/K]或者[m/M]來表示KB或者MB。並且，超過機器自己的內存大小也是不能夠的，不然就等着機器變慢而不是程序變慢了。

1. -Xms 爲jvm啓動時分配的內存，好比-Xms200m，表示分配200M
2. -Xmx 爲jvm運行過程當中分配的最大內存，好比-Xms500m，表示jvm進程最多隻可以佔用500M內存
3. -Xss 爲jvm啓動的每一個線程分配的內存大小，默認JDK1.4中是256K，JDK1.5+中是1M。在java中每new一個線程，jvm都是向操做系統請求new一個本地線程，此時操做系統會使用剩餘的內存空間來爲線程分配內存，而不是使用jvm的內存。這樣，當操做系統的可用內存越少，則jvm可用建立的新線程也就越少

JVM 中最大堆大小有三方面限制：相關操做系統的數據模型（32-bt仍是64-bit）限制；系統的可用虛擬內存限制；系統的可用物理內存限制。32位系統下，通常限制在1.5G~2G；64爲操做系統對內存無限制。我在Windows Server 2003 系統，3.5G物理內存，JDK5.0下測試，最大可設置爲1478m。
典型設置：
java -Xmx3550m -Xms3550m -Xmn2g -Xss128k
-Xmx3550m ：設置JVM最大可用內存爲3550M。
-Xms3550m ：設置JVM促使內存爲3550m。此值能夠設置與-Xmx相同，以免每次垃圾回收完成後JVM從新分配內存。
-Xmn2g ：設置年輕代大小爲2G。整個內存大小=年輕代大小 + 年老代大小 + 持久代大小 。持久代通常固定大小爲64m，因此增大年輕代後，將會減少年老代大小。此值對系統性能影響較大，Sun官方推薦配置爲整個堆的3/8。
-Xss128k ：設置每一個線程的內存大小。JDK5.0之後每一個線程內存大小爲1M，之前每一個線程內存大小爲256K。更具應用的線程所需內存大小進行調整。在相同物理內存下，減少這個值能生成更多的線程。可是操做系統對一個進程內的線程數仍是有限制的，不能無限生成，經驗值在3000~5000左右。
java -Xmx3550m -Xms3550m -Xss128k -XX:NewRatio=4 -XX:SurvivorRatio=4 -XX:MaxPermSize=16m -XX:MaxTenuringThreshold=0
-XX:NewRatio=4 :設置年輕代（包括Eden和兩個Survivor區）與年老代的比值（除去持久代）。設置爲4，則年輕代與年老代所佔比值爲1：4，年輕代佔整個堆棧的1/5
-XX:SurvivorRatio=4 ：設置年輕代中Eden區與Survivor區的大小比值。設置爲4，則兩個Survivor區與一個Eden區的比值爲2:4，一個Survivor區佔整個年輕代的1/6
-XX:MaxPermSize=16m :設置持久代大小爲16m。
-XX:MaxTenuringThreshold=0 ：設置垃圾最大年齡。若是設置爲0的話，則年輕代對象不通過Survivor區，直接進入年老代 。對於年老代比較多的應用，能夠提升效率。若是將此值設置爲一個較大值，則年輕代對象會在Survivor區進行屢次複製，這樣能夠增長對象再年輕代的存活時間 ，增長在年輕代即被回收的概論。

三、回收器選擇

JVM給了三種選擇：串行收集器、並行收集器、併發收集器 ，可是串行收集器只適用於小數據量的狀況，因此這裏的選擇主要針對並行收集器和併發收集器。默認狀況下，JDK5.0之前都是使用串行收集器，若是想使用其餘收集器須要在啓動時加入相應參數。JDK5.0之後，JVM會根據當前系統配置 進行判斷。
1.吞吐量優先 的並行收集器
如上文所述，並行收集器主要以到達必定的吞吐量爲目標，適用於科學技術和後臺處理等。
典型配置 ：
java -Xmx3800m -Xms3800m -Xmn2g -Xss128k -XX:+UseParallelGC -XX:ParallelGCThreads=20
-XX:+UseParallelGC ：選擇垃圾收集器爲並行收集器。 此配置僅對年輕代有效。即上述配置下，年輕代使用併發收集，而年老代仍舊使用串行收集。
-XX:ParallelGCThreads=20 ：配置並行收集器的線程數，即：同時多少個線程一塊兒進行垃圾回收。此值最好配置與處理器數目相等。

java -Xmx3550m -Xms3550m -Xmn2g -Xss128k -XX:+UseParallelGC -XX:ParallelGCThreads=20 -XX:+UseParallelOldGC
-XX:+UseParallelOldGC ：配置年老代垃圾收集方式爲並行收集。JDK6.0支持對年老代並行收集。

java -Xmx3550m -Xms3550m -Xmn2g -Xss128k -XX:+UseParallelGC -XX:MaxGCPauseMillis=100
-XX:MaxGCPauseMillis=100 : 設置每次年輕代垃圾回收的最長時間，若是沒法知足此時間，JVM會自動調全年輕代大小，以知足此值。

java -Xmx3550m -Xms3550m -Xmn2g -Xss128k -XX:+UseParallelGC -XX:MaxGCPauseMillis=100 -XX:+UseAdaptiveSizePolicy
-XX:+UseAdaptiveSizePolicy ：設置此選項後，並行收集器會自動選擇年輕代區大小和相應的Survivor區比例，以達到目標系統規定的最低相應時間或者收集頻率等，此值建議使用並行收集器時，一直打開。

2.響應時間優先 的併發收集器
如上文所述，併發收集器主要是保證系統的響應時間，減小垃圾收集時的停頓時間。適用於應用服務器、電信領域等。
典型配置 ：
java -Xmx3550m -Xms3550m -Xmn2g -Xss128k -XX:ParallelGCThreads=20 -XX:+UseConcMarkSweepGC -XX:+UseParNewGC
-XX:+UseConcMarkSweepGC ：設置年老代爲併發收集。測試中配置這個之後，-XX:NewRatio=4的配置失效了，緣由不明。因此，此時年輕代大小最好用-Xmn設置。
-XX:+UseParNewGC :設置年輕代爲並行收集。可與CMS收集同時使用。JDK5.0以上，JVM會根據系統配置自行設置，因此無需再設置此值。

java -Xmx3550m -Xms3550m -Xmn2g -Xss128k -XX:+UseConcMarkSweepGC -XX:CMSFullGCsBeforeCompaction=5 -XX:+UseCMSCompactAtFullCollection
-XX:CMSFullGCsBeforeCompaction ：因爲併發收集器不對內存空間進行壓縮、整理，因此運行一段時間之後會產生「碎片」，使得運行效率下降。此值設置運行多少次GC之後對內存空間進行壓縮、整理。
-XX:+UseCMSCompactAtFullCollection ：打開對年老代的壓縮。可能會影響性能，可是能夠消除碎片

四、輔助信息

JVM提供了大量命令行參數，打印信息，供調試使用。主要有如下一些：
-XX:+PrintGC
輸出形式：[GC 118250K->113543K(130112K), 0.0094143 secs]
[Full GC 121376K->10414K(130112K), 0.0650971 secs]
-XX:+PrintGCDetails
輸出形式：[GC [DefNew: 8614K->781K(9088K), 0.0123035 secs] 118250K->113543K(130112K), 0.0124633 secs]
GC [DefNew: 8614K->8614K(9088K), 0.0000665 secs 121376K->10414K(130112K), 0.0436268 secs]

-XX:+PrintGCTimeStamps -XX:+PrintGC：PrintGCTimeStamps可與上面兩個混合使用
輸出形式：11.851: [GC 98328K->93620K(130112K), 0.0082960 secs]
-XX:+PrintGCApplicationConcurrentTime: 打印每次垃圾回收前，程序未中斷的執行時間。可與上面混合使用
輸出形式：Application time: 0.5291524 seconds
-XX:+PrintGCApplicationStoppedTime ：打印垃圾回收期間程序暫停的時間。可與上面混合使用
輸出形式：Total time for which application threads were stopped: 0.0468229 seconds
-XX:PrintHeapAtGC :打印GC先後的詳細堆棧信息
輸出形式：
34.702: [GC {Heap before gc invocations=7:
def new generation total 55296K, used 52568K [0x1ebd0000, 0x227d0000, 0x227d0000)
eden space 49152K, 99% used [0x1ebd0000, 0x21bce430, 0x21bd0000)
from space 6144K, 55% used [0x221d0000, 0x22527e10, 0x227d0000)
to space 6144K, 0% used [0x21bd0000, 0x21bd0000, 0x221d0000)
tenured generation total 69632K, used 2696K [0x227d0000, 0x26bd0000, 0x26bd0000)
the space 69632K, 3% used [0x227d0000, 0x22a720f8, 0x22a72200, 0x26bd0000)
compacting perm gen total 8192K, used 2898K [0x26bd0000, 0x273d0000, 0x2abd0000)
the space 8192K, 35% used [0x26bd0000, 0x26ea4ba8, 0x26ea4c00, 0x273d0000)
ro space 8192K, 66% used [0x2abd0000, 0x2b12bcc0, 0x2b12be00, 0x2b3d0000)
rw space 12288K, 46% used [0x2b3d0000, 0x2b972060, 0x2b972200, 0x2bfd0000)
34.735: [DefNew: 52568K->3433K(55296K), 0.0072126 secs] 55264K->6615K(124928K)Heap after gc invocations=8:
def new generation total 55296K, used 3433K [0x1ebd0000, 0x227d0000, 0x227d0000)
eden space 49152K, 0% used [0x1ebd0000, 0x1ebd0000, 0x21bd0000)
from space 6144K, 55% used [0x21bd0000, 0x21f2a5e8, 0x221d0000)
to space 6144K, 0% used [0x221d0000, 0x221d0000, 0x227d0000)
tenured generation total 69632K, used 3182K [0x227d0000, 0x26bd0000, 0x26bd0000)
the space 69632K, 4% used [0x227d0000, 0x22aeb958, 0x22aeba00, 0x26bd0000)
compacting perm gen total 8192K, used 2898K [0x26bd0000, 0x273d0000, 0x2abd0000)
the space 8192K, 35% used [0x26bd0000, 0x26ea4ba8, 0x26ea4c00, 0x273d0000)
ro space 8192K, 66% used [0x2abd0000, 0x2b12bcc0, 0x2b12be00, 0x2b3d0000)
rw space 12288K, 46% used [0x2b3d0000, 0x2b972060, 0x2b972200, 0x2bfd0000)
}
, 0.0757599 secs]
-Xloggc:filename :與上面幾個配合使用，把相關日誌信息記錄到文件以便分析。

五、常見配置總結

1. 堆設置

   • -Xms :初始堆大小
   • -Xmx :最大堆大小
   • -Xmn :年輕代大小
   • -Xss ：每一個線程分配的內存大小
   • -XX:NewSize=n :設置年輕代初始大小
   • -XX:NewRatio=n: 設置年輕代和年老代的比值。如:爲3，表示年輕代與年老代比值爲1：3，年輕代佔整個年輕代年老代和的1/4
   • -XX:SurvivorRatio=n :年輕代中Eden區與兩個Survivor區的比值。注意Survivor區有兩個。如：3，表示Eden：Survivor=3：2，一個Survivor區佔整個年輕代的1/5
   • -XX:MaxPermSize=n :設置持久代大小

2. 收集器設置

   • -XX:+UseSerialGC :設置串行收集器
   • -XX:+UseParallelGC :設置並行收集器
   • -XX:+UseParalledlOldGC :設置並行年老代收集器
   • -XX:+UseConcMarkSweepGC :設置併發收集器

3. 垃圾回收統計信息

   • -XX:+PrintGC
   • -XX:+PrintGCDetails
   • -XX:+PrintGCTimeStamps
   • -Xloggc:filename

4. 並行收集器設置

   • -XX:ParallelGCThreads=n :設置並行收集器收集時使用的CPU數。並行收集線程數。
   • -XX:MaxGCPauseMillis=n :設置並行收集最大暫停時間
   • -XX:GCTimeRatio=n :設置垃圾回收時間佔程序運行時間的百分比。公式爲1/(1+n)

5. 併發收集器設置

   • -XX:+CMSIncrementalMode :設置爲增量模式。適用於單CPU狀況。
   • -XX:ParallelGCThreads=n :設置併發收集器年輕代收集方式爲並行收集時，使用的CPU數。並行收集線程數。

六、調優總結

1.年輕代大小選擇

• 響應時間優先的應用 ：儘量設大，直到接近系統的最低響應時間限制 （根據實際狀況選擇）。在此種狀況下，年輕代收集發生的頻率也是最小的。同時，減小到達年老代的對象。
• 吞吐量優先的應用 ：儘量的設置大，可能到達Gbit的程度。由於對響應時間沒有要求，垃圾收集能夠並行進行，通常適合8CPU以上的應用。

2.年老代大小選擇

• 響應時間優先的應用 ：年老代使用併發收集器，因此其大小須要當心設置，通常要考慮併發會話率 和會話持續時間 等一些參數。若是堆設置小了，能夠會形成內存碎片、高回收頻率以及應用暫停而使用傳統的標記清除方式；若是堆大了，則須要較長的收集時間。最優化的方案，通常須要參考如下數據得到：

  • 併發垃圾收集信息
  • 持久代併發收集次數
  • 傳統GC信息
  • 花在年輕代和年老代回收上的時間比例

減小年輕代和年老代花費的時間，通常會提升應用的效率

• 吞吐量優先的應用 ：通常吞吐量優先的應用都有一個很大的年輕代和一個較小的年老代。緣由是，這樣能夠儘量回收掉大部分短時間對象，減小中期的對象，而年老代盡存放長期存活對象。
• 較小堆引發的碎片問題:
  由於年老代的併發收集器使用標記、清除算法，因此不會對堆進行壓縮。當收集器回收時，他會把相鄰的空間進行合併，這樣能夠分配給較大的對象。可是，當堆空間較小時，運行一段時間之後，就會出現「碎片」，若是併發收集器找不到足夠的空間，那麼併發收集器將會中止，而後使用傳統的標記、清除方式進行回收。若是出現「碎片」，可能須要進行以下配置：
  -XX:+UseCMSCompactAtFullCollection ：使用併發收集器時，開啓對年老代的壓縮。
  -XX:CMSFullGCsBeforeCompaction=0 ：上面配置開啓的狀況下，這裏設置多少次Full GC後，對年老代進行壓縮

七、tomcat中的jvm鏈接數，和tomcat優化的使用以下：

一、 tomcat7安裝目錄bincatalina.bat (linux修改的是catalina.sh文件)

添加以下語句：

JAVA_OPTS=-Djava.awt.headless=true -Dfile.encoding=UTF-8 -server -Xms1024m -Xmx1024m -Xss1m -XX:NewSize=256m -XX:MaxNewSize=512m -XX:PermSize=256M -XX:MaxPermSize=512m

-XX:+DisableExplicitGC

二、查看tomcat的JVM內存

tomcat7中默認沒有用戶的，咱們首先要添加用戶有：

修改tomcat7安裝目錄下conftomcat-users.xml

<!--############################################################-->
<!--添加tomcat用戶管理-->
<rol rolename="manager-gui"/>
<user username="tomcat" password="tomcat" roles="manager-gui"/>
<!--############################################################-->

password是能夠自由定義的。

三、檢查webapps下是否有Manager目錄，通常發佈時咱們都把這個目錄刪除了，如今看來刪除早了，在調試期要保留啊！

四、訪問地址：

http://localhost:8080/manager/status

查看內存配置狀況，經測試-Xms512m -Xmx512m與-Xms1024m -Xmx1024m內存使用狀況不同，使用1024的時候有一項內存使用99%。因此看來這個設置多少與實際機器有關，須要Manager進行查看後肯定。

五、在啓動Tomcat中發現，有同志發佈程序時把咱們在TOMCAT7中引用的外部JAR包重複發佈到LIB目錄下了，咱們之後在發佈時要檢查LIB下是否是包括

el-api.jar jsp-api servlet-api,特別注意的是最後一個servlet-api，我發現兩個項目都把它拷貝到了LIB目錄下！！被我刪除了。

六、使用TOMAT的鏈接池：

<Executor name="tomcatThreadPool" namePrefix="catalina-exec-" maxThreads="300" minSpareThreads="50" maxIdleTime="15000"/>

<Connector port="8080

executor="tomcatThreadPool"

protocol="org.apache.coyote.http11.Http11NioProtocol"
redirectPort="8443"

connectionTimeout="30000"

enableLookups="false"

keepAliveTimeout="15000"

URIEncoding="UTF-8"

maxHttpHeaderSize="32768"

acceptCount="200"/>

說明：

maxThreads：最大線程數 300

minSpareThreads：初始化創建的線程數 50

maxThreads：一旦線程超過這個值，Tomcat就會關閉再也不須要的線程

maxIdleTime：爲最大空閒時間、單位爲毫秒。

executor爲線程池的名字，對應Executor 中的name屬性；Connector 標籤中再也不有maxThreads的設置。

若是tomcat不使用線程池則基本配置以下：

<Connector port="8080"

protocol="HTTP/1.1"

redirectPort="8443"

connectionTimeout="30000"

keepAliveTimeout="15000"

enableLookups="false"

URIEncoding="UTF-8"

maxHttpHeaderSize="32768"

maxThreads="300"

acceptCount="200"

/>

修改Tomcat的/conf目錄下面的server.xml文件，針對端口爲8080的鏈接器添加以下參數：

1. connectionTimeout：鏈接失效時間，單位爲毫秒、默認爲60s、這裏設置爲30s，若是用戶請求在30s內未能進入請求隊列，視爲本次鏈接失敗。

2. keepAliveTimeout：鏈接的存活時間，默認和connectionTimeout一致，這裏能夠設爲15s、這意味着15s以後本次鏈接關閉. 若是頁面須要加載大量圖片、js等靜態資源，須要將參數適當調大一點、以避免屢次建立TCP鏈接。

 3. enableLookups：是否對鏈接到服務器的遠程機器查詢其DNS主機名，通常狀況下這並沒必要要，所以設爲false便可。

 4. URIEncoding：設置URL參數的編碼格式爲UTF-8編碼，默認爲ISO-8859-1編碼。

 5. maxHttpHeaderSize：設置HTTP請求、響應的頭部內容大小，默認爲8192字節(8k)，此處設置爲32768字節(32k)、和Nginx的設置保持一致。

 6. maxThreads：最大線程數、用於處理用戶請求的線程數目，默認爲200、此處設置爲300

 7. acceptCount：用戶請求等候隊列的大小，默認爲100、此處設置爲200