素小暖講JVM：JVM內存調優

本系列是用來記錄《深刻理解Java虛擬機》這本書的讀書筆記。方便本身查看，也方便你們查閱。

欲速則不達，欲達則欲速！

1、VM內存的系統級調優

首選注意在對JVM內存調優的時候不能只看操做系統級別java進程所佔用的內存，這個數值不能準確的反應堆內存的真實佔用狀況，由於GC事後這個值是不會變化的，所以內存調優的時候要更多地使用JDK提供的內存查看工具，好比JConsole和java VisualVM。

對JVM內存的系統級的調優主要目的是減小GC的頻率和Full GC的次數，過多的GC和Full GC是會佔用不少的系統資源（主要是CPU），影響系統的吞吐量。特別要關注Full GC，由於它會對整個堆進行整理，Full GC通常由如下幾個緣由致使：

一、老年代空間不足

調優時儘可能讓對象在新生代GC時被回收、讓對象在新生代多存活一段時間和不要建立過大的對象及數組避免直接在老年代建立對象

二、持久代;空間不足

增大持久代空間，避免太多靜態對象

三、System.gc()被顯示調用

垃圾回收不要手動觸發，儘可能依靠JVM自身的機制 

2、調優手段

調優手段主要是經過控制堆內存的各個部分的比例和GC策略來實現，下面來看看各部分比例不良設置會致使什麼後果：

一、新生代設置太小

• 新生代GC次數很是頻繁，增大系統消耗
• 致使大對象直接進入老年代，佔據了老年代剩餘空間，誘發Full GC

二、新生代設置過大

• 新生代設置過大會致使老年代太小，從而誘發Full GC
• 新生代GC耗時大幅度增長

通常來講新生代佔整個堆1/3比較合適

三、保留空間Survivor設置太小

致使對象從使用空間eden直接到達老年代，下降了在新生代的存活時間

四、保留空間Survivor設置過大

致使eden太小，增長了GC頻率

另外，經過-XX:MaxTenuringThreshold=n來控制新生代存活時間，儘可能讓對象在新生代被回收

JVM提供兩種較爲簡單的GC策略的設置方式

（1）吞吐量優先

JVM以吞吐量爲指標，自行選擇相應的GC策略及控制新生代與老年代的大小比例，來達到吞吐量指標。這個值可由-XX:GCTimeRatio=n來設置。

（2）暫停時間優先

JVM以暫停時間爲指標，自行選擇相應的GC策略及控制新生代和老年代的大小比例，儘可能保證每次GC形成的應用中止時間都在指定的數值範圍內完成，這個值可由-XX:MaxGCPauseRatio=n來設置。

3、JVM參數設置、分析

無論是YGC仍是Full GC,GC過程當中都會對致使程序運行中中斷,正確的選擇HotSpot VM GC 的種類，調整JVM、GC的參數，能夠極大的減小因爲GC工做，而致使的程序運行中斷方面的問題，進而適當的提升Java程序的工做效率。可是調整GC是一個極爲複雜的過程，因爲各個程序具有不一樣的特色，如：web和GUI程序就有很大區別（Web能夠適當的停頓，但GUI停頓是客戶沒法接受的），並且因爲跑在各個機器上的配置不一樣（主要cup個數，內存不一樣），因此使用的GC種類也會不一樣(如何選擇見HotSpot VM GC 的種類)。本文將注重介紹JVM、GC的一些重要參數的設置來提升系統的性能。

一、JVM參數的含義：

參數名稱	含義	默認值	詳解
-Xms	初始堆大小	物理內存的 1/64(<1GB)	默認(MinHeapFreeRatio參數能夠調整)空餘堆內存小於40%時， JVM就會增大堆直到-Xmx的最大限制.
-Xmx	最大堆大小	物理內存的 1/4(<1GB)	默認(MaxHeapFreeRatio參數能夠調整)空餘堆內存大於70%時， JVM會減小堆直到 -Xms的最小限制
-XX:NewSize	設置年輕代大小(for 1.3/1.4)
-XX:MaxNewSize	年輕代最大值(for 1.3/1.4)
-XX:PermSize	設置持久代(perm gen)初始值	物理內存 的1/64
-XX:MaxPermSize	設置持久代最大值	物理內存 的1/4
-Xss	每一個線程的堆棧大小		JDK5.0之後每一個線程堆棧大小爲1M,之前每一個線程堆棧大小爲256K.更具應用的線程所需內存大小進行 調整.在相同物理內存下, 減少這個值能生成更多的線程.可是操做系統對一個進程內的線程數 仍是有限制的,不能無限生成,經驗值在3000~5000左右 通常小的應用， 若是棧不是很深， 應該是128k夠用的 大的應用建議使用256k。這個選項對性能影響比較大， 須要嚴格的測試。（校長） 和threadstacksize選項解釋很相似,官方文檔彷佛沒有解釋, 在論壇中有這樣一句話:"」 -Xss is translated in a VM flag named ThreadStackSize」 通常設置這個值就能夠了。
-XX:ThreadStackSize	Thread Stack Size		(0 means use default stack size) [Sparc: 512; Solaris x86: 320 (was 256 prior in 5.0 and earlier); Sparc 64 bit: 1024; Linux amd64: 1024 (was 0 in 5.0 and earlier); all others 0.]
-XX:NewRatio	年輕代(包括Eden和兩個Survivor區)與年老代的比值(除去持久代)		-XX:NewRatio=4表示年輕代與年老代所佔比值爲1:4, 年輕代佔整個堆棧的1/5Xms=Xmx而且設置了Xmn的 狀況下，該參數不須要進行設置。
-XX:SurvivorRatio	Eden區與Survivor區的大小比值		設置爲8,則兩個Survivor區與一個Eden區的比值爲2:8, 一個Survivor區佔整個年輕代的1/10
-XX:LargePageSizeInBytes	內存頁的大小不可設置過大， 會影響Perm的大小		=128m
-XX:+UseFastAccessorMethods	原始類型的快速優化
-XX:+DisableExplicitGC	關閉System.gc()		這個參數須要嚴格的測試
-XX:MaxTenuringThreshold	垃圾最大年齡		若是設置爲0的話,則年輕代對象不通過Survivor區, 直接進入年老代. 對於年老代比較多的應用,能夠提升效率. 若是將此值設置爲一個較大值,則年輕代對象會在 Survivor區進行屢次複製,這樣能夠增長對象 再年輕代的存活 時間,增長在年輕代即被回收的機率 該參數只有在串行GC時纔有效.
-XX:+AggressiveOpts	加快編譯
-XX:+UseBiasedLocking	鎖機制的性能改善
-Xnoclassgc	禁用垃圾回收
-XX:SoftRefLRUPolicyMSPerMB	每兆堆空閒空間中 SoftReference的存活時間	1s	softly reachable objects will remain alive for some amount of time after the last time they were referenced. The default value is one second of lifetime per free megabyte in the heap
-XX:PretenureSizeThreshold	對象超過多大是 直接在舊生代分配	0	單位字節 新生代採用Parallel Scavenge GC時無效 另外一種直接在舊生代分配的狀況是大的數組對象, 且數組中無外部引用對象.
-XX:TLABWasteTargetPercent	TLAB佔eden區的百分比	1%
-XX:+CollectGen0First	FullGC時是否先YGC	false

二、並行收集器相關參數

-XX:+UseParallelGC	Full GC採用parallel MSC (此項待驗證)		選擇垃圾收集器爲並行收集器.此配置僅對年輕代有效.即上述配置下, 年輕代使用併發收集,而年老代仍舊使用串行收集.(此項待驗證)
-XX:+UseParNewGC	設置年輕代爲並行收集		可與CMS收集同時使用 JDK5.0以上,JVM會根據系統配置自行設置,因此無需再設置此值
-XX:ParallelGCThreads	並行收集器的線程數		此值最好配置與處理器數目相等 一樣適用於CMS
-XX:+UseParallelOldGC	年老代垃圾收集方式爲並行收集(Parallel Compacting)		這個是JAVA 6出現的參數選項
-XX:MaxGCPauseMillis	每次年輕代垃圾回收的最長時間(最大暫停時間)		若是沒法知足此時間,JVM會自動調全年輕代大小,以知足此值.
-XX:+UseAdaptiveSizePolicy	自動選擇年輕代區大小和相應的Survivor區比例		設置此選項後,並行收集器會自動選擇年輕代區大小和相應的 Survivor區比例,以達到目標系統規定的最低相應時間或者收集頻率等,此值建議使用並行收集器時,一直打開.
-XX:GCTimeRatio	設置垃圾回收時間佔程序運行時間的百分比		公式爲1/(1+n)
-XX:+ScavengeBeforeFullGC	Full GC前調用YGC	true	Do young generation GC prior to a full GC. (Introduced in 1.4.1.)

三、CMS相關參數

-XX:+UseConcMarkSweepGC	使用CMS內存收集		測試中配置這個之後,-XX:NewRatio=4的配置失效了,緣由不明.因此,此時年輕代大小最好用-Xmn設置.???
-XX:+AggressiveHeap			試圖是使用大量的物理內存 長時間大內存使用的優化，能檢查計算資源（內存， 處理器數量） 至少須要256MB內存 大量的CPU／內存， （在1.4.1在4CPU的機器上已經顯示有提高）
-XX:CMSFullGCsBeforeCompaction	多少次後進行內存壓縮		因爲併發收集器不對內存空間進行壓縮,整理,因此運行一段時間之後 會產生"碎片",使得運行效率下降.此值設置運行多少次GC之後 對內存空間進行壓縮,整理.
-XX:+CMSParallelRemarkEnabled	下降標記停頓
-XX+UseCMSCompactAtFullCollection	在FULL GC的時候， 對年老代的壓縮		CMS是不會移動內存的， 所以， 這個很是容易產生碎片， 致使內存不夠用，所以， 內存的壓縮這個時候就會被啓用。 增長這個參數是個好習慣。 可能會影響性能,可是能夠消除碎片
-XX:+UseCMSInitiatingOccupancyOnly	使用手動定義初始化定義開始CMS收集		禁止hostspot自行觸發CMS GC
-XX:CMSInitiatingOccupancyFraction=70	使用cms做爲垃圾回收 使用70％後開始CMS收集	92	爲了保證不出現promotion failed(見下面介紹)錯誤, 該值的設置須要知足 如下公式CMSInitiatingOccupancyFraction計算公式
-XX:CMSInitiatingPermOccupancyFraction	設置Perm Gen使用到達多少比率時觸發	92
-XX:+CMSIncrementalMode	設置爲增量模式		用於單CPU狀況
-XX:+CMSClassUnloadingEnabled

四、輔助信息

-XX:+PrintGC			輸出形式: [GC 118250K->113543K(130112K), 0.0094143 secs] [Full GC 121376K->10414K(130112K), 0.0650971 secs]
-XX:+PrintGCDetails			輸出形式:[GC [DefNew: 8614K->781K(9088K), 0.0123035 secs] 118250K->113543K(130112K), 0.0124633 secs] [GC [DefNew: 8614K->8614K(9088K), 0.0000665 secs][Tenured: 112761K->10414K(121024K), 0.0433488 secs] 121376K->10414K(130112K), 0.0436268 secs]
-XX:+PrintGCTimeStamps
-XX:+PrintGC:PrintGCTimeStamps			可與-XX:+PrintGC -XX:+PrintGCDetails混合使用 輸出形式:11.851: [GC 98328K->93620K(130112K), 0.0082960 secs]
-XX:+PrintGCApplicationStoppedTime	打印垃圾回收期間程序暫停的時間.可與上面混合使用		輸出形式:Total time for which application threads were stopped: 0.0468229 seconds
-XX:+PrintGCApplicationConcurrentTime	打印每次垃圾回收前,程序未中斷的執行時間.可與上面混合使用		輸出形式:Application time: 0.5291524 seconds
-XX:+PrintHeapAtGC	打印GC先後的詳細堆棧信息
-Xloggc:filename	把相關日誌信息記錄到文件以便分析. 與上面幾個配合使用
-XX:+PrintClassHistogram	garbage collects before printing the histogram.
-XX:+PrintTLAB	查看TLAB空間的使用狀況
XX:+PrintTenuringDistribution	查看每次minor GC後新的存活週期的閾值		Desired survivor size 1048576 bytes, new threshold 7 (max 15) new threshold 7即標識新的存活週期的閾值爲7。

4、GC性能方面的考慮

對於GC的性能主要有2個方面的指標：吞吐量throughput（工做時間不算gc的時間佔總的時間比）和暫停pause（gc發生時app對外顯示的沒法響應）。

 一、Total Heap

默認狀況下，jvm會增長/減小heap大小以維持free space在整個jvm中佔的比例，這個比例由MinHeapFreeRatio和MaxHeapFreeRatio指定。

通常而言，server端的app會有如下規則：

• 對vm分配儘量多的memory；
• 將Xms和Xmx設爲同樣的值。若是虛擬機啓動時設置使用的內存比較小，這個時候又須要初始化不少對象，虛擬機就必須重複地增長內存。
• 處理器核數增長，內存也跟着增大。

二、年輕代

 另一個對於app流暢性運行影響的因素是年輕代的大小。年輕代越大，小收集minor collection越少；可是在固定heap size狀況下，更大的年輕代就意味着小的老年代，就意味着更多的大收集major collection(major collection會引起小收集minor collection)。

NewRatio反映的是年輕代和老年代的大小比例。NewSize和MaxNewSize反映的是年輕代大小的下限和上限，將這兩個值設爲同樣就固定了年輕代的大小（同Xms和Xmx設爲同樣）。

若是但願，SurvivorRatio也能夠優化保留空間survivor的大小，不過這對於性能的影響不是很大。SurvivorRatio是使用控件eden和保留空間survior大小比例。

通常而言，server端的app會有如下規則：

• 首先決定能分配給vm的最大的heap size，而後設定最佳的年輕代的大小；
• 若是heap size固定後，增長y年輕代的大小意味着減少老年代大小。讓老年代在任什麼時候候夠大，可以容納全部live的data（留10%-20%的空餘）。

5、經驗&&規則

一、年輕代大小選擇

（1）響應時間優先的應用，儘量設置大，直接接近系統的最低響應時間限制。在這種狀況下，年輕代收集發生的頻率也是最小的，同時，減小到達老年代的對象。

（2）吞吐量優先的應用：儘量設置大，可能到達Gbit的程度.由於對響應時間沒有要求，垃圾收集能夠並行進行，通常適合8CPU以上的應用。

（3）避免設置太小，當新生代設置太小時會致使：① YGC次數更加頻繁  ② 可能致使YGC對象直接進入舊生代，若是此時舊生代滿了，會觸發FGC。

二、老年代大小選擇

（1）響應時間優先的應用，老年代使用併發收集器，大小須要當心設置，通常要考慮併發會話率和會話持續時間等一些參數。若是堆設置小了，可能會形成內存碎片，高回收頻率以及應用暫停而使用傳統的標記清除方式；若是堆大了，則須要較長的手機時間。最優化的方案，通常須要參考一下數據得到：

併發垃圾收集信息、持久代併發收集次數、傳統GC信息、年輕代和老年代回收商的時間比例。

（2）吞吐量優先的應用，通常吞吐量優先的應用都有一個很大的年輕代和一個較小的年老代，緣由是,這樣能夠儘量回收掉大部分短時間對象，減小中期的對象，而年老代僅存放長期存活對象。

三、較小堆引發的碎片問題

由於年老代的併發收集器使用標記,清除算法，因此不會對堆進行壓縮。當收集器回收時,他會把相鄰的空間進行合併，這樣能夠分配給較大的對象。可是,當堆空間較小時，運行一段時間之後,就會出現"碎片",若是併發收集器找不到足夠的空間,那麼併發收集器將會中止，而後使用傳統的標記，清除方式進行回收。若是出現"碎片"，可能須要進行以下配置：
-XX:+UseCMSCompactAtFullCollection：使用併發收集器時,開啓對年老代的壓縮.
-XX:CMSFullGCsBeforeCompaction=0：上面配置開啓的狀況下,這裏設置多少次Full GC後,對年老代進行壓縮

四、用64位操做系統，Linux下64位的jdk比32位的jdk要慢一些，可是吃的內存更多，吞吐量更大

五、XMS和XMX設置同樣大，MaxPermSize和MinPermSize設置同樣大，這樣能夠減輕伸縮堆大小帶來的壓力

六、使用CMS的好處是儘可能少的新生代，經驗值是128M-256M，而後老年代利用CMS並行收集，這樣能保證系統低延遲的吞吐效率。實際上CMS的手機停頓時間很是短，2G的內存，大約20-80ms的應用程序停頓時間。

七、系統停頓的時候多是GC的問題也多是程序的問題，多用jmap(堆內存狀況)和jstack(棧內存狀況)查看，或者killall -3 java，而後查看java控制檯日誌，能看出不少問題。(相關工具的使用方法將在後面介紹)

八、細瞭解本身的應用，若是用了緩存，那麼年老代應該大一些，緩存的HashMap不該該無限制長，建議採用LRU算法的Map作緩存，LRUMap的最大長度也要根據實際狀況設定。

九、採用併發回收時，年輕代小一點，年老代要大，由於年老大用的是併發回收，即便時間長點也不會影響其餘程序繼續運行，網站不會停頓。

十、JVM參數的設置(特別是 –Xmx –Xms –Xmn -XX:SurvivorRatio  -XX:MaxTenuringThreshold等參數的設置沒有一個固定的公式，須要根據PV old區實際數據 YGC次數等多方面來衡量。爲了不promotion faild（提高失敗）可能會致使xmn設置偏小，也意味着YGC的次數會增多，處理併發訪問的能力降低等問題。每一個參數的調整都須要通過詳細的性能測試，才能找到特定應用的最佳配置。

6、promotion faild（提高失敗）

一、產生緣由

• 救助空間不夠

救助空間裏的對象還不該該移動到老年代，但年輕代又有不少對象須要放入救助空間

• 年老代沒有足夠的空間接納來自年輕代的對象

這兩種狀況都會轉向Full GC，網站停頓時間較長。

二、解決方案

（1）救助空間不夠的解決辦法：

• 去掉救助空間，設置-XX:SurvivorRatio=65536 -XX:MaxTenuringThreshold=0便可。可是沒有救助空間會致使老年代容易滿，CMS執行會比較頻繁。
• 把救助空間加大

具體操做上，32位Linux和64位Linux好像不同，64位系統彷佛只要配置MaxTenuringThreshold參數，CMS仍是有暫停。爲了解決暫停問題和promotion failed問題，最後我設置-XX:SurvivorRatio=1 ，並把MaxTenuringThreshold去掉，這樣即沒有暫停又不會有promotoin failed，並且更重要的是，年老代和永久代上升很是慢（由於好多對象到不了年老代就被回收了），因此CMS執行頻率很是低，好幾個小時才執行一次，這樣，服務器都不用重啓了。

（2）年老代沒有足夠的空間接納來自年輕代的對象的解決辦法：

設置CMSInitiatingOccupancyFraction爲某個值（假設70），這樣年老代空間到70%時就開始執行CMS，年老代有足夠的空間接納來自年輕代的對象。

 

鳴謝：特別感謝做者周志明提供的技術支持！