Java調優經驗談

時間  2019-12-22
標籤 java 經驗 欄目 Java 简体版
原文   原文鏈接

原文：http://www.rowkey.me/blog/2016/11/02/java-profile/

目錄

對於調優這個事情來講，通常就是三個過程：html

  • 性能監控：問題沒有發生，你並不知道你須要調優什麼？此時須要一些系統、應用的監控工具來發現問題。
  • 性能分析：問題已經發生，可是你並不知道問題到底出在哪裏。此時就須要使用工具、經驗對系統、應用進行瓶頸分析，以求定位到問題緣由。
  • 性能調優：通過上一步的分析定位到了問題所在，須要對問題進行解決，使用代碼、配置等手段進行優化。

Java調優也不外乎這三步。java

此外，本文所講的性能分析、調優等是拋開如下因素的：ios

  • 系統底層環境：硬件、操做系統等
  • 數據結構和算法的使用
  • 外部系統如數據庫、緩存的使用

調優準備

調優是須要作好準備工做的，畢竟每個應用的業務目標都不盡相同，性能瓶頸也不會總在同一個點上。在業務應用層面，咱們須要：git

  • 須要瞭解系統的整體架構，明確壓力方向。好比系統的哪個接口、模塊是使用率最高的，面臨高併發的挑戰。
  • 須要構建測試環境來測試應用的性能，使用ab、loadrunner、jmeter均可以。
  • 對關鍵業務數據量進行分析，這裏主要指的是對一些數據的量化分析，如數據庫一天的數據量有多少；緩存的數據量有多大等
  • 瞭解系統的響應速度、吞吐量、TPS、QPS等指標需求，好比秒殺系統對響應速度和QPS的要求是很是高的。
  • 瞭解系統相關軟件的版本、模式和參數等，有時候限於應用依賴服務的版本、模式等，性能也會受到必定的影響。

此外，咱們還須要瞭解Java相關的一些知識：github

  1. Java內存相關：這一部分能夠參見談談Java內存管理一文
  2. 對Java代碼進行基準性能測試：可使用JMH來進行，[譯]使用JMH進行微基準測試：不要猜，要測試！。
  3. HotSpot VM相關知識：http://www.oracle.com/technetwork/cn/java/javase/tech/index-jsp-136373-zhs.html
  4. jdk自帶各類java工具：http://www.rowkey.me/blog/2016/11/03/jdk-tools/

性能分析

在系統層面可以影響應用性能的通常包括三個因素：CPU、內存和IO，能夠從這三方面進行程序的性能瓶頸分析。web

CPU分析

當程序響應變慢的時候，首先使用top、vmstat、ps等命令查看系統的cpu使用率是否有異常，從而能夠判斷出是不是cpu繁忙形成的性能問題。其中，主要經過us（用戶進程所佔的%）這個數據來看異常的進程信息。當us接近100%甚至更高時，能夠肯定是cpu繁忙形成的響應緩慢。通常說來，cpu繁忙的緣由有如下幾個：正則表達式

  • 線程中有無限空循環、無阻塞、正則匹配或者單純的計算
  • 發生了頻繁的gc
  • 多線程的上下文切換

肯定好cpu使用率最高的進程以後就可使用jstack來打印出異常進程的堆棧信息：redis

jstack [pid]算法

jstack

接下來須要注意的一點是，Linux下全部線程最終仍是以輕量級進程的形式存在系統中的，而使用jstack只能打印出進程的信息，這些信息裏面包含了此進程下面全部線程(輕量級進程-LWP)的堆棧信息。所以，進一步的須要肯定是哪個線程耗費了大量cpu，此時可使用top -p [processId]來查看，也能夠直接經過ps -Le來顯示全部進程,包括LWP的資源耗費信息。最後，經過在jstack的輸出文件中查找對應的lwp的id便可以定位到相應的堆棧信息。其中須要注意的是線程的狀態：RUNNABLE、WAITING等。對於Runnable的進程須要注意是否有耗費cpu的計算。對於Waiting的線程通常是鎖的等待操做。數據庫

也可使用jstat來查看對應進程的gc信息，以判斷是不是gc形成了cpu繁忙。

jstat -gcutil [pid]

jstat

還能夠經過vmstat，經過觀察內核狀態的上下文切換(cs)次數，來判斷是不是上下文切換形成的cpu繁忙。

vmstat 1 5

jstat

此外，有時候可能會由jit引發一些cpu飈高的情形，如大量方法編譯等。這裏可使用-XX:+PrintCompilation這個參數輸出jit編譯狀況，以排查jit編譯引發的cpu問題。

內存分析

對Java應用來講，內存主要是由堆外內存和堆內內存組成。

  1. 堆外內存

    堆外內存主要是JNI、Deflater/Inflater、DirectByteBuffer（nio中會用到）使用的。對於這種堆外內存的分析，仍是須要先經過vmstat、sar、top、pidstat(這裏的sar,pidstat以及iostat都是sysstat軟件套件的一部分，須要單獨安裝)等查看swap和物理內存的消耗情況再作判斷的。此外，對於JNI、Deflater這種調用能夠經過Google-preftools來追蹤資源使用情況。

  2. 堆內內存

    此部份內存爲Java應用主要的內存區域。一般與這部份內存性能相關的有：

    • 建立的對象：這個是存儲在堆中的，須要控制好對象的數量和大小，尤爲是大的對象很容易進入老年代
    • 全局集合：全局集合一般是生命週期比較長的，所以須要特別注意全局集合的使用
    • 緩存：緩存選用的數據結構不一樣，會很大程序影響內存的大小和gc
    • ClassLoader：主要是動態加載類容易形成永久代內存不足
    • 多線程：線程分配會佔用本地內存，過多的線程也會形成內存不足

    以上使用不當很容易形成：

    • 頻繁GC -> Stop the world，使你的應用響應變慢
    • OOM，直接形成內存溢出錯誤使得程序退出。OOM又能夠分爲如下幾種：
      • Heap space：堆內存不足
      • PermGen space：永久代內存不足
      • Native thread：本地線程沒有足夠內存可分配

    排查堆內存問題的經常使用工具是jmap，是jdk自帶的。一些經常使用用法以下：

    • 查看jvm內存使用情況：jmap -heap 
    • 查看jvm內存存活的對象：jmap -histo:live 
    • 把heap裏全部對象都dump下來，不管對象是死是活：jmap -dump:format=b,file=xxx.hprof 
    • 先作一次full GC，再dump，只包含仍然存活的對象信息：jmap -dump:format=b,live,file=xxx.hprof 

    此外，無論是使用jmap仍是在OOM時產生的dump文件，可使用Eclipse的MAT(MEMORY ANALYZER TOOL)來分析，能夠看到具體的堆棧和內存中對象的信息。固然jdk自帶的jhat也可以查看dump文件，會啓動web端口供開發者使用瀏覽器瀏覽堆內對象的信息。

IO分析

一般與應用性能相關的包括：文件IO和網絡IO。

  1. 文件IO

    可使用系統工具pidstat、iostat、vmstat來查看io的情況。這裏能夠看一張使用vmstat的結果圖。

    這裏主要注意bi和bo這兩個值，分別表示塊設備每秒接收的塊數量和塊設備每秒發送的塊數量，由此能夠斷定io繁忙情況。進一步的能夠經過使用strace工具定位對文件io的系統調用。一般，形成文件io性能差的緣由不外乎：

    • 大量的隨機讀寫
    • 設備慢
    • 文件太大

  2. 網絡IO

    查看網絡io情況，通常使用的是netstat工具。能夠查看全部鏈接的情況、數目、端口信息等。例如：當time_wait或者close_wait鏈接過多時，會影響應用的相應速度。

    netstat -anp

    此外，還可使用tcpdump來具體分析網絡io的數據。固然，tcpdump出的文件直接打開是一堆二進制的數據，可使用wireshark閱讀具體的鏈接以及其中數據的內容。

    tcpdump -i eth0 -w tmp.cap -tnn dst port 8080 #監聽8080端口的網絡請求並打印日誌到tmp.cap中

    還能夠經過查看/proc/interrupts來獲取當前系統使用的中斷的狀況。

    各個列依次是：

    irq的序號， 在各自cpu上發生中斷的次數，可編程中斷控制器，設備名稱（request_irq的dev_name字段）

    經過查看網卡設備的終端狀況能夠判斷網絡io的情況。

其餘分析工具

上面分別針對CPU、內存以及IO講了一些系統/JDK自帶的分析工具。除此以外，還有一些綜合分析工具或者框架能夠更加方便咱們對Java應用性能的排查、分析、定位等。

  • VisualVM

    這個工具應該是Java開發者們很是熟悉的一款java應用監測工具，原理是經過jmx接口來鏈接jvm進程，從而可以看到jvm上的線程、內存、類等信息。 若是想進一步查看gc狀況，能夠安裝visual gc插件。此外，visualvm也有btrace的插件，能夠可視化直觀的編寫btrace代碼並查看輸出日誌。 與VisualVm相似的，jconsole也是經過jmx查看遠程jvm信息的一款工具，更進一步的，經過它還能夠顯示具體的線程堆棧信息以及內存中各個年代的佔用狀況，也支持直接遠程執行MBEAN。固然，visualvm經過安裝jconsole插件也能夠擁有這些功能。但因爲這倆工具都是須要ui界面的，所以通常都是經過本地遠程鏈接服務器jvm進程。服務器環境下，通常並不用此種方式。

  • Java Mission Control(jmc)

    此工具是jdk7 u40開始自帶的，原來是JRockit上的工具，是一款採樣型的集診斷、分析和監控與一體的很是強大的工具。https://docs.oracle.com/javacomponents/jmc-5-5/jmc-user-guide/toc.htm

  • Btrace

    這裏不得不提的是btrace這個神器，它使用java attach api+ java agent + instrument api可以實現jvm的動態追蹤。在不重啓應用的狀況下能夠加入攔截類的方法以打印日誌等。具體的用法能夠參考Btrace入門到熟練小工徹底指南。

  • Jwebap

    Jwebap是一款JavaEE性能檢測框架，基於asm加強字節碼實現。支持：http請求、jdbc鏈接、method的調用軌跡跟蹤以及次數、耗時的統計。由此能夠獲取最耗時的請求、方法，並能夠查看jdbc鏈接的次數、是否關閉等。但此項目是2006年的一個項目，已經將近10年沒有更新。根據筆者使用，已經不支持jdk7編譯的應用。若是要使用，建議基於原項目二次開發，同時也能夠加入對redis鏈接的軌跡跟蹤。固然，基於字節碼加強的原理，也能夠實現本身的JavaEE性能監測框架。

    上圖來自筆者公司二次開發過的jwebap，已經支持jdk8和redis鏈接追蹤。

  • useful-scripts

    這裏有一個本人蔘與的開源的項目：https://github.com/superhj1987/useful-scripts，封裝了不少經常使用的性能分析命令，好比上文講的打印繁忙java線程堆棧信息，只須要執行一個腳本便可。

性能調優

與性能分析相對應，性能調優一樣分爲三部分。

CPU調優

  • 不要存在一直運行的線程(無限while循環)，可使用sleep休眠一段時間。這種狀況廣泛存在於一些pull方式消費數據的場景下，當一次pull沒有拿到數據的時候建議sleep一下，再作下一次pull。
  • 輪詢的時候可使用wait/notify機制
  • 避免循環、正則表達式匹配、計算過多，包括使用String的format、split、replace方法(可使用apache的commons-lang裏的StringUtils對應的方法)，使用正則去判斷郵箱格式(有時候會形成死循環)、序列/反序列化等。
  • 結合jvm和代碼，避免產生頻繁的gc，尤爲是full GC。

此外，使用多線程的時候，還須要注意如下幾點：

  • 使用線程池，減小線程數以及線程的切換
  • 多線程對於鎖的競爭能夠考慮減少鎖的粒度(使用ReetrantLock)、拆分鎖(相似ConcurrentHashMap分bucket上鎖), 或者使用CAS、ThreadLocal、不可變對象等無鎖技術。此外，多線程代碼的編寫最好使用jdk提供的併發包、Executors框架以及ForkJoin等，此外Discuptor和Actor在合適的場景也可使用。

內存調優

內存的調優主要就是對jvm的調優。

  • 合理設置各個代的大小。避免新生代設置太小(不夠用，常常minor gc並進入老年代)以及過大(會產生碎片)，一樣也要避免Survivor設置過大和太小。
  • 選擇合適的GC策略。須要根據不一樣的場景選擇合適的gc策略。這裏須要說的是，cms並不是全能的。除非特別須要再設置，畢竟cms的新生代回收策略parnew並不是最快的，且cms會產生碎片。此外，G1直到jdk8的出現也並無獲得普遍應用，並不建議使用。
  • jvm啓動參數配置-XX:+PrintGCDetails -XX:+PrintGCDateStamps -Xloggc:[log_path]，以記錄gc日誌，便於排查問題。

其中，對於第一點，具體的還有一點建議：

  • 年輕代大小選擇：響應時間優先的應用，儘量設大，直到接近系統的最低響應時間限制（根據實際狀況選擇）。在此種狀況下，年輕代收集發生gc的頻率是最小的。同時，也可以減小到達年老代的對象。吞吐量優先的應用，也儘量的設置大，由於對響應時間沒有要求，垃圾收集能夠並行進行，建議適合8CPU以上的應用使用。
  • 年老代大小選擇：響應時間優先的應用，年老代通常都是使用併發收集器，因此其大小須要當心設置，通常要考慮併發會話率和會話持續時間等一些參數。若是堆設置小了，會形成內存碎片、高回收頻率以及應用暫停而使用傳統的標記清除方式；若是堆大了，則須要較長的收集時間。最優化的方案，通常須要參考如下數據得到：
    • 併發垃圾收集信息
    • 持久代併發收集次數
    • 傳統GC信息
    • 花在年輕代和年老代回收上的時間比例

    通常吞吐量優先的應用都應該有一個很大的年輕代和一個較小的年老代。這樣能夠儘量回收掉大部分短時間對象，減小中期的對象，而年老代存放長期存活對象。

此外，較小堆引發的碎片問題：由於年老代的併發收集器使用標記、清除算法，因此不會對堆進行壓縮。當收集器回收時，會把相鄰的空間進行合併，這樣能夠分配給較大的對象。可是，當堆空間較小時，運行一段時間之後，就會出現「碎片」，若是併發收集器找不到足夠的空間，那麼併發收集器將會中止，而後使用傳統的標記、清除方式進行回收。若是出現「碎片」，可能須要進行以下配置：-XX:+UseCMSCompactAtFullCollection，使用併發收集器時，開啓對年老代的壓縮。同時使用-XX:CMSFullGCsBeforeCompaction=xx設置多少次Full GC後，對年老代進行壓縮。

其他對於jvm的優化問題可見後面JVM參數進階一節。

代碼上，也須要注意：

  • 避免保存重複的String對象，同時也須要當心String.subString()與String.intern()的使用
  • 儘可能不要使用finalizer
  • 釋放沒必要要的引用：ThreadLocal使用完記得釋放以防止內存泄漏，各類stream使用完也記得close。
  • 使用對象池避免無節制建立對象，形成頻繁gc。但不要隨便使用對象池，除非像鏈接池、線程池這種初始化/建立資源消耗較大的場景，
  • 緩存失效算法，能夠考慮使用SoftReference、WeakReference保存緩存對象
  • 謹慎熱部署/加載的使用，尤爲是動態加載類等

  • 不要用Log4j輸出文件名、行號，由於Log4j經過打印線程堆棧實現，生成大量String。此外，使用log4j時，建議此種經典用法，先判斷對應級別的日誌是否打開，再作操做，不然也會生成大量String。

    if (logger.isInfoEnabled()) {
      logger.info(msg);
  }

IO調優

文件IO上須要注意：

  • 考慮使用異步寫入代替同步寫入，能夠借鑑redis的aof機制。
  • 利用緩存，減小隨機讀
  • 儘可能批量寫入，減小io次數和尋址
  • 使用數據庫代替文件存儲

網絡IO上須要注意：

  • 和文件IO相似，使用異步IO、多路複用IO/事件驅動IO代替同步阻塞IO
  • 批量進行網絡IO,減小IO次數
  • 使用緩存，減小對網絡數據的讀取
  • 使用協程: Quasar

其餘優化建議

  • 算法、邏輯上是程序性能的首要，遇到性能問題，應該首先優化程序的邏輯處理
  • 優先考慮使用返回值而不是異常表示錯誤
  • 查看本身的代碼是否對內聯是友好的: 你的Java代碼對JIT編譯友好麼？

此外，jdk七、8在jvm的性能上作了一些加強：

  • 經過-XX:+TieredCompilation開啓JDK7的多層編譯（tiered compilation）支持。多層編譯結合了客戶端C1編譯器和服務端C2編譯器的優勢(客戶端編譯可以快速啓動和及時優化，服務器端編譯能夠提供更多的高級優化)，是一個很是高效利用資源的切面方案。在開始時先進行低層次的編譯，同時收集信息，在後期再進一步進行高層次的編譯進行高級優化。須要注意的一點：這個參數會消耗比較多的內存資源，由於同一個方法被編譯了屢次，存在多份native內存拷貝，建議把code cache調大一點兒（-XX:+ReservedCodeCacheSize，InitialCodeCacheSize）。不然有可能因爲code cache不足，jit編譯的時候不停的嘗試清理code cache，丟棄無用方法，消耗大量資源在jit線程上。
  • Compressed Oops：壓縮指針在jdk7中的server模式下已經默認開啓。
  • Zero-Based Compressed Ordinary Object Pointers：當使用了上述的壓縮指針時，在64位jvm上，會要求操做系統保留從一個虛擬地址0開始的內存。若是操做系統支持這種請求，那麼就開啓了Zero-Based Compressed Oops。這樣可使得無須在java堆的基地址添加任何地址補充便可把一個32位對象的偏移解碼成64位指針。
  • 逃逸分析(Escape Analysis): Server模式的編譯器會根據代碼的狀況，來判斷相關對象的逃逸類型，從而決定是否在堆中分配空間，是否進行標量替換(在棧上分配原子類型局部變量)。此外，也能夠根據調用狀況來決定是否自動消除同步控制，如StringBuffer。這個特性從Java SE 6u23開始就默認開啓。
  • NUMA Collector Enhancements：這個重要針對的是The Parallel Scavenger垃圾回收器。使其可以利用NUMA (Non Uniform Memory Access，即每個處理器核心都有本地內存，可以低延遲、高帶寬訪問) 架構的機器的優點來更快的進行gc。能夠經過-XX:+UseNUMA開啓支持。

此外，網上還有不少過期的建議，不要再盲目跟隨:

  • 變量用完設置爲null，加快內存回收，這種用法大部分狀況下並無意義。一種狀況除外：若是有個Java方法沒有被JIT編譯但裏面仍然有代碼會執行比較長時間，那麼在那段會執行長時間的代碼前顯式將不須要的引用類型局部變量置null是可取的。具體的能夠見R大的解釋：https://www.zhihu.com/question/48059457/answer/113538171
  • 方法參數設置爲final，這種用法也沒有太大的意義，尤爲在jdk8中引入了effective final，會自動識別final變量。

JVM參數進階

jvm的參數設置一直是比較理不清的地方，不少時候都搞不清都有哪些參數能夠配置，參數是什麼意思，爲何要這麼配置等。這裏主要針對這些作一些常識性的說明以及對一些容易讓人進入陷阱的參數作一些解釋。

如下全部都是針對Oracle/Sun JDK 6來說

  1. 啓動參數默認值

    Java有不少的啓動參數，並且不少版本都並不同。可是如今網上充斥着各類資料，若是不加辨別的所有使用，不少是沒有效果或者原本就是默認值的。通常的，咱們能夠經過使用java -XX:+PrintFlagsInitial來查看全部能夠設置的參數以及其默認值。也能夠在程序啓動的時候加入-XX:+PrintCommandLineFlags來查看與默認值不相同的啓動參數。若是想查看全部啓動參數(包括和默認值相同的)，可使用-XX:+PrintFlagsFinal。

    輸出裏「=」表示使用的是初始默認值，而「:=」表示使用的不是初始默認值，多是命令行傳進來的參數、配置文件裏的參數或者是ergonomics自動選擇了別的值。

    此外，還可使用jinfo命令顯示啓動的參數。

    • jinfo -flags [pid] #查看目前啓動使用的有效參數
    • jinfo -flag [flagName] [pid] #查看對應參數的值

    這裏須要指出的是，當你配置jvm參數時，最好是先經過以上命令查看對應參數的默認值再肯定是否須要設置。也最好不要配置你搞不清用途的參數，畢竟默認值的設置是有它的合理之處的。

  2. 動態設置參數

    當Java應用啓動後，定位到了是GC形成的性能問題，可是你啓動的時候並無加入打印gc的參數，不少時候的作法就是從新加參數而後重啓應用。但這樣會形成必定時間的服務不可用。最佳的作法是可以在不重啓應用的狀況下，動態設置參數。使用jinfo能夠作到這一點(本質上仍是基於jmx的)。

    jinfo -flag [+/-][flagName] [pid] #啓用/禁止某個參數
 jinfo -flag [flagName=value] [pid] #設置某個參數

    對於上述的gc的狀況，就可使用如下命令打開heap dump並設置dump路徑。

    jinfo -flag +HeapDumpBeforeFullGC [pid] 
 jinfo -flag +HeapDumpAfterFullGC [pid]
 jinfo -flag HeapDumpPath=/home/dump/dir [pid]

    一樣的也能夠動態關閉。

    jinfo -flag -HeapDumpBeforeFullGC [pid] 
 jinfo -flag -HeapDumpAfterFullGC [pid]

    其餘的參數設置相似。

  3. -verbose:gc 與 -XX:+PrintGCDetails

    不少gc推薦設置都同時設置了這兩個參數，其實，只要打開了-XX:+PrintGCDetails，前面的選項也會同時打開，無須重複設置。

  4. -XX:+DisableExplicitGC

    這個參數的做用就是使得system.gc變爲空調用，不少推薦設置裏面都是建議開啓的。可是，若是你用到了NIO或者其餘使用到堆外內存的狀況，使用此選項會形成oom。能夠用XX:+ExplicitGCInvokesConcurrent或XX:+ExplicitGCInvokesConcurrentAndUnloadsClasses(配合CMS使用，使得system.gc觸發一次併發gc)代替。

    此外，還有一個比較有意思的地方。若是你不設置此選項的話，當你使用了RMI的時候，會週期性地來一次full gc。這個現象是因爲分佈式gc形成的，爲RMI服務。具體的可見此連接內容中與dgc相關的：http://docs.oracle.com/javase/6/docs/technotes/guides/rmi/sunrmiproperties.html

  5. MaxDirectMemorySize

    此參數是設置的堆外內存的上限值。當不設置的時候爲-1，此值爲-Xmx減去一個survivor space的預留大小。

  6. 因爲遺留緣由，做用相同的參數

    • -Xss 與 -XX:ThreadStackSize
    • -Xmn 與 -XX:NewSize，此外這裏須要注意的是設置了-Xmn的話，NewRatio就沒做用了。

  7. -XX:MaxTenuringThreshold

    使用工具查看此值默認值爲15，可是選擇了CMS的時候，此值會變成4。當此值設置爲0時，全部eden裏的活對象在經歷第一次minor GC的時候就會直接晉升到old gen，survivor space直接就沒用。

  8. -XX:HeapDumpPath

    使用此參數能夠指定-XX:+HeapDumpBeforeFullGC、-XX:+HeapDumpAfterFullGC、-XX:+HeapDumpOnOutOfMemoryError觸發heap dump文件的存儲位置。

相關文章
相關標籤/搜索
每日一句
    每一个你不满意的现在，都有一个你没有努力的曾经。
本站公眾號
   歡迎關注本站公眾號,獲取更多信息
聯繫我們 最近搜索 最新文章 沪ICP备13005482号-10 MyBatis教程 SQL 教程 MySQL教程 Java 教程 Thymeleaf 教程 Hibernate教程 Spring教程 Redis教程