APM入門與實戰

篇幅一：APM基礎篇

一、什麼是APM?

APM，全稱：Application Performance Management ，目前市面的系統基本都是參考Google的Dapper（大規模分佈式系統的跟蹤系統）來作的，翻譯傳送門《google的Dapper 中文翻譯》

思考下：不遵照該理論的是僞APM，耍流氓嗎？

APM的核心思想是什麼？ 在應用服務各節點相互調用的時候，從中記錄並傳遞一個應用級別的標記，這個標記能夠用來關聯各個服務節點之間的關係。好比兩個應用服務節點之間使用 HTTP 做爲傳輸協議的話，那麼這些標記就會被加入到 HTTP 頭中。可見如何傳遞這些標記是與應用服務節點之間使用的通信協議有關的，經常使用的協議就相對容易加入這些內容，一些按需定製的可能就相對困難些，這一點也直接決定了實現分佈式追蹤系統的難度。

二、爲何要用APM?

有業務痛點，纔要尋求解決方案，我的認爲，APM須要優先解決測試環境下兩個場景問題，基於測試先行的原則考慮：

優先關注宏觀數據，並非說測試人員無須關注微觀層面的問題，在測試角度來看，先解決性能測試環境的數據採樣、收集問題，再去評估生產環境，而線上的鏈路監控須要研發跟運維去配合，【研發角度場景】相對於測試人員來講是弱關注了。</br>

三、市面上有哪些APM工具？

• Pinpoint

Pinpoint is an open source APM (Application Performance Management) tool for large-scale distributed systems written in Java.
https://github.com/naver/pinpoint

• SkyWalking

A distributed tracing system, and APM ( Application Performance Monitoring ) .
http://skywalking.org

• Zipkin

Zipkin is a distributed tracing system. It helps gather timing data needed to troubleshoot latency problems in microservice architectures. It manages both the collection and lookup of this data. Zipkin’s design is based on the Google Dapper paper.
http://zipkin.io/

• CAT （大衆點評）

CAT基於Java開發的實時應用監控平臺，包括實時應用監控，業務監控。
https://github.com/dianping/cat

四、先說結論

目前比較貼合 Google Dapper 原理設計的，Pinpoint 優於 Zipkin。
Pinpoint對代碼的零侵入，運用JavaAgent字節碼加強技術，添加啓動參數便可。
而且符合【測試角度場景】性能測試調優監控的宏觀；
固然，結論太早了，會有疑惑：

" Spring Cloud Slueth和zipkin之間的關係是什麼？ "

須要看詳細對比的，詳見下圖：

五、再說對比

本質上 Spring Cloud Slueth 與 Pinpoint 沒有可比性，真正對比的是Zipkin，Spring Cloud Slueth 聚焦在鏈路追蹤和分析，將信息發送到Zipkin，利用 Zipkin的存儲來存儲信息，固然，Zipkin也可使用ELK來記錄日誌和展現，再經過收集服務器性能的腳本把數據存儲到ELK，則能夠展現服務器情況信息了。Zipkin的整體展現，也是基於鏈路分析爲主。

篇幅二：Pinpoint實戰篇

一、Pinpoint架構圖

Pinpoint is an open source APM (Application Performance Management) tool for large-scale distributed systems written in Java. </br>

架構圖對應說明：

• Pinpoint-Collector：收集各類性能數據
• Pinpoint-Agent：探針與應用服務器（例如tomcat)關聯，部署到同一臺服務器上
• Pinpoint-Web：將收集到的數據層如今web展現
• HBase Storage：收集到數據存到HBase中

二、Pinpoint的數據結構

Pinpoint 消息的數據結構主要包含三種類型 Span，Trace 和 TraceId。

• Span 是最基本的調用追蹤單元

  當遠程調用到達的時候，Span 指代處理該調用的做業，而且攜帶追蹤數據。爲了實現代碼級別的可見性，Span 下面還包含一層 SpanEvent 的數據結構。每一個 Span 都包含一個 SpanId。

• Trace 是一組相互關聯的 Span 集合

  同一個 Trace 下的 Span 共享一個 TransactionId，並且會按照 SpanId 和 ParentSpanId 排列成一棵有層級關係的樹形結構。

• TraceId 是 TransactionId、SpanId 和 ParentSpanId 的組合

  TransactionId（TxId）是一個交易下的橫跨整個分佈式系統收發消息的 ID，其必須在整個服務器組中是全局惟一的。也就是說 TransactionId 識別了整個調用鏈；SpanId（SpanId）是處理遠程調用做業的 ID，當一個調用到達一個節點的時候隨即產生；ParentSpanId（pSpanId）顧名思義，就是產生當前 Span 的調用方 Span 的 ID。若是一個節點是交易的最初發起方，其 ParentSpanId 是 -1，以標誌其是整個交易的根 Span。下圖可以比較直觀的說明這些 ID 結構之間的關係。</br>
  

三、Pinpoint部署

網上太多部署文檔，這裏不詳細說明，簡要說明下：</br>

注意版本要求：

• Java version required to run Pinpoint:</br>
  
• HBase compatibility table:</br>
  
• Agent compatibility table:</br>
  
  有兩種方式啓動：
  方式一：修改tomat目錄下bin/catalina.sh，在Control Script for the CATALINA Server加入如下三行代碼：

CATALINA_OPTS="$CATALINA_OPTS -javaagent:/home/webapps/service/pp-agent/pinpoint-bootstrap-1.6.2.jar"

CATALINA_OPTS="$CATALINA_OPTS -Dpinpoint.agentId=pp32tomcattest"

CATALINA_OPTS="$CATALINA_OPTS -Dpinpoint.applicationName=32tomcat"

第一行：pinpoint-bootstrap-1.6.2.jar的位置
第二行：agentId必須惟一,標誌一個jvm
第三行：applicationName表示同一種應用：同一個應用的不一樣實例應該使用不一樣的agentId,相同的applicationName

方式二：SpringBoot啓動

java  -javaagent:/home/webapps/pp-agent/pinpoint-bootstrap-1.6.2.jar  -Dpinpoint.agentId=pp32tomcattest -Dpinpoint.applicationName=32tomcat -jar 32tomcat-0.0.1-SNAPSHOT.jar

四、代碼注入是如何工做的

Pinpoint 對代碼注入的封裝很是相似 AOP，當一個類被加載的時候會經過 Interceptor 向指定的方法先後注入 before 和 after 邏輯，在這些邏輯中能夠獲取系統運行的狀態，並經過 TraceContext 建立 Trace 消息，併發送給 Pinpoint 服務器。但與 AOP 不一樣的是，Pinpoint 在封裝的時候考慮到了更多與目標代碼的交互能力，所以用 Pinpoint 提供的 API 來編寫代碼會比 AOP 更加容易和專業。

五、Pinpoint實戰效果演示

搭建一個java開源項目jforum，跑在tomcat下，使用jmeter進行壓測，用戶100個：

• 服務器圖（ServerMap）

  經過可視化其組件的互連方式來了解任何分佈式系統的拓撲。單擊節點將顯示有關組件的詳細信息，例如其當前狀態和事務計數。
  

• 實時活動線程圖（Realtime Active Thread Chart）

  實時監視應用程序內的活動線程。（用了官方圖，當時沒截圖）
  

• 請求/響應散佈圖（Request/Response Scatter Chart）

  可視化請求計數和響應模式，以肯定潛在問題。能夠經過在圖表上拖動來選擇事務以獲取更多詳細信息。
  

• 調用棧信息（CallStack）

  加強分佈式環境中每一個事務的代碼級可見性，識別單個視圖中的瓶頸和故障點。
  

• 檢查器（Inspector）

查看應用程序的其餘詳細信息，如CPU使用率，內存/垃圾收集，TPS和JVM參數。

六、總結

第一：PinPoint從宏觀上看：整體鏈路、服務整體狀態（cpu、內存等等信息），符合【測試角度場景】性能測試調優監控的宏觀；
第二：Spring Cloud Slueth須要結合Zipkin從微觀來看：自身沒法單獨提供展現，要結合Zipkin展現鏈路問題（並無服務器整體狀態的展現），更多服務器性能情況等信息展現須要定製腳本經過ELK收集展現，符合【研發角度場景】性能測試調優監控的微觀；

總的來講二者是結合體，要單獨使用的話，從測試業務上來看：PinPoint知足，性能測試調優監控的宏觀【測試角度場景】

七、項目場景

訪問某個API，後端應用服務產生的一系列鏈路，爲什麼請求一次有23次數據庫訪問呢？這裏就是須要排查的的地方，詳細看看CallTree，找出可優化的SQL查詢語句。


另外，在作性能測試的時候，服務器併發的IO，PP不斷寫入也會產生瓶頸，須要後續解決。

八、標籤庫項目簡單壓測

經過jmeter對標籤庫進行簡單壓測，腳本以下：

經過APM發現問題以下：

pquery.do的res高達6782ms，須要安排開發進一步排查定位代碼問題

另一種場景，測試人員沒法在頁面獲取到的信息（有些狀況下，測試人員是沒有服務器權限），這些是服務底層的異常信息，能夠經過CallTree來查看。

九、應用服務接入APM後的鏈路全景蜘蛛網圖

參考文獻：

Pinpoint github
Pinpoint源碼解析（三）
Dapper，大規模分佈式系統的跟蹤系統
Pinpoint學習筆記
Pinpoint v1.5.0 APM 視頻介紹