性能調優，程序員轉型架構師的攔路虎【2】

時間 2020-01-21

原文原文鏈接

性能調優系列前序文章索引：html

程序員必須掌握的性能調優：老兵哥結合我的經歷解釋了程序員往架構師方向發展時爲何要跨越性能調優這一關，以及介紹了從 X、Y、Z 三個維度優化性能的思路。
從 X 維度優化系統的性能：老兵哥分享了從 X 維度優化系統性能的思路，包括讓客戶端分計算存儲任務、優化交互設計等，主要是做爲引子拓寬咱們性能調優的思路。

程序員在轉型架構師的過程當中須要創建流程化、結構化、系統化的思惟方式，而性能調優是很是可貴的契機，它既給了咱們壓力，也給了咱們動力，跨越它就是突破本身的過程。前端

X 維度，即業務維度，技術始終是服務業務的，任何技術問題的原點就是業務需求。在啓動技術層面的性能優化以前，咱們有必要先審視一下業務流程是否合理，交互設計上有沒有能夠優化的空間等。
Y 維度，待業務維度優化完畢，接下來就是審視技術在實現當前業務流程或交互設計的全鏈路上有沒有可優化的地方，即 HTTP 請求處理全流程，從瀏覽器到應用容器，再到 Spring、Hibernate、數據庫等。
Z 維度，除了沿着 HTTP 請求的橫向鏈路，咱們還要審視支持應用系統的縱向技術棧，從上到下包括 JVM、操做系統和硬件等，這是整套應用系統運行的環境，許多性能問題都跟運行環境存在關係。

Y 維度，就是從業務 HTTP 請求的橫向處理流程來看，HTTP 請求會穿越網絡、計算機、應用容器（Tomcat）、Spring、ORM（Hibernate）、數據庫等節點，在這個流程中每一個節點都有許多能夠可優化的地方，今天老兵哥先談談如何經過優化應用容器（Tomcat）來優化系統性能。java

建議在閱讀本文內容前，先參考下面這個系列的文章瞭解 Web 應用是怎樣處理 HTTP 請求的：程序員

2. 應用容器 Tomcat數據庫

2.1 啓動參數apache

操做系統選型，儘量選擇 64 位操做系統，在 64 位系統上 JVM 內存最高能夠設置爲 3800MB 左右，在 32 位系統上 JVM 內存最高能夠設置爲 1500MB 左右。另外，咱們能夠根據系統物理內存大小合理設置下列五個啓動參數（在文件 catalina.sh、catalina.bat 中）：後端

-server -Xms300m -Xmx300m -XX:PermSize=100m -XX:MaxPermSize=100m

一般，參數取值符合規則：-Xms=-Xmx，-XX:PermSize=-XX:MaxPermSize。上述參數通過驗證，能夠穩定運行在各類操做系統平臺和 JDK 版本上，經過調參儘量地壓榨服務器性能。具體場景下的參數取值須要具體分析，基本原則就是不要超過空閒物理內存的 80% 便可。若是沒有特殊理由，不要設置上述五個參數以外的 JVM 參數，一者沒法保證操做系統平臺的可移植性，兩者過分干涉內存管理會致使沒法預料的後果。瀏覽器

非服務方式啓動的 TOMCAT 調參方式以下：tomcat

在 Linux/Unix 系統上，修改 tomcat_home/bin/catalina.sh，添加如下內容：

JAVA_HOME=/export/home/jdk1.6.0_16
JAVA_OPTS="-server -Xms300m -Xmx300m -XX:PermSize=100m -XX:MaxPermSize=100m -Dcom.sun.management.jmxremote"

在 Windows 系統上，修改 tomcat_home/bin/catalina.bat，添加如下內容：

set JAVA_HOME=C:\Program Files\Java\jdk1.6.0_16
set JAVA_OPTS=-server -Xms300m -Xmx300m -XX:PermSize=100m -XX:MaxPermSize=100m -Dcom.sun.management.jmxremote

　　二者區別：Linux/Unix 不須要 set，但有」「；Windows 須要set，但不能有」「。服務方式啓動的 TOMCAT 調參方式以下，僅限於 Windows 系統：性能優化

在 JAVA 選項卡中，設置 JAVA OPTIONS，添加如下三個參數，每行一個，不能並列：

-XX:PermSize=256m
-XX:MaxPermSize=256m
-Dcom.sun.management.jmxremote

設置 Initial memory pool 爲 1000MB。
設置 Maximum menory pool 爲 1000MB。
不要設置 thread stack size。

2.2 使用 NIO 的 http1.1 超文本傳輸協議

Java 的 IO 操做集中在 java.io 這個包當中，基於阻塞 API（即 BIO，Block IO）。對許多應用來講，這樣的 API 使用很方便，但某些對性能要求較高的應用，尤爲是服務器端應用，每每須要一個更高效的方式來處理 IO。從 JDK1.4 起，NIO API 做爲一個基於緩衝區，並能提供非阻塞 IO 操做的 API（即 NIO，non-blocking IO）被引入。BIO 與 NIO 之間最爲重要的不一樣，就是採用 BIO 每每要引入多線程，每一個鏈接分配一個單獨的線程；NIO 是使用單線程或者只使用少許線程，全部鏈接共用一個線程。具體更改方法以下：

打開 Tomcat 的配置文件：$TOMCAT_HOME/conf/server.xml
找到：<Connector port="8080" protocol="http1.1" ...
改成：<Connector port="8080" protocol="org.apache.coyote.http11.Http11NioProtocol"...

2.3 調整線程數

Tomcat 能夠採用線程池來提高響應速度，默認建立 5 個線程，最大線程數是 200。若是業務併發量較大，則能夠對下列幾個參數作些調整，最大線程數能夠用「同時在線人數 * 用戶每秒操做次數 * 平均操做時間」公式計算：

maxThreads：Tomcat 可建立的最大線程數。
acceptCount：若是當前可用線程數爲 0，則將請求放入處理隊列中。這個值限定了請求隊列的大小，超過這個數值的請求將不予處理。
connectionTimeout：網絡鏈接超時時間，單位毫秒。
minSpareThreads：若是當前沒有空閒線程，且沒有超過 maxThreads，一次性建立的空閒線程數量。Tomcat 初始化時建立的線程數量也由此值設置。
maxSpareThreads：一旦建立的線程超過此數值，Tomcat會關閉再也不須要的線程。

2.4 使用 APR 來加強性能

Tomcat 能夠採用 APR（Apache Portable Runtime）提供超強的可伸縮性和性能，更好地集成本地服務器技術。APR 是一個高可移植庫，它是 Apache HTTP Server 2.x 的核心。APR 有不少用途，包括訪問高級 IO 功能（例如：sendfile、epoll、open SSL 等）、OS 級別的功能（隨機數生成、系統狀態等）、本地進程管理（共享內存、NT 管道、UNIX socket 等），這些功能使 Tomcat 做爲 WEB 應用服務器，能更好地與其它本地 Web 技術集成，讓 Tomcat 也能夠擔當更高性能的前端 Web 應用服務器，而不是僅僅是後端 Java EE 應用服務器。APR 的具體安裝步驟以下（下載地址：http://apr.apache.org）：

安裝 apr 及 apr-util：

> tar zxvf apr-1.3.8.tar.gz
> cd apr-1.3.8
> ./configure —prefix=/usr/lib/apr
> make
> make install
> tar zxvf apr-util-1.3.9.tar.gz
> cd apr-util-1.3.9
> ./configure —with-apr=/usr/lib/apr
> make
> make install

安裝 tomcat-native.tar.gz，此文件在目錄 $TOMCAT_HOME/bin 下：

> tar zxvf tomcat-native.tar.gz
> cd tomcat-native-1.1.16-src/jni/native
> ./configure —with-apr=/usr/lib/apr
> make
> make install

在 Tomcat 的啓動文件（$TOMCAt_HOME/bin/catalina.sh）中加入環境變量：

CATALINA_OPTS=-Djava.library.path=/usr/local/apr/lib

或在操做系統的環境變量（/etc/profile）中添加：

export LD_LIBRARY_PATH=$LD_LIBRARY_PATH:/usr/local/apr/lib

從新啓動計算機或使用命令 source /etc/profile 使其即時生效。
查看啓動日誌（$TOMCAT_HOME/logs/catalina…….log），如出現以下信息表示APR啓動成功：

啓動時發現日誌中有：

Sep 30, 2019 4:32:55 PM org.apache.coyote.http11.Http11AprProtocol start 
INFO: Starting Coyote HTTP/1.1 on http-8080 
Sep 30, 2019 4:32:55 PM org.apache.coyote.ajp.AjpAprProtocol start 
INFO: Starting Coyote AJP/1.3 on ajp-8009

中止時發現日誌中有：

Sep 30, 2019 4:27:06 PM org.apache.coyote.http11.Http11AprProtocol destroy 
INFO: Stopping Coyote HTTP/1.1 on http-8080 
Sep 30, 2019 4:27:06 PM org.apache.coyote.ajp.AjpAprProtocol destroy 
INFO: Stopping Coyote AJP/1.3 on ajp-8009

2.5 集成Web服務器處理靜態內容

做爲一個 Jsp/Servlet 容器，Tomcat 自己對靜態 HTML 文件的處理速度要遠遜於 Apache 等 Web 服務器。經過與此類 Web 服務器集成，Tomcat 僅僅處理動態資源請求，靜態資源請求則交給 Web 服務器處理，這樣能夠顯著地下降系統負載，從而提升總體響應的速度。

關注「 IT老兵哥 」，賦能程序人生！堅持原創不易，請小夥伴們不吝點個「贊」哦！推薦軟技能文章，請點擊連接：程序員，怎樣打造我的影響力？

近期熱評系列《 程序員必須懂的架構師入門課》：