tomcat BIO 、NIO 、AIO

11.11活動當天，服務器負載過大，致使部分頁面出現了不可訪問的狀態、那後來主管就要求調優了，下面是tomcat bio、nio、apr模式以及後來本身測試的一些性能結果。

原理方面的資料都是從網上找的，而且把多個地方的整理到了一塊兒，以爲頗有意義。（後面對tomcat默認頁面測試的數據是本身測出來的），tomcat 的三種模式若是用對了場合，性能絕對有大幅度的提高。固然調優也並不僅在這一個方面，還有內存（堆內存、非堆內存、新生代內存）以及線程（最大線程、請求隊列、備用線程、壓縮、以及禁用dns輪詢）等方面。

那在作tomcat bio nio apr 模式以前，先來了解下 java 的一些特性吧。

Java BIO、NIO、AIO

同步 ： 本身親自出馬持銀行卡到銀行取錢（使用同步IO時，Java本身處理IO讀寫）。

異步 ： 委託一小弟拿銀行卡到銀行取錢，而後給你（使用異步IO時，Java將IO讀寫委託給OS處理，須要將數據緩衝區地址和大小傳給OS(銀行卡和密碼)，OS須要支持異步IO操做API）。

阻塞 ： ATM排隊取款，你只能等待（使用阻塞IO時，Java調用會一直阻塞到讀寫完成才返回）。

非阻塞 ： 櫃檯取款，取個號，而後坐在椅子上作其它事，等號廣播會通知你辦理，沒到號你就不能去，你能夠不斷問大堂經理排到了沒有，大堂經理若是說還沒到你就不能去（使用非阻塞IO時，若是不能讀寫Java調用會立刻返回，當IO事件分發器會通知可讀寫時再繼續進行讀寫，不斷循環直到讀寫完成）。

Java對BIO、NIO、AIO的支持：

Java BIO ： 同步並阻塞，服務器實現模式爲一個鏈接一個線程，即客戶端有鏈接請求時服務器端就須要啓動一個線程進行處理，若是這個鏈接不作任何事情會形成沒必要要的線程開銷，固然能夠經過線程池機制改善。

Java NIO ： 同步非阻塞，服務器實現模式爲一個請求一個線程，即客戶端發送的鏈接請求都會註冊到多路複用器上，多路複用器輪詢到鏈接有I/O請求時才啓動一個線程進行處理。

Java AIO(NIO.2) ： 異步非阻塞，服務器實現模式爲一個有效請求一個線程，客戶端的I/O請求都是由OS先完成了再通知服務器應用去啓動線程進行處理

BIO、NIO、AIO適用場景分析:

BIO方式適用於鏈接數目比較小且固定的架構，這種方式對服務器資源要求比較高，併發侷限於應用中，JDK1.4之前的惟一選擇，但程序直觀簡單易理解。

NIO方式適用於鏈接數目多且鏈接比較短（輕操做）的架構，好比聊天服務器，併發侷限於應用中，編程比較複雜，JDK1.4開始支持。

AIO方式使用於鏈接數目多且鏈接比較長（重操做）的架構，好比相冊服務器，充分調用OS參與併發操做，編程比較複雜，JDK7開始支持。

---

好，下面來看看tomcat 的 bio、nio、apr 模式

bio 
bio(blocking I/O)，顧名思義，即阻塞式I/O操做，表示Tomcat使用的是傳統的Java I/O操做(即java.io包及其子包)。Tomcat在默認狀況下，就是以bio模式運行的。遺憾的是，就通常而言，bio模式是三種運行模式中性能最低的一種。咱們能夠經過Tomcat Manager來查看服務器的當前狀態。

nio 
是Java SE 1.4及後續版本提供的一種新的I/O操做方式(即java.nio包及其子包)。Java nio是一個基於緩衝區、並能提供非阻塞I/O操做的Java API，所以nio也被當作是non-blocking I/O的縮寫。它擁有比傳統I/O操做(bio)更好的併發運行性能。

apr 
(Apache Portable Runtime/Apache可移植運行庫)，是Apache HTTP服務器的支持庫。你能夠簡單地理解爲，Tomcat將以JNI的形式調用Apache HTTP服務器的核心動態連接庫來處理文件讀取或網絡傳輸操做，從而大大地提升Tomcat對靜態文件的處理性能。 Tomcat apr也是在Tomcat上運行高併發應用的首選模式。

---

在這以前，咱們先把tomcat管理界面配置起來，以便等下能更方便的觀察咱們的bio、nio、apr 模式

添加manager/status用戶

vim /usr/local/apache-tomcat-7.0.47/conf/tomcat-users.xml <role rolename="manager-gui"/> <user username="tomcat" password="15715746746" roles="manager-gui"/>

配置完重啓，經過ip:port/manager/status 就能夠看tomcat狀態了，裏面有服務器的信息及tomcat信息。

bio server.xml 配置 （重啓生效）

<Connector port="8080" protocol="HTTP/1.1" connectionTimeout="20000" redirectPort="8443" />

nio server.xml 配置 （重啓生效）

<Connector port="8080" protocol="org.apache.coyote.http11.Http11NioProtocol" connectionTimeout="20000" redirectPort="8443" />

apr server.xml 配置 （重啓生效）

<Connector port="8080" protocol="org.apache.coyote.http11.Http11AprProtocol" connectionTimeout="20000" redirectPort="8443" />

固然，apr模式還須要安裝 apr 、 apr-utils 、tomcat-native包

apr 安裝
tar zxf apr-1.5.2.tar.gz -C /usr/local/src/ cd /usr/local/src/apr-1.5.2/ ./configure --prefix=/usr/local/apr && make && make install apr-utils 安裝 tar zxf apr-util-1.5.4.tar.gz -C /usr/local/src/ cd /usr/local/src/apr-util-1.5.4/ ./configure --with-apr=/usr/local/apr/ --prefix=/usr/local/apr-utils && make && make install tomcat-native安裝 cd /usr/local/apache-tomcat-7.0.65/bin/ tar zxf tomcat-native.tar.gz cd tomcat-native-1.1.33-src/jni/native ./configure --with-apr=/usr/local/apr --with-java-home=/usr/local/java/ && make && make install

安裝完後記得在 /etc/profile 的JAVA變量後面多加一條APR的環境變量

設置環境變量

JAVA_HOME=/usr/local/java
JAVA_BIN=$JAVA_HOME/bin PATH=$PATH:$JAVA_BIN CLASSPATH=$JAVA_HOME/lib/dt.jar:$JAVA_HOME/lib/tools.jar export JAVA_HOME JAVA_BIN PATH CLASSPATH export LD_LIBRARY_PATH=$LD_LIBRARY_PATH:/usr/local/apr/lib 

source /etc/profile

那下面來看看 apr 的頁面

---

到這裏大體的配置就結束了，建議在作實驗以前，先了解清楚java的 bio 、nio 、aio特性，在web服務器上阻塞IO(BIO)與NIO一個比較重要的不一樣是，客戶系統使用BIO的時候每每會爲每個web請求引入多線程，每一個web請求一個單獨的線程，因此併發量一旦上去了，線程數就上去了，CPU就忙着線程切換，因此BIO不合適高吞吐量、高可伸縮的web服務器；而NIO則是使用單線程(單個CPU)或者只使用少許的多線程(多CPU)來接受Socket，而由線程池來處理堵塞在pipe或者隊列裏的請求.這樣的話，只要OS能夠接受TCP的鏈接，web服務器就能夠處理該請求。大大提升了web服務器的可伸縮性。

下面是我本身的一些性能測試表格，經過jmeter壓測軟件（jmeter軟件使用自行百度）在本地測試的（爲了數據的有效以及準確性，我沒測試10分鐘，也就是進行一次測試，都會重啓linux主機及從新打開jmeter軟件。），固然你也能夠選擇經過 雲主機、本身機房的服務器以及虛擬機等測試，測試當中會涉及到不少點，例如（磁盤io、帶寬、內存、cpu、以及內核配置中的tcp各類狀態，甚至是各類打開文件限制，都會影響到咱們的測試結果）

能夠看到，隨着線程的不斷增多，bio 模式性能愈來愈差，就算是在本地，錯誤率和響應時間都在明顯的增長、而吞吐量、樣本數和每秒傳輸速率都在降低（固然，若是是生產環境，咱們確定經過nginx web 軟件進行反向代理，提供多個tomcat 節點來提供更穩定的服務。）

而 bio 和 apr模式基本上沒有變化太多，都保持在一個穩定的狀態。

---

然後來當我進行一些 service 後端程序的測試時，發現 tomcat 性能並無大幅度的提高，甚至會有降低的趨勢。（該接口不是在同網段測試，而是跨越路由器，在網絡傳輸中會有損耗方面，性能跟本地測試也會有所差別）

---

總結： 
我的以爲在 tomcat bio、nio、apr 模式中，每種都會有各自適用的場合，也不能說哪一個好那個很差，就像 tomcat 內存方面的配置，若是內存設置的過大，gc 垃圾回收機制就會變慢；若是內存設置的太小，tomcat又會出現內存溢出的狀況，因此設置在一個合適的範圍很重要，不只不會出錯，而且gc回收頻繁使性能達到一個最優的結果。固然，這也須要根據不一樣的場合進行不一樣的測試才能產生最優的結果！