閑談Tomcat性能優(yōu)化
Tomcat在各位JavaWeb從業(yè)者常常就是默認(rèn)的開(kāi)發(fā)環(huán)境莲绰,但是Tomcat的默認(rèn)配置作為生產(chǎn)環(huán)境,尤其是內(nèi)存和線程的配置,默認(rèn)都很低妖啥,容易成為性能瓶頸.
幸好Tomcat還有很多的提升空間.下文介紹一下Tomcat優(yōu)化,可以分為內(nèi)存,線程,IO.
一:Tomcat內(nèi)存優(yōu)化,啟動(dòng)時(shí)告訴JVM我要一塊大內(nèi)存(調(diào)優(yōu)內(nèi)存是最直接的方式)
Windows 下的catalina.bat
Linux 下的catalina.sh 如:
JAVA_OPTS='-Xms256m -Xmx512m'
-Xms<size> JVM初始化堆的大小
-Xmx<size> JVM堆的最大值 實(shí)際參數(shù)大小根據(jù)服務(wù)器配置或者項(xiàng)目具體設(shè)置.
二:Tomcat 線程優(yōu)化 在server.xml中 如:
<Connector port="80" protocol="HTTP/1.1" maxThreads="600" minSpareThreads="100" maxSpareThreads="500" acceptCount="700"
connectionTimeout="20000" />
maxThreads="X" 表示最多同時(shí)處理X個(gè)連接
minSpareThreads="X" 初始化X個(gè)連接
maxSpareThreads="X" 表示如果最多可以有X個(gè)線程,一旦超過(guò)X個(gè),則會(huì)關(guān)閉不在需要的線程
acceptCount="X" 當(dāng)同時(shí)連接的人數(shù)達(dá)到maxThreads時(shí),還可以排隊(duì),隊(duì)列大小為X.超過(guò)X就不處理
三:Tomcat IO優(yōu)化
1:同步阻塞IO(JAVA BIO) 同步并阻塞对碌,服務(wù)器實(shí)現(xiàn)模式為一個(gè)連接一個(gè)線程(one connection one thread 想想都覺(jué)得恐怖,線程可是非常寶貴的資源)荆虱,當(dāng)然可以通過(guò)線程池機(jī)制改善.
2:JAVA NIO:又分為同步非阻塞IO,異步阻塞IO 與BIO最大的區(qū)別one request one thread.可以復(fù)用同一個(gè)線程處理多個(gè)connection(多路復(fù)用).
3:,異步非阻塞IO(Java NIO2又叫AIO) 主要與NIO的區(qū)別主要是操作系統(tǒng)的底層區(qū)別.可以做個(gè)比喻:比作快遞,NIO就是網(wǎng)購(gòu)后要自己到官網(wǎng)查下快遞是否已經(jīng)到了(可能是多次)朽们,然后自己去取快遞怀读;AIO就是快遞員送貨上門(mén)了(不用關(guān)注快遞進(jìn)度)。
BIO方式適用于連接數(shù)目比較小且固定的架構(gòu)骑脱,這種方式對(duì)服務(wù)器資源要求比較高菜枷,并發(fā)局限于應(yīng)用中,JDK1.4以前的唯一選擇叁丧,但程序直觀簡(jiǎn)單易理解.
NIO方式適用于連接數(shù)目多且連接比較短(輕操作)的架構(gòu)啤誊,比如聊天服務(wù)器,并發(fā)局限于應(yīng)用中拥娄,編程比較復(fù)雜蚊锹,JDK1.4開(kāi)始支持.
AIO方式使用于連接數(shù)目多且連接比較長(zhǎng)(重操作)的架構(gòu),比如相冊(cè)服務(wù)器稚瘾,充分調(diào)用OS參與并發(fā)操作牡昆,編程比較復(fù)雜,JDK7開(kāi)始支持.
在server.xml中
<Connector port="80" protocol="org.apache.coyote.http11.Http11NioProtocol"
connectionTimeout="20000"
URIEncoding="UTF-8"
useBodyEncodingForURI="true"
enableLookups="false"
redirectPort="8443" />
實(shí)現(xiàn)對(duì)Tomcat的IO切換.
四:大殺器APR
APR是從操作系統(tǒng)級(jí)別來(lái)解決異步的IO問(wèn)題,大幅度的提高性能. (http://apr.apache.org/).
APR(Apache Portable Runtime)是一個(gè)高可移植庫(kù),它是Apache HTTP Server 2.x的核心.能更好地和其它本地web技術(shù)集成孟抗,總體上讓Java更有效率作為一個(gè)高性能web服務(wù)器平臺(tái)而不是簡(jiǎn)單作為后臺(tái)容器.
在產(chǎn)品環(huán)境中迁杨,特別是直接使用Tomcat做WEB服務(wù)器的時(shí)候钻心,應(yīng)該使用Tomcat Native來(lái)提高其性能.如果不配APR,基本上300個(gè)線程狠快就會(huì)用滿铅协,以后的請(qǐng)求就只好等待.但是配上APR之后捷沸,并發(fā)的線程數(shù)量明顯下降,從原來(lái)的300可能會(huì)馬上下降到只有幾十狐史,新的請(qǐng)求會(huì)毫無(wú)阻塞的進(jìn)來(lái).
在局域網(wǎng)環(huán)境測(cè)痒给,就算是400個(gè)并發(fā),也是一瞬間就處理/傳輸完畢骏全,但是在真實(shí)的Internet環(huán)境下,頁(yè)面處理時(shí)間只占0.1%都不到姜贡,絕大部分時(shí)間都用來(lái)頁(yè)面?zhèn)鬏?如果不用APR,一個(gè)線程同一時(shí)間只能處理一個(gè)用戶楼咳,勢(shì)必會(huì)造成阻塞。所以生產(chǎn)環(huán)境下用apr是非常必要的.
安裝Apache Tomcat Native Library母怜,直接啟動(dòng)就支持apr(http://tomcat.apache.org/native-doc/)它本身是基于APR的%E5%AE%83%E6%9C%AC%E8%BA%AB%E6%98%AF%E5%9F%BA%E4%BA%8EAPR%E7%9A%84). 具體安裝方法可以參考其他博客和文章. 排除代碼問(wèn)題Tomcat優(yōu)化到這個(gè)層次,可以應(yīng)對(duì)大部分性能需求.
最后一句話"再牛B的服務(wù)器,也頂不住一個(gè)傻B的代碼".優(yōu)化的前提條件是良好的代碼質(zhì)量和設(shè)計(jì).