背景
目前我們Tomcat中包含的核心應(yīng)用是acm冈爹，它由應(yīng)用部署妻导、監(jiān)控逛绵、自動(dòng)化多個(gè)模塊組成。當(dāng)有一個(gè)模塊發(fā)生問(wèn)題倔韭，會(huì)影響到其他模塊的正常運(yùn)行术浪，但是從用戶(hù)角度來(lái)說(shuō)，這三個(gè)模塊是相對(duì)獨(dú)立的寿酌，不應(yīng)該相互影響胰苏，所以本方案用來(lái)針對(duì)不同的模塊進(jìn)行線(xiàn)程資源隔離。
根因分析
首先我們需要弄明白為什么會(huì)相互影響醇疼。下圖是我們的請(qǐng)求所經(jīng)過(guò)的組件硕并。
當(dāng)請(qǐng)求通過(guò)Acceptor線(xiàn)程接收后封裝成任務(wù)的形式給到Poller進(jìn)行注冊(cè)，此處使用NIO的標(biāo)準(zhǔn)流程進(jìn)行處理秧荆。當(dāng)有數(shù)據(jù)到達(dá)服務(wù)端時(shí)倔毙，會(huì)創(chuàng)建SocketProcessor，并將socket和事件相關(guān)信息傳遞過(guò)去辰如，隨后在Tomcat線(xiàn)程池中進(jìn)行SocketProcessor的相關(guān)邏輯普监。通過(guò)上圖可以看的出來(lái)，后續(xù)的流程都是同步進(jìn)行的，只有等到具體的Servlet處理完業(yè)務(wù)邏輯后才會(huì)返回凯正。最大的問(wèn)題就是一個(gè)應(yīng)用中所有的請(qǐng)求共用Tomcat處理線(xiàn)程池毙玻，當(dāng)系統(tǒng)某個(gè)模塊把鏈接完全占用后，其他模塊拿不到對(duì)用的線(xiàn)程進(jìn)行處理廊散，導(dǎo)致堵塞設(shè)置超時(shí)桑滩，從而影響到上層的業(yè)務(wù)。
可能的思路
- 在Tomcat線(xiàn)程池根據(jù)請(qǐng)求的不同地址前綴發(fā)送到不同的線(xiàn)程池中進(jìn)行處理允睹。首先我們請(qǐng)求的前綴的獲取运准，需要在HTTP協(xié)議解析之后獲得，也就是圖中的Processor這個(gè)過(guò)程進(jìn)行處理的缭受，但是我們將請(qǐng)求放入線(xiàn)程池處理的邏輯是在他的前面胁澳，所以無(wú)法實(shí)現(xiàn)。除非破壞Tomcat原有架構(gòu)米者，風(fēng)險(xiǎn)極高且不推薦韭畸。
- Servlet3的異步化處理。在接收到請(qǐng)求之后蔓搞，Servlet線(xiàn)程可以將耗時(shí)的操作委派給另一個(gè)線(xiàn)程來(lái)完成胰丁，自己在不生成響應(yīng)的情況下返回至容器，以便能處理另一個(gè)請(qǐng)求喂分。此時(shí)當(dāng)前請(qǐng)求的響應(yīng)將被延后锦庸，在異步處理完成后時(shí)再對(duì)客戶(hù)端進(jìn)行響應(yīng)（異步線(xiàn)程擁有 ServletRequest 和 ServletResponse 對(duì)象的引用）。開(kāi)啟異步請(qǐng)求處理之后蒲祈，Servlet 線(xiàn)程不再是一直處于阻塞狀態(tài)以等待業(yè)務(wù)邏輯的處理甘萧，而是啟動(dòng)異步線(xiàn)程之后可以立即返回。異步處理的特性可以幫助應(yīng)用節(jié)省容器中的線(xiàn)程讳嘱，特別適合執(zhí)行時(shí)間長(zhǎng)而且用戶(hù)需要得到響應(yīng)結(jié)果的任務(wù)幔嗦，這將大大減少服務(wù)器資源的占用，并且提高并發(fā)處理速度沥潭。我們可以利用這個(gè)Servlet的這個(gè)特性邀泉，來(lái)完成我們的多模塊的隔離方案。
方案驗(yàn)證
SpringMvc實(shí)現(xiàn)了Servlet3異步化的方案钝鸽，主要的改動(dòng)點(diǎn)是開(kāi)啟異步化的功能汇恤，在啟動(dòng)類(lèi)上打上@EnableAsync注解，其次是在寫(xiě)Controller時(shí)拔恰，它的返回值使用Callable包裹因谎。詳情請(qǐng)見(jiàn)下面配置
