內(nèi)容來源：2017年5月13日篱竭，餓了么資深Java工程師朱杰在“Java開發(fā)者大會 | Java之美【上海站】”進(jìn)行《老樹新花-Java異步服務(wù)開發(fā)》演講分享摄凡。IT大咖說作為獨(dú)家視頻合作方锋谐，經(jīng)主辦方和講者審閱授權(quán)發(fā)布。
閱讀字?jǐn)?shù)：1901 用時(shí): 13分鐘
摘要
餓了么資深Java工程師朱杰從同步異步概念介紹盖文、使用Java來開發(fā)異步化服務(wù)、回調(diào)監(jiān)聽模式所遇到的問題和解決這三方面來我們?nèi)娼庾xJava異步服務(wù)開發(fā)淋肾。
嘉賓演講視頻回顧及PPT：http://suo.im/4rwo2Y
同步模型
以前在并發(fā)量很低的情況下，是通過線程去收取數(shù)據(jù)并發(fā)送數(shù)據(jù)給客戶端爸邢。但是當(dāng)并發(fā)量和客戶端連接數(shù)比較高的時(shí)候樊卓，服務(wù)器會出現(xiàn)明顯的瓶頸。
阻塞模型比較符合人的思考邏輯杠河，但它會有線程阻塞的問題碌尔。阻塞模型會讓出CPU，不適用于高并發(fā)券敌。
線程池或連接池只能解決一部分問題唾戚。因?yàn)榫€程池和連接池的本質(zhì)作用并不是能直接提高QPS，而是減少或銷毀線程的連接處以及開銷待诅。
我們平時(shí)調(diào)用阻塞API的一個(gè)問題就在于單機(jī)的線程數(shù)是有限的叹坦。所以如果要提高服務(wù)端性能的話，首先就要去阻塞卑雁。
異步模型
異步阻塞模型處理I/O時(shí)大部分時(shí)間是非阻塞的（監(jiān)聽時(shí)除外）募书，它調(diào)用的API會立即返回，這點(diǎn)是需要注意的测蹲。此外莹捡，處理結(jié)果的程序并不保證調(diào)用API當(dāng)前的線程，這點(diǎn)在處理線程安全的問題上尤其要注意扣甲。
Java中很多API都是基于操作系統(tǒng)底層API的模型篮赢，并沒有做更高層次的封裝。
Java把一層阻塞異部I/O做了封裝文捶，這些就是Java或C語言異步模型的基石荷逞。
少數(shù)線程等待事件發(fā)生媒咳，再根據(jù)對應(yīng)類型處理相關(guān)事件粹排。
最近“協(xié)程”這個(gè)詞比較火，看上去能解決異步模型的大部分問題涩澡。它是一個(gè)輕量級線程顽耳，可以直接當(dāng)作線程來用。還能阻塞I/O API妙同，阻塞的是協(xié)程而非線程射富。
協(xié)程是用戶態(tài)資源，用戶態(tài)調(diào)度粥帚，消耗極低胰耗，可以啟動數(shù)十萬個(gè)協(xié)程。
它的實(shí)現(xiàn)和線程不是1對1 的關(guān)系芒涡，難點(diǎn)在于編程語言的內(nèi)部實(shí)現(xiàn)柴灯。
Python雖然支持協(xié)程卖漫，但是由于全局解釋鎖的關(guān)系，同一時(shí)刻只有單個(gè)CPU在運(yùn)行赠群。所以python選擇多進(jìn)程+協(xié)程的做法羊始。
Go語言完美解決了支持不阻塞線程的I/O操作，并支持多線程查描。
要能像同步I/O一樣編寫代碼突委，不會創(chuàng)造過多數(shù)量的線程。盡量讓CPU處于忙碌狀態(tài)而非等待冬三，并尋找滿足以上條件的Java庫匀油。但是Java由于本身語言的問題，即使是Java協(xié)程三方庫也只能部分支持協(xié)程长豁。
退而求其次钧唐，我們只能使用Java異步工具庫。如果要提高并發(fā)量匠襟，可以使用異步JDBC和異步HTTP CLIENT钝侠，這個(gè)庫基于NETTY。
做到服務(wù)異步化酸舍，要查看接口是否可支持異步帅韧。還可以使用Java的異步工具庫，比如Java的異步數(shù)據(jù)訪問方式和異步HTTP CLIENT啃勉。如果使用的是三方框架忽舟，可以修改調(diào)用方式，有的框架支持異步回調(diào)和事件監(jiān)聽淮阐。最重要的是要注意線程安全問題叮阅。
異步化的優(yōu)勢就是極大提高了I/O密集型業(yè)務(wù)的性能，保守估計(jì)有10~100倍泣特，也就解決了線程數(shù)創(chuàng)建過多的問題浩姥。
而它的缺點(diǎn)是增加了編程難度，包括狀態(tài)保存状您、回調(diào)處理以及線程安全等勒叠。也存在壓垮下游服務(wù)的問題：)
老樹新花-基于Netty的Java模型
Netty是基于原生的異步模型，封裝并優(yōu)化膏孟。它修復(fù)JDK中的一些BUG眯分，提供了多種輔助類方便開發(fā)。編程模型高效簡單柒桑，開發(fā)者只需關(guān)心具體實(shí)現(xiàn)邏輯即可弊决，基本不用花精力做Java網(wǎng)絡(luò)層面的優(yōu)化。此外魁淳，Netty成熟穩(wěn)定飘诗，業(yè)界使用多傅联，我們能夠相信，使用它不會遇到難以解決的大問題疚察。
Netty基于事件連接蒸走，如果有數(shù)據(jù)傳入以及連接上有異常事件或自定義事件，只需復(fù)寫它的回調(diào)函數(shù)就能做相應(yīng)的處理貌嫡。
Netty所有I/O API全都是消除阻塞異步化比驻。線程模式也非常好，它單個(gè)連接上的所有I/O事件都由同一個(gè)線程執(zhí)行岛抄，避免了線程安全問題别惦。
Netty的單個(gè)鏈接綁定一個(gè)線程，EVENTLOOP即一個(gè)線程夫椭，EVENTLOOPGROUP是一個(gè)線程組掸掸。
Netty任何的I/O API都是產(chǎn)生一個(gè)任務(wù)，放入該連接對應(yīng)的線程里執(zhí)行蹭秋，做到局部串行化扰付。
Netty一切操作都是以事件驅(qū)動來執(zhí)行，所有I/O API都是用異步+回調(diào)監(jiān)聽的方式來處理消息仁讨。單一的連接處理都在一個(gè)線程里羽莺，來避免線程安全問題。
案例-餓了么數(shù)據(jù)庫中間件
我們是一個(gè)實(shí)現(xiàn)了MYSQL協(xié)議的中間代理服務(wù)洞豁。上游至少要支持上萬客戶端的連接盐固，下游要支持上千數(shù)據(jù)庫連接。
為了快速實(shí)現(xiàn)功能丈挟，我們最早是找了一個(gè)基于GITHUB阻塞I/O開源庫刁卜，首要任務(wù)是把同步改為了異步。
線程模型的上下游各有Netty的一個(gè)線程組曙咽，中間件內(nèi)部還有一個(gè)處理業(yè)務(wù)的線程組蛔趴。
但有一個(gè)最本質(zhì)的問題在于這三個(gè)線程組之間的線程安全得不到保證。
因?yàn)檫@個(gè)中間件前后端都是異步的桐绒，所以按正常流程是由協(xié)議來保證順序執(zhí)行夺脾，而異常中斷是并發(fā)執(zhí)行的之拨。
參考Netty茉继，我們把每一個(gè)連接綁定到一個(gè)單線程池，保證Task串行執(zhí)行蚀乔。
前后端異步的好處在于模型簡單烁竭，便于后續(xù)修改。
我個(gè)人認(rèn)為吉挣，在程序里過多的使用WAIT/NOTIFY/LOCK不一定代表良好的多線程編程能力宣决，卻可能代表這是不夠優(yōu)雅的設(shè)計(jì)蚁孔。
除了前后端異步和信號量控制異步列林，在中間件中我們還用到了日志異步、心跳異步镀赌、JOB異步和配置變更異步。
在餓了么數(shù)據(jù)庫中間件開發(fā)過程中际跪，異步化所有API以去除阻塞商佛，局部串行化解決線程安全問題，模型簡單姆打，易于修改和理解良姆。
今天的分享就到這里，謝謝大家幔戏！
