異步非阻塞I/O
JDK 1.4的NIO框架經(jīng)常被稱為異步非阻塞I/O贬墩,但是,如果嚴(yán)格按照UNIX網(wǎng)絡(luò)編程模型和JDK的實(shí)現(xiàn)進(jìn)行區(qū)分妄呕,實(shí)際上它只能被稱為非阻塞I/O陶舞,不能叫異步非阻塞I/O。
JDK 1.4和1.5 update10版本之前趴腋,JDK的Selector是基于select/poll模型實(shí)現(xiàn)的,它是基于I/O復(fù)用技術(shù)的非阻塞I/O论咏,不是異步I/O优炬。
在JDK 1.5 update10和Linux core2.6以上版本,Sun優(yōu)化了Selctor的實(shí)現(xiàn)厅贪,它在底層使用epoll替換了select/poll蠢护,上層的API并沒(méi)有變化,可以認(rèn)為是JDK NIO的一次性能優(yōu)化养涮,但是它仍舊沒(méi)有改變I/O的模型葵硕。
JDK1.7的NIO 2.0新增了異步的套接字通道,它是真正的異步I/O贯吓,在異步I/O操作的時(shí)候可以傳遞信號(hào)變量懈凹,當(dāng)操作完成之后會(huì)回調(diào)相關(guān)的方法,異步I/O也被稱為AIO悄谐。
NIO類庫(kù)支持非阻塞讀和寫操作介评,相比于之前的同步阻塞讀和寫,它是異步的,因此很多人習(xí)慣于稱NIO為異步非阻塞I/O们陆。
多路復(fù)用器Selector
Java NIO1的實(shí)現(xiàn)關(guān)鍵是多路復(fù)用I/O技術(shù)寒瓦,多路復(fù)用的核心是通過(guò)Selector來(lái)輪詢注冊(cè)在其上的Channel,當(dāng)發(fā)現(xiàn)某個(gè)或者多個(gè)Channel處于就緒狀態(tài)后坪仇,從阻塞狀態(tài)返回就緒的Channel的選擇鍵集合杂腰,進(jìn)行I/O操作。
由于多路復(fù)用器是NIO實(shí)現(xiàn)非阻塞I/O的關(guān)鍵椅文,它又是主要通過(guò)Selector實(shí)現(xiàn)的喂很,所以將Selector翻譯為多路復(fù)用器更合適。
偽異步I/O
偽異步I/O的概念完全來(lái)源于實(shí)踐雾袱。
在JDK NIO編程沒(méi)有流行之前恤筛,為了解決Tomcat通信線程同步I/O導(dǎo)致業(yè)務(wù)線程被掛住的問(wèn)題,大家想到了一個(gè)辦法:在通信線程和業(yè)務(wù)線程之間做個(gè)緩沖區(qū)芹橡,這個(gè)緩沖區(qū)用于隔離I/O線程和業(yè)務(wù)線程間的直接訪問(wèn)毒坛,這樣業(yè)務(wù)線程就不會(huì)被I/O線程阻塞。
而對(duì)于后端的業(yè)務(wù)側(cè)來(lái)說(shuō)林说,將消息或者Task放到線程池后就返回了煎殷,它不再直接訪問(wèn)I/O線程或者進(jìn)行I/O讀寫,這樣也就不會(huì)被同步阻塞腿箩。
類似的設(shè)計(jì)還包括前端啟動(dòng)一組線程豪直,將接收的客戶端封裝成Task,放到后端的線程池執(zhí)行珠移,用于解決一連接一線程問(wèn)題弓乙。
不同I/O模型對(duì)比
選擇Netty的理由
開發(fā)出高質(zhì)量的NIO程序并不是一件簡(jiǎn)單的事情,除去NIO固有的復(fù)雜性和BUG钧惧,作為一個(gè)NIO服務(wù)端暇韧,還需要處理網(wǎng)絡(luò)的閃斷、客戶端的重復(fù)接入浓瞪、客戶端的安全認(rèn)證懈玻、消息的編解碼、半包讀寫等情況乾颁。
從可維護(hù)性角度看涂乌,由于NIO采用了異步非阻塞編程模型,而且是一個(gè)I/O線程處理多條鏈路英岭,它的調(diào)試和跟蹤非常麻煩湾盒,特別是生產(chǎn)環(huán)境中的問(wèn)題,我們無(wú)法進(jìn)行有效的調(diào)試和跟蹤诅妹,往往只能靠一些日志來(lái)輔助分析历涝,定位難度很大。
不選擇Java原生NIO編程的原因
(1)NIO的類庫(kù)和API繁雜,使用麻煩荧库,需要熟練掌握Selector
堰塌、ServerSocketChannel
、SocketChannel
分衫、ByteBuffer
等场刑。
(2)需要具備其他的額外技能做鋪墊,例如熟悉Java多線程編程蚪战。這是因?yàn)镹IO編程涉及到Reactor模式牵现,你必須對(duì)多線程和網(wǎng)路編程非常熟悉,才能編寫出高質(zhì)量的NIO程序邀桑。
(3)可靠性能力補(bǔ)齊瞎疼,工作量和難度都非常大。例如客戶端面臨斷連重連壁畸、網(wǎng)絡(luò)閃斷贼急、半包讀寫、失敗緩存捏萍、網(wǎng)絡(luò)擁塞和異常碼流的處理等問(wèn)題太抓,NIO編程的特點(diǎn)是功能開發(fā)相對(duì)容易,但是可靠性能力補(bǔ)齊的工作量和難度都非常大令杈。
(4)JDK NIO的BUG走敌,例如臭名昭著的epoll bug,它會(huì)導(dǎo)致Selector空輪詢逗噩,最終導(dǎo)致CPU 100%掉丽。官方聲稱在JDK 1.6版本的update18修復(fù)了該問(wèn)題,但是直到JDK 1.7版本該問(wèn)題仍舊存在异雁,只不過(guò)該BUG發(fā)生概率降低了一些而已捶障,它并沒(méi)有得到根本性解決。
不建議直接使用JDK的NIO類庫(kù)
Netty既可以作為客戶端也可以作為服務(wù)端片迅,同時(shí)支持UDP和異步文件傳輸残邀,功能非常強(qiáng)大皆辽。
為什么選擇Netty
健壯性柑蛇、功能、性能驱闷、可定制性和可擴(kuò)展性在同類框架中都是首屈一指的耻台。
- API使用簡(jiǎn)單,開發(fā)門檻低空另;
- 功能強(qiáng)大盆耽,預(yù)置了多種編解碼功能,支持多種主流協(xié)議;
- 定制能力強(qiáng)摄杂,可以通過(guò)
ChannelHandler
對(duì)通信框架進(jìn)行靈活地?cái)U(kuò)展坝咐; - 性能高,通過(guò)與其他業(yè)界主流的NIO框架對(duì)比析恢,Netty的綜合性能最優(yōu)墨坚;
成熟、穩(wěn)定映挂,Netty修復(fù)了已經(jīng)發(fā)現(xiàn)的所有JDK NIO BUG泽篮,業(yè)務(wù)開發(fā)人員不需要再為NIO的BUG而煩惱; - 社區(qū)活躍柑船,版本迭代周期短帽撑,發(fā)現(xiàn)的BUG可以被及時(shí)修復(fù),同時(shí)鞍时,更多的新功能會(huì)加入亏拉;
- 經(jīng)歷了大規(guī)模的商業(yè)應(yīng)用考驗(yàn),質(zhì)量得到驗(yàn)證寸癌。Netty在互聯(lián)網(wǎng)专筷、大數(shù)據(jù)、網(wǎng)絡(luò)游戲蒸苇、企業(yè)應(yīng)用、電信軟件等眾多行業(yè)已經(jīng)得到了成功商用溪烤,證明它已經(jīng)完全能夠滿足不同行業(yè)的商業(yè)應(yīng)用了味咳。
正是因?yàn)檫@些優(yōu)點(diǎn),Netty逐漸成為了Java NIO編程的首選框架槽驶。