一、Netty到底是什么

1县爬、從HTTP說起

有了Netty阳啥，你可以實現(xiàn)自己的HTTP服務(wù)器，F(xiàn)TP服務(wù)器财喳，UDP服務(wù)器察迟，RPC服務(wù)器，WebSocket服務(wù)器纲缓，Redis的Proxy服務(wù)器卷拘，MySQL的Proxy服務(wù)器等等喊废。

我們回顧一下傳統(tǒng)的HTTP服務(wù)器的原理：

1祝高、創(chuàng)建一個ServerSocket，監(jiān)聽并綁定一個端口

2污筷、一系列客戶端來請求這個端口

3工闺、服務(wù)器使用Accept，獲得一個來自客戶端的Socket連接對象

4瓣蛀、啟動一個新線程處理連接

4.1陆蟆、讀Socket，得到字節(jié)流

4.2惋增、解碼協(xié)議叠殷，得到Http請求對象

4.3、處理Http請求诈皿，得到一個結(jié)果林束，封裝成一個HttpResponse對象

4.4、編碼協(xié)議稽亏，將結(jié)果序列化字節(jié)流 寫Socket壶冒，將字節(jié)流發(fā)給客戶端

5、繼續(xù)循環(huán)步驟3

HTTP服務(wù)器之所以稱為HTTP服務(wù)器截歉，是因為編碼解碼協(xié)議是HTTP協(xié)議胖腾，如果協(xié)議是Redis協(xié)議，那它就成了Redis服務(wù)器瘪松，如果協(xié)議是WebSocket咸作，那它就成了WebSocket服務(wù)器，等等宵睦。 使用Netty你就可以定制編解碼協(xié)議记罚，實現(xiàn)自己的特定協(xié)議的服務(wù)器。

2状飞、NIO

上面是一個傳統(tǒng)處理http的服務(wù)器毫胜，但是在高并發(fā)的環(huán)境下书斜，線程數(shù)量會比較多，System load也會比較高酵使，于是就有了NIO荐吉。

他并不是Java獨(dú)有的概念，NIO代表的一個詞匯叫著IO多路復(fù)用口渔。它是由操作系統(tǒng)提供的系統(tǒng)調(diào)用样屠，早期這個操作系統(tǒng)調(diào)用的名字是select，但是性能低下缺脉，后來漸漸演化成了Linux下的epoll和Mac里的kqueue痪欲。我們一般就說是epoll，因為沒有人拿蘋果電腦作為服務(wù)器使用對外提供服務(wù)攻礼。而Netty就是基于Java NIO技術(shù)封裝的一套框架业踢。為什么要封裝，因為原生的Java NIO使用起來沒那么方便礁扮，而且還有臭名昭著的bug知举，Netty把它封裝之后，提供了一個易于操作的使用模式和接口太伊，用戶使用起來也就便捷多了雇锡。

說NIO之前先說一下BIO（Blocking IO）,如何理解這個Blocking呢？

客戶端監(jiān)聽（Listen）時僚焦，Accept是阻塞的锰提，只有新連接來了，Accept才會返回芳悲，主線程才能繼;

讀寫socket時立肘，Read是阻塞的，只有請求消息來了芭概，Read才能返回赛不，子線程才能繼續(xù)處理;

讀寫socket時，Write是阻塞的罢洲，只有客戶端把消息收了踢故，Write才能返回，子線程才能繼續(xù)讀取下一個請求;

傳統(tǒng)的BIO模式下惹苗，從頭到尾的所有線程都是阻塞的殿较，這些線程就干等著，占用系統(tǒng)的資源桩蓉，什么事也不干淋纲。

那么NIO是怎么做到非阻塞的呢。它用的是事件機(jī)制院究。它可以用一個線程把Accept洽瞬，讀寫操作本涕，請求處理的邏輯全干了。如果什么事都沒得做伙窃，它也不會死循環(huán)菩颖，它會將線程休眠起來，直到下一個事件來了再繼續(xù)干活为障，這樣的一個線程稱之為NIO線程晦闰。用偽代碼表示：

二、Reactor線程模型

1鳍怨、Reactor單線程模型

一個NIO線程+一個accept線程：

2呻右、Reactor多線程模型

3、Reactor主從模型

主從Reactor多線程：多個acceptor的NIO線程池用于接受客戶端的連接

Netty可以基于如上三種模型進(jìn)行靈活的配置鞋喇。

4声滥、小結(jié)

Netty是建立在NIO基礎(chǔ)之上，Netty在NIO之上又提供了更高層次的抽象确徙。

在Netty里面醒串，Accept連接可以使用單獨(dú)的線程池去處理，讀寫操作又是另外的線程池來處理鄙皇。

Accept連接和讀寫操作也可以使用同一個線程池來進(jìn)行處理。而請求處理邏輯既可以使用單獨(dú)的線程池進(jìn)行處理仰挣，也可以跟放在讀寫線程一塊處理伴逸。線程池中的每一個線程都是NIO線程。用戶可以根據(jù)實際情況進(jìn)行組裝膘壶，構(gòu)造出滿足系統(tǒng)需求的高性能并發(fā)模型错蝴。

三、為什么選擇Netty

如果不用netty颓芭，使用原生JDK的話顷锰，有如下問題：

1、API復(fù)雜

2亡问、對多線程很熟悉：因為NIO涉及到Reactor模式

3官紫、高可用的話：需要出路斷連重連、半包讀寫州藕、失敗緩存等問題

4束世、JDK NIO的bug

而Netty來說，他的api簡單床玻、性能高而且社區(qū)活躍（dubbo毁涉、rocketmq等都使用了它）

四、什么是TCP 粘包/拆包

1锈死、現(xiàn)象

先看如下代碼贫堰，這個代碼是使用netty在client端重復(fù)寫100次數(shù)據(jù)給server端穆壕，ByteBuf是netty的一個字節(jié)容器，里面存放是的需要發(fā)送的數(shù)據(jù):

從client端讀取到的數(shù)據(jù)為：

從服務(wù)端的控制臺輸出可以看出其屏，存在三種類型的輸出

一種是正常的字符串輸出粱檀。

一種是多個字符串“粘”在了一起，我們定義這種 ByteBuf 為粘包漫玄。

一種是一個字符串被“拆”開茄蚯，形成一個破碎的包，我們定義這種 ByteBuf 為半包睦优。

2渗常、透過現(xiàn)象分析原因

應(yīng)用層面使用了Netty，但是對于操作系統(tǒng)來說汗盘，只認(rèn)TCP協(xié)議皱碘，盡管我們的應(yīng)用層是按照 ByteBuf 為 單位來發(fā)送數(shù)據(jù)，server按照Bytebuf讀取隐孽，但是到了底層操作系統(tǒng)仍然是按照字節(jié)流發(fā)送數(shù)據(jù)癌椿，因此，數(shù)據(jù)到了服務(wù)端菱阵，也是按照字節(jié)流的方式讀入踢俄，然后到了 Netty 應(yīng)用層面，重新拼裝成 ByteBuf晴及，而這里的 ByteBuf 與客戶端按順序發(fā)送的 ByteBuf 可能是不對等的都办。因此，我們需要在客戶端根據(jù)自定義協(xié)議來組裝我們應(yīng)用層的數(shù)據(jù)包虑稼，然后在服務(wù)端根據(jù)我們的應(yīng)用層的協(xié)議來組裝數(shù)據(jù)包琳钉，這個過程通常在服務(wù)端稱為拆包，而在客戶端稱為粘包蛛倦。

拆包和粘包是相對的歌懒，一端粘了包，另外一端就需要將粘過的包拆開溯壶，發(fā)送端將三個數(shù)據(jù)包粘成兩個 TCP 數(shù)據(jù)包發(fā)送到接收端及皂，接收端就需要根據(jù)應(yīng)用協(xié)議將兩個數(shù)據(jù)包重新組裝成三個數(shù)據(jù)包。

3茸塞、如何解決

在沒有 Netty 的情況下躲庄，用戶如果自己需要拆包，基本原理就是不斷從 TCP 緩沖區(qū)中讀取數(shù)據(jù)钾虐，每次讀取完都需要判斷是否是一個完整的數(shù)據(jù)包 如果當(dāng)前讀取的數(shù)據(jù)不足以拼接成一個完整的業(yè)務(wù)數(shù)據(jù)包噪窘，那就保留該數(shù)據(jù)，繼續(xù)從 TCP 緩沖區(qū)中讀取，直到得到一個完整的數(shù)據(jù)包倔监。 如果當(dāng)前讀到的數(shù)據(jù)加上已經(jīng)讀取的數(shù)據(jù)足夠拼接成一個數(shù)據(jù)包直砂，那就將已經(jīng)讀取的數(shù)據(jù)拼接上本次讀取的數(shù)據(jù)，構(gòu)成一個完整的業(yè)務(wù)數(shù)據(jù)包傳遞到業(yè)務(wù)邏輯浩习，多余的數(shù)據(jù)仍然保留静暂，以便和下次讀到的數(shù)據(jù)嘗試拼接。

而在Netty中谱秽，已經(jīng)造好了許多類型的拆包器洽蛀，我們直接用就好：

選好拆包器后，在代碼中client段和server端將拆包器加入到chanelPipeline之中就好了:

如上實例中：

客戶端：

服務(wù)端：

五疟赊、Netty 的零拷貝

1郊供、傳統(tǒng)意義的拷貝

是在發(fā)送數(shù)據(jù)的時候，傳統(tǒng)的實現(xiàn)方式是：

1. `File.read(bytes)`

2. `Socket.send(bytes)`

這種方式需要四次數(shù)據(jù)拷貝和四次上下文切換：

1. 數(shù)據(jù)從磁盤讀取到內(nèi)核的read buffer

2. 數(shù)據(jù)從內(nèi)核緩沖區(qū)拷貝到用戶緩沖區(qū)

3. 數(shù)據(jù)從用戶緩沖區(qū)拷貝到內(nèi)核的socket buffer

4. 數(shù)據(jù)從內(nèi)核的socket buffer拷貝到網(wǎng)卡接口（硬件）的緩沖區(qū)

2近哟、零拷貝的概念

明顯上面的第二步和第三步是沒有必要的驮审，通過java的FileChannel.transferTo方法，可以避免上面兩次多余的拷貝（當(dāng)然這需要底層操作系統(tǒng)支持）

1. 調(diào)用transferTo,數(shù)據(jù)從文件由DMA引擎拷貝到內(nèi)核read buffer

2. 接著DMA從內(nèi)核read buffer將數(shù)據(jù)拷貝到網(wǎng)卡接口buffer

上面的兩次操作都不需要CPU參與吉执，所以就達(dá)到了零拷貝疯淫。

3、Netty中的零拷貝

主要體現(xiàn)在三個方面：

1戳玫、bytebuffer

Netty發(fā)送和接收消息主要使用bytebuffer熙掺，bytebuffer使用對外內(nèi)存（DirectMemory）直接進(jìn)行Socket讀寫。

原因：如果使用傳統(tǒng)的堆內(nèi)存進(jìn)行Socket讀寫量九，JVM會將堆內(nèi)存buffer拷貝一份到直接內(nèi)存中然后再寫入socket适掰，多了一次緩沖區(qū)的內(nèi)存拷貝。DirectMemory中可以直接通過DMA發(fā)送到網(wǎng)卡接口

2荠列、Composite Buffers

傳統(tǒng)的ByteBuffer，如果需要將兩個ByteBuffer中的數(shù)據(jù)組合到一起载城，我們需要首先創(chuàng)建一個size=size1+size2大小的新的數(shù)組肌似，然后將兩個數(shù)組中的數(shù)據(jù)拷貝到新的數(shù)組中。但是使用Netty提供的組合ByteBuf诉瓦，就可以避免這樣的操作川队，因為CompositeByteBuf并沒有真正將多個Buffer組合起來，而是保存了它們的引用睬澡，從而避免了數(shù)據(jù)的拷貝固额，實現(xiàn)了零拷貝。

3煞聪、對于FileChannel.transferTo的使用

Netty中使用了FileChannel的transferTo方法斗躏，該方法依賴于操作系統(tǒng)實現(xiàn)零拷貝.

六、Netty 內(nèi)部執(zhí)行流程

1啄糙、服務(wù)端：

1笛臣、創(chuàng)建ServerBootStrap實例

2、設(shè)置并綁定Reactor線程池：EventLoopGroup隧饼，EventLoop就是處理所有注冊到本線程的Selector上面的Channel

3沈堡、設(shè)置并綁定服務(wù)端的channel

4、5燕雁、創(chuàng)建處理網(wǎng)絡(luò)事件的ChannelPipeline和handler诞丽，網(wǎng)絡(luò)時間以流的形式在其中流轉(zhuǎn)，handler完成多數(shù)的功能定制：比如編解碼 SSl安全認(rèn)證

6拐格、綁定并啟動監(jiān)聽端口

7僧免、當(dāng)輪訓(xùn)到準(zhǔn)備就緒的channel后，由Reactor線程：NioEventLoop執(zhí)行pipline中的方法禁荒，最終調(diào)度并執(zhí)行channelHandler

2猬膨、客戶端