概述
netty是一個(gè)以高性能著稱的網(wǎng)絡(luò)通信框架蹦掐,許多開(kāi)源項(xiàng)目都使用了netty作為底層網(wǎng)絡(luò)通信框架,如avro僵闯,dubbo卧抗,nats;本文將從源碼的角度講述netty在確定線程個(gè)數(shù)方面如何保證應(yīng)用程序性能最優(yōu)鳖粟,源碼基于netty-4.1.6.Final
線程個(gè)數(shù)在何時(shí)達(dá)到最優(yōu)
我們知道社裆,在一個(gè)應(yīng)用中,如果cpu計(jì)算的時(shí)間為T(mén)cpu向图,io操作的時(shí)間為T(mén)io泳秀,系統(tǒng)的cpu核數(shù)為Ncpu,線程個(gè)數(shù)為Nthread张漂, 那么理論上線程個(gè)數(shù)滿足Nthread = (1+Tio/Tcpu)*Ncpu晶默,應(yīng)用的性能達(dá)到最優(yōu)
先看末尾的聲明,再回來(lái)^^
netty中線程邏輯
下面是一段標(biāo)準(zhǔn)的netty服務(wù)端代碼
我們把重點(diǎn)放在
在不傳遞任何參數(shù)的時(shí)候航攒,netty會(huì)默認(rèn)給一個(gè)參數(shù)0
我們繼續(xù)往下跟
到了這里已經(jīng)調(diào)用到父類 MultithreadEventLoopGroup
了
到了這里磺陡,我們基本可以暫停了,因?yàn)槲覀儎傞_(kāi)始沒(méi)有傳參數(shù)漠畜,所以netty給我們默認(rèn)傳遞了一個(gè)構(gòu)造參數(shù)0币他,netty會(huì)判斷線程個(gè)數(shù)是否為0,如果為0的話就是用默認(rèn)的線程個(gè)數(shù)憔狞,而默認(rèn)線程個(gè)數(shù)相關(guān)的代碼如下
我們可以看到蝴悉,如果沒(méi)有設(shè)置程序啟動(dòng)參數(shù),那么默認(rèn)情況下線程的個(gè)數(shù)為cpu的核數(shù)乘以2
那么為什么netty要將worker的線程個(gè)數(shù)設(shè)置為2倍的cpu個(gè)數(shù)呢瘾敢?按照第一小節(jié)的理論拍冠,如果線程個(gè)數(shù)設(shè)置為2倍的cpu線程個(gè)數(shù)尿这,那么Tio/Tcpu的值就是1,也就是說(shuō)在netty的nio線程中庆杜,cpu時(shí)間和io時(shí)間相等射众,我們繼續(xù)跟進(jìn)netty的源碼,netty中每個(gè)nio線程要做的事在 NioEventLoop
的 run
方法里面晃财,有這么一段代碼
我們跳到else分支叨橱,processSelectionKeys()
要做的事情就是IO操作(select),netty在處理io之前記錄了一下io操作的開(kāi)始時(shí)間断盛,然后在io結(jié)束的時(shí)候計(jì)算了一下這段io操作花的總的時(shí)間 ioTime
,然后runAllTask
方法表示花多長(zhǎng)時(shí)間來(lái)處理一下netty內(nèi)部的任務(wù)隊(duì)列(cpu計(jì)算為主)罗洗,在這里,netty傳遞的參數(shù)為 ioTime * (100 - ioRatio) / ioRatio)
钢猛。
為什么要傳遞這個(gè)參數(shù)伙菜?netty的目的是應(yīng)用的性能達(dá)到最高,netty默認(rèn)情況下開(kāi)啟了兩倍cpu核數(shù)個(gè)線程命迈,按照第一小節(jié)的理論仇让,必須保證cpu時(shí)間和io時(shí)間相等,也就是Tio = Tcpu躺翻,即ioTime = ioTime * (100 - ioRatio) / ioRatio)
所以ioRatio
默認(rèn)條件下應(yīng)該是50丧叽,查看ioRatio
定義的地方,符合我們的猜想
當(dāng)然公你,你可以手工調(diào)整worker線程個(gè)數(shù)以及每個(gè)ioRatio來(lái)使得應(yīng)用程序的性能最優(yōu)
代入第一小節(jié)的公式踊淳,理論上兩個(gè)自由參數(shù)必須滿足
Nthread
= (1 + Tio/Tcpu) * Ncpu
= {1 + ioTime/ [ioTime*(100 - ioRatio) / ioRatio]} * Ncpu
= (100 / ioRatio) * Ncpu
其中 Ncpu 是常量,表示cpu的個(gè)數(shù)
netty中線程的命名
程序示例還是如上陕靠,我們創(chuàng)建了一個(gè)單線程的boss線程迂尝,一個(gè)2倍cpu線程數(shù)的worker線程,在程序跑了一段時(shí)間之后剪芥,我們發(fā)現(xiàn)線程堆棧有如下線程
這里垄开,我的cpu核數(shù)為4,所以worker線程為8
netty中的默認(rèn)Nio線程都是由 DefaultThreadFactory
的newThread()
方法創(chuàng)建出來(lái)的
netty 給nio的命名規(guī)則為 prefix加上一個(gè)自增的id税肪,接下來(lái)看下prefix的定義
發(fā)現(xiàn)prefix的規(guī)則是poolName和poolId(自增)通過(guò) '-' 連接起來(lái)的溉躲,那么接下來(lái)我們就要看看poolName在哪里初始化的,一個(gè)poolName對(duì)應(yīng)一個(gè)EventLoopGroup
,在EventLoopGroup
的父類MultithreadEventLoopGroup
中益兄,我們找到了如下方法
這里的 getClass()
方法返回的是NioEventLoopGroup
類锻梳,然后我們繼續(xù)跟進(jìn)
繼續(xù)
這里是將poolType傳進(jìn)去并且使用了首字母為小寫(xiě)的簡(jiǎn)單類名,所以我們這里可以確定poolName就是nioEventLoopGroup净捅,綜合前面的結(jié)論疑枯,netty中nio線程默認(rèn)名為
nioEventLoopGroup-2-1
2016.11.29重要更新
文章發(fā)出之后,陸續(xù)收到一些評(píng)論蛔六,為了不誤導(dǎo)讀者荆永,這里申明一下:上文所提出的線程個(gè)數(shù)和ioRatio的關(guān)系是錯(cuò)誤的废亭,見(jiàn)該issue,官方的解釋為:ioRatio只是用來(lái)控制io相關(guān)的任務(wù)具钥,和線程的設(shè)置沒(méi)啥關(guān)系滔以,這里的io相關(guān)的任務(wù)并不是io密集的操作,大多數(shù)都是cpu用來(lái)拷貝字節(jié)塊的操作氓拼,和io無(wú)關(guān),所以前面的ioRatio和線程個(gè)數(shù)相關(guān)的小結(jié)當(dāng)笑話看看就行~
如果你覺(jué)得看的不過(guò)癮抵碟,想系統(tǒng)學(xué)習(xí)Netty原理桃漾,那么你一定不要錯(cuò)過(guò)我的Netty源碼分析系列視頻:https://coding.imooc.com/class/230.html