2020-06-21

實現(xiàn)一個高性能的服務(wù)應(yīng)用依賴于一個高性能的線程模型寇仓。線程太多或太少都會引起性能問題惊橱。舉一個極端的例子局荚,如果一個服務(wù)只用一個線程處理所有的用戶請求,性能會很糟糕钞澳,因為受限于一個線程同一時間只能處理一個請求怠惶。當(dāng)然,一個線程是可以同時處理多個請求的轧粟,需要I/O的時候就切換策治,但是這樣會引入具大的復(fù)雜性并且也不能利用好電腦的多個cpu脓魏。另一個極端是,服務(wù)創(chuàng)建一個大的線程池通惫,可以讓每個請求對應(yīng)一個單獨的線程茂翔。這會導(dǎo)致線程抖動問題。大量線程被喚醒履腋,做一些cpu操作珊燎,然后阻塞在I/O上,處理完成后府树,再阻塞以等待下次請求。如無意外料按,調(diào)度器會分隔cpu 時間奄侠,并引起上下文切換。
我們的目標(biāo)是载矿,盡量避免線程阻塞垄潮,盡可能少的引起上下文切換,同時最大化利用多個線程的并發(fā)機(jī)制闷盔。理想情況是弯洗,每一個cpu都有一個線程處理用戶請求,當(dāng)這些線程處理完請求后不阻塞因為剛好有等待的請求需要處理逢勾。如果想讓電腦按我們設(shè)想的工作牡整,必須有一套機(jī)制,當(dāng)一個線程因為一個用戶請求被阻塞在I/O上的時候溺拱,激活另一個線程逃贝。

Windows NT 3.5 介紹了一些api可以使我們相對簡單的完成這個任務(wù)。這些API圍繞著一個對象叫做completion port 迫摔。在這篇文章中沐扳,我會概述completion port如何使用,以及Windows實現(xiàn)他們的底層原理句占。

應(yīng)用利用completion port 作為多個文件操作符I/O完成時的焦點沪摄。當(dāng)一個文件和一個completion port對應(yīng)起來的時候,任何異步I/O操作完成纱烘,會以隊列的方式發(fā)一個completion包給這個port杨拐。所以一個線程可以簡單的等待多個文件操作完成。只要適當(dāng)?shù)目刂凭€程的數(shù)量擂啥,就可以發(fā)揮系統(tǒng)最大的性能戏阅。

當(dāng)應(yīng)用創(chuàng)建一個completion port的時候,會指定一個并發(fā)值啤它。這個值是completion port對應(yīng)的最大的可以及時的運行的線程數(shù)奕筐。像我之前描述的那樣舱痘,最理想的是同一時間一個線程對應(yīng)一個cpu。這個并發(fā)值被windows用來控制多少個線程可以被激活离赫,如果活躍的線程已經(jīng)等于這個并發(fā)值了芭逝,那么windows將不會再允許completion port再多個線程運行。一個線程處理處理完成一個請求渊胸,然后檢查一下隊列里有沒有completion包旬盯,如果有就處理,這個過程中翎猛,沒有上下文切換胖翰。

completion port的工作流見下圖


Completion port operation

原文見
http://sysinternals.d4rk4.ru/Information/IoCompletionPorts.html

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末,一起剝皮案震驚了整個濱河市切厘,隨后出現(xiàn)的幾起案子萨咳,更是在濱河造成了極大的恐慌,老刑警劉巖疫稿,帶你破解...
    沈念sama閱讀 212,454評論 6 493
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件培他,死亡現(xiàn)場離奇詭異,居然都是意外死亡遗座,警方通過查閱死者的電腦和手機(jī)舀凛,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 90,553評論 3 385
  • 文/潘曉璐 我一進(jìn)店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來途蒋,“玉大人猛遍,你說我怎么就攤上這事『牌拢” “怎么了螃壤?”我有些...
    開封第一講書人閱讀 157,921評論 0 348
  • 文/不壞的土叔 我叫張陵,是天一觀的道長筋帖。 經(jīng)常有香客問我奸晴,道長,這世上最難降的妖魔是什么日麸? 我笑而不...
    開封第一講書人閱讀 56,648評論 1 284
  • 正文 為了忘掉前任寄啼,我火速辦了婚禮,結(jié)果婚禮上代箭,老公的妹妹穿的比我還像新娘墩划。我一直安慰自己,他們只是感情好嗡综,可當(dāng)我...
    茶點故事閱讀 65,770評論 6 386
  • 文/花漫 我一把揭開白布乙帮。 她就那樣靜靜地躺著,像睡著了一般极景。 火紅的嫁衣襯著肌膚如雪察净。 梳的紋絲不亂的頭發(fā)上驾茴,一...
    開封第一講書人閱讀 49,950評論 1 291
  • 那天,我揣著相機(jī)與錄音氢卡,去河邊找鬼锈至。 笑死,一個胖子當(dāng)著我的面吹牛译秦,可吹牛的內(nèi)容都是我干的峡捡。 我是一名探鬼主播,決...
    沈念sama閱讀 39,090評論 3 410
  • 文/蒼蘭香墨 我猛地睜開眼筑悴,長吁一口氣:“原來是場噩夢啊……” “哼们拙!你這毒婦竟也來了?” 一聲冷哼從身側(cè)響起阁吝,我...
    開封第一講書人閱讀 37,817評論 0 268
  • 序言:老撾萬榮一對情侶失蹤砚婆,失蹤者是張志新(化名)和其女友劉穎,沒想到半個月后求摇,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體射沟,經(jīng)...
    沈念sama閱讀 44,275評論 1 303
  • 正文 獨居荒郊野嶺守林人離奇死亡殊者,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點故事閱讀 36,592評論 2 327
  • 正文 我和宋清朗相戀三年与境,在試婚紗的時候發(fā)現(xiàn)自己被綠了。 大學(xué)時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片猖吴。...
    茶點故事閱讀 38,724評論 1 341
  • 序言:一個原本活蹦亂跳的男人離奇死亡摔刁,死狀恐怖,靈堂內(nèi)的尸體忽然破棺而出海蔽,到底是詐尸還是另有隱情共屈,我是刑警寧澤,帶...
    沈念sama閱讀 34,409評論 4 333
  • 正文 年R本政府宣布党窜,位于F島的核電站拗引,受9級特大地震影響,放射性物質(zhì)發(fā)生泄漏幌衣。R本人自食惡果不足惜矾削,卻給世界環(huán)境...
    茶點故事閱讀 40,052評論 3 316
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望豁护。 院中可真熱鬧哼凯,春花似錦、人聲如沸楚里。這莊子的主人今日做“春日...
    開封第一講書人閱讀 30,815評論 0 21
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽班缎。三九已至蝴光,卻和暖如春她渴,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背虱疏。 一陣腳步聲響...
    開封第一講書人閱讀 32,043評論 1 266
  • 我被黑心中介騙來泰國打工惹骂, 沒想到剛下飛機(jī)就差點兒被人妖公主榨干…… 1. 我叫王不留,地道東北人做瞪。 一個月前我還...
    沈念sama閱讀 46,503評論 2 361
  • 正文 我出身青樓对粪,卻偏偏與公主長得像,于是被迫代替她去往敵國和親装蓬。 傳聞我的和親對象是個殘疾皇子著拭,可洞房花燭夜當(dāng)晚...
    茶點故事閱讀 43,627評論 2 350