【golang詳解】go語言GMP(GPM)原理和調(diào)度

GMP

Goroutine調(diào)度是一個(gè)很復(fù)雜的機(jī)制藕甩,下面嘗試用簡單的語言描述一下Goroutine調(diào)度機(jī)制施敢,想要對其有更深入的了解可以去研讀一下源碼。

介紹

首先介紹一下GMP什么意思:

G ----------- goroutine: 即Go協(xié)程狭莱,每個(gè)go關(guān)鍵字都會創(chuàng)建一個(gè)協(xié)程僵娃。

M ---------- thread內(nèi)核級線程,所有的G都要放在M上才能運(yùn)行腋妙。

P ----------- processor處理器默怨,調(diào)度G到M上,其維護(hù)了一個(gè)隊(duì)列骤素,存儲了所有需要它來調(diào)度的G先壕。

Goroutine 調(diào)度器P和 OS 調(diào)度器是通過 M 結(jié)合起來的瘩扼,每個(gè) M 都代表了 1 個(gè)內(nèi)核線程,OS 調(diào)度器負(fù)責(zé)把內(nèi)核線程分配到 CPU 的核上執(zhí)行

模型圖:

設(shè)計(jì)策略

復(fù)用線程

避免頻繁的創(chuàng)建垃僚、銷毀線程集绰,而是對線程的復(fù)用。

1)work stealing機(jī)制

? 當(dāng)本線程無可運(yùn)行的G時(shí)谆棺,嘗試從其他線程綁定的P偷取G栽燕,而不是銷毀線程。

2)hand off機(jī)制

? 當(dāng)本線程M0因?yàn)镚0進(jìn)行系統(tǒng)調(diào)用阻塞時(shí)改淑,線程釋放綁定的P碍岔,把P轉(zhuǎn)移給其他空閑的線程執(zhí)行。進(jìn)而某個(gè)空閑的M1獲取P朵夏,繼續(xù)執(zhí)行P隊(duì)列中剩下的G蔼啦。而M0由于陷入系統(tǒng)調(diào)用而進(jìn)被阻塞,M1接替M0的工作仰猖,只要P不空閑捏肢,就可以保證充分利用CPU。M1的來源有可能是M的緩存池饥侵,也可能是新建的鸵赫。當(dāng)G0系統(tǒng)調(diào)用結(jié)束后,根據(jù)M0是否能獲取到P躏升,將會將G0做不同的處理:

如果有空閑的P辩棒,則獲取一個(gè)P,繼續(xù)執(zhí)行G0膨疏。

如果沒有空閑的P一睁,則將G0放入全局隊(duì)列,等待被其他的P調(diào)度佃却。然后M0將進(jìn)入緩存池睡眠卖局。

如下圖

并行

GOMAXPROCS設(shè)置P的數(shù)量,最多有GOMAXPROCS個(gè)線程分布在多個(gè)CPU上同時(shí)運(yùn)行

搶占

在Go中一個(gè)goroutine最多占用CPU 10ms双霍,防止其他goroutine被餓死砚偶。

具體可以去看另一篇文章

【Golang詳解】go語言調(diào)度機(jī)制 搶占式調(diào)度

全局goroutine隊(duì)列

當(dāng)創(chuàng)建一個(gè)新的G之后優(yōu)先加入本地隊(duì)列,如果本地隊(duì)列滿了洒闸,會將本地隊(duì)列的G移動到全局隊(duì)列里面染坯,當(dāng)M執(zhí)行work stealing從其他P偷不到G時(shí),它可以從全局G隊(duì)列獲取G丘逸。

協(xié)程經(jīng)歷過程

我們創(chuàng)建一個(gè)協(xié)程 go func()經(jīng)歷過程如下圖:

說明:

這里有兩個(gè)存儲G的隊(duì)列单鹿,一個(gè)是局部調(diào)度器P的本地隊(duì)列、一個(gè)是全局G隊(duì)列深纲。新創(chuàng)建的G會先保存在P的本地隊(duì)列中仲锄,如果P的本地隊(duì)列已經(jīng)滿了就會保存在全局的隊(duì)列中劲妙;處理器本地隊(duì)列是一個(gè)使用數(shù)組構(gòu)成的環(huán)形鏈表,它最多可以存儲 256 個(gè)待執(zhí)行任務(wù)儒喊。

G只能運(yùn)行在M中镣奋,一個(gè)M必須持有一個(gè)P,M與P是1:1的關(guān)系怀愧。M會從P的本地隊(duì)列彈出一個(gè)可執(zhí)行狀態(tài)的G來執(zhí)行侨颈,如果P的本地隊(duì)列為空,就會想其他的MP組合偷取一個(gè)可執(zhí)行的G來執(zhí)行芯义;

一個(gè)M調(diào)度G執(zhí)行的過程是一個(gè)循環(huán)機(jī)制哈垢;會一直從本地隊(duì)列或全局隊(duì)列中獲取G


M緩沖池

上面說到P的個(gè)數(shù)默認(rèn)等于CPU核數(shù),每個(gè)M必須持有一個(gè)P才可以執(zhí)行G扛拨,一般情況下M的個(gè)數(shù)會略大于P的個(gè)數(shù)耘分,這多出來的M將會在G產(chǎn)生系統(tǒng)調(diào)用時(shí)發(fā)揮作用。類似線程池绑警,Go也提供一個(gè)M的池子求泰,需要時(shí)從池子中獲取,用完放回池子待秃,不夠用時(shí)就再創(chuàng)建一個(gè)。

觸發(fā)調(diào)度

work-stealing調(diào)度算法:當(dāng)M執(zhí)行完了當(dāng)前P的本地隊(duì)列隊(duì)列里的所有G后痹屹,P也不會就這么在那躺尸啥都不干章郁,它會先嘗試從全局隊(duì)列隊(duì)列尋找G來執(zhí)行,如果全局隊(duì)列為空志衍,它會隨機(jī)挑選另外一個(gè)P暖庄,從它的隊(duì)列里中拿走一半的G到自己的隊(duì)列中執(zhí)行。

如果一切正常楼肪,調(diào)度器會以上述的那種方式順暢地運(yùn)行培廓,但這個(gè)世界沒這么美好,總有意外發(fā)生春叫,以下分析goroutine在兩種例外情況下的行為肩钠。

Go runtime會在下面的goroutine被阻塞的情況下運(yùn)行另外一個(gè)goroutine:

用戶態(tài)阻塞/喚醒

當(dāng)goroutine因?yàn)閏hannel操作或者network I/O而阻塞時(shí)(實(shí)際上golang已經(jīng)用netpoller實(shí)現(xiàn)了goroutine網(wǎng)絡(luò)I/O阻塞不會導(dǎo)致M被阻塞,僅阻塞G暂殖,這里僅僅是舉個(gè)栗子)价匠,對應(yīng)的G會被放置到某個(gè)wait隊(duì)列(如channel的waitq),該G的狀態(tài)由_Gruning變?yōu)開Gwaitting呛每,而M會跳過該G嘗試獲取并執(zhí)行下一個(gè)G踩窖,如果此時(shí)沒有可運(yùn)行的G供M運(yùn)行,那么M將解綁P晨横,并進(jìn)入sleep狀態(tài)洋腮;當(dāng)阻塞的G被另一端的G2喚醒時(shí)(比如channel的可讀/寫通知)箫柳,G被標(biāo)記為,嘗試加入G2所在P的runnext(runnext是線程下一個(gè)需要執(zhí)行的 Goroutine啥供。)悯恍, 然后再是P的本地隊(duì)列和全局隊(duì)列。

系統(tǒng)調(diào)用阻塞

當(dāng)M執(zhí)行某一個(gè)G時(shí)候如果發(fā)生了阻塞操作滤灯,M會阻塞坪稽,如果當(dāng)前有一些G在執(zhí)行,調(diào)度器會把這個(gè)線程M從P中摘除鳞骤,然后再創(chuàng)建一個(gè)新的操作系統(tǒng)的線程(如果有空閑的線程可用就復(fù)用空閑線程)來服務(wù)于這個(gè)P窒百。當(dāng)M系統(tǒng)調(diào)用結(jié)束時(shí)候,這個(gè)G會嘗試獲取一個(gè)空閑的P執(zhí)行豫尽,并放入到這個(gè)P的本地隊(duì)列篙梢。如果獲取不到P,那么這個(gè)線程M變成休眠狀態(tài)美旧, 加入到空閑線程中渤滞,然后這個(gè)G會被放入全局隊(duì)列中。

隊(duì)列輪轉(zhuǎn)

可見每個(gè)P維護(hù)著一個(gè)包含G的隊(duì)列榴嗅,不考慮G進(jìn)入系統(tǒng)調(diào)用或IO操作的情況下妄呕,P周期性的將G調(diào)度到M中執(zhí)行,執(zhí)行一小段時(shí)間嗽测,將上下文保存下來绪励,然后將G放到隊(duì)列尾部,然后從隊(duì)列中重新取出一個(gè)G進(jìn)行調(diào)度唠粥。

除了每個(gè)P維護(hù)的G隊(duì)列以外疏魏,還有一個(gè)全局的隊(duì)列,每個(gè)P會周期性地查看全局隊(duì)列中是否有G待運(yùn)行并將其調(diào)度到M中執(zhí)行晤愧,全局隊(duì)列中G的來源大莫,主要有從系統(tǒng)調(diào)用中恢復(fù)的G。之所以P會周期性地查看全局隊(duì)列官份,也是為了防止全局隊(duì)列中的G被餓死只厘。

除了每個(gè)P維護(hù)的G隊(duì)列以外,還有一個(gè)全局的隊(duì)列舅巷,每個(gè)P會周期性地查看全局隊(duì)列中是否有G待運(yùn)行并將其調(diào)度到M中執(zhí)行懈凹,全局隊(duì)列中G的來源,主要有從系統(tǒng)調(diào)用中恢復(fù)的G悄谐。之所以P會周期性地查看全局隊(duì)列介评,也是為了防止全局隊(duì)列中的G被餓死。

特殊的 M0 和 G0

M0

M0是啟動程序后的編號為0的主線程,這個(gè)M對應(yīng)的實(shí)例會在全局變量rutime.m0中们陆,不需要在heap上分配寒瓦,M0負(fù)責(zé)執(zhí)行初始化操作和啟動第一個(gè)G,在之后M0就和其他的M一樣了

G0

G0是每次啟動一個(gè)M都會第一個(gè)創(chuàng)建的goroutine坪仇,G0僅用于負(fù)責(zé)調(diào)度G杂腰,G0不指向任何可執(zhí)行的函數(shù),每個(gè)M都會有一個(gè)自己的G0椅文,在調(diào)度或系統(tǒng)調(diào)用時(shí)會使用G0的椢购埽空間,全局變量的G0是M0的G0

一個(gè)G由于調(diào)度被中斷皆刺,此后如何恢復(fù)少辣?

中斷的時(shí)候?qū)⒓拇嫫骼锏臈P畔ⅲ4娴阶约旱腉對象里面羡蛾。當(dāng)再次輪到自己執(zhí)行時(shí)漓帅,將自己保存的棧信息復(fù)制到寄存器里面,這樣就接著上次之后運(yùn)行了痴怨。

總結(jié)

我這里只是根據(jù)自己的理解進(jìn)行了簡單的介紹忙干,想要詳細(xì)了解有關(guān)GMP的底層原理可以去看Go調(diào)度器 G-P-M 模型的設(shè)計(jì)者的文檔或直接看源碼

參考:(https://www.cnblogs.com/X-knight/p/11365929.html)

(https://draveness.me/golang/docs/part3-runtime/ch06-concurrency/golang-goroutine/)

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末,一起剝皮案震驚了整個(gè)濱河市浪藻,隨后出現(xiàn)的幾起案子捐迫,更是在濱河造成了極大的恐慌,老刑警劉巖爱葵,帶你破解...
    沈念sama閱讀 217,277評論 6 503
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件施戴,死亡現(xiàn)場離奇詭異,居然都是意外死亡钧惧,警方通過查閱死者的電腦和手機(jī)暇韧,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 92,689評論 3 393
  • 文/潘曉璐 我一進(jìn)店門勾习,熙熙樓的掌柜王于貴愁眉苦臉地迎上來浓瞪,“玉大人,你說我怎么就攤上這事巧婶∏洌” “怎么了?”我有些...
    開封第一講書人閱讀 163,624評論 0 353
  • 文/不壞的土叔 我叫張陵艺栈,是天一觀的道長英岭。 經(jīng)常有香客問我,道長湿右,這世上最難降的妖魔是什么诅妹? 我笑而不...
    開封第一講書人閱讀 58,356評論 1 293
  • 正文 為了忘掉前任,我火速辦了婚禮,結(jié)果婚禮上吭狡,老公的妹妹穿的比我還像新娘尖殃。我一直安慰自己,他們只是感情好划煮,可當(dāng)我...
    茶點(diǎn)故事閱讀 67,402評論 6 392
  • 文/花漫 我一把揭開白布送丰。 她就那樣靜靜地躺著,像睡著了一般弛秋。 火紅的嫁衣襯著肌膚如雪器躏。 梳的紋絲不亂的頭發(fā)上,一...
    開封第一講書人閱讀 51,292評論 1 301
  • 那天蟹略,我揣著相機(jī)與錄音登失,去河邊找鬼。 笑死科乎,一個(gè)胖子當(dāng)著我的面吹牛壁畸,可吹牛的內(nèi)容都是我干的。 我是一名探鬼主播茅茂,決...
    沈念sama閱讀 40,135評論 3 418
  • 文/蒼蘭香墨 我猛地睜開眼捏萍,長吁一口氣:“原來是場噩夢啊……” “哼!你這毒婦竟也來了空闲?” 一聲冷哼從身側(cè)響起令杈,我...
    開封第一講書人閱讀 38,992評論 0 275
  • 序言:老撾萬榮一對情侶失蹤,失蹤者是張志新(化名)和其女友劉穎碴倾,沒想到半個(gè)月后逗噩,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體,經(jīng)...
    沈念sama閱讀 45,429評論 1 314
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡跌榔,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 37,636評論 3 334
  • 正文 我和宋清朗相戀三年异雁,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片僧须。...
    茶點(diǎn)故事閱讀 39,785評論 1 348
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡纲刀,死狀恐怖,靈堂內(nèi)的尸體忽然破棺而出担平,到底是詐尸還是另有隱情示绊,我是刑警寧澤,帶...
    沈念sama閱讀 35,492評論 5 345
  • 正文 年R本政府宣布暂论,位于F島的核電站面褐,受9級特大地震影響,放射性物質(zhì)發(fā)生泄漏取胎。R本人自食惡果不足惜展哭,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 41,092評論 3 328
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧匪傍,春花似錦坝咐、人聲如沸。這莊子的主人今日做“春日...
    開封第一講書人閱讀 31,723評論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽。三九已至映挂,卻和暖如春泽篮,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背柑船。 一陣腳步聲響...
    開封第一講書人閱讀 32,858評論 1 269
  • 我被黑心中介騙來泰國打工帽撑, 沒想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留,地道東北人鞍时。 一個(gè)月前我還...
    沈念sama閱讀 47,891評論 2 370
  • 正文 我出身青樓亏拉,卻偏偏與公主長得像,于是被迫代替她去往敵國和親逆巍。 傳聞我的和親對象是個(gè)殘疾皇子及塘,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 44,713評論 2 354

推薦閱讀更多精彩內(nèi)容

  • 簡述 G — 表示 Goroutine,它是一個(gè)待執(zhí)行的任務(wù); M — 表示操作系統(tǒng)的線程锐极,它由操作系統(tǒng)的調(diào)度器調(diào)...
    kyo1992閱讀 1,186評論 0 0
  • 1.什么是G M P笙僚? G:gorotine(協(xié)程) M:machine(內(nèi)核線程) P:processor(調(diào)度...
    開心的羊咩咩閱讀 5,810評論 0 1
  • Go語言雖然使用一個(gè)Go關(guān)鍵字即可實(shí)現(xiàn)并發(fā)編程,但Goroutine被調(diào)度到后端之后灵再,具體的實(shí)現(xiàn)比較復(fù)雜肋层。先看看調(diào)...
    我愛張智容閱讀 749評論 0 0
  • Golang 調(diào)度器四個(gè)重要結(jié)構(gòu) :M P G Sched GMP的結(jié)構(gòu)源碼在文件中\(zhòng)src\runtime\ru...
    阿斯頓法閱讀 1,691評論 0 0
  • 16宿命:用概率思維提高你的勝算 以前的我是風(fēng)險(xiǎn)厭惡者,不喜歡去冒險(xiǎn)翎迁,但是人生放棄了冒險(xiǎn)栋猖,也就放棄了無數(shù)的可能。 ...
    yichen大刀閱讀 6,049評論 0 4