聊聊高并發(fā)(二)結(jié)合實(shí)例說(shuō)說(shuō)線程封閉和背后的設(shè)計(jì)思想

高并發(fā)問(wèn)題拋去架構(gòu)層面的問(wèn)題,落實(shí)到代碼層面就是多線程的問(wèn)題盛霎。多線程的問(wèn)題主要是線程安全的問(wèn)題(其他還有活躍性問(wèn)題构挤,性能問(wèn)題等)。

那什么是線程安全凯砍?下面這個(gè)定義來(lái)自《Java并發(fā)編程實(shí)戰(zhàn)》箱硕,這本書強(qiáng)烈推薦,是幾個(gè)Java語(yǔ)言的作者合寫的悟衩,都是并發(fā)編程方面的大神剧罩。

線程安全指的是:當(dāng)多個(gè)線程訪問(wèn)某個(gè)類時(shí),這個(gè)類始終都能表現(xiàn)出正確的行為座泳。

正確指的是“所見即所知”惠昔,程序執(zhí)行的結(jié)果和你所預(yù)想的結(jié)果一致幕与。

理解線程安全的概念很重要,所謂線程安全問(wèn)題镇防,就是處理對(duì)象狀態(tài)的問(wèn)題啦鸣。如果要處理的對(duì)象是無(wú)狀態(tài)的(不變性),或者可以避免多個(gè)線程共享的(線程封閉)来氧,那么我們可以放心诫给,這個(gè)對(duì)象可能是線程安全的。當(dāng)無(wú)法避免啦扬,必須要共享這個(gè)對(duì)象狀態(tài)給多線程訪問(wèn)時(shí)中狂,這時(shí)候才用到線程同步的一系列技術(shù)。

這個(gè)理解放大到架構(gòu)層面扑毡,我們來(lái)設(shè)計(jì)業(yè)務(wù)層代碼時(shí)胃榕,業(yè)務(wù)層最好做到無(wú)狀態(tài),這樣就業(yè)務(wù)層就具備了可伸縮性瞄摊,可以通過(guò)橫向擴(kuò)展平滑應(yīng)對(duì)高并發(fā)勋又。

所以我們處理線程安全可以有幾個(gè)層次:

  1. 能否做成無(wú)狀態(tài)的不變對(duì)象。無(wú)狀態(tài)是最安全的泉褐。

  2. 能否線程封閉

  3. 采用何種同步技術(shù)

我理解為能夠“逃避”多線程問(wèn)題赐写,能逃則逃,實(shí)在不行了再來(lái)處理膜赃。

了解了線程封閉的背景挺邀,來(lái)說(shuō)說(shuō)線程封閉的具體技術(shù)和思路

  1. 棧封閉

  2. ThreadLocal

  3. 程序控制線程封閉

棧封閉說(shuō)白了就是多使用局部變量。理解Java運(yùn)行時(shí)模型的同學(xué)都知道局部變量的引用是保持在線程棧中的跳座,只對(duì)當(dāng)前線程可見端铛,其他線程不可見。所以局部變量是線程安全的疲眷。

ThreadLocal機(jī)制本質(zhì)上是程序控制線程封閉禾蚕,只不過(guò)是Java本身幫忙處理了。來(lái)看Java的Thread類和ThreadLocal類

  1. Thread線程類維護(hù)了一個(gè)ThreadLocalMap的實(shí)例變量

  2. ThreadLocalMap就是一個(gè)Map結(jié)構(gòu)

  3. ThreadLocal的set方法取到當(dāng)前線程狂丝,拿到當(dāng)前線程的threadLocalMap對(duì)象换淆,然后把ThreadLocal對(duì)象作為key,把要放入的值作為value几颜,放到Map

  4. ThreadLocal的get方法取到當(dāng)前線程倍试,拿到當(dāng)前線程的threadLocalMap對(duì)象,然后把ThreadLocal對(duì)象作為key蛋哭,拿到對(duì)應(yīng)的value.

public class Thread implements Runnable {
     ThreadLocal.ThreadLocalMap threadLocals = null;
}
 
public class ThreadLocal<T> {
    public T get() {
        Thread t = Thread.currentThread();
        ThreadLocalMap map = getMap(t);
        if (map != null) {
            ThreadLocalMap.Entry e = map.getEntry(this);
            if (e != null)
                return (T)e.value;
        }
        return setInitialValue();
    }
 
    ThreadLocalMap getMap(Thread t) {
        return t.threadLocals;
    }
 
    public void set(T value) {
        Thread t = Thread.currentThread();
        ThreadLocalMap map = getMap(t);
        if (map != null)
            map.set(this, value);
        else
            createMap(t, value);
    }
}

ThreadLocal的設(shè)計(jì)很簡(jiǎn)單县习,就是給線程對(duì)象設(shè)置了一個(gè)內(nèi)部的Map,可以放置一些數(shù)據(jù)。JVM從底層保證了Thread對(duì)象之間不會(huì)看到對(duì)方的數(shù)據(jù)躁愿。

使用ThreadLocal前提是給每個(gè)ThreadLocal保存一個(gè)單獨(dú)的對(duì)象叛本,這個(gè)對(duì)象不能是在多個(gè)ThreadLocal共享的,否則這個(gè)對(duì)象也是線程不安全的彤钟。

Structs2就用了ThreadLocal來(lái)保存每個(gè)請(qǐng)求的數(shù)據(jù)来候,用了線程封閉的思想。但是ThreadLocal的缺點(diǎn)也顯而易見样勃,必須保存多個(gè)副本吠勘,采用空間換取效率性芬。

程序控制線程封閉峡眶,這個(gè)不是一種具體的技術(shù),而是一種設(shè)計(jì)思路植锉,從設(shè)計(jì)上把處理一個(gè)對(duì)象狀態(tài)的代碼都放到一個(gè)線程中去辫樱,從而避免線程安全的問(wèn)題

有很多這樣的實(shí)例俊庇,Netty5的EventLoop就采用這樣的設(shè)計(jì)狮暑,我們的游戲后臺(tái)處理用戶請(qǐng)求是也采用了這種設(shè)計(jì)。

具體的思路是這樣的:

1. 把和用戶狀態(tài)相關(guān)的代碼放到一個(gè)隊(duì)列中去辉饱,由一個(gè)線程處理

2. 考慮是否隔離用戶之間的狀態(tài)搬男,即一個(gè)用戶使用一個(gè)隊(duì)列,還是多個(gè)用戶使用一個(gè)隊(duì)列

拿Netty舉例彭沼,EventLoop被設(shè)計(jì)成了一個(gè)線程的線程池缔逛。我們知道線程池的組成是工作線程 + 任務(wù)隊(duì)列。EventLoop的工作線程只有一個(gè)姓惑。

用戶請(qǐng)求過(guò)來(lái)后被隨機(jī)放到一個(gè)EventLoop去褐奴,也就是放到EventLoop線程池的任務(wù)隊(duì)列,由一個(gè)線程來(lái)處理于毙。并且處理用戶請(qǐng)求的代碼都使用Pipeline職責(zé)鏈封裝好了敦冬,一個(gè)Pipeline交給一個(gè)線程來(lái)處理,從而保證了跟同一個(gè)用戶的狀態(tài)被封閉到了一個(gè)線程中去唯沮。

更多Netty EventLoop相關(guān)的內(nèi)容看這篇 Netty5源碼分析(二) -- 線程模型分析

這里有個(gè)問(wèn)題也顯而易見脖旱,就是如果把多個(gè)用戶都放到一個(gè)隊(duì)列,交給一個(gè)線程處理介蛉,那么前一個(gè)用戶的處理速度會(huì)影響到后一個(gè)用戶被處理的時(shí)間萌庆。

我們的游戲服務(wù)器的設(shè)計(jì)采用了一個(gè)用戶一個(gè)任務(wù)隊(duì)列的方式,處理任務(wù)的代碼被做成了Runnable甘耿,這樣多個(gè)Runnable可以交給一個(gè)線程池執(zhí)行踊兜,從而多個(gè)用戶可以同時(shí)被處理,而同一個(gè)用戶的狀態(tài)處理被封閉到了唯一的一個(gè)任務(wù)隊(duì)列中佳恬,互不干擾捏境。

但是也有問(wèn)題于游,即線程池內(nèi)的工作線程和任務(wù)隊(duì)列是有界的,所以單個(gè)線程處理的時(shí)間必須要快垫言,否則大量請(qǐng)求被積壓在任務(wù)隊(duì)列來(lái)不及處理贰剥,一旦任務(wù)隊(duì)列也滿了,那么后續(xù)的請(qǐng)求都進(jìn)不來(lái)了筷频。

如果使用無(wú)界的任務(wù)隊(duì)列蚌成,所有請(qǐng)求能進(jìn)來(lái),但是問(wèn)題是高并發(fā)情況下大量請(qǐng)求過(guò)來(lái)凛捏,會(huì)把系統(tǒng)內(nèi)存撐爆担忧,倒置OOM。

所以一個(gè)常用的設(shè)計(jì)思路如下:

1. 采用有界的任務(wù)隊(duì)列和不限個(gè)數(shù)的工作線程坯癣,這樣可以平滑地處理高并發(fā)瓶盛,不至于內(nèi)存被撐爆

2. 單個(gè)線程請(qǐng)求時(shí)間必須要快,盡量不超過(guò)100ms

3. 如果單個(gè)線程處理的時(shí)間由于任務(wù)太大必須耗時(shí)示罗,那么把任務(wù)拆個(gè)小任務(wù)來(lái)多次執(zhí)行

4. 拆成小任務(wù)還是慢惩猫,那么把同步操作變成異步操作,即方法執(zhí)行后立即返回蚜点,不要等待結(jié)果轧房。由另一個(gè)線程異步地處理線程,比如采用單獨(dú)的線程定時(shí)檢查處理狀態(tài)绍绘,或者采用異步回調(diào)的方式

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末奶镶,一起剝皮案震驚了整個(gè)濱河市,隨后出現(xiàn)的幾起案子脯倒,更是在濱河造成了極大的恐慌实辑,老刑警劉巖,帶你破解...
    沈念sama閱讀 218,755評(píng)論 6 507
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件藻丢,死亡現(xiàn)場(chǎng)離奇詭異剪撬,居然都是意外死亡,警方通過(guò)查閱死者的電腦和手機(jī)悠反,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 93,305評(píng)論 3 395
  • 文/潘曉璐 我一進(jìn)店門残黑,熙熙樓的掌柜王于貴愁眉苦臉地迎上來(lái),“玉大人斋否,你說(shuō)我怎么就攤上這事梨水。” “怎么了茵臭?”我有些...
    開封第一講書人閱讀 165,138評(píng)論 0 355
  • 文/不壞的土叔 我叫張陵疫诽,是天一觀的道長(zhǎng)。 經(jīng)常有香客問(wèn)我,道長(zhǎng)奇徒,這世上最難降的妖魔是什么雏亚? 我笑而不...
    開封第一講書人閱讀 58,791評(píng)論 1 295
  • 正文 為了忘掉前任,我火速辦了婚禮摩钙,結(jié)果婚禮上罢低,老公的妹妹穿的比我還像新娘。我一直安慰自己胖笛,他們只是感情好网持,可當(dāng)我...
    茶點(diǎn)故事閱讀 67,794評(píng)論 6 392
  • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著长踊,像睡著了一般功舀。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上之斯,一...
    開封第一講書人閱讀 51,631評(píng)論 1 305
  • 那天日杈,我揣著相機(jī)與錄音,去河邊找鬼佑刷。 笑死,一個(gè)胖子當(dāng)著我的面吹牛酿炸,可吹牛的內(nèi)容都是我干的瘫絮。 我是一名探鬼主播,決...
    沈念sama閱讀 40,362評(píng)論 3 418
  • 文/蒼蘭香墨 我猛地睜開眼填硕,長(zhǎng)吁一口氣:“原來(lái)是場(chǎng)噩夢(mèng)啊……” “哼麦萤!你這毒婦竟也來(lái)了?” 一聲冷哼從身側(cè)響起扁眯,我...
    開封第一講書人閱讀 39,264評(píng)論 0 276
  • 序言:老撾萬(wàn)榮一對(duì)情侶失蹤壮莹,失蹤者是張志新(化名)和其女友劉穎,沒想到半個(gè)月后姻檀,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體命满,經(jīng)...
    沈念sama閱讀 45,724評(píng)論 1 315
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡,尸身上長(zhǎng)有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 37,900評(píng)論 3 336
  • 正文 我和宋清朗相戀三年绣版,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了胶台。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片。...
    茶點(diǎn)故事閱讀 40,040評(píng)論 1 350
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡杂抽,死狀恐怖诈唬,靈堂內(nèi)的尸體忽然破棺而出,到底是詐尸還是另有隱情缩麸,我是刑警寧澤铸磅,帶...
    沈念sama閱讀 35,742評(píng)論 5 346
  • 正文 年R本政府宣布,位于F島的核電站,受9級(jí)特大地震影響阅仔,放射性物質(zhì)發(fā)生泄漏济竹。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 41,364評(píng)論 3 330
  • 文/蒙蒙 一霎槐、第九天 我趴在偏房一處隱蔽的房頂上張望送浊。 院中可真熱鬧,春花似錦丘跌、人聲如沸袭景。這莊子的主人今日做“春日...
    開封第一講書人閱讀 31,944評(píng)論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽(yáng)耸棒。三九已至,卻和暖如春报辱,著一層夾襖步出監(jiān)牢的瞬間与殃,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 33,060評(píng)論 1 270
  • 我被黑心中介騙來(lái)泰國(guó)打工碍现, 沒想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留幅疼,地道東北人。 一個(gè)月前我還...
    沈念sama閱讀 48,247評(píng)論 3 371
  • 正文 我出身青樓昼接,卻偏偏與公主長(zhǎng)得像爽篷,于是被迫代替她去往敵國(guó)和親。 傳聞我的和親對(duì)象是個(gè)殘疾皇子慢睡,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 44,979評(píng)論 2 355

推薦閱讀更多精彩內(nèi)容

  • 本文是我自己在秋招復(fù)習(xí)時(shí)的讀書筆記逐工,整理的知識(shí)點(diǎn),也是為了防止忘記漂辐,尊重勞動(dòng)成果泪喊,轉(zhuǎn)載注明出處哦!如果你也喜歡髓涯,那...
    波波波先森閱讀 11,268評(píng)論 4 56
  • 驚慌袒啼、憤怒、無(wú)可奈何……各種滋味涌上心頭——因?yàn)槲揖尤辉诩依锇l(fā)現(xiàn)了老鼠复凳!住了這么多年瘤泪,蟑螂、蚊子間或...
    心田一瓣閱讀 558評(píng)論 0 1
  • 每個(gè)孩子都是母親的“心頭肉”育八,我想對(duì)于這句話每個(gè)人都是不可否認(rèn)的对途,當(dāng)然我也一樣。孟郊的一首游子吟把我們這些做兒女的...
    曹果果1閱讀 335評(píng)論 0 5
  • 似乎在很久很久以前髓棋,我通過(guò)聲音認(rèn)識(shí)了小北实檀。 她最早在酷我音樂里的一檔欄目惶洲,叫做一路向北,她的聲音不能說(shuō)有多好聽膳犹,只...
    方子卉閱讀 1,972評(píng)論 2 2
  • “久在樊籠里恬吕,復(fù)得返自然” (自然是蛐蛐主奏的 寒蟬鳴泣之時(shí)) 煮給趕路的玉米可以很新鮮 “山入潼關(guān)不解平” (潼...
    稻粱閱讀 199評(píng)論 0 1