高并發(fā)問(wèn)題拋去架構(gòu)層面的問(wèn)題,落實(shí)到代碼層面就是多線程的問(wèn)題盛霎。多線程的問(wèn)題主要是線程安全的問(wèn)題(其他還有活躍性問(wèn)題构挤,性能問(wèn)題等)。
那什么是線程安全凯砍?下面這個(gè)定義來(lái)自《Java并發(fā)編程實(shí)戰(zhàn)》箱硕,這本書強(qiáng)烈推薦,是幾個(gè)Java語(yǔ)言的作者合寫的悟衩,都是并發(fā)編程方面的大神剧罩。
線程安全指的是:當(dāng)多個(gè)線程訪問(wèn)某個(gè)類時(shí),這個(gè)類始終都能表現(xiàn)出正確的行為座泳。
正確指的是“所見即所知”惠昔,程序執(zhí)行的結(jié)果和你所預(yù)想的結(jié)果一致幕与。
理解線程安全的概念很重要,所謂線程安全問(wèn)題镇防,就是處理對(duì)象狀態(tài)的問(wèn)題啦鸣。如果要處理的對(duì)象是無(wú)狀態(tài)的(不變性),或者可以避免多個(gè)線程共享的(線程封閉)来氧,那么我們可以放心诫给,這個(gè)對(duì)象可能是線程安全的。當(dāng)無(wú)法避免啦扬,必須要共享這個(gè)對(duì)象狀態(tài)給多線程訪問(wèn)時(shí)中狂,這時(shí)候才用到線程同步的一系列技術(shù)。
這個(gè)理解放大到架構(gòu)層面扑毡,我們來(lái)設(shè)計(jì)業(yè)務(wù)層代碼時(shí)胃榕,業(yè)務(wù)層最好做到無(wú)狀態(tài),這樣就業(yè)務(wù)層就具備了可伸縮性瞄摊,可以通過(guò)橫向擴(kuò)展平滑應(yīng)對(duì)高并發(fā)勋又。
所以我們處理線程安全可以有幾個(gè)層次:
能否做成無(wú)狀態(tài)的不變對(duì)象。無(wú)狀態(tài)是最安全的泉褐。
能否線程封閉
采用何種同步技術(shù)
我理解為能夠“逃避”多線程問(wèn)題赐写,能逃則逃,實(shí)在不行了再來(lái)處理膜赃。
了解了線程封閉的背景挺邀,來(lái)說(shuō)說(shuō)線程封閉的具體技術(shù)和思路
棧封閉
ThreadLocal
程序控制線程封閉
棧封閉說(shuō)白了就是多使用局部變量。理解Java運(yùn)行時(shí)模型的同學(xué)都知道局部變量的引用是保持在線程棧中的跳座,只對(duì)當(dāng)前線程可見端铛,其他線程不可見。所以局部變量是線程安全的疲眷。
ThreadLocal機(jī)制本質(zhì)上是程序控制線程封閉禾蚕,只不過(guò)是Java本身幫忙處理了。來(lái)看Java的Thread類和ThreadLocal類
Thread線程類維護(hù)了一個(gè)ThreadLocalMap的實(shí)例變量
ThreadLocalMap就是一個(gè)Map結(jié)構(gòu)
ThreadLocal的set方法取到當(dāng)前線程狂丝,拿到當(dāng)前線程的threadLocalMap對(duì)象换淆,然后把ThreadLocal對(duì)象作為key,把要放入的值作為value几颜,放到Map
ThreadLocal的get方法取到當(dāng)前線程倍试,拿到當(dāng)前線程的threadLocalMap對(duì)象,然后把ThreadLocal對(duì)象作為key蛋哭,拿到對(duì)應(yīng)的value.
public class Thread implements Runnable {
ThreadLocal.ThreadLocalMap threadLocals = null;
}
public class ThreadLocal<T> {
public T get() {
Thread t = Thread.currentThread();
ThreadLocalMap map = getMap(t);
if (map != null) {
ThreadLocalMap.Entry e = map.getEntry(this);
if (e != null)
return (T)e.value;
}
return setInitialValue();
}
ThreadLocalMap getMap(Thread t) {
return t.threadLocals;
}
public void set(T value) {
Thread t = Thread.currentThread();
ThreadLocalMap map = getMap(t);
if (map != null)
map.set(this, value);
else
createMap(t, value);
}
}
ThreadLocal的設(shè)計(jì)很簡(jiǎn)單县习,就是給線程對(duì)象設(shè)置了一個(gè)內(nèi)部的Map,可以放置一些數(shù)據(jù)。JVM從底層保證了Thread對(duì)象之間不會(huì)看到對(duì)方的數(shù)據(jù)躁愿。
使用ThreadLocal前提是給每個(gè)ThreadLocal保存一個(gè)單獨(dú)的對(duì)象叛本,這個(gè)對(duì)象不能是在多個(gè)ThreadLocal共享的,否則這個(gè)對(duì)象也是線程不安全的彤钟。
Structs2就用了ThreadLocal來(lái)保存每個(gè)請(qǐng)求的數(shù)據(jù)来候,用了線程封閉的思想。但是ThreadLocal的缺點(diǎn)也顯而易見样勃,必須保存多個(gè)副本吠勘,采用空間換取效率性芬。
程序控制線程封閉峡眶,這個(gè)不是一種具體的技術(shù),而是一種設(shè)計(jì)思路植锉,從設(shè)計(jì)上把處理一個(gè)對(duì)象狀態(tài)的代碼都放到一個(gè)線程中去辫樱,從而避免線程安全的問(wèn)題。
有很多這樣的實(shí)例俊庇,Netty5的EventLoop就采用這樣的設(shè)計(jì)狮暑,我們的游戲后臺(tái)處理用戶請(qǐng)求是也采用了這種設(shè)計(jì)。
具體的思路是這樣的:
1. 把和用戶狀態(tài)相關(guān)的代碼放到一個(gè)隊(duì)列中去辉饱,由一個(gè)線程處理
2. 考慮是否隔離用戶之間的狀態(tài)搬男,即一個(gè)用戶使用一個(gè)隊(duì)列,還是多個(gè)用戶使用一個(gè)隊(duì)列
拿Netty舉例彭沼,EventLoop被設(shè)計(jì)成了一個(gè)線程的線程池缔逛。我們知道線程池的組成是工作線程 + 任務(wù)隊(duì)列。EventLoop的工作線程只有一個(gè)姓惑。
用戶請(qǐng)求過(guò)來(lái)后被隨機(jī)放到一個(gè)EventLoop去褐奴,也就是放到EventLoop線程池的任務(wù)隊(duì)列,由一個(gè)線程來(lái)處理于毙。并且處理用戶請(qǐng)求的代碼都使用Pipeline職責(zé)鏈封裝好了敦冬,一個(gè)Pipeline交給一個(gè)線程來(lái)處理,從而保證了跟同一個(gè)用戶的狀態(tài)被封閉到了一個(gè)線程中去唯沮。
更多Netty EventLoop相關(guān)的內(nèi)容看這篇 Netty5源碼分析(二) -- 線程模型分析
這里有個(gè)問(wèn)題也顯而易見脖旱,就是如果把多個(gè)用戶都放到一個(gè)隊(duì)列,交給一個(gè)線程處理介蛉,那么前一個(gè)用戶的處理速度會(huì)影響到后一個(gè)用戶被處理的時(shí)間萌庆。
我們的游戲服務(wù)器的設(shè)計(jì)采用了一個(gè)用戶一個(gè)任務(wù)隊(duì)列的方式,處理任務(wù)的代碼被做成了Runnable甘耿,這樣多個(gè)Runnable可以交給一個(gè)線程池執(zhí)行踊兜,從而多個(gè)用戶可以同時(shí)被處理,而同一個(gè)用戶的狀態(tài)處理被封閉到了唯一的一個(gè)任務(wù)隊(duì)列中佳恬,互不干擾捏境。
但是也有問(wèn)題于游,即線程池內(nèi)的工作線程和任務(wù)隊(duì)列是有界的,所以單個(gè)線程處理的時(shí)間必須要快垫言,否則大量請(qǐng)求被積壓在任務(wù)隊(duì)列來(lái)不及處理贰剥,一旦任務(wù)隊(duì)列也滿了,那么后續(xù)的請(qǐng)求都進(jìn)不來(lái)了筷频。
如果使用無(wú)界的任務(wù)隊(duì)列蚌成,所有請(qǐng)求能進(jìn)來(lái),但是問(wèn)題是高并發(fā)情況下大量請(qǐng)求過(guò)來(lái)凛捏,會(huì)把系統(tǒng)內(nèi)存撐爆担忧,倒置OOM。
所以一個(gè)常用的設(shè)計(jì)思路如下:
1. 采用有界的任務(wù)隊(duì)列和不限個(gè)數(shù)的工作線程坯癣,這樣可以平滑地處理高并發(fā)瓶盛,不至于內(nèi)存被撐爆
2. 單個(gè)線程請(qǐng)求時(shí)間必須要快,盡量不超過(guò)100ms
3. 如果單個(gè)線程處理的時(shí)間由于任務(wù)太大必須耗時(shí)示罗,那么把任務(wù)拆個(gè)小任務(wù)來(lái)多次執(zhí)行
4. 拆成小任務(wù)還是慢惩猫,那么把同步操作變成異步操作,即方法執(zhí)行后立即返回蚜点,不要等待結(jié)果轧房。由另一個(gè)線程異步地處理線程,比如采用單獨(dú)的線程定時(shí)檢查處理狀態(tài)绍绘,或者采用異步回調(diào)的方式