1. 重排序
重排序是指編譯器和處理器為了優(yōu)化程序性能而對(duì)指令序列進(jìn)行重新排序的一種手段。
請(qǐng)看下面的一個(gè)例子：
public static void main(String[] args) throws InterruptedException {
Thread one = new Thread(new Runnable() {
public void run() {
a = 1; // 1
x = b; // 2
}
});
Thread other = new Thread(new Runnable() {
public void run() {
b = 1; // 3
y = a; // 4
}
});
one.start();other.start();
one.join();other.join();
System.out.println(“(” + x + “,” + y + “)”);
}
這段代碼的運(yùn)行結(jié)果可能為(1,0)衡奥、(0,1)或(1,1)爹袁，因?yàn)榫€程one可以在線程two開(kāi)始之前就執(zhí)行完了，也有可能反之矮固，甚至有可能二者的指令是同時(shí)或交替執(zhí)行的失息。
甚至這段代碼的執(zhí)行結(jié)果也可能是(0,0)。因?yàn)榭赡軋?zhí)行的順序?yàn)?2341档址，程序執(zhí)行時(shí)發(fā)生了重排序盹兢。
2. 可見(jiàn)性
除了指令重排序帶來(lái)的執(zhí)行結(jié)果的不確定性，多線程間內(nèi)存的可見(jiàn)性也會(huì)造成程序執(zhí)行結(jié)果的不確定性守伸。
我們知道绎秒，每一個(gè)線程都擁有自己的私有內(nèi)存cache，因此兩個(gè)線程一前一后寫(xiě)-讀某個(gè)變量時(shí)尼摹，有可能寫(xiě)和讀的都是自己的私有內(nèi)存cache见芹，從而造成了數(shù)據(jù)不正確的情況。下圖展示了兩個(gè)CPU cache和主內(nèi)存之間的關(guān)系：
如圖所示蠢涝，CPU執(zhí)行l(wèi)oad讀數(shù)據(jù)時(shí)玄呛，把讀請(qǐng)求放到LoadBuffer，這樣就不用等待其它CPU響應(yīng)和二，先進(jìn)行下面操作徘铝，稍后再處理這個(gè)讀請(qǐng)求的結(jié)果。在執(zhí)行store寫(xiě)數(shù)據(jù)時(shí)惯吕，把數(shù)據(jù)寫(xiě)到StoreBuffer中惕它，待到某個(gè)適合的時(shí)間點(diǎn)，把StoreBuffer的數(shù)據(jù)刷到主存中混埠。
由于StoreBuffer的存在怠缸，CPU在寫(xiě)數(shù)據(jù)時(shí)，真實(shí)數(shù)據(jù)并不會(huì)立即表現(xiàn)到內(nèi)存中钳宪，所以對(duì)于其它CPU是不可見(jiàn)的揭北。同樣的道理，LoadBuffer中的請(qǐng)求也無(wú)法拿到其它CPU設(shè)置的最新數(shù)據(jù)吏颖。
可是這樣不能保證CPU在load的時(shí)候可以拿到最新數(shù)據(jù)搔体，因此Java提供了了volatile關(guān)鍵字來(lái)保證可見(jiàn)性。
3. volatile和內(nèi)存屏障
通過(guò)給變量添加volatile修飾符半醉，我們就可以保證一個(gè)線程的寫(xiě)入一定對(duì)所有其他讀線程可見(jiàn)疚俱，即其他讀線程一定能給讀取到最新的結(jié)果。
一個(gè)最簡(jiǎn)單的想法是缩多，所有針對(duì)volatile變量的寫(xiě)入呆奕，都會(huì)立即刷新到主內(nèi)存养晋；所有的針對(duì)volatile變量的讀取，也都會(huì)從主內(nèi)存中讀取梁钾，這樣就保證了可見(jiàn)性绳泉。而事實(shí)上，JVM是通過(guò)CPU提供的內(nèi)存屏障指令來(lái)實(shí)現(xiàn)volatile語(yǔ)義的姆泻。
內(nèi)存屏障
內(nèi)存屏障是組CPU指令零酪。它的作用主要有兩個(gè)：禁止重排序和寫(xiě)主內(nèi)存。
- 插入一個(gè)內(nèi)存屏障拇勃，相當(dāng)于告訴CPU和編譯器出現(xiàn)在這個(gè)內(nèi)存屏障之前的命令必須先執(zhí)行四苇，然后再執(zhí)行這個(gè)內(nèi)存屏障之后的其他命令。
- 內(nèi)存屏障另一個(gè)作用是強(qiáng)制更新一次不同CPU的緩存方咆。例如月腋，一個(gè)寫(xiě)屏障會(huì)把這個(gè)屏障前寫(xiě)入的數(shù)據(jù)刷新到主存，這樣任何試圖讀取該數(shù)據(jù)的線程將得到最新值瓣赂。
內(nèi)存屏障分為以下4種：
- LoadLoad屏障（Load1罗售，LoadLoad， Load2）：確保Load1所要讀入的數(shù)據(jù)能夠在被Load2和后續(xù)的load指令訪問(wèn)前讀入钩述。通常能執(zhí)行預(yù)加載指令或/和支持亂序處理的處理器中需要顯式聲明Loadload屏障，因?yàn)樵谶@些處理器中正在等待的加載指令能夠繞過(guò)正在等待存儲(chǔ)的指令穆碎。 而對(duì)于總是能保證處理順序的處理器上牙勘，設(shè)置該屏障相當(dāng)于無(wú)操作。
- LoadStore屏障（Load1所禀，LoadStore方面， Store2）：確保Load1的數(shù)據(jù)在Store2和后續(xù)Store指令被刷新之前讀取。在等待Store指令可以越過(guò)loads指令的亂序處理器上需要使用LoadStore屏障色徘。
- StoreStore屏障（Store1恭金，StoreStore，Store2）：確保Store1的數(shù)據(jù)在Store2以及后續(xù)Store指令操作相關(guān)數(shù)據(jù)之前對(duì)其它處理器可見(jiàn)（例如向主存刷新數(shù)據(jù)）褂策。通常情況下横腿，如果處理器不能保證從寫(xiě)緩沖或/和緩存向其它處理器和主存中按順序刷新數(shù)據(jù)，那么它需要使用StoreStore屏障斤寂。
- StoreLoad屏障（Store1耿焊，StoreLoad，Load2）：確保Store1的數(shù)據(jù)在被Load2和后續(xù)的Load指令讀取之前對(duì)其他處理器可見(jiàn)遍搞。StoreLoad屏障可以防止一個(gè)后續(xù)的load指令 不正確的使用了Store1的數(shù)據(jù)罗侯，而不是另一個(gè)處理器在相同內(nèi)存位置寫(xiě)入一個(gè)新數(shù)據(jù)。
StoreLoad屏障是一個(gè)“全能型”的屏障溪猿，它同時(shí)具有其他3個(gè)屏障的效果」辰埽現(xiàn)代的多處理器大多支持該屏障纫塌。執(zhí)行該屏障的開(kāi)銷(xiāo)會(huì)有昂貴，因?yàn)楫?dāng)前處理器通常要把寫(xiě)緩沖區(qū)中的數(shù)據(jù)全部刷新到內(nèi)存中讲弄。
再談volatile
因此措左，JVM就是通過(guò)內(nèi)存屏障來(lái)實(shí)現(xiàn)volatile的內(nèi)存語(yǔ)義的。下面是JVM針對(duì)volatile變量插入內(nèi)存屏障的策略：
- 在每個(gè)volatile寫(xiě)操作的前面插入一個(gè)StoreStore屏障垂睬。
- 在每個(gè)volatile寫(xiě)操作的后面插入一個(gè)StoreLoad屏障媳荒。
- 在每個(gè)volatile讀操作的后面插入一個(gè)LoadLoad屏障。
- 在每個(gè)volatile讀操作的后面插入一個(gè)LoadStore屏障驹饺。
這里說(shuō)的內(nèi)存屏障插入策略非常保守钳枕，但它可以保證在任意處理器平臺(tái)，任意的程序中都能得到正確的volatile內(nèi)存語(yǔ)義赏壹。編譯器可以根據(jù)具體情況省略不必要的屏障鱼炒。
4. Happens-Before規(guī)則
前面我們說(shuō)到，重排序和內(nèi)存可見(jiàn)性問(wèn)題嚴(yán)重影響著程序的執(zhí)行結(jié)果蝌借。通過(guò)volatile變量保證可見(jiàn)性是一種方式昔瞧。JVM為了確保程序執(zhí)行結(jié)果的確定性，提出了一系列Happens-Before規(guī)則菩佑。
在介紹這些Happens-Before規(guī)則前自晰，先解釋以下Happens-Before的語(yǔ)義：
- 如果一個(gè)操作happens-before另一個(gè)操作，那么第一個(gè)操作的執(zhí)行結(jié)果將對(duì)第二個(gè)操作可見(jiàn)稍坯，并且第一個(gè)操作的執(zhí)行順序排在第二個(gè)操作之前酬荞。
因此，Happens-Before的語(yǔ)義包含了兩個(gè)最重要的保證：
1. 如果A操作happens-before于B操作瞧哟，那么A操作一定在B操作之前執(zhí)行混巧。即禁止了重排序。
2. 如果A操作happens-before于B操作勤揩，那么A操作的執(zhí)行結(jié)果一定對(duì)B可見(jiàn)咧党。即保證了內(nèi)存可見(jiàn)性。
Happens-Before規(guī)則
下面是JVM嚴(yán)格保證的一些Happens-Before規(guī)則：
1. 程序順序規(guī)則：在一個(gè)線程內(nèi)部陨亡，按照程序代碼的書(shū)寫(xiě)順序傍衡，書(shū)寫(xiě)在前面的代碼操作Happens-Before書(shū)寫(xiě)在后面的代碼操作。兩個(gè)操作之間存在happens-before關(guān)系负蠕，并不意味著Java平臺(tái)的具體實(shí)現(xiàn)必須要按照happens-before關(guān)系指定的順序來(lái)執(zhí)行聪舒。如果重排序之后的執(zhí)行結(jié)果，與按happens-before關(guān)系來(lái)執(zhí)行的結(jié)果一致虐急，那么這種重排序不非法（也就是說(shuō)箱残，JVM允許這種重排序）。JVM如果能發(fā)現(xiàn)多個(gè)操作之間有先后依賴(lài)關(guān)系，則不允許對(duì)這些操作進(jìn)行重排序被辑。
2. 監(jiān)視器鎖規(guī)則：對(duì)一個(gè)鎖的解鎖燎悍，happens-before于隨后對(duì)這個(gè)鎖的加鎖。眾所周知盼理，synchronized的一個(gè)功能就是使多個(gè)線程串行執(zhí)行谈山，但根據(jù)happens-before語(yǔ)義，它們擁有第二個(gè)功能 —— 保證變量的可見(jiàn)性宏怔。因此奏路，一個(gè)新線程獲得鎖之后，能夠讀到上一個(gè)釋放鎖的線程對(duì)于變量的修改臊诊。
3. volatile變量規(guī)則：對(duì)一個(gè)volatile變量的寫(xiě)操作及這個(gè)寫(xiě)操作之前的所有操作Happens-Before對(duì)這個(gè)變量的讀操作及這個(gè)讀操作之后的所有操作鸽粉。在volatile變量寫(xiě)操作發(fā)生后，A線程會(huì)把volatile變量和書(shū)寫(xiě)在它之前的那些操作的執(zhí)行結(jié)果一起同步到主內(nèi)存中抓艳。最后触机，當(dāng)B線程讀取volatile變量時(shí)，B線程會(huì)使自己的CPU緩存失效玷或，重新從主內(nèi)存讀取所需變量的值儡首。
4. 線程啟動(dòng)規(guī)則：Thread對(duì)象的start方法及書(shū)寫(xiě)在start方法前面的代碼操作Happens-Before此線程的每一個(gè)動(dòng)作。調(diào)用start方法時(shí)偏友，會(huì)將start方法之前所有操作的結(jié)果同步到主內(nèi)存中蔬胯，新線程創(chuàng)建好后，需要從主內(nèi)存獲取數(shù)據(jù)位他。這樣在start方法調(diào)用之前的所有操作結(jié)果對(duì)于新創(chuàng)建的線程都是可見(jiàn)的笔宿。
6. 線程終止規(guī)則：線程中的任何操作都Happens-Before其它線程檢測(cè)到該線程已經(jīng)結(jié)束。假設(shè)兩個(gè)線程s棱诱、t，在線程s中調(diào)用t.join()方法涝动，則線程s會(huì)被掛起迈勋，等待t線程運(yùn)行結(jié)束才能恢復(fù)執(zhí)行。當(dāng)t.join()成功返回時(shí)醋粟，s線程就知道t線程已經(jīng)結(jié)束了靡菇。所以根據(jù)本條原則，在t線程中對(duì)共享變量的修改米愿，對(duì)s線程都是可見(jiàn)的厦凤。類(lèi)似的還有Thread.isAlive方法也可以檢測(cè)到一個(gè)線程是否結(jié)束。
7. 終結(jié)器規(guī)則：一個(gè)對(duì)象的構(gòu)造函數(shù)執(zhí)行結(jié)束Happens-Before它的finalize()方法的開(kāi)始育苟。“結(jié)束”和“開(kāi)始”表明在時(shí)間上较鼓，一個(gè)對(duì)象的構(gòu)造函數(shù)必須在它的finalize()方法調(diào)用時(shí)執(zhí)行完。根據(jù)這條原則，可以確保在對(duì)象的finalize方法執(zhí)行時(shí)博烂，該對(duì)象的所有field字段值都是可見(jiàn)的香椎。
8. 傳遞性：如果A happens-before B，且B happens-before C禽篱，那么A happens-before C畜伐。
5. Happens-Before規(guī)則的意義
我們已經(jīng)知道，導(dǎo)致多線程間可見(jiàn)性問(wèn)題的兩個(gè)“罪魁禍?zhǔn)住笔侵嘏判蚝虲PU緩存躺率。重排序和CPU高速緩存有利于計(jì)算機(jī)性能的提高玛界，但卻對(duì)多CPU處理的一致性帶來(lái)了影響。為了解決這個(gè)矛盾悼吱，我們通過(guò)JVM保證的Happens-Before規(guī)則慎框，能夠確保程序按照我們的預(yù)期執(zhí)行，從而消除了重排序和CPU緩存帶來(lái)的負(fù)面影響舆绎，保證了多線程程序的正確性鲤脏。
