鎖緩存行有一套協(xié)議叫做緩存一致性協(xié)議。緩存一致性協(xié)議有MSI、MESI、MOSI榜贴、Synapse矢赁、Firefly以及DragonProtocol等等瑞佩。
MESI
MESI分別代表緩存行數(shù)據(jù)的4中狀態(tài),通過對(duì)這四種狀態(tài)的切換坯台,來達(dá)到對(duì)緩存數(shù)據(jù)進(jìn)行管理的目的
狀態(tài) | 描述 | 監(jiān)聽任務(wù) |
---|---|---|
Modified (修改) |
該Cache Line有效炬丸,數(shù)據(jù)被修改了,和內(nèi)存中的數(shù)據(jù)不一致蜒蕾,數(shù)據(jù)只存在于本Cache中 | Cache Line必須時(shí)刻監(jiān)聽所有試圖讀該Cache Line相對(duì)應(yīng)的內(nèi)存的操作稠炬,其他緩存須在本Cache Line寫回內(nèi)存并將狀態(tài)置為E之后才能操作該Cache Line對(duì)應(yīng)的內(nèi)存數(shù)據(jù) |
Exclusive (互斥) |
該Cache Line有效,數(shù)據(jù)和內(nèi)存中的數(shù)據(jù)一致咪啡,數(shù)據(jù)只存在于本Cache中 | Cache Line 必須監(jiān)聽其他緩存讀主內(nèi)存中該Cache Line相對(duì)應(yīng)的內(nèi)存的操作首启,一旦有這種操作,該Cache Line需要變成S狀態(tài) |
Shared (共享) |
該Cache Line有效撤摸,數(shù)據(jù)和內(nèi)存中的數(shù)據(jù)一致毅桃,數(shù)據(jù)同時(shí)存在于其他緩存中 | Cache Line必須監(jiān)聽其他處理器修改該Cache Line相對(duì)應(yīng)的本地Cache Line的操作,一旦有這種操作准夷,該Cache Line需要變成 I 狀態(tài) |
Invalid (無效) |
該Cache Line數(shù)據(jù)無效 | 無 |
多核緩存協(xié)同操作
假設(shè)有三個(gè)CPU-A钥飞、B、C衫嵌,對(duì)應(yīng)三個(gè)緩存分別是cache-a读宙、b、c楔绞。在主內(nèi)存中定義了x的引用值0
單核讀取
- CPU-A發(fā)出一條指令结闸,從主內(nèi)存中讀取x
- 從主內(nèi)存通過bus讀取到緩存中,此時(shí)該Cache Line修改為E狀態(tài)
多核讀取
- CPU-A發(fā)出了一條指令酒朵,從主內(nèi)存中讀取x
- CPU-A從主內(nèi)存通過bus讀取到cache-a中并將該Cache Line設(shè)置為E狀態(tài)
- CPU-B發(fā)出一條指令桦锄,從主內(nèi)存中讀取x
- CPU-B試圖從主內(nèi)存中讀取x時(shí),CPU-A檢測(cè)到了地址沖突蔫耽。這時(shí)CPU-A對(duì)相應(yīng)數(shù)據(jù)做出響應(yīng)结耀。此時(shí)x存在于cache-a和cache-b中,x在cache-a和cache-b中都被設(shè)置為S狀態(tài)
修改數(shù)據(jù) - CPU-A計(jì)算完成后發(fā)指令需要修改x
- CPU-A將x設(shè)置為M狀態(tài)(修改)并通知緩存了x的CPU-B针肥,CPU-B將本地cache-b中的x設(shè)置為I狀態(tài)(無效)
- CPU-A對(duì)x進(jìn)行賦值
同步數(shù)據(jù)
- CPU-B發(fā)出了要讀取x的指令
- CPU-B通知CPU-A饼记,CPU-A將修改后的數(shù)據(jù)同步到主內(nèi)存時(shí)cache-a修改為E狀態(tài)(獨(dú)享)
- CPU-A同步CPU-B的x香伴,將cache-a和同步后cache-b中的x設(shè)置為S狀態(tài)(共享)
MESI優(yōu)化和引入的問題:各CPU緩存行的狀態(tài)是通過消息傳遞來進(jìn)行的慰枕。如果CPU0要對(duì)一個(gè)在緩存中共享的變量進(jìn)行寫入,首先需要發(fā)送一個(gè)失效的消息給到其他緩存了該數(shù)據(jù)的CPU即纲,并且要等到他們的確認(rèn)回執(zhí)具帮。CPU0在這段時(shí)間內(nèi)都會(huì)一直處于阻塞狀態(tài),會(huì)導(dǎo)致各種各樣的性能問題和穩(wěn)定性問題。
MESI性能優(yōu)化
Store Buffer
為了避免阻塞帶來的資源浪費(fèi)蜂厅,在CPU中引入了Store Buffer匪凡。
CPU在寫入共享數(shù)據(jù)時(shí),直接把數(shù)據(jù)寫入到Store Buffer中掘猿,同時(shí)發(fā)送Invalidate消息病游,然后繼續(xù)去處理其他指令。當(dāng)收到其他所有CPU發(fā)送了Invalidate Acknowledge消息時(shí)稠通,再將Store Buffer中的數(shù)據(jù)存儲(chǔ)到Cache Line中衬衬,最后再從Cache Line同步到主內(nèi)存。
Store Buffer的問題:引入了Store Buffer后改橘,CPU會(huì)優(yōu)先從Store Buffer中讀取數(shù)據(jù)滋尉,這在一些情況下會(huì)導(dǎo)致CPU的亂序執(zhí)行,也可以認(rèn)為是一種重排序飞主,這種重排序會(huì)帶來可見性問題