??在計(jì)算機(jī)系統(tǒng)模型中可缚，CPU執(zhí)行指令，而存儲(chǔ)器系統(tǒng)為CPU存放指令和數(shù)據(jù)斋枢。實(shí)際上帘靡，存儲(chǔ)器系統(tǒng)是一個(gè)具有不同容量、成本和訪問(wèn)時(shí)間的存儲(chǔ)設(shè)備的層次結(jié)構(gòu)瓤帚。
??如果你的程序需要的數(shù)據(jù)是存儲(chǔ)在CPU寄存器中描姚，那么在指令的執(zhí)行期間，在0個(gè)周期內(nèi)就能訪問(wèn)到它們戈次。如果存儲(chǔ)在高速緩存中轩勘，需要4~75個(gè)周期。如果存儲(chǔ)在主存中怯邪，需要上百個(gè)周期绊寻。而如果存儲(chǔ)在磁盤上，需要大約幾千萬(wàn)個(gè)周期悬秉！
??計(jì)算機(jī)程序的一個(gè)基本屬性稱為局部性澄步。具有良好局部性的程序傾向于一次又一次地訪問(wèn)相同的數(shù)據(jù)項(xiàng)集合，或是傾向于訪問(wèn)鄰近的數(shù)據(jù)項(xiàng)集合和泌。具有良好局部性的程序比局部性差的程序更多地傾向于從存儲(chǔ)器層次結(jié)構(gòu)中較高層次處訪問(wèn)數(shù)據(jù)項(xiàng)村缸，因此運(yùn)行得更快。
[TOC]
存儲(chǔ)技術(shù)
隨機(jī)訪問(wèn)存儲(chǔ)器
??隨機(jī)訪問(wèn)存儲(chǔ)器（ Random-Access Memory,RAM）分為兩類：靜態(tài)的和動(dòng)態(tài)的允跑。靜態(tài)RAM（SRAM）比動(dòng)態(tài)RAM（DRAM）更快王凑，但也貴得多。SRAM用來(lái)作為高速緩存存儲(chǔ)器聋丝。DRAM用來(lái)作為主存以及圖形系統(tǒng)的幀緩沖區(qū)索烹。
靜態(tài)RAM
??SRAM將每個(gè)位存儲(chǔ)在一個(gè)雙穩(wěn)態(tài)的（ bistable）存儲(chǔ)器單元里。每個(gè)單元是用一個(gè)六晶體管電路來(lái)實(shí)現(xiàn)的弱睦。這個(gè)電路有這樣一個(gè)屬性百姓，它可以無(wú)限期地保持在兩個(gè)不同的電壓配置（ configuration）或狀態(tài)（ state）之一。其他任何狀態(tài)都是不穩(wěn)定的况木，在不穩(wěn)定狀態(tài)時(shí)垒拢，電路會(huì)迅速轉(zhuǎn)移到兩個(gè)穩(wěn)定狀態(tài)的一個(gè)。
??由于SRAM存儲(chǔ)器單元的雙穩(wěn)態(tài)特性火惊，只要有電求类，它就會(huì)永遠(yuǎn)地保持它的值。即使有干擾（例如電子噪音）來(lái)擾亂電壓屹耐，當(dāng)干擾消除時(shí)尸疆，電路就會(huì)恢復(fù)到穩(wěn)定值。
動(dòng)態(tài)RAM
??DRAM將每個(gè)位存儲(chǔ)為對(duì)一個(gè)電容的充電。DRAM存儲(chǔ)器可以制造得非常密集寿弱。每個(gè)單元由一個(gè)電容和一個(gè)訪問(wèn)晶體管組成犯眠。但是，與SRAM不同症革，DRAM存儲(chǔ)器單元對(duì)干擾非常敏感筐咧。當(dāng)電容的電壓被擾亂之后，它就永遠(yuǎn)不會(huì)恢復(fù)了噪矛。暴露在光線下會(huì)導(dǎo)致電容電壓改變量蕊。
??下表總結(jié)了SRAM和DRAM存儲(chǔ)器的特性。只要有供電摩疑，SRAM就會(huì)保持不變危融。與DRAM不同，它不需要刷新雷袋。SRAM的存取比DRAM快吉殃。SRAM對(duì)諸如光和電噪聲這樣的干擾不敏感。代價(jià)是SRAM單元比DRAM單元使用更多的晶體管楷怒，因而密集度低蛋勺，而且更貴涧团，功耗更大徐矩。
| 每位晶體管數(shù) | 相對(duì)訪問(wèn)時(shí)間 | 持續(xù)的 | 敏感的 | 相對(duì)花費(fèi) | 應(yīng)用 | |
|---|---|---|---|---|---|---|
| SRAM | 6 | 1X | 是 | 否 | 1000X | 高速緩存存儲(chǔ)器 |
| DRAM | 1 | 10X | 否 | 是 | 1X | 主存，幀緩沖區(qū) |
傳統(tǒng)的DRAM
??DRAM芯片中的單元（位）被分成d個(gè)超單元（ supercell）蟆盹，每個(gè)超單元都由w個(gè)DRAM單元組成刃泡。一個(gè)的DRAM總共存儲(chǔ)了
位信息巧娱。超單元被組織成一個(gè)r行c列的長(zhǎng)方形陣列，這里rc=d烘贴。每個(gè)超單元有形如（i,j）的地址禁添，這里i表示行，而j表示列桨踪。
??例如老翘，如下圖所示是一個(gè)16×8的DRAM芯片的組織，有d=16個(gè)超單元锻离，每個(gè)超單元有w=8位铺峭，r=4行，c=4列汽纠。帶陰影的方框表示地址（2,1）處的超單元卫键。信息通過(guò)稱為引腳（pin）的外部連接器流入和流出芯片。每個(gè)引腳攜帶一個(gè)1位的信號(hào)虱朵。下圖給出了兩組引腳：8個(gè)data引腳莉炉，它們能傳送一個(gè)字節(jié)到芯片或從芯片傳出一個(gè)字節(jié)啤呼，以及2個(gè)addr引腳，它們攜帶2位的行和列超單元地址呢袱。其他攜帶控制信息的引腳沒(méi)有顯示出來(lái)。
??每個(gè)DRAM芯片被連接到某個(gè)稱為內(nèi)存控制器（ memory controller）的電路翅敌，這個(gè)電路可以一次傳送w位到每個(gè)DRAM芯片或一次從每個(gè)DRAM芯片傳出w位羞福。為了讀出超單元（i，j）的內(nèi)容蚯涮，內(nèi)存控制器將行地址i發(fā)送到DRAM治专，然后是列地址j。DRAM把超單元（i,j）的內(nèi)容發(fā)回給控制器作為響應(yīng)遭顶。行地址i稱為RAS（ Row Access strobe张峰，行訪問(wèn)選通脈沖）請(qǐng)求。列地址j稱為CAS（ Column Access strobe棒旗，列訪問(wèn)選通脈沖）請(qǐng)求喘批。注意，RAS和CAS請(qǐng)求共享相同的DRAM地址引腳铣揉。
??例如饶深，要從圖6-3中16×8的DRAM中讀出超單元（2,1），內(nèi)存控制器發(fā)送行地址2逛拱，如下圖a所示敌厘。DRAM的響應(yīng)是將行2的整個(gè)內(nèi)容都復(fù)制到一個(gè)內(nèi)部行緩沖區(qū)。接下來(lái)朽合，內(nèi)存控制器發(fā)送列地址1俱两，如下圖b所示。DRAM的響應(yīng)是從行緩沖區(qū)復(fù)制出超單元（2,1）中的8位曹步，并把它們發(fā)送到內(nèi)存控制器宪彩。
??電路設(shè)計(jì)者將DRAM組織成二維陣列而不是線性數(shù)組的一個(gè)原因是降低芯片上地址引腳的數(shù)量。例如箭窜，如果示例的128位DRAM被組織成一個(gè)16個(gè)超單元的線性數(shù)組毯焕，地址為0~15，那么芯片會(huì)需要4個(gè)地址引腳而不是2個(gè)磺樱。二維陣列組織的缺點(diǎn)是必須分兩步發(fā)送地址纳猫，這增加了訪問(wèn)時(shí)間。
增強(qiáng)的DRAM
??可以通過(guò)以下方式提高訪問(wèn)基本DRAM的速度竹捉。
??快頁(yè)模式DRAM（ Fast Page Mode dram, FPM DRAM）芜辕。傳統(tǒng)的DRAM將超單元的一整行復(fù)制到它的內(nèi)部行緩沖區(qū)中，使用一個(gè)块差，然后丟棄剩余的侵续。FPM DRAM允許對(duì)同一行連續(xù)地訪問(wèn)可以直接從行緩沖區(qū)得到服務(wù)倔丈。
假如要讀取第4行的3個(gè)超單元，傳統(tǒng)DRAM需要發(fā)出3次RAS,CAS状蜗。而FPM DRAM只需要發(fā)出一次RAS需五，CAS，后面跟2個(gè)CAS即可轧坎。
? 擴(kuò)展數(shù)據(jù)輸出DRAM（ Extended Data Out Dram, EDO DRAM）宏邮。 FPM DRAM的個(gè)增強(qiáng)的形式，它允許各個(gè)CAS信號(hào)在時(shí)間上靠得更緊密一點(diǎn)缸血。
??同步DRAM（ Synchronous DRaM, SDRAM）蜜氨。 SDRAM用與驅(qū)動(dòng)內(nèi)存控制器相同的外部時(shí)鐘信號(hào)的上升沿來(lái)代替許多這樣的控制信號(hào)。最終效果就是 SDRAM能夠比那些異步的存儲(chǔ)器更快地輸出它的超單元的內(nèi)容捎泻。
??雙倍數(shù)據(jù)速率同步DRAM（ Double data- Rate SynchronouS DRAm, DDR SDRAM）飒炎。DDR SDRAM是對(duì) SDRAM的一種增強(qiáng)，它通過(guò)使用兩個(gè)時(shí)鐘沿作為控制信號(hào)笆豁，從而使DRAM的速度翻倍郎汪。不同類型的 DDR SDRAM是用提高有效帶寬的很小的預(yù)取緩沖區(qū)的大小來(lái)劃分的：DDR（2位）、DDR2（4位）和DDR（8位）闯狱。
??視頻RAM（ Video ram,VRAM）怒竿。它用在圖形系統(tǒng)的幀緩沖區(qū)中。VRAM的思想與 FPM DRAM類似扩氢。兩個(gè)主要區(qū)別是：1）VRAM的輸出是通過(guò)依次對(duì)內(nèi)部緩沖區(qū)的整個(gè)內(nèi)容進(jìn)行移位得到的耕驰；2）VRAM允許對(duì)內(nèi)存并行地讀和寫。因此录豺，系統(tǒng)可以在寫下一次更新的新值（寫）的同時(shí)朦肘，用幀緩沖區(qū)中的像素刷屏幕（讀）。
非易失性存儲(chǔ)器
??如果斷電双饥，DRAM和SRAM會(huì)丟失它們的信息媒抠，從這個(gè)意義上說(shuō)，它們是易失的（ volatile）咏花。另一方面趴生，非易失性存儲(chǔ)器（ nonvolatile memory）即使是在關(guān)電后，仍然保存著它們的信息昏翰。
??對(duì)EPROM編程是通過(guò)使用一種把1寫人 EPROM的特殊設(shè)備來(lái)完成的苍匆。 EPROM能夠被擦除和重編程的次數(shù)的數(shù)量級(jí)可以達(dá)到1000次。EEPROM能夠被編程的次數(shù)的數(shù)量級(jí)可以達(dá)到10次棚菊。
??閃存（ flash memory）是一類非易失性存儲(chǔ)器浸踩，基于 EEPROM，它已經(jīng)成為了一種重要的存儲(chǔ)技術(shù)统求。
訪問(wèn)主存
??數(shù)據(jù)流通過(guò)稱為總線（bus）的共享電子電路在處理器和DRAM主存之間來(lái)來(lái)回回检碗。每次CPU和主存之間的數(shù)據(jù)傳送都是通過(guò)一系列步驟來(lái)完成的据块，這些步驟稱為總線事務(wù)（ bus transaction）。讀事務(wù)（ read transaction）從主存?zhèn)魉蛿?shù)據(jù)到CPU折剃。寫事務(wù)（ write trans-action）從CPU傳送數(shù)據(jù)到主存另假。
??總線是一組并行的導(dǎo)線，能攜帶地址怕犁、數(shù)據(jù)和控制信號(hào)浪谴。取決于總線的設(shè)計(jì)，數(shù)據(jù)和地址信號(hào)可以共享同一組導(dǎo)線因苹，也可以使用不同的。同時(shí)篇恒，兩個(gè)以上的設(shè)備也能共享同一總線扶檐。控制線攜帶的信號(hào)會(huì)同步事務(wù)胁艰，并標(biāo)識(shí)出當(dāng)前正在被執(zhí)行的事務(wù)的類型款筑。例如，當(dāng)前關(guān)注的這個(gè)事務(wù)是到主存的嗎腾么？還是到諸如磁盤控制器這樣的其他I/O設(shè)備奈梳？這個(gè)事務(wù)是讀還是寫？總線上的信息是地址還是數(shù)據(jù)項(xiàng)解虱？
??展示了一個(gè)示例計(jì)算機(jī)系統(tǒng)的配置攘须。主要部件是CPU芯片、我們將稱為IO橋接器（I/ O bridge）的芯片組（其中包括內(nèi)存控制器）殴泰，以及組成主存的DRAM內(nèi)存模塊這些部件由一對(duì)總線連接起來(lái)于宙，其中一條總線是系統(tǒng)總線（ system bus），它連接CPU和I/O橋接器悍汛，另一條總線是內(nèi)存總線（ memory bus）捞魁，它連接I/O橋接器和主存。I/O橋接器將系統(tǒng)總線的電子信號(hào)翻譯成內(nèi)存總線的電子信號(hào)离咐。
局部性
??一個(gè)編寫良好的計(jì)算機(jī)程序常常具有良好的局部性（ locality）谱俭。也就是，它們傾向于引用鄰近于其他最近引用過(guò)的數(shù)據(jù)項(xiàng)的數(shù)據(jù)項(xiàng)宵蛀，或者最近引用過(guò)的數(shù)據(jù)項(xiàng)本身昆著。這種傾向性，被稱為局部性原理（ principle of locality）术陶，是一個(gè)持久的概念宣吱，對(duì)硬件和軟件系統(tǒng)的設(shè)計(jì)和性能都有著極大的影響。局部性通常有兩種不同的形式：時(shí)間局部性（ temporal locality）和空間局部性（ spatial locality）瞳别。在一個(gè)具有良好時(shí)間局部性的程序中征候，被引用過(guò)一次的內(nèi)存位置很可能在不遠(yuǎn)的將來(lái)再被多次引用杭攻。在一個(gè)具有良好空間局部性的程序中，如果一個(gè)內(nèi)存位置被引用了次疤坝，那么程序很可能在不遠(yuǎn)的將來(lái)引用附近的一個(gè)內(nèi)存位置兆解。一般而言，有良好局部性的程序比局部性差的程序運(yùn)行得更快跑揉。
??如下所示的函數(shù)sumvec锅睛，它對(duì)一個(gè)向量的元素求和。在這個(gè)例子中历谍，變量sum在每次循環(huán)迭代中被引用一次现拒，因此，對(duì)于sum來(lái)說(shuō)望侈，有好的時(shí)間局部性印蔬。另一方面，因?yàn)閟un是標(biāo)量脱衙，對(duì)于sum來(lái)說(shuō)侥猬，沒(méi)有空間局部性。
int sumvec(int v[N])
{
int i,sum = 0;
for (i = 0; i < N; i++)
sum += v[i];
return sum;
}
引用模式：
地址： 0 4 8 12 16
內(nèi)容： v0 v1 v2 v3 v4
訪問(wèn)順序： 1 2 3 4 5
??如上所示捐韩，向量v的元素是被順序讀取的退唠，一個(gè)接一個(gè)，按照它們存儲(chǔ)在內(nèi)存中的順序（為了方便荤胁，我們假設(shè)數(shù)組是從地址0開(kāi)始的）瞧预。因此，對(duì)于變量v仅政，函數(shù)有很好的空間局部性松蒜，但是時(shí)間局部性很差，因?yàn)槊總€(gè)向量元素只被訪問(wèn)一次已旧。
步長(zhǎng)為1的引用模式為順序引用模式（ sequential reference pattern）秸苗。一個(gè)連續(xù)向量中，每隔k個(gè)元素進(jìn)行訪問(wèn)运褪，就稱為步長(zhǎng)為k的引用模式（ stride-k reference pattern）惊楼。步長(zhǎng)為1的引用模式是程序中空間局部性常見(jiàn)和重要的來(lái)源。一般而言秸讹，隨著步長(zhǎng)的增加檀咙，空間局部性下降。
??如下的函數(shù) sumarrayrows璃诀，它對(duì)一個(gè)二維數(shù)組的元素求和弧可。雙重嵌套循環(huán)按照行優(yōu)先順序（row major order）讀數(shù)組的元素。也就是劣欢，內(nèi)層循環(huán)讀第一行的元素棕诵，然后讀第二行裁良，依此類推。函數(shù) sumarrayrows具有良好的空間局部性校套，因?yàn)樗凑諗?shù)組被存儲(chǔ)的行優(yōu)先順序來(lái)訪問(wèn)這個(gè)數(shù)組价脾。其結(jié)果是得到一個(gè)很好的步長(zhǎng)為1的引用模式，具有良好的空間局部性笛匙。
int sum_array_rows(int a[M][N])
{
int i, j, sum = 0;
for (i = 0; i < M; i++)
for (j = 0; j < N; j++)
sum += a[i][j];
return sum;
}
引用模式：
地址： 0 4 8 12 16
內(nèi)容： a00 a01 a02 a10 a11
訪問(wèn)順序： 1 2 3 4 5
存儲(chǔ)器層次結(jié)構(gòu)
??存儲(chǔ)技術(shù)和計(jì)算機(jī)軟件的一些基本的和持久的屬性：
??存儲(chǔ)技術(shù)：不同存儲(chǔ)技術(shù)的訪問(wèn)時(shí)間差異很大侨把。速度較快的技術(shù)每字節(jié)的成本要比速度較慢的技術(shù)高，而且容量較小妹孙。CPU和主存之間的速度差距在增大秋柄。
??計(jì)算機(jī)軟件：一個(gè)編寫良好的程序傾向于展示出良好的局部性。
??硬件和軟件的這些基本屬性互相補(bǔ)充得很完美蠢正。它們這種相互補(bǔ)充的性質(zhì)使人想到一種組織存儲(chǔ)器系統(tǒng)的方法骇笔，稱為存儲(chǔ)器層次結(jié)構(gòu)（ memory hierarchy），下圖展示了一個(gè)典型的存儲(chǔ)器層次結(jié)構(gòu)机隙。一般而言，從高層往底層走萨西，存儲(chǔ)設(shè)備變得更慢有鹿、更便宜和更大。在最高層（L0）谎脯，是少量快速的CPU寄存器葱跋，CPU可以在一個(gè)時(shí)鐘周期內(nèi)訪問(wèn)它們。接下來(lái)是一個(gè)或多個(gè)小型到中型的基于SRAM的高速緩存存儲(chǔ)器源梭，可以在幾個(gè)CPU時(shí)鐘周期內(nèi)訪問(wèn)它們娱俺。然后是一個(gè)大的基于DRAM的主存，可以在幾十到幾百個(gè)時(shí)鐘周期內(nèi)訪問(wèn)它們废麻。接下來(lái)是慢速但是容量很大的本地磁盤荠卷。最后，有些系統(tǒng)甚至包括了一層附加的遠(yuǎn)程服務(wù)器上的磁盤烛愧，要通過(guò)網(wǎng)絡(luò)來(lái)訪問(wèn)它們油宜。
存儲(chǔ)器結(jié)構(gòu)中的緩存
??一般而言，高速緩存（ cache怜姿，讀作“cash”）是一個(gè)小而快速的存儲(chǔ)設(shè)備慎冤，它作為存儲(chǔ)在更大、也更慢的設(shè)備中的數(shù)據(jù)對(duì)象的緩沖區(qū)域沧卢。使用高速緩存的過(guò)程稱為緩存（ caching蚁堤，讀作“ cashing"）。
??存儲(chǔ)器層次結(jié)構(gòu)的中心思想是但狭，對(duì)于每個(gè)k披诗，位于k層的更快更小的存儲(chǔ)設(shè)備作為位于k+1層的更大更慢的存儲(chǔ)設(shè)備的緩存撬即。換句話說(shuō)，層次結(jié)構(gòu)中的每一層都緩存來(lái)自較低一層的數(shù)據(jù)對(duì)象藤巢。
??數(shù)據(jù)總是以塊大小為傳送單元（ transfer unit）在第k層和第k+1層之間來(lái)回復(fù)制的搞莺。雖然在層次結(jié)構(gòu)中任何一對(duì)相鄰的層次之間塊大小是固定的，但是其他的層次對(duì)之間可以有不同的塊大小掂咒。如上圖所示才沧，L1和L0之間的傳送通常使用的是1個(gè)字大小的塊。L2和L1之間（以及L3和I2之間绍刮、I4和I3之間）的傳送通常使用的是幾十個(gè)字節(jié)的塊温圆。而L5和L4之間的傳送用的是大小為幾百或幾千字節(jié)的塊。一般而言孩革，層次結(jié)構(gòu)中較低層（離CPU較遠(yuǎn)）的設(shè)備的訪問(wèn)時(shí)間較長(zhǎng)岁歉，因此為了補(bǔ)償這些較長(zhǎng)的訪問(wèn)時(shí)間，傾向于使用較大的塊膝蜈。
緩存命中
??當(dāng)程序需要第k+1層的某個(gè)數(shù)據(jù)對(duì)象d時(shí)锅移，它首先在當(dāng)前存儲(chǔ)在第k層的一個(gè)塊中查找d。如果d剛好緩存在第k層中饱搏，那么就是我們所說(shuō)的緩存命中（ cache hit）非剃。
緩存不命中
??另一方面，如果第k層中沒(méi)有緩存數(shù)據(jù)對(duì)象d推沸，那么就是我們所說(shuō)的緩存不命中（ cache miss）备绽。當(dāng)發(fā)生緩存不命中時(shí)，第k層的緩存從第k+1層緩存中取出包含d的那個(gè)塊鬓催，如果第k層的緩存已經(jīng)滿了肺素，可能就會(huì)覆蓋現(xiàn)存的一個(gè)塊。（緩存的替換策略：隨機(jī)替換替換策略宇驾，最少被使用（LRU）替換策略）倍靡。
緩存不命中種類
??區(qū)分不同種類的緩存不命中有時(shí)候是很有幫助的。如果第k層的緩存是空的课舍，那么對(duì)任何數(shù)據(jù)對(duì)象的訪問(wèn)都會(huì)不命中菌瘫。一個(gè)空的緩存有時(shí)被稱為冷緩存（ cold cache），此類不命中稱為強(qiáng)制性不命中（ compulsory miss）或冷不命中（ cold miss）布卡。冷不命中很重要雨让，因?yàn)樗鼈兺ǔＪ嵌虝旱氖录粫?huì)在反復(fù)訪問(wèn)存儲(chǔ)器使得緩存暖身（ warmed up）之后的穩(wěn)定狀態(tài)中出現(xiàn)忿等。
緩存管理
??存儲(chǔ)器層次結(jié)構(gòu)的本質(zhì)是栖忠，每一層存儲(chǔ)設(shè)備都是較低一層的緩存。在每一層上，某種形式的邏輯必須管理緩存庵寞。這里狸相，我們的意思是指某個(gè)東西要將緩存劃分成塊，在不同的層之間傳送塊捐川，判定是命中還是不命中脓鹃，并處理它們。管理緩存的邏輯可以是硬件古沥、軟件瘸右，或是兩者的結(jié)合。
高速緩存存儲(chǔ)器
??高速緩存關(guān)于讀的操作非常簡(jiǎn)單岩齿。首先太颤，在高速緩存中查找所需字的副本。如果命中盹沈，立即返回字
給CPU龄章。如果不命中，從存儲(chǔ)器層次結(jié)構(gòu)中較低層中取出包含字
的塊乞封，將這個(gè)塊存儲(chǔ)到某個(gè)高速緩存行中（可能會(huì)驅(qū)逐一個(gè)有效的行）做裙，然后返回字
。
??寫的情況就要復(fù)雜一些了肃晚。假設(shè)我們要寫一個(gè)已經(jīng)緩存了的字（寫命中锚贱， write hit）。在高速緩存更新了它的
的副本之后陷揪，怎么更新
在層次結(jié)構(gòu)中緊接著低一層中的副本呢惋鸥？最簡(jiǎn)單的方法杂穷，稱為直寫（ write-through）悍缠，就是立即將
的高速緩存塊寫回到緊接著的低一層中。雖然簡(jiǎn)單耐量，但是直寫的缺點(diǎn)是每次寫都會(huì)引起總線流量飞蚓。另一種方法，稱為寫回（ write-back）廊蜒，盡可能地推遲更新趴拧，只有當(dāng)替換算法要驅(qū)逐這個(gè)更新過(guò)的塊時(shí)，才把它寫到緊接著的低一層中山叮。由于局部性著榴，寫回能顯著地減少總線流量，但是它的缺點(diǎn)是增加了復(fù)雜性屁倔。高速緩存必須為每個(gè)高速緩存行維護(hù)一個(gè)額外的修改位（ dirty bit）脑又，表明這個(gè)高速緩存塊是否被修改過(guò)。
??另一個(gè)問(wèn)題是如何處理寫不命中。一種方法问麸，稱為寫分配（ write-allocate）往衷，加載相應(yīng)的低一層中的塊到高速緩存中，然后更新這個(gè)高速緩存塊严卖。寫分配試圖利用寫的空間局部性席舍，但是缺點(diǎn)是每次不命中都會(huì)導(dǎo)致一個(gè)塊從低一層傳送到高速緩存。另一種方法哮笆，稱為非寫分配（not- write-allocate）来颤，避開(kāi)高速緩存，直接把這個(gè)字寫到低一層中疟呐。直寫高速緩存通常是非寫分配的脚曾。寫回高速緩存通常是寫分配的。
??高速緩存既保存數(shù)據(jù)启具，也保存指令本讥。只保存指令的高速緩存稱為 i-cache。只保存程序數(shù)據(jù)的高速緩存稱為 d-cache鲁冯。既保存指令又包括數(shù)據(jù)的高速緩存稱為統(tǒng)一的高速緩存（ unified cache）】椒校現(xiàn)代處理器包括獨(dú)立的 i-cache和d-cache。這樣做有很多原因薯演。有兩個(gè)獨(dú)立的高速緩存撞芍，處理器能夠同時(shí)讀一個(gè)指令字和一個(gè)數(shù)據(jù)字。 i-cache通常是只讀的跨扮，因此比較簡(jiǎn)單序无。通常會(huì)針對(duì)不同的訪問(wèn)模式來(lái)優(yōu)化這兩個(gè)高速緩存，它們可以有不同的塊大小衡创，相聯(lián)度和容量帝嗡。使用不同的高速緩存也確保了數(shù)據(jù)訪問(wèn)不會(huì)與指令訪問(wèn)形成沖突不命中，反過(guò)來(lái)也是一樣璃氢，代價(jià)就是可能會(huì)引起容量不命中增加哟玷。
編寫高速緩存友好的代碼
??確保代碼高速緩存友好的基本方法。
??1）讓最常見(jiàn)的情況運(yùn)行得快一也。程序通常把大部分時(shí)間都花在少量的核心函數(shù)上巢寡，而這些函數(shù)通常把大部分時(shí)間都花在了少量循環(huán)上。所以要把注意力集中在核心函數(shù)里的循環(huán)上椰苟，而忽略其他部分抑月。
??2）盡量減小每個(gè)循環(huán)內(nèi)部的緩存不命中數(shù)量播急。在其他條件（例如加載和存儲(chǔ)的總次數(shù)）相同的情況下渣锦，不命中率較低的循環(huán)運(yùn)行得更快遭铺。
??考慮如下的函數(shù)
int sumvec(int v[N])
{
int i,sum = 0;
for(i = 0;i<N;i++)
sum +=v[i];
return sum;
}
??首先，注意對(duì)于局部變量i和sum烤送，循環(huán)體有良好的時(shí)間局部性“锉伲現(xiàn)在考慮一下對(duì)向量v的步長(zhǎng)為1的引用肴楷。一般而言鸟妙，如果一個(gè)高速緩存的塊大小為B字節(jié)，那么一個(gè)步長(zhǎng)為k的引用模式（這里k是以字為單位的）平均每次循環(huán)迭代會(huì)有次緩存不命中奶甘。當(dāng)k=1時(shí)篷店，它取最小值，所以對(duì)v的步長(zhǎng)為1的引用確實(shí)是高速緩存友好的臭家。
??例如疲陕，假設(shè)v是塊對(duì)齊的，字為4個(gè)字節(jié)钉赁，高速緩存塊為4個(gè)字蹄殃，而高速緩存初始為空（冷高速緩存）。在這個(gè)例子中你踩，對(duì)v[0]的引用會(huì)不命中诅岩，而相應(yīng)的包含v[0] ~v[3]的塊會(huì)被從內(nèi)存加載到高速緩存中。因此带膜，接下來(lái)三個(gè)引用都會(huì)命中吩谦。對(duì)v[4]的引用會(huì)導(dǎo)致不命中，而個(gè)新的塊被加載到高速緩存中膝藕，接下來(lái)的三個(gè)引用都命中式廷，依此類推“磐欤總的來(lái)說(shuō)滑废，四個(gè)引用中，三個(gè)會(huì)命中袜爪，在這種冷緩存的情況下蠕趁，這是我們所能做到的最好的情況了。
??總之饿敲，簡(jiǎn)單的 sumvec示例說(shuō)明了兩個(gè)關(guān)于編寫高速緩存友好的代碼的重要問(wèn)題：第一妻导，對(duì)局部變量的反復(fù)引用是好的逛绵，因?yàn)榫幾g器能夠?qū)⑺鼈兙彺嬖诩拇嫫魑募校〞r(shí)間局部性）怀各。第二，步長(zhǎng)為1的引用模式是好的术浪，因?yàn)榇鎯?chǔ)器層次結(jié)構(gòu)中所有層次上的緩存都是將數(shù)據(jù)存儲(chǔ)為連續(xù)的塊（空間局部性）瓢对。
總結(jié)
??本章主要介紹了各種各樣的存儲(chǔ)系統(tǒng)及其原理，一般來(lái)說(shuō)胰苏，較小硕蛹、較快的設(shè)備在頂部，較大、較慢的設(shè)備在底部法焰。因?yàn)榫帉懥己玫某绦蛴泻玫木植啃匝砭＃蠖鄶?shù)數(shù)據(jù)都可以從較高層得到服務(wù)，結(jié)果就是存儲(chǔ)系統(tǒng)能以較高層的速度運(yùn)行埃仪，但卻有較低層的成本和容量乙濒。我們可以通過(guò)編寫有良好空間和時(shí)間局部性的程序來(lái)顯著地改進(jìn)程序的運(yùn)行時(shí)間。例如卵蛉，可以利用基于SRAM的高速緩存存儲(chǔ)器颁股。主要原因是從高速緩存取數(shù)據(jù)的程序比主要從內(nèi)存取數(shù)據(jù)的程序運(yùn)行得快得多。
??養(yǎng)成習(xí)慣傻丝，先贊后看甘有！如果覺(jué)得寫的不錯(cuò)，歡迎關(guān)注葡缰，點(diǎn)贊亏掀，轉(zhuǎn)發(fā)，謝謝泛释！
有任何疑問(wèn)幌氮，點(diǎn)擊我的頭像可以在主頁(yè)的個(gè)人介紹中找到我的聯(lián)系方式，歡迎一起交流學(xué)習(xí)
