第6章 存儲(chǔ)器層次結(jié)構(gòu)

學(xué)習(xí)目標(biāo)

  • SRAM和DRAM的構(gòu)成與區(qū)別
  • 磁盤存儲(chǔ)的結(jié)構(gòu)以及磁盤容量,扇區(qū)讀取時(shí)間的計(jì)算
  • 認(rèn)識(shí)局部性原理
  • 認(rèn)識(shí)存儲(chǔ)器結(jié)構(gòu)層次發(fā)揮的巨大作用
  • 深入理解高速緩存存儲(chǔ)器的讀取和寫入

隨機(jī)訪問存儲(chǔ)器

隨機(jī)存取存儲(chǔ)器(RAM,Random-Access Memory)有兩種類型:SRAM和DRAM熔酷,SRAM非承冢快移必,不需要定期刷新,通常用在處理器作緩存,但是比較貴埠忘;DRAM需要刷新综看,通常用作主存品腹。無論是SRAM還是DRAM,一旦不通電红碑,所有的信息都會(huì)消失舞吭。
靜態(tài)RAM


SRAM將每個(gè)位存儲(chǔ)在一個(gè)雙穩(wěn)態(tài)(bistable)的存儲(chǔ)器單元里泡垃。
每個(gè)單元是用一個(gè)六晶體管電路來實(shí)現(xiàn)的。它可以無限期地保持在兩個(gè)不同的電壓配置(configuration)或狀態(tài)(state)之一羡鸥。
動(dòng)態(tài)RAM


DRAM將每個(gè)位存儲(chǔ)為對一個(gè)電容的充電蔑穴。

分類 |每位晶體管數(shù)|相對訪問時(shí)間|持續(xù)的?|敏感的惧浴?|相對花費(fèi)|應(yīng)用
---| -------|--------|-----|---|---
SRAM|6 |1X|是|否|100X|高速緩存存儲(chǔ)器
DRAM|1 |10X|否|是|1X|主存存和,幀緩存區(qū)

磁盤存儲(chǔ)

磁盤以扇區(qū)大小的塊來讀寫數(shù)據(jù)。對扇區(qū)的訪問時(shí)間主要有三個(gè)部分:

  • 尋道時(shí)間 seek time
  • 旋轉(zhuǎn)時(shí)間 rotational time
  • 傳送時(shí)間 transfer time

磁盤的訪問時(shí)間是SRAM的40000倍衷旅,是DRAM的2500倍捐腿。

設(shè)備可以自己執(zhí)行讀或者寫總線事務(wù),而不需要CPU干涉的過程柿顶,這個(gè)過程稱為直接存儲(chǔ)器訪問(Direct Memory Access,DMA)

固態(tài)硬盤 Solid State Disk

固態(tài)硬盤是一種基于閃存的存儲(chǔ)技術(shù)茄袖。一個(gè)SSD由一個(gè)或多個(gè)閃存芯片和閃存翻譯層(flash translation layer)組成,閃存芯片替代傳統(tǒng)磁盤中的機(jī)械驅(qū)動(dòng)器嘁锯,而閃存翻譯層是一個(gè)硬件/固件設(shè)備宪祥,扮演與磁盤控制器相同的角色,將對邏輯塊的請求翻譯成對底層物理設(shè)備的訪問猪钮。

局部性

局部性原理(principle of locality):計(jì)算機(jī)程序傾向于引用鄰近于其他最近引用過的數(shù)據(jù)項(xiàng)的數(shù)據(jù)項(xiàng)品山,或者最近引用過的數(shù)據(jù)項(xiàng)本身。這種傾向性烤低,就叫做局部性原理肘交。

  • 時(shí)間局部性(Temporal Locality):如果一個(gè)信息正在被訪問,那么近期它很可能還會(huì)被再次訪問扑馁。程序循環(huán)涯呻、堆棧等是產(chǎn)生時(shí)間局部性的原因。
  • 空間局部性(Spatial Locality):在最近的將來用到的信息很可能與現(xiàn)在正在使用的信息在空間地址上是臨近的腻要。
  • 循序局部性(Order Locality):在典型程序中复罐,處轉(zhuǎn)移指令外,大部分指令是順序執(zhí)行的雄家。指令的順序執(zhí)行效诅、數(shù)組的連續(xù)存放等是產(chǎn)生順序局部性的原因。

舉個(gè)簡單的例子:

int sumvec(int v[N]){
        int i,sum = 0;
    
    for(int i=0; i < N; i++)
        sum += v[i];
    return sum;
}

sum 在每次循環(huán)迭代中都被引用一次趟济,對 sum 來說就具有良好的時(shí)間局部性乱投。數(shù)組 v 的訪問是連續(xù)的,具有良好的空間局部性顷编。

局部性小結(jié):

  • 重復(fù)引用一個(gè)變量的程序有良好的時(shí)間局部性
  • 對于步長為k的引用模式的程序戚炫,步長越小,空間局部性越好
  • 對于取指令來說媳纬,循環(huán)有良好的時(shí)間和空間局部性双肤。循環(huán)體越小施掏,循環(huán)迭代次數(shù)越多,局部性越好

存儲(chǔ)器結(jié)構(gòu)層次

一種介質(zhì)的速度越快就會(huì)越貴茅糜,同時(shí)也消耗更多的電量七芭,所以一般容量比較小。而CPU與內(nèi)存之間的差距越來越大限匣,好的程序都會(huì)盡可能利用局部性抖苦。而根據(jù)這些特性,引申出了安排存儲(chǔ)的方式米死,稱為金字塔式存儲(chǔ)體系(Memory Hierarch)锌历。



存儲(chǔ)器的中心思想:對于每個(gè)k,位于k層的更快更小的存儲(chǔ)設(shè)備作為位于k+1層的更大更慢的存儲(chǔ)設(shè)備的緩存峦筒。利用局部性原理究西,程序會(huì)傾向于訪問第k層的數(shù)據(jù),而非第k+1層物喷,這樣就減少了訪問時(shí)間卤材。

緩存類型 緩存內(nèi)容 緩存位置 延時(shí)(時(shí)鐘周期) 管理者
寄存器 4-8字節(jié)的字 CPU內(nèi)核 0 編譯器
TLB 地址翻譯 芯片TLB 0 內(nèi)存管理單元
L1緩存 64字節(jié)的塊 芯片L1緩存 4 硬件
L2緩存 64字節(jié)的塊 芯片L2緩存 10 硬件
虛擬內(nèi)存 4KB的頁 主存 100 硬件+操作系統(tǒng)
緩沖區(qū)緩存 文件的部分內(nèi)容 主存 100 操作系統(tǒng)
磁盤緩存 磁盤扇區(qū) 磁盤控制器 100,000 磁盤固件
網(wǎng)絡(luò)緩沖區(qū)緩存 文件的部分內(nèi)容 本地磁盤 10,000,000 NFS客戶端
瀏覽器緩存 網(wǎng)頁 本地磁盤 10,000,000 網(wǎng)絡(luò)瀏覽器
Web緩存 網(wǎng)頁 遠(yuǎn)程服務(wù)器磁盤 1,000,000,000 Web代理服務(wù)器

緩存未命中的類型:

  • 強(qiáng)制性失效(Cold/compulsory Miss):CPU第一次訪問響應(yīng)緩存塊,緩存中肯定沒有數(shù)據(jù)峦失,這是不可避免的
  • 沖突失效(Conflict Miss):在直接相聯(lián)或組相聯(lián)的緩存中扇丛,不同的緩存由于索引相同相互替換,引起的失效叫做沖突失效
    • 假設(shè)這里有 32KB 直接相關(guān)聯(lián)的緩存
    • 如果有兩個(gè) 8KB 的數(shù)據(jù)需要來回訪問尉辑,但是這兩個(gè)數(shù)組都映射到相同的地址帆精,緩存的大小足夠存儲(chǔ)全部的數(shù)據(jù),但是因?yàn)橄嗤刂钒l(fā)生沖突需要來回替換隧魄,發(fā)生的失效全是沖突失效(第一次訪問失效依舊是強(qiáng)制性失效)卓练,這時(shí)緩存并沒有存滿巩趁。
  • 容量失效(Capacity Miss):有限的緩存容量導(dǎo)致緩存放不小而被替換钥庇,被替換出去的緩存塊再被訪問,引起的失效叫容量失效寝凌。

深入理解高速緩存存儲(chǔ)器 Cache Memory

高速緩存存儲(chǔ)器是由硬件自動(dòng)管理的SRAM內(nèi)存狮含,CPU會(huì)先從這里找數(shù)據(jù)顽悼,其所處的位置如藍(lán)色部分所示:



高速緩存存儲(chǔ)器由三個(gè)關(guān)鍵部分組成:

  • S表示集合(set)數(shù)量
  • E表示數(shù)據(jù)行(line)的數(shù)量
  • B表示每個(gè)緩存塊(block)保存的字節(jié)數(shù)目

如圖所示:


所以緩存中存放數(shù)據(jù)的空間大小為B×E×S
實(shí)際上可以理解為三種層級對應(yīng)關(guān)系,對應(yīng)不同的索引几迄,這樣分層的好處是:通過層級關(guān)系簡化搜索需要的時(shí)間表蝙,并且和字節(jié)的排布也是一一對應(yīng)的(之后介紹緩存的時(shí)候就體現(xiàn)的更加明顯)。

當(dāng)處理器需要訪問一個(gè)地址時(shí)乓旗,會(huì)先在高速緩沖存儲(chǔ)器中進(jìn)行查找,查找的過程我們首先在概念上把這個(gè)地址劃分成三個(gè)部分:



讀取


具體在從緩存中讀取一個(gè)地址時(shí)集索,首先我們通過set index確定要在那個(gè)set中尋找屿愚,確定后利用tag和同一個(gè)set中的每個(gè)line進(jìn)行對比汇跨,找到tag相同的那個(gè)line,最后再根據(jù)block offset確定要從line的那個(gè)位置讀起妆距。

當(dāng)E = 1時(shí)穷遂,也就是每個(gè)set只有一個(gè)line的時(shí)候,稱之為直接映射高速緩存(Direct Mapped Cache)娱据,如下圖所示:


直接映射高速緩存的過程分為三步:組選擇蚪黑、行匹配、字抽取中剩。
如果緩存不命中忌穿,那么它需要從存儲(chǔ)器層次結(jié)構(gòu)的下一層取出被請求的塊,然后將新的塊存儲(chǔ)在組索引位指示的組中的一個(gè)高速緩存行中结啼。
寫入


整個(gè)存儲(chǔ)層級中掠剑,不同的層級可能會(huì)存放同一個(gè)數(shù)據(jù)的不同拷貝(如L1,L2郊愧,L3朴译,主內(nèi)存,硬盤)属铁。如果發(fā)生寫入命中的時(shí)候(也就是要寫入的地址在緩存中有)眠寿,有兩種策略:

  • Write-through:命中后更新緩存,同時(shí)寫入到內(nèi)存中
  • Write-back:直到這個(gè)緩存需要被置換出去焦蘑,才寫入到內(nèi)存中(需要額外的 dirty bit 來表示緩存中的數(shù)據(jù)是否和內(nèi)存中相同盯拱,因?yàn)榭赡茉谄渌臅r(shí)候內(nèi)存中對應(yīng)地址的數(shù)據(jù)已經(jīng)更新,那么重復(fù)寫入就會(huì)導(dǎo)致原有數(shù)據(jù)丟失)

在寫入 miss 的時(shí)候喇肋,同樣有兩種方式:

  • Write-allocate:載入到緩存中坟乾,并更新緩存
  • No-write-allocate:直接寫入內(nèi)存中,不能載入到緩存

這四種策略通常的搭配是:

  • Write-through + No-write-allocate
  • Write-back + Write-allocate

其中第一種可以保證絕對的數(shù)據(jù)一致性蝶防,第二種效率會(huì)比較高(通常情況下)甚侣。

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末,一起剝皮案震驚了整個(gè)濱河市间学,隨后出現(xiàn)的幾起案子殷费,更是在濱河造成了極大的恐慌,老刑警劉巖低葫,帶你破解...
    沈念sama閱讀 211,123評論 6 490
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件详羡,死亡現(xiàn)場離奇詭異,居然都是意外死亡嘿悬,警方通過查閱死者的電腦和手機(jī)实柠,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 90,031評論 2 384
  • 文/潘曉璐 我一進(jìn)店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來善涨,“玉大人窒盐,你說我怎么就攤上這事草则。” “怎么了蟹漓?”我有些...
    開封第一講書人閱讀 156,723評論 0 345
  • 文/不壞的土叔 我叫張陵炕横,是天一觀的道長。 經(jīng)常有香客問我葡粒,道長份殿,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 56,357評論 1 283
  • 正文 為了忘掉前任嗽交,我火速辦了婚禮卿嘲,結(jié)果婚禮上,老公的妹妹穿的比我還像新娘轮纫。我一直安慰自己腔寡,他們只是感情好,可當(dāng)我...
    茶點(diǎn)故事閱讀 65,412評論 5 384
  • 文/花漫 我一把揭開白布掌唾。 她就那樣靜靜地躺著放前,像睡著了一般。 火紅的嫁衣襯著肌膚如雪糯彬。 梳的紋絲不亂的頭發(fā)上凭语,一...
    開封第一講書人閱讀 49,760評論 1 289
  • 那天,我揣著相機(jī)與錄音撩扒,去河邊找鬼似扔。 笑死,一個(gè)胖子當(dāng)著我的面吹牛搓谆,可吹牛的內(nèi)容都是我干的炒辉。 我是一名探鬼主播,決...
    沈念sama閱讀 38,904評論 3 405
  • 文/蒼蘭香墨 我猛地睜開眼泉手,長吁一口氣:“原來是場噩夢啊……” “哼黔寇!你這毒婦竟也來了?” 一聲冷哼從身側(cè)響起斩萌,我...
    開封第一講書人閱讀 37,672評論 0 266
  • 序言:老撾萬榮一對情侶失蹤缝裤,失蹤者是張志新(化名)和其女友劉穎,沒想到半個(gè)月后颊郎,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體憋飞,經(jīng)...
    沈念sama閱讀 44,118評論 1 303
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 36,456評論 2 325
  • 正文 我和宋清朗相戀三年姆吭,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了榛做。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片。...
    茶點(diǎn)故事閱讀 38,599評論 1 340
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡,死狀恐怖瘤睹,靈堂內(nèi)的尸體忽然破棺而出升敲,到底是詐尸還是另有隱情,我是刑警寧澤轰传,帶...
    沈念sama閱讀 34,264評論 4 328
  • 正文 年R本政府宣布,位于F島的核電站瘪撇,受9級特大地震影響获茬,放射性物質(zhì)發(fā)生泄漏。R本人自食惡果不足惜倔既,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 39,857評論 3 312
  • 文/蒙蒙 一恕曲、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧渤涌,春花似錦佩谣、人聲如沸。這莊子的主人今日做“春日...
    開封第一講書人閱讀 30,731評論 0 21
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽。三九已至安皱,卻和暖如春调鬓,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背酌伊。 一陣腳步聲響...
    開封第一講書人閱讀 31,956評論 1 264
  • 我被黑心中介騙來泰國打工腾窝, 沒想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留,地道東北人居砖。 一個(gè)月前我還...
    沈念sama閱讀 46,286評論 2 360
  • 正文 我出身青樓虹脯,卻偏偏與公主長得像,于是被迫代替她去往敵國和親奏候。 傳聞我的和親對象是個(gè)殘疾皇子循集,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 43,465評論 2 348

推薦閱讀更多精彩內(nèi)容