第七講 存儲層次結(jié)構(gòu)(Memory Hierarchy)

內(nèi)容要點:高速緩存互亮,主存

1. 存儲層次結(jié)構(gòu)概況

  • 外部記錄介質(zhì)R犁享,運算器CA,存儲器M

  • 存儲器特性:非易失性豹休,可讀可寫炊昆,隨機訪問,訪問時間威根,容量凤巨,價格,功耗...

    CPU 通用寄存器(Byte量級) 更小洛搀、更快敢茁、單位字節(jié)成本更高
    SRAM 高速緩存(KB~MB量級)
    DRAM 主存(MB~GB量級)
    Disk 本地二級存儲(GB~TB量級) 更大、更慢姥卢、單位字節(jié)成本更低

2. DRAM

  • DRAM的基本存儲單元(1bit)
    • 電容存在漏電效應(yīng)卷要,經(jīng)過一段時間后電容上的電荷會流失,導致所存信息丟失
    • 定期對所有單元進行刷新(refresh)独榴,使原來表示邏輯"1"電容上的電荷得到補充僧叉,而原來表示邏輯"0"的電容仍保持無電荷狀態(tài)
  • DRAM的特點
    • 優(yōu)點:集成度高,功耗較低棺榔,價格較低
    • 缺點:速度較慢瓶堕,定時刷新
  • 現(xiàn)代PC機大多采用DRAM作為主存

3. SRAM

  • SRAM的基本存儲單元
    • 6個晶體管,雙穩(wěn)態(tài)觸發(fā)器症歇,無需更新
  • SRAM的特點
    • 優(yōu)點:速度較快
    • 缺點:集成度低郎笆,功耗較大,價格較高
  • 現(xiàn)代CPU中的高速緩存通常用SRAM實現(xiàn)

4. 主存

  • SDRAM的關(guān)鍵性能參數(shù)(PC133標準)
    • tRCD(Row to Column Delay):從行選到列選的延遲時間
      • 23T忘晤,約1223ns
    • CL(CAS Latency):從列選到數(shù)據(jù)輸出的延遲周期數(shù)
      • 23T宛蚓,約1223ns
    • tRP(RAS Precharge):行預充電(關(guān)閉行)的延遲時間
      • 23T,約1223ns
  • SDRAM讀操作的典型訪問過程


    SDRAM讀操作的典型訪問過程.png

5. 高速緩存的工作原理

  1. 程序的局部性原理(經(jīng)驗性總結(jié))

    • 時間局部性(Temporal locality):最近被訪問的存儲器單元(指令或數(shù)據(jù))很快還會被訪問
    • 空間局部性(Spatial locality):正在被訪問的存儲器單元附近的單元很快會被訪問
  2. Cache的基本原理

    1. Cache對空間局部性的利用

      • 從主存中取回待訪問數(shù)據(jù)時设塔,會同時取回與位置相鄰的主存單元的數(shù)據(jù)
      • 數(shù)據(jù)塊(block)為單位和主存進行數(shù)據(jù)交換
    2. Cache對時間局部性的利用

      • 保存近期頻繁被訪問的主存單元的數(shù)據(jù)
    3. Cache讀操作過程示例

      MOV AL, [2011H] # 1.未命中凄吏,讀主存地址2010H,分配表項1(倒數(shù)第2位)闰蛔,讀出A1H(倒數(shù)第1位)
      MOV BL, [4011H]# 2.未命中痕钢,讀主存地址4011H,分配表項1序六,覆蓋前面的任连,讀出B1H
      MOV CL, [3732H]# 3.未命中,讀主存地址3732H例诀,分配表項3随抠,讀出C2H
      MOV DL, [401FH]# 4.命中表項1,讀出BFH
      
      有效位 標簽 (數(shù)據(jù))字節(jié)0 字節(jié)1 字節(jié)2 字節(jié)3 ... 字節(jié)15
      表項0 0
      表項1 1 20H
      40H
      A0H
      B0H
      A1H√
      B1H√
      A2H
      B2H
      A3H
      B3H
      ... AFH
      BFH√
      表項2 0 37H C0H C1H C2H√ C3H ... CFH
      表項3 1
      ...
      表項5 0
  1. Cache的寫策略

    • ”Cache命中“時的寫策略
      • 寫穿透(Write Through):數(shù)據(jù)同時寫入Cache和主存
      • 寫返回(Write Back):數(shù)據(jù)只寫入Cache余佃,僅當該數(shù)據(jù)塊被替換時才將數(shù)據(jù)寫回主存
    • ”Cache失效“時的寫策略
      • 寫不分配(Write Non-Allocate):直接將數(shù)據(jù)寫入主存
      • 寫分配(Write Allocate):將該數(shù)據(jù)所在的塊讀入Cache后暮刃,再將數(shù)據(jù)寫入Cache
    • (寫返回,寫分配) (寫穿透爆土,寫不分配)
  1. 高速緩存的組織結(jié)構(gòu)


    Cache的訪問過程.png
    1. Average Memory Access Time = Hit Time + Miss Penalty * Miss Rate
    2. Cache Miss 原因:
      • 義務(wù)時效(Compulsory Miss):無法有效避免
        • 第一次訪問某一數(shù)據(jù)塊
        • 也稱為冷啟失效(Cold Start Miss)
      • 容量失效(Capacity Miss):可通過增加Cache容量緩解
        • Cache無法保存程序訪問所需的所有數(shù)據(jù)塊
      • 沖突失效(Conflict Miss)
        • 多個存儲器位置映射到同一Cache位置
    3. Cache的映射策略
      1. 直接映射Cache椭懊,二路組相聯(lián)Cache,...
      2. Cache替換算法
        • 隨機(Random)
          • 硬件隨機選擇一個Cache替換
        • 輪轉(zhuǎn)(Round-Robin)
          • 按照預先設(shè)定的順序依次選擇Cache塊替換
        • 最近最少使用(LRU)
          • 硬件記錄訪問歷史信息
          • 選擇距離現(xiàn)在最長時間未被訪問的Cache塊替換
    4. 存儲容量的計算
      • K: 2^{10}, M: 2^{20}, G: 2^{30}
      • 內(nèi)部存儲器容量
        • 高速緩存:32KB = 32 * 1024Byte
        • 內(nèi)存:4GB = 4 * 1024^3Byte
      • 外部存儲器容量
        • 優(yōu)盤:4GB = 4 * 1000^3Byte
        • 硬盤:1TB = 1*1000^6Byte
      • 數(shù)據(jù)傳輸率步势、時鐘頻率
        • 以太網(wǎng):100Mbps = 100 * 1000^2bits per second
        • CPU主頻:3GHz = 3*1000^3HZ

quiz:

  1. 循環(huán)通常具有很好的空間局部性 & 時間局部性
  2. 數(shù)組通常具有很好的空間局部性
  3. 64-bit數(shù)據(jù)寬度的DDR-400 SDRAM的峰值帶寬為3.2GB/s氧猬,核心時鐘頻率為200MHz,芯片內(nèi)部采用了2位數(shù)據(jù)預取技術(shù)坏瘩,其接口頻率是多少盅抚?200MHZ
  4. SRAM和DRAM區(qū)別:
    1. DRAM結(jié)構(gòu)比SRAM簡單
    2. DRAM要刷新,SRAM不要
    3. DRAM功耗比SRAM低
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末倔矾,一起剝皮案震驚了整個濱河市妄均,隨后出現(xiàn)的幾起案子柱锹,更是在濱河造成了極大的恐慌,老刑警劉巖丰包,帶你破解...
    沈念sama閱讀 218,036評論 6 506
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件禁熏,死亡現(xiàn)場離奇詭異,居然都是意外死亡邑彪,警方通過查閱死者的電腦和手機瞧毙,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 93,046評論 3 395
  • 文/潘曉璐 我一進店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來寄症,“玉大人宙彪,你說我怎么就攤上這事∮星桑” “怎么了释漆?”我有些...
    開封第一講書人閱讀 164,411評論 0 354
  • 文/不壞的土叔 我叫張陵,是天一觀的道長篮迎。 經(jīng)常有香客問我灵汪,道長,這世上最難降的妖魔是什么柑潦? 我笑而不...
    開封第一講書人閱讀 58,622評論 1 293
  • 正文 為了忘掉前任享言,我火速辦了婚禮,結(jié)果婚禮上渗鬼,老公的妹妹穿的比我還像新娘览露。我一直安慰自己,他們只是感情好譬胎,可當我...
    茶點故事閱讀 67,661評論 6 392
  • 文/花漫 我一把揭開白布差牛。 她就那樣靜靜地躺著,像睡著了一般堰乔。 火紅的嫁衣襯著肌膚如雪偏化。 梳的紋絲不亂的頭發(fā)上,一...
    開封第一講書人閱讀 51,521評論 1 304
  • 那天镐侯,我揣著相機與錄音侦讨,去河邊找鬼苟翻。 笑死韵卤,一個胖子當著我的面吹牛,可吹牛的內(nèi)容都是我干的崇猫。 我是一名探鬼主播沈条,決...
    沈念sama閱讀 40,288評論 3 418
  • 文/蒼蘭香墨 我猛地睜開眼,長吁一口氣:“原來是場噩夢啊……” “哼诅炉!你這毒婦竟也來了蜡歹?” 一聲冷哼從身側(cè)響起屋厘,我...
    開封第一講書人閱讀 39,200評論 0 276
  • 序言:老撾萬榮一對情侶失蹤,失蹤者是張志新(化名)和其女友劉穎月而,沒想到半個月后擅这,有當?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體,經(jīng)...
    沈念sama閱讀 45,644評論 1 314
  • 正文 獨居荒郊野嶺守林人離奇死亡景鼠,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點故事閱讀 37,837評論 3 336
  • 正文 我和宋清朗相戀三年,在試婚紗的時候發(fā)現(xiàn)自己被綠了痹扇。 大學時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片铛漓。...
    茶點故事閱讀 39,953評論 1 348
  • 序言:一個原本活蹦亂跳的男人離奇死亡,死狀恐怖鲫构,靈堂內(nèi)的尸體忽然破棺而出浓恶,到底是詐尸還是另有隱情,我是刑警寧澤结笨,帶...
    沈念sama閱讀 35,673評論 5 346
  • 正文 年R本政府宣布包晰,位于F島的核電站,受9級特大地震影響炕吸,放射性物質(zhì)發(fā)生泄漏伐憾。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點故事閱讀 41,281評論 3 329
  • 文/蒙蒙 一赫模、第九天 我趴在偏房一處隱蔽的房頂上張望树肃。 院中可真熱鬧,春花似錦瀑罗、人聲如沸胸嘴。這莊子的主人今日做“春日...
    開封第一講書人閱讀 31,889評論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽劣像。三九已至,卻和暖如春摧玫,著一層夾襖步出監(jiān)牢的瞬間耳奕,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 33,011評論 1 269
  • 我被黑心中介騙來泰國打工诬像, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留吮铭,地道東北人。 一個月前我還...
    沈念sama閱讀 48,119評論 3 370
  • 正文 我出身青樓颅停,卻偏偏與公主長得像谓晌,于是被迫代替她去往敵國和親。 傳聞我的和親對象是個殘疾皇子癞揉,可洞房花燭夜當晚...
    茶點故事閱讀 44,901評論 2 355

推薦閱讀更多精彩內(nèi)容