【大話存儲】多CPU架構(gòu)變遷, SMP,NUMA,MPP

多CPU架構(gòu)演進

對稱多處理器結(jié)構(gòu):(SMP安岂,Symmetric Multi-Processor)

服務(wù)器最開始的時候是單CPU,然后才進化到了雙CPU甚至多CPU的SMP架構(gòu)帆吻。所謂SMP架構(gòu)指的是多路CPU無主次域那,共享內(nèi)存、總線猜煮、操作系統(tǒng)等次员。此時每個CPU訪問內(nèi)存任何地址所耗費的時間是相等的。所以也稱為一致存儲器訪問結(jié)構(gòu)

大家共享同樣的內(nèi)存王带,所以擴展能力有限淑蔚,因為CPU數(shù)量增加了,內(nèi)存訪問沖突也會增加愕撰。為了進一步提高CPU數(shù)量的同時還能保證效率刹衫,NUMA架構(gòu)出現(xiàn)了醋寝,將多個SMP進行松耦合。

image.png

還有一種AMP架構(gòu)带迟,不同的CPU是做不同的事的音羞,互不干擾。

非一致存儲訪問結(jié)構(gòu):(NUMA仓犬,Non-Uniform Memory Access)

NUMA架構(gòu)中嗅绰,多個SMP通過Crossbar switch交換矩陣進行互聯(lián)。
每個SMP有自己的內(nèi)存搀继,同時還可以訪問其他SMP的內(nèi)存窘面,但是需要經(jīng)過高速交換矩陣,很顯然SMP訪問自己的內(nèi)存速度非常高叽躯,但是訪問遠端的SMP的內(nèi)存還需要經(jīng)過交換矩陣民镜,延遲增加,可以看出NUMA通過犧牲內(nèi)存的訪問時延來達到更高的擴展性险毁。

image.png

總之,SMP與NUMA架構(gòu)對軟件程序方面影響擴展性不大们童,一臺主機內(nèi)都使用單一的操作系統(tǒng)畔况。
缺點是CPU數(shù)量增加,訪問遠端內(nèi)存的時延也會增加慧库,性能不能線性增加跷跪。此時MPP架構(gòu)就出現(xiàn)了。

海量并行處理結(jié)構(gòu):(MPP齐板,Massive Parallel Processing)

MPP說白了就是將多臺獨立的主機組成集群吵瞻。顯然在此架構(gòu)下,每個節(jié)點都有各自的CPU甘磨、內(nèi)存橡羞、IO總線、操作系統(tǒng)济舆,完全松耦合卿泽。最關(guān)鍵的是MPP集群中的軟件架構(gòu)也相應(yīng)的改變了,這樣MPP的效率隨節(jié)點數(shù)量增加就可以線性增加了滋觉。

其實如果NUMA架構(gòu)下签夭,如果通過上層軟件來使得程序盡量少的讀取遠端的內(nèi)存,NUMA效率也會線性增加椎侠。但是實際上NUMA操作系統(tǒng)仍然是同一個第租,內(nèi)存仍然是全局均勻的,所以訪問遠端內(nèi)存是不可避免的我纪。

那么MPP相當(dāng)于把內(nèi)存強制分開慎宾,同時又改變了程序架構(gòu)丐吓,這樣就可以保證海量計算下的效率線性增加。

image.png
image.png

存儲系統(tǒng)的演進

存儲系統(tǒng)與服務(wù)器CPU架構(gòu)演進相同璧诵,控制器就好比CPU汰蜘,后端磁盤柜就類似于內(nèi)存。

  • SMP
    縱觀存儲系統(tǒng)的演進之宿,一開始是單控族操,后來演進到雙控互為備份,此時就類似于AMP比被,兩個控制器各自處理自己的任務(wù)色难。
    然后進入到雙控并行處理的時代(HDS的AMS2000存儲系統(tǒng)),類似于SMP等缀,兩個控制器可以并行的處理枷莉。
    再到后來則有多控并行對稱處理架構(gòu),Oracle的RAC集群就可以視為一種多點SMP尺迂,各種共享底層存儲的集群文件系統(tǒng)都屬于多點對稱SMP
  • NUMA
    同樣NUMA也出現(xiàn)在了存儲系統(tǒng)中笤妙,比如EMC的V-Max相當(dāng)于多個SMP利用高速交換矩陣來共享訪問每個SMP上的內(nèi)存,其中SMP就是一對控制器組成的Director噪裕,高速交換矩陣就是RapidIO
  • MPP
    • 那么IBM的XIV就屬于松耦合MPP架構(gòu)蹲盘,每個節(jié)點都有自己的CPU、內(nèi)存膳音、IO接口召衔,使用外部的交換機互相通信。
    • 而HDS的VSP更像是一個緊耦合的MPP祭陷。
    • 另一種屬于MPP架構(gòu)的存儲系統(tǒng)就是分布式文件系統(tǒng)苍凛,比如HDFS等。
      MPP對軟件架構(gòu)變化很大兵志,所以傳統(tǒng)存儲廠商很難將之前的架構(gòu)演進到MPP上來醇蝴。


      image.png

誰才是真正的Scale-out

SMP/NUMA/MPP其實都算Scale-out,只不過程度和形態(tài)不同毒姨。
MPP架構(gòu)的存儲哑蔫,比如XIV,在多路大塊連續(xù)的IO下弧呐,效率反而很差闸迷。這是因為單路IO可能導(dǎo)致整個MPP集群中的磁盤資源全部牽動

但是如果是小塊隨機的IO,多路IO關(guān)聯(lián)很少俘枫,則性能隨節(jié)點數(shù)增加線性增加腥沽,這就好比將一個程序并行分解為多個子任務(wù)(類似于隨機小IO),因為子任務(wù)之間的關(guān)聯(lián)很少鸠蚪,節(jié)點之間的通信量很小今阳,則并行執(zhí)行的效率高师溅。也就是MPP自身是share-Nothing架構(gòu),運行在上面的程序也盡可能的是Share-Nothing

SMP盾舌、NUMA墓臭、MPP各有各的好處,比如

  • SMP適用于擴展性要求不高妖谴,而又不想程序改變太大的場景窿锉。
  • MPP則適用于海量數(shù)據(jù)下的高擴展性需求場景。它需要對程序進行大量的改變膝舅,而且多流大塊連續(xù)IO場景下性能不佳嗡载。所以MPP架構(gòu)廣泛的應(yīng)用于互聯(lián)網(wǎng)的底層Key-Value分布式數(shù)據(jù)庫,這種數(shù)據(jù)庫主要應(yīng)對高隨機小塊讀的場景仍稀,可以獲得非常高的性能洼滚。
image.png

參考

大話存儲II

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末,一起剝皮案震驚了整個濱河市技潘,隨后出現(xiàn)的幾起案子遥巴,更是在濱河造成了極大的恐慌,老刑警劉巖享幽,帶你破解...
    沈念sama閱讀 217,185評論 6 503
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件挪哄,死亡現(xiàn)場離奇詭異,居然都是意外死亡琉闪,警方通過查閱死者的電腦和手機,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 92,652評論 3 393
  • 文/潘曉璐 我一進店門砸彬,熙熙樓的掌柜王于貴愁眉苦臉地迎上來颠毙,“玉大人,你說我怎么就攤上這事砂碉≈郏” “怎么了?”我有些...
    開封第一講書人閱讀 163,524評論 0 353
  • 文/不壞的土叔 我叫張陵增蹭,是天一觀的道長滴某。 經(jīng)常有香客問我,道長滋迈,這世上最難降的妖魔是什么霎奢? 我笑而不...
    開封第一講書人閱讀 58,339評論 1 293
  • 正文 為了忘掉前任,我火速辦了婚禮饼灿,結(jié)果婚禮上幕侠,老公的妹妹穿的比我還像新娘。我一直安慰自己碍彭,他們只是感情好晤硕,可當(dāng)我...
    茶點故事閱讀 67,387評論 6 391
  • 文/花漫 我一把揭開白布悼潭。 她就那樣靜靜地躺著,像睡著了一般舞箍。 火紅的嫁衣襯著肌膚如雪舰褪。 梳的紋絲不亂的頭發(fā)上,一...
    開封第一講書人閱讀 51,287評論 1 301
  • 那天疏橄,我揣著相機與錄音占拍,去河邊找鬼。 笑死软族,一個胖子當(dāng)著我的面吹牛刷喜,可吹牛的內(nèi)容都是我干的。 我是一名探鬼主播立砸,決...
    沈念sama閱讀 40,130評論 3 418
  • 文/蒼蘭香墨 我猛地睜開眼掖疮,長吁一口氣:“原來是場噩夢啊……” “哼!你這毒婦竟也來了颗祝?” 一聲冷哼從身側(cè)響起浊闪,我...
    開封第一講書人閱讀 38,985評論 0 275
  • 序言:老撾萬榮一對情侶失蹤,失蹤者是張志新(化名)和其女友劉穎螺戳,沒想到半個月后搁宾,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體,經(jīng)...
    沈念sama閱讀 45,420評論 1 313
  • 正文 獨居荒郊野嶺守林人離奇死亡倔幼,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點故事閱讀 37,617評論 3 334
  • 正文 我和宋清朗相戀三年盖腿,在試婚紗的時候發(fā)現(xiàn)自己被綠了。 大學(xué)時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片损同。...
    茶點故事閱讀 39,779評論 1 348
  • 序言:一個原本活蹦亂跳的男人離奇死亡翩腐,死狀恐怖,靈堂內(nèi)的尸體忽然破棺而出膏燃,到底是詐尸還是另有隱情茂卦,我是刑警寧澤,帶...
    沈念sama閱讀 35,477評論 5 345
  • 正文 年R本政府宣布组哩,位于F島的核電站等龙,受9級特大地震影響,放射性物質(zhì)發(fā)生泄漏伶贰。R本人自食惡果不足惜蛛砰,卻給世界環(huán)境...
    茶點故事閱讀 41,088評論 3 328
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望黍衙。 院中可真熱鬧暴备,春花似錦、人聲如沸们豌。這莊子的主人今日做“春日...
    開封第一講書人閱讀 31,716評論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽。三九已至障癌,卻和暖如春凌外,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背涛浙。 一陣腳步聲響...
    開封第一講書人閱讀 32,857評論 1 269
  • 我被黑心中介騙來泰國打工康辑, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留,地道東北人轿亮。 一個月前我還...
    沈念sama閱讀 47,876評論 2 370
  • 正文 我出身青樓疮薇,卻偏偏與公主長得像,于是被迫代替她去往敵國和親我注。 傳聞我的和親對象是個殘疾皇子按咒,可洞房花燭夜當(dāng)晚...
    茶點故事閱讀 44,700評論 2 354

推薦閱讀更多精彩內(nèi)容