分布式存儲(chǔ)必讀論文

分布式存儲(chǔ)泛指存儲(chǔ)存儲(chǔ)和管理數(shù)據(jù)的系統(tǒng)价涝, 與無狀態(tài)的應(yīng)用服務(wù)器不同亡资, 如何處理各種故障以保證數(shù)據(jù)一致炮赦,數(shù)據(jù)不丟涧郊, 數(shù)據(jù)持續(xù)可用, 是分布式存儲(chǔ)系統(tǒng)的核心問題眼五,也是極具挑戰(zhàn)的問題。 本文總結(jié)了分布式存儲(chǔ)領(lǐng)域的經(jīng)典論文彤灶, 供大家參考看幼。

GFS

The Google File System. Sanjay Ghemawat, Howard Gobioff, and Shun-Tak Leung
基于普通服務(wù)器構(gòu)建超大規(guī)模文件系統(tǒng)的典型案例,主要面向大文件和批處理系統(tǒng)幌陕, 設(shè)計(jì)簡(jiǎn)單而實(shí)用诵姜。 GFS是google的重要基礎(chǔ)設(shè)施, 大數(shù)據(jù)的基石搏熄, 也是Hadoop HDFS的參考對(duì)象棚唆。 主要技術(shù)特點(diǎn)包括: 假設(shè)硬件故障是常態(tài)(容錯(cuò)能力強(qiáng))暇赤, 64MB大塊, 單Master設(shè)計(jì)宵凌,Lease/鏈?zhǔn)綇?fù)制鞋囊, 支持追加寫不支持隨機(jī)寫。

Bigtable:

A Distributed Storage System for Structured Data. Fay Chang, Jeffrey Dean, Sanjay Ghemawat, et.** 支持PB數(shù)據(jù)量級(jí)的多維非關(guān)系型大表瞎惫, 在google內(nèi)部應(yīng)用廣泛溜腐,大數(shù)據(jù)的奠基作品之一 , Hbase就是參考BigTable設(shè)計(jì)瓜喇。 Bigtable的主要技術(shù)特點(diǎn)包括: 基于GFS實(shí)現(xiàn)數(shù)據(jù)高可靠挺益, 使用非原地更新技術(shù)(LSM樹)實(shí)現(xiàn)數(shù)據(jù)修改, 通過range分區(qū)并實(shí)現(xiàn)自動(dòng)伸縮等乘寒。

Spanner

Google’s Globally-Distributed Database. James C. Corbett, Jeffrey Dean, et.** 第一個(gè)用于線上產(chǎn)品的大規(guī)模望众、高可用, 跨數(shù)據(jù)中心且支持事務(wù)的分布式數(shù)據(jù)庫伞辛。 主要技術(shù)特點(diǎn)包括烂翰, 基于GPS和原子鐘的全球同步時(shí)間機(jī)制TrueTime, Paxo始锚, 多版本事務(wù)等刽酱。

PacificA

Replication in Log-Based Distributed Storage Systems. Wei Lin, Mao Yang, et. 面向log-based存儲(chǔ)的強(qiáng)一致的主從復(fù)制協(xié)議, 具有較強(qiáng)實(shí)用性瞧捌。 這篇文章系統(tǒng)地講述了主從復(fù)制系統(tǒng)應(yīng)該考慮的問題棵里, 能加深對(duì)主從強(qiáng)一致復(fù)制的理解程度。 技術(shù)特點(diǎn): 支持強(qiáng)一致主從復(fù)制協(xié)議姐呐, 允許多種存儲(chǔ)實(shí)現(xiàn)殿怜, 分布式的故障檢測(cè)/Lease/集群成員管理方法。

Object Storage on CRAQ

High-throughput chain replication for read-mostly workloads. Jeff Terrace and Michael J. Freedman. **支持強(qiáng)一直的鏈?zhǔn)綇?fù)制方法曙砂, 支持從多個(gè)副本讀取數(shù)據(jù)头谜。

Ceph

Reliable, Scalable, and High-Performance Distributed Storage. Sage A. Weil. 功能強(qiáng)大的開源海量存儲(chǔ)系統(tǒng), 支持文件系統(tǒng)鸠澈、塊設(shè)備柱告、以及S3接口。 主要技術(shù)特色: CRUSH數(shù)據(jù)對(duì)象定位算法笑陈, 基于動(dòng)態(tài)子樹的文件系統(tǒng)元數(shù)據(jù)管理际度。

Finding a needle in Haystack

Facebook’s photo storage. Doug Beaver, Sanjeev Kumar, Harry C. Li, Jason Sobel, Peter Vajgel. Facebook分布式Blob存儲(chǔ), 主要用于存儲(chǔ)圖片涵妥。 主要技術(shù)特色: 小文件合并成大文件乖菱, 小文件元數(shù)據(jù)放在內(nèi)存因此讀寫只需一次IO。

Windows Azure Storage

A Highly Available Cloud Storage Service with Strong Consistency. Brad Calder, Ju Wang, Aaron Ogus, Niranjan Nilakantan, et.
微軟的分布式存儲(chǔ)平臺(tái), 除了支持類S3對(duì)象存儲(chǔ)窒所,還支持表格鹉勒、隊(duì)列等數(shù)據(jù)模型。 主要技術(shù)特點(diǎn): 采用Stream/Partition兩層設(shè)計(jì)(類似BigTable)吵取;寫錯(cuò)(寫滿)就封存Extent禽额, 使得副本字節(jié)一致, 簡(jiǎn)化了選主和恢復(fù)操作海渊; 將S3對(duì)象存儲(chǔ)绵疲、表格、隊(duì)列臣疑、塊設(shè)備等融入到統(tǒng)一的底層存儲(chǔ)架構(gòu)中盔憨。

The Chubby lock service for loosely-coupled distributed systems.

Mike Burrows.
Google設(shè)計(jì)的高可用、可靠的分布式鎖服務(wù)讯沈, 可用于實(shí)現(xiàn)選主郁岩、分布式鎖等功能, 是ZooKeeper的原型缺狠。 主要技術(shù)特點(diǎn): 將paxo協(xié)議封裝成文件系統(tǒng)接口问慎, 高可用、高可靠挤茄,但是不保證有很強(qiáng)性能如叼。

Paxos Made Live – An Engineering Perspective.

Tushar Chandra, Robert Griesemer,Joshua Redstone.
從工程實(shí)現(xiàn)角度說明了Paxo在chubby系統(tǒng)的應(yīng)用穷劈, 是理解Paxo協(xié)議及其應(yīng)用場(chǎng)景的必備論文笼恰。 主要技術(shù)特點(diǎn): paxo協(xié)議, replicated log歇终, multi-paxo社证。

Dynamo

Amazon’s Highly Available Key-Value Store。
Giuseppe DeCandia, Deniz Hastorun, Madan Jampani, et. Amazon設(shè)計(jì)的高可用的kv系統(tǒng)评凝, 主要技術(shù)特點(diǎn):綜和運(yùn)用一致性哈希追葡,vector clock, 最終一致性構(gòu)建一個(gè)高可用的kv系統(tǒng)奕短, 可應(yīng)用于amazon購物車場(chǎng)景

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末宜肉,一起剝皮案震驚了整個(gè)濱河市,隨后出現(xiàn)的幾起案子翎碑,更是在濱河造成了極大的恐慌谬返,老刑警劉巖,帶你破解...
    沈念sama閱讀 218,755評(píng)論 6 507
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件杈女,死亡現(xiàn)場(chǎng)離奇詭異,居然都是意外死亡,警方通過查閱死者的電腦和手機(jī)达椰,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 93,305評(píng)論 3 395
  • 文/潘曉璐 我一進(jìn)店門翰蠢,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人啰劲,你說我怎么就攤上這事梁沧。” “怎么了蝇裤?”我有些...
    開封第一講書人閱讀 165,138評(píng)論 0 355
  • 文/不壞的土叔 我叫張陵廷支,是天一觀的道長。 經(jīng)常有香客問我栓辜,道長恋拍,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 58,791評(píng)論 1 295
  • 正文 為了忘掉前任藕甩,我火速辦了婚禮施敢,結(jié)果婚禮上,老公的妹妹穿的比我還像新娘狭莱。我一直安慰自己僵娃,他們只是感情好,可當(dāng)我...
    茶點(diǎn)故事閱讀 67,794評(píng)論 6 392
  • 文/花漫 我一把揭開白布腋妙。 她就那樣靜靜地躺著默怨,像睡著了一般。 火紅的嫁衣襯著肌膚如雪骤素。 梳的紋絲不亂的頭發(fā)上匙睹,一...
    開封第一講書人閱讀 51,631評(píng)論 1 305
  • 那天,我揣著相機(jī)與錄音谆甜,去河邊找鬼垃僚。 笑死,一個(gè)胖子當(dāng)著我的面吹牛规辱,可吹牛的內(nèi)容都是我干的谆棺。 我是一名探鬼主播,決...
    沈念sama閱讀 40,362評(píng)論 3 418
  • 文/蒼蘭香墨 我猛地睜開眼罕袋,長吁一口氣:“原來是場(chǎng)噩夢(mèng)啊……” “哼改淑!你這毒婦竟也來了?” 一聲冷哼從身側(cè)響起浴讯,我...
    開封第一講書人閱讀 39,264評(píng)論 0 276
  • 序言:老撾萬榮一對(duì)情侶失蹤朵夏,失蹤者是張志新(化名)和其女友劉穎,沒想到半個(gè)月后榆纽,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體仰猖,經(jīng)...
    沈念sama閱讀 45,724評(píng)論 1 315
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡捏肢,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 37,900評(píng)論 3 336
  • 正文 我和宋清朗相戀三年,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了饥侵。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片鸵赫。...
    茶點(diǎn)故事閱讀 40,040評(píng)論 1 350
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡,死狀恐怖躏升,靈堂內(nèi)的尸體忽然破棺而出辩棒,到底是詐尸還是另有隱情,我是刑警寧澤膨疏,帶...
    沈念sama閱讀 35,742評(píng)論 5 346
  • 正文 年R本政府宣布一睁,位于F島的核電站,受9級(jí)特大地震影響佃却,放射性物質(zhì)發(fā)生泄漏者吁。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 41,364評(píng)論 3 330
  • 文/蒙蒙 一双霍、第九天 我趴在偏房一處隱蔽的房頂上張望砚偶。 院中可真熱鬧,春花似錦洒闸、人聲如沸染坯。這莊子的主人今日做“春日...
    開封第一講書人閱讀 31,944評(píng)論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽单鹿。三九已至,卻和暖如春深纲,著一層夾襖步出監(jiān)牢的瞬間仲锄,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 33,060評(píng)論 1 270
  • 我被黑心中介騙來泰國打工湃鹊, 沒想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留儒喊,地道東北人。 一個(gè)月前我還...
    沈念sama閱讀 48,247評(píng)論 3 371
  • 正文 我出身青樓币呵,卻偏偏與公主長得像怀愧,于是被迫代替她去往敵國和親。 傳聞我的和親對(duì)象是個(gè)殘疾皇子余赢,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 44,979評(píng)論 2 355

推薦閱讀更多精彩內(nèi)容