3種分布式存儲文件系統(tǒng)的特點(diǎn)!

當(dāng)"互聯(lián)網(wǎng)+"深入滲透至各行各業(yè)時(shí)任柜,大數(shù)據(jù)和云計(jì)算業(yè)務(wù)也在全球范圍內(nèi)的飛速發(fā)展。企業(yè)想要順應(yīng)時(shí)勢得到更大規(guī)模的發(fā)展宙地,可能要面對業(yè)務(wù)發(fā)展云化升熊。這就不得不面對一個(gè)問題——存儲架構(gòu)怎么選级野?要跟上時(shí)代的發(fā)展,應(yīng)該是更精確地考慮——分布式存儲架構(gòu)要怎么選粹胯?大圣眾包(www.dashengzb.cn)小編就為大家分析下分布式存儲文件的優(yōu)劣性!

一风纠、主流的3種分布式存儲文件系統(tǒng)

存儲架構(gòu)分兩種,一種是傳統(tǒng)存儲陣列架構(gòu)竹观,另一種就是本文將要重點(diǎn)介紹的分布式存儲架構(gòu)潜索。進(jìn)入大數(shù)據(jù)時(shí)代,隨著數(shù)據(jù)量的飛速增加懂酱,企業(yè)對于數(shù)據(jù)存儲的可擴(kuò)展性不斷提出要求竹习,而具有擴(kuò)展性強(qiáng)、價(jià)格低廉特點(diǎn)的分布式存儲系統(tǒng)則漸漸成為眾多企業(yè)的選擇列牺≌埃可以說,得益于大數(shù)據(jù)的繁盛發(fā)展瞎领,分布式存儲架構(gòu)在近幾年中得到了前所未有的關(guān)注泌辫。

當(dāng)前市場上,比較主流的3種分布式存儲文件系統(tǒng)九默,分別有AFS震放、GFS、Lustre驼修。它們基本都有一個(gè)共通點(diǎn)——全局名字空間澜搅、緩存一致性、安全性邪锌、可用性和可擴(kuò)展性勉躺。

二、3種分布式存儲文件系統(tǒng)的各自特點(diǎn)

1.AFS

由卡內(nèi)基美隆大學(xué)最初設(shè)計(jì)開發(fā)的AFS觅丰,目前已經(jīng)相當(dāng)成熟饵溅,用于研究和部分大型網(wǎng)絡(luò)中。AFS是AndrewFileSystem的簡稱妇萄,它的主要組建包括Cells蜕企、AFSclients、基本存儲單元Volumes冠句、AFSservers和Volumereplication轻掩。

擁有良好可擴(kuò)展性的AFS,能夠?yàn)榭蛻舳藥硇阅艿奶嵘涂捎眯缘奶岣吲车住FS將文件系統(tǒng)的可擴(kuò)展性放在了設(shè)計(jì)和實(shí)踐的首要位置唇牧,因此AFS擁有很好的擴(kuò)展性,能夠輕松支持?jǐn)?shù)百個(gè)節(jié)點(diǎn)聚唐,甚至數(shù)千個(gè)節(jié)點(diǎn)的分布式環(huán)境丐重。它實(shí)現(xiàn)的是模塊化的,所以并不要求在每臺服務(wù)器上運(yùn)行所有服務(wù)器進(jìn)程杆查。

但值得一提的是坏快,AFS的缺點(diǎn)在于管理員界面友好性不足唤锉,需要更多的專業(yè)知識來支持。

2.GFS

被稱為谷歌文件系統(tǒng)的GFS(GoogleFileSystem),是用以實(shí)現(xiàn)非結(jié)構(gòu)化數(shù)據(jù)的主要技術(shù)和文件系統(tǒng)乒疏。它的性能、可擴(kuò)展性、可靠性和可用性都受到了肯定。它主要運(yùn)行在大量運(yùn)行Linux系統(tǒng)的普通機(jī)器上抡柿,能大大降低它的硬件成本。

文件的大小氏堤,一直是文件系統(tǒng)要考慮的問題沙绝。對于任何一種文件系統(tǒng)鼠锈,成千上萬的幾KB的系統(tǒng)很容易壓死內(nèi)存购笆。所以虚循,對于大型的文件,管理要高效铺遂,對于小型的文件茎刚,也需要支持膛锭,但是并沒有進(jìn)行優(yōu)化。在GFS中莫杈,chunkserver的大小被固定為64MB奢入,這樣的塊規(guī)模比一般的文件系統(tǒng)的塊規(guī)模要大得多,可以減少元數(shù)據(jù)metadata的開銷丁存,減少M(fèi)aster的交互柴我。但是,太大的塊規(guī)模也會產(chǎn)生內(nèi)部碎片聋伦,或者同一個(gè)chunk中存在多個(gè)小文件可能會產(chǎn)生訪問熱點(diǎn)。

GFS主要部件包括一個(gè)master和n個(gè)chunkserver兵拢,和chunkserver(數(shù)據(jù)塊服務(wù)器)同時(shí)可以被多個(gè)客戶client(客戶)訪問逾礁。不同于傳統(tǒng)的文件系統(tǒng),GFS不再將組建錯(cuò)誤當(dāng)成異常腻扇,而是將其看作一種常見的情況予以處理幼苛。

同樣地焕刮,GFS也有缺點(diǎn)。一系列冗余備份括荡、快速恢復(fù)等技術(shù)溉旋,很難保證它能夠正常和高效運(yùn)行低滩。

3.Lustre

名稱來源于Linux和Clusters的Lustre恕沫,也被稱為平行分布式文件系統(tǒng),它是HP婶溯、Intel、ClusterFileSystem公司聯(lián)合美國能源部開發(fā)的Linux集群并行文件系統(tǒng)褐筛。Lustre的主要組建包括元數(shù)據(jù)服務(wù)器(MetadataServers渔扎,MDSs)信轿、對象存儲服務(wù)器(ObjectStorageServers残吩,OSSs)和客戶端倘核。其中MDSs提供元數(shù)據(jù)服務(wù),MGS管理服務(wù)器提供文件系統(tǒng)配置信息紧唱,OSS對象存儲服務(wù)器expose塊為設(shè)備提供數(shù)據(jù)。作為一個(gè)遵循GPL許可協(xié)議的開源軟件蛹锰,Lustre常用于大型計(jì)算機(jī)集群和超級電腦中宁仔。

Lustre文件系統(tǒng)針對大文件讀寫進(jìn)行了優(yōu)化峦睡,能夠提高性能的IO能力权埠。另外,它對源數(shù)據(jù)獨(dú)立存儲龙屉、服務(wù)和網(wǎng)絡(luò)失效的快速恢復(fù)满俗、基于意圖的分布式鎖管理和系統(tǒng)可快速配置方面,表現(xiàn)也十分優(yōu)異五芝。

各企業(yè)可以根據(jù)自身需求辕万,選取合適的分布式存儲文件系統(tǒng),以便在大數(shù)據(jù)海洋中揚(yáng)帆猛進(jìn)醉途!

(更多大數(shù)據(jù)與商業(yè)智能領(lǐng)域干貨隘擎、兼職機(jī)會請關(guān)注大圣眾包平臺凉夯,或添加大圣花花個(gè)人微信號(dashenghuaer)推正,拉你入bigdata&BI交流群330648564植榕。)

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末尊残,一起剝皮案震驚了整個(gè)濱河市,隨后出現(xiàn)的幾起案子寝衫,更是在濱河造成了極大的恐慌慰毅,老刑警劉巖扎阶,帶你破解...
    沈念sama閱讀 212,454評論 6 493
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件着饥,死亡現(xiàn)場離奇詭異,居然都是意外死亡宰掉,警方通過查閱死者的電腦和手機(jī)轨奄,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 90,553評論 3 385
  • 文/潘曉璐 我一進(jìn)店門拒炎,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人舞丛,你說我怎么就攤上這事球切。” “怎么了吨凑?”我有些...
    開封第一講書人閱讀 157,921評論 0 348
  • 文/不壞的土叔 我叫張陵鸵钝,是天一觀的道長。 經(jīng)常有香客問我恩商,道長怠堪,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 56,648評論 1 284
  • 正文 為了忘掉前任,我火速辦了婚禮陌粹,結(jié)果婚禮上,老公的妹妹穿的比我還像新娘或舞。我一直安慰自己哗讥,他們只是感情好杆煞,可當(dāng)我...
    茶點(diǎn)故事閱讀 65,770評論 6 386
  • 文/花漫 我一把揭開白布腐泻。 她就那樣靜靜地躺著派桩,像睡著了一般。 火紅的嫁衣襯著肌膚如雪范嘱。 梳的紋絲不亂的頭發(fā)上员魏,一...
    開封第一講書人閱讀 49,950評論 1 291
  • 那天撕阎,我揣著相機(jī)與錄音,去河邊找鬼厦章。 笑死照藻,一個(gè)胖子當(dāng)著我的面吹牛,可吹牛的內(nèi)容都是我干的囊骤。 我是一名探鬼主播冀值,決...
    沈念sama閱讀 39,090評論 3 410
  • 文/蒼蘭香墨 我猛地睜開眼列疗,長吁一口氣:“原來是場噩夢啊……” “哼抵栈!你這毒婦竟也來了告材?” 一聲冷哼從身側(cè)響起斥赋,我...
    開封第一講書人閱讀 37,817評論 0 268
  • 序言:老撾萬榮一對情侶失蹤疤剑,失蹤者是張志新(化名)和其女友劉穎隘膘,沒想到半個(gè)月后杠览,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體,經(jīng)...
    沈念sama閱讀 44,275評論 1 303
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 36,592評論 2 327
  • 正文 我和宋清朗相戀三年才漆,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了葫隙。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片。...
    茶點(diǎn)故事閱讀 38,724評論 1 341
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡,死狀恐怖怀喉,靈堂內(nèi)的尸體忽然破棺而出躬拢,到底是詐尸還是另有隱情,我是刑警寧澤聊闯,帶...
    沈念sama閱讀 34,409評論 4 333
  • 正文 年R本政府宣布篷帅,位于F島的核電站魏身,受9級特大地震影響蚪腐,放射性物質(zhì)發(fā)生泄漏。R本人自食惡果不足惜家制,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 40,052評論 3 316
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望茧跋。 院中可真熱鬧慰丛,春花似錦、人聲如沸瘾杭。這莊子的主人今日做“春日...
    開封第一講書人閱讀 30,815評論 0 21
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽粥烁。三九已至,卻和暖如春蝇棉,著一層夾襖步出監(jiān)牢的瞬間讨阻,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 32,043評論 1 266
  • 我被黑心中介騙來泰國打工篡殷, 沒想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留钝吮,地道東北人。 一個(gè)月前我還...
    沈念sama閱讀 46,503評論 2 361
  • 正文 我出身青樓,卻偏偏與公主長得像奇瘦,于是被迫代替她去往敵國和親棘催。 傳聞我的和親對象是個(gè)殘疾皇子醇坝,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 43,627評論 2 350

推薦閱讀更多精彩內(nèi)容