beegfs中的burst buffer技術(shù)

beegfs當(dāng)中的一項burst buffer技術(shù)趾徽,發(fā)布于2015年3月。目的是利用計算節(jié)點上的SSD能力逗宜,加速IO訪問能力,為云計算場景提供更好的存儲能力。

burst buffer

burst buffer是超算領(lǐng)域內(nèi)的一個概念(類似于cache tire)汽馋,burst buffer是后端存儲和前端計算之間的夾心層侮东。旨在利用計算節(jié)點上的存儲能力,通常是SSD或者NVME等設(shè)備豹芯,在IO時提供比后端存儲更大的帶寬悄雅,從而避免后端存儲過度負(fù)載。burst buffer的出現(xiàn)主要來自超算場景中铁蹈,計算和存儲兩個階段存在明顯的分割宽闲,當(dāng)計算結(jié)束之后,數(shù)據(jù)需要寫入存儲握牧。如果存儲速度不理想容诬,則下一輪計算將會受到影響。

使用burst buffer IO路徑更短我碟,加速存儲的響應(yīng)能力放案。此外,burst buffer緩存的數(shù)據(jù)會異步的刷入到后端存儲矫俺,這個過程可以控制吱殉,可以利用這一點提高向后端進(jìn)行存儲效率,如將小IO合并成較大的IO厘托。

burst buffer存在兩種架構(gòu)一種是node-local友雳,另外一種是remote shared。node-local顧名思義即使用本地的存儲铅匹,其性能總體性能隨計算節(jié)點的增加而線性增長押赊。另外一種則需要通過網(wǎng)絡(luò)使用共享的存儲設(shè)備。

Beeond

回到beeond包斑,它帶來的便利有:和其他業(yè)務(wù)的隔離流礁,更好的IOPS、帶寬罗丰、更低的延遲神帅,充分利用已有的節(jié)點的存儲能力。beeond實際上并不關(guān)注后端的存儲一定是beegfs萌抵。


beeond的設(shè)計思路采用remote shared模式找御,計算節(jié)點啟動一個beegfs的實例。其中nodefile中記錄了實例相關(guān)的配置绍填。實例通過start和stop命令快速的啟動和停止霎桅。通過內(nèi)置的beeond-cp將文件系統(tǒng)實例中的數(shù)據(jù)存入/讀出(stageout/stagein)后端的持久化存儲(其他如rsync也可以完成類似的工作),其并發(fā)在指定的多個節(jié)點上同時執(zhí)行讨永。beeond-cp 使用的是GNU parallel組件滔驶,該組件可以并行執(zhí)行任務(wù)。

beeond-copy提供并行拷貝的能力住闯,最大速度在29小時內(nèi)傳輸了1PB的數(shù)據(jù)瓜浸。

參考:

https://git.beegfs.io/pub/v7/tree/master/beeond

https://www.beegfs.io/docs/PressReleaseBurstBufferWorldRecord.pdf

https://www.nextplatform.com/2015/05/19/the-what-and-why-of-burst-buffers/

https://www.gnu.org/software/parallel/

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末澳淑,一起剝皮案震驚了整個濱河市,隨后出現(xiàn)的幾起案子插佛,更是在濱河造成了極大的恐慌杠巡,老刑警劉巖,帶你破解...
    沈念sama閱讀 222,590評論 6 517
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件雇寇,死亡現(xiàn)場離奇詭異氢拥,居然都是意外死亡,警方通過查閱死者的電腦和手機(jī)锨侯,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 95,157評論 3 399
  • 文/潘曉璐 我一進(jìn)店門嫩海,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人囚痴,你說我怎么就攤上這事叁怪。” “怎么了深滚?”我有些...
    開封第一講書人閱讀 169,301評論 0 362
  • 文/不壞的土叔 我叫張陵奕谭,是天一觀的道長。 經(jīng)常有香客問我痴荐,道長血柳,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 60,078評論 1 300
  • 正文 為了忘掉前任生兆,我火速辦了婚禮,結(jié)果婚禮上鸦难,老公的妹妹穿的比我還像新娘根吁。我一直安慰自己合蔽,他們只是感情好婴栽,可當(dāng)我...
    茶點故事閱讀 69,082評論 6 398
  • 文/花漫 我一把揭開白布辈末。 她就那樣靜靜地躺著映皆,像睡著了一般。 火紅的嫁衣襯著肌膚如雪捅彻。 梳的紋絲不亂的頭發(fā)上组去,一...
    開封第一講書人閱讀 52,682評論 1 312
  • 那天从隆,我揣著相機(jī)與錄音诚撵,去河邊找鬼。 笑死寿烟,一個胖子當(dāng)著我的面吹牛,可吹牛的內(nèi)容都是我干的辛燥。 我是一名探鬼主播筛武,決...
    沈念sama閱讀 41,155評論 3 422
  • 文/蒼蘭香墨 我猛地睜開眼,長吁一口氣:“原來是場噩夢啊……” “哼挎塌!你這毒婦竟也來了徘六?” 一聲冷哼從身側(cè)響起,我...
    開封第一講書人閱讀 40,098評論 0 277
  • 序言:老撾萬榮一對情侶失蹤榴都,失蹤者是張志新(化名)和其女友劉穎待锈,沒想到半個月后,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體嘴高,經(jīng)...
    沈念sama閱讀 46,638評論 1 319
  • 正文 獨居荒郊野嶺守林人離奇死亡竿音,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點故事閱讀 38,701評論 3 342
  • 正文 我和宋清朗相戀三年,在試婚紗的時候發(fā)現(xiàn)自己被綠了阳惹。 大學(xué)時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片谍失。...
    茶點故事閱讀 40,852評論 1 353
  • 序言:一個原本活蹦亂跳的男人離奇死亡,死狀恐怖莹汤,靈堂內(nèi)的尸體忽然破棺而出快鱼,到底是詐尸還是另有隱情,我是刑警寧澤纲岭,帶...
    沈念sama閱讀 36,520評論 5 351
  • 正文 年R本政府宣布抹竹,位于F島的核電站,受9級特大地震影響止潮,放射性物質(zhì)發(fā)生泄漏窃判。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點故事閱讀 42,181評論 3 335
  • 文/蒙蒙 一喇闸、第九天 我趴在偏房一處隱蔽的房頂上張望袄琳。 院中可真熱鬧,春花似錦燃乍、人聲如沸唆樊。這莊子的主人今日做“春日...
    開封第一講書人閱讀 32,674評論 0 25
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽逗旁。三九已至,卻和暖如春舆瘪,著一層夾襖步出監(jiān)牢的瞬間片效,已是汗流浹背红伦。 一陣腳步聲響...
    開封第一講書人閱讀 33,788評論 1 274
  • 我被黑心中介騙來泰國打工, 沒想到剛下飛機(jī)就差點兒被人妖公主榨干…… 1. 我叫王不留淀衣,地道東北人昙读。 一個月前我還...
    沈念sama閱讀 49,279評論 3 379
  • 正文 我出身青樓,卻偏偏與公主長得像舌缤,于是被迫代替她去往敵國和親箕戳。 傳聞我的和親對象是個殘疾皇子,可洞房花燭夜當(dāng)晚...
    茶點故事閱讀 45,851評論 2 361

推薦閱讀更多精彩內(nèi)容