HPC-CAE應用場景下文件讀寫IO分析

在當前工作中,需要對CAE場景下的文件讀寫速度做一個分析酿箭,因而有了這篇簡單的分析報告。首先介紹一下場景趾娃,A七问,B兩臺機器通過萬兆交換機互聯。我們需要分別測試三種條件下文件的寫效率:

  1. 本地文件讀寫茫舶,本地都是SSD設備
  2. 萬兆網絡械巡,通過NFS共享方式,A共享文件夾饶氏,B作為客戶端向文件夾中寫文件
  3. 萬兆網絡讥耗,通過Beegfs分布式存儲,A提供存儲空間疹启,B作為客戶端向存儲中寫入文件

測試工具:dd

測試一

寫入1G數據古程,分1000次,每次1M
命令:

dd if=/dev/zero of=/root/mnttest/test_file bs=1000000 count=1000

測試結果

本地 NFS Beegfs
2.1 GB/s 291 MB/s 728 MB/s

測試二

寫入1G數據喊崖,1次寫入
命令:

dd if=/dev/zero of=/root/mnttest/test_file bs=1000000000 count=1

測試結果

本地 NFS Beegfs
1.6 GB/s 644 MB/s 802 MB/s

結論:

  • 雖然網絡提供萬兆挣磨,但由于在軟件層受建立連接等過程影響,實際的NFS寫入速度會降低荤懂,對于大文件寫入茁裙,NFS在萬兆網能達到600M/s的速度,但是對于很多小文件寫入的場景节仿,速度降到300MB/s晤锥。不幸的是,這正是CAE分析軟件工作的方式廊宪。
  • Beegfs 正如所宣稱的一樣矾瘾,是一個適合HPC場景的分布式文件系統(tǒng)。對于大量小文件的場景箭启,能達到700MB/s

CAE應用讀寫分析

我們再從CAE軟件這邊來分析壕翩,CAE分析運算過程中,通過監(jiān)控系統(tǒng)IO傅寡,每3秒記錄一次放妈,可以得到如下輸出,注意第二列為IO寫速度赏僧,這里只截取了部分

0.00 1255.76
0.00 907.51
0.00 941.25
0.00 982.08
0.00 983.75
0.00 961.88
0.00 970.42
0.00 1007.83
0.00 1010.39
0.00 744.61
0.00 0.00
0.00 0.13
0.00 0.00
0.00 0.00
0.00 0.00
... 省略 ...
0.00 0.00
0.00 0.00
0.00 0.00
0.00 0.06
0.00 0.00
0.00 1608.09
0.00 1041.26
0.00 1040.75
0.00 1038.50
0.00 1041.25
0.00 1043.71
0.00 1042.42
0.00 1044.05
0.00 865.76

從輸出可以看到大猛,分析軟件每360秒會出現一次寫入操作,持續(xù)30秒左右淀零,寫入速度在1000MB/s, 據此可推算膛壹,一個寫入周期中驾中,本地唉堪,NFS和Beegfs所花費的時間,以及進一步推測計算效率上的差別

本地 NFS Beegfs
1次寫入 360秒 420秒 372秒
單位作業(yè)耗費時間 1 1.16 1.03
推算7小時作業(yè)耗費時間 7小時 8.12小時 7.21小時

結論:

對于此特定CAE軟件的作業(yè)來說肩民,由于寫入延遲唠亚,NFS共享文件方式比本地方式要慢16%,對于長時間的計算持痰,積累的更加明顯灶搜,比如7小時的作業(yè),會增加1個多小時的計算時間工窍。
而beegfs則要表現好的多割卖,針對此款CAE分析軟件的場景,只會增加3%的計算時間患雏。本地7小時的計算作業(yè)鹏溯,轉移到beegfs分布式系統(tǒng)只要7.21小時。相對提供的分布式存儲能力來說淹仑,這點速度上的犧牲應該可以接受丙挽。

當然,以上只是理論上的分析匀借,具體實踐是不是符合颜阐,需要下一階段通過實際的算例來驗證。

?著作權歸作者所有,轉載或內容合作請聯系作者
  • 序言:七十年代末吓肋,一起剝皮案震驚了整個濱河市瞬浓,隨后出現的幾起案子,更是在濱河造成了極大的恐慌蓬坡,老刑警劉巖猿棉,帶你破解...
    沈念sama閱讀 218,546評論 6 507
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件,死亡現場離奇詭異屑咳,居然都是意外死亡萨赁,警方通過查閱死者的電腦和手機,發(fā)現死者居然都...
    沈念sama閱讀 93,224評論 3 395
  • 文/潘曉璐 我一進店門兆龙,熙熙樓的掌柜王于貴愁眉苦臉地迎上來杖爽,“玉大人,你說我怎么就攤上這事紫皇∥堪玻” “怎么了?”我有些...
    開封第一講書人閱讀 164,911評論 0 354
  • 文/不壞的土叔 我叫張陵聪铺,是天一觀的道長化焕。 經常有香客問我,道長铃剔,這世上最難降的妖魔是什么撒桨? 我笑而不...
    開封第一講書人閱讀 58,737評論 1 294
  • 正文 為了忘掉前任查刻,我火速辦了婚禮,結果婚禮上凤类,老公的妹妹穿的比我還像新娘穗泵。我一直安慰自己,他們只是感情好谜疤,可當我...
    茶點故事閱讀 67,753評論 6 392
  • 文/花漫 我一把揭開白布佃延。 她就那樣靜靜地躺著,像睡著了一般夷磕。 火紅的嫁衣襯著肌膚如雪履肃。 梳的紋絲不亂的頭發(fā)上,一...
    開封第一講書人閱讀 51,598評論 1 305
  • 那天企锌,我揣著相機與錄音榆浓,去河邊找鬼。 笑死撕攒,一個胖子當著我的面吹牛陡鹃,可吹牛的內容都是我干的。 我是一名探鬼主播抖坪,決...
    沈念sama閱讀 40,338評論 3 418
  • 文/蒼蘭香墨 我猛地睜開眼萍鲸,長吁一口氣:“原來是場噩夢啊……” “哼!你這毒婦竟也來了擦俐?” 一聲冷哼從身側響起脊阴,我...
    開封第一講書人閱讀 39,249評論 0 276
  • 序言:老撾萬榮一對情侶失蹤,失蹤者是張志新(化名)和其女友劉穎蚯瞧,沒想到半個月后嘿期,有當地人在樹林里發(fā)現了一具尸體,經...
    沈念sama閱讀 45,696評論 1 314
  • 正文 獨居荒郊野嶺守林人離奇死亡埋合,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內容為張勛視角 年9月15日...
    茶點故事閱讀 37,888評論 3 336
  • 正文 我和宋清朗相戀三年备徐,在試婚紗的時候發(fā)現自己被綠了。 大學時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片甚颂。...
    茶點故事閱讀 40,013評論 1 348
  • 序言:一個原本活蹦亂跳的男人離奇死亡蜜猾,死狀恐怖,靈堂內的尸體忽然破棺而出振诬,到底是詐尸還是另有隱情蹭睡,我是刑警寧澤,帶...
    沈念sama閱讀 35,731評論 5 346
  • 正文 年R本政府宣布赶么,位于F島的核電站肩豁,受9級特大地震影響,放射性物質發(fā)生泄漏。R本人自食惡果不足惜蓖救,卻給世界環(huán)境...
    茶點故事閱讀 41,348評論 3 330
  • 文/蒙蒙 一洪规、第九天 我趴在偏房一處隱蔽的房頂上張望印屁。 院中可真熱鬧循捺,春花似錦、人聲如沸雄人。這莊子的主人今日做“春日...
    開封第一講書人閱讀 31,929評論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽础钠。三九已至恰力,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間旗吁,已是汗流浹背踩萎。 一陣腳步聲響...
    開封第一講書人閱讀 33,048評論 1 270
  • 我被黑心中介騙來泰國打工, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留很钓,地道東北人香府。 一個月前我還...
    沈念sama閱讀 48,203評論 3 370
  • 正文 我出身青樓,卻偏偏與公主長得像码倦,于是被迫代替她去往敵國和親企孩。 傳聞我的和親對象是個殘疾皇子,可洞房花燭夜當晚...
    茶點故事閱讀 44,960評論 2 355