Hadoop--hdfs寫數(shù)據(jù)/讀數(shù)據(jù)流程

Hadoop寫數(shù)據(jù)流程

Hadoop--hdfs寫數(shù)據(jù)流程.png

1)客戶端通過Distributed FileSystem模塊向namenode請求上傳文件,namenode檢查目標文件是否已存在宿亡,父目錄是否存在。
2)namenode返回是否可以上傳纳令。
3)客戶端請求第一個 block上傳到哪幾個datanode服務器上挽荠。
4)namenode返回3個datanode節(jié)點,分別為dn1平绩、dn2圈匆、dn3。
5)客戶端通過FSDataOutputStream模塊請求dn1上傳數(shù)據(jù)捏雌,dn1收到請求會繼續(xù)調(diào)用dn2跃赚,然后dn2調(diào)用dn3,將這個通信管道建立完成性湿。
6)dn1来累、dn2、dn3逐級應答客戶端窘奏。
7)客戶端開始往dn1上傳第一個block(先從磁盤讀取數(shù)據(jù)放到一個本地內(nèi)存緩存),以packet為單位(大小為64k)葫录,dn1收到一個packet就會傳給dn2着裹,dn2傳給dn3;dn1每傳一個packet會放入一個應答隊列等待應答米同。
8)當一個block傳輸完成之后骇扇,客戶端再次請求namenode上傳第二個block的服務器。(重復執(zhí)行3-7步)面粮。

Hadoop讀數(shù)據(jù)流程

Hadoop--hdfs讀數(shù)據(jù)流程.png

1)客戶端通過Distributed FileSystem向namenode請求下載文件少孝,namenode通過查詢元數(shù)據(jù),找到文件塊所在的datanode地址熬苍。
2)挑選一臺datanode(就近原則稍走,然后隨機)服務器,請求讀取數(shù)據(jù)柴底。
3)datanode開始傳輸數(shù)據(jù)給客戶端(從磁盤里面讀取數(shù)據(jù)輸入流婿脸,以packet為單位來做校驗,大小為64k)。
4)客戶端以packet為單位接收柄驻,先在本地緩存狐树,然后寫入目標文件。

Attention Please--文章來自互聯(lián)網(wǎng)資料整理鸿脓,如有雷同抑钟,純屬李小李抄襲涯曲,如有侵權(quán)請聯(lián)系刪除 From 李小李

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末,一起剝皮案震驚了整個濱河市在塔,隨后出現(xiàn)的幾起案子幻件,更是在濱河造成了極大的恐慌,老刑警劉巖心俗,帶你破解...
    沈念sama閱讀 222,104評論 6 515
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件傲武,死亡現(xiàn)場離奇詭異,居然都是意外死亡城榛,警方通過查閱死者的電腦和手機揪利,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 94,816評論 3 399
  • 文/潘曉璐 我一進店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來狠持,“玉大人疟位,你說我怎么就攤上這事〈梗” “怎么了甜刻?”我有些...
    開封第一講書人閱讀 168,697評論 0 360
  • 文/不壞的土叔 我叫張陵,是天一觀的道長正勒。 經(jīng)常有香客問我得院,道長,這世上最難降的妖魔是什么章贞? 我笑而不...
    開封第一講書人閱讀 59,836評論 1 298
  • 正文 為了忘掉前任祥绞,我火速辦了婚禮,結(jié)果婚禮上鸭限,老公的妹妹穿的比我還像新娘蜕径。我一直安慰自己,他們只是感情好败京,可當我...
    茶點故事閱讀 68,851評論 6 397
  • 文/花漫 我一把揭開白布兜喻。 她就那樣靜靜地躺著,像睡著了一般赡麦。 火紅的嫁衣襯著肌膚如雪朴皆。 梳的紋絲不亂的頭發(fā)上,一...
    開封第一講書人閱讀 52,441評論 1 310
  • 那天泛粹,我揣著相機與錄音车荔,去河邊找鬼。 笑死戚扳,一個胖子當著我的面吹牛忧便,可吹牛的內(nèi)容都是我干的。 我是一名探鬼主播,決...
    沈念sama閱讀 40,992評論 3 421
  • 文/蒼蘭香墨 我猛地睜開眼珠增,長吁一口氣:“原來是場噩夢啊……” “哼超歌!你這毒婦竟也來了?” 一聲冷哼從身側(cè)響起蒂教,我...
    開封第一講書人閱讀 39,899評論 0 276
  • 序言:老撾萬榮一對情侶失蹤巍举,失蹤者是張志新(化名)和其女友劉穎,沒想到半個月后凝垛,有當?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體懊悯,經(jīng)...
    沈念sama閱讀 46,457評論 1 318
  • 正文 獨居荒郊野嶺守林人離奇死亡,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點故事閱讀 38,529評論 3 341
  • 正文 我和宋清朗相戀三年梦皮,在試婚紗的時候發(fā)現(xiàn)自己被綠了炭分。 大學時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片。...
    茶點故事閱讀 40,664評論 1 352
  • 序言:一個原本活蹦亂跳的男人離奇死亡剑肯,死狀恐怖捧毛,靈堂內(nèi)的尸體忽然破棺而出,到底是詐尸還是另有隱情让网,我是刑警寧澤呀忧,帶...
    沈念sama閱讀 36,346評論 5 350
  • 正文 年R本政府宣布,位于F島的核電站溃睹,受9級特大地震影響而账,放射性物質(zhì)發(fā)生泄漏。R本人自食惡果不足惜因篇,卻給世界環(huán)境...
    茶點故事閱讀 42,025評論 3 334
  • 文/蒙蒙 一福扬、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧惜犀,春花似錦、人聲如沸狠裹。這莊子的主人今日做“春日...
    開封第一講書人閱讀 32,511評論 0 24
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽涛菠。三九已至莉御,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間俗冻,已是汗流浹背礁叔。 一陣腳步聲響...
    開封第一講書人閱讀 33,611評論 1 272
  • 我被黑心中介騙來泰國打工, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留迄薄,地道東北人琅关。 一個月前我還...
    沈念sama閱讀 49,081評論 3 377
  • 正文 我出身青樓,卻偏偏與公主長得像讥蔽,于是被迫代替她去往敵國和親涣易。 傳聞我的和親對象是個殘疾皇子画机,可洞房花燭夜當晚...
    茶點故事閱讀 45,675評論 2 359

推薦閱讀更多精彩內(nèi)容

  • 想要過上理想的輕松人生,也需要很拼命才行新症。畢竟沒有誰的日子是從天上掉下來的步氏,你想要的任何一點美好,都得踮腳去摘徒爹。?...
    af2e3e56a48d閱讀 134評論 0 1
  • 檢驗
    Charging99閱讀 100評論 0 0
  • 遙望紅塵朵朵開 笑我癡 笑我嬌 千嬌百媚情意濃 等你情 等你愛 輕舞羅衫花心吐 思心雨 思心露 瓣瓣花...
    大紅羊閱讀 359評論 17 37
  • ①【我在桂林等你來】 初冬時節(jié) 北方正值陰冷 我南下桂林 來一場詩夢相隨 我在山水甲天下的桂林 等你來 來一場紅塵...
    八雅先生閱讀 251評論 0 0
  • 你的一顆心 我卻看不清 卻還是 想做你的眼睛 我的一片深情 你故意看不清 想做你的耳朵 帶你去聆聽
    1班10號葛潤雨閱讀 247評論 4 1