hadoop小白的調(diào)試記錄之文件訪問

由于在sh中調(diào)用某應(yīng)用需要的是待處理文件路徑郎任,因此:
1、hadoop命令:hadoop的input指向的是待處理數(shù)據(jù)的文件路徑part-list文件;
2降传、map.sh腳本:使用while-do-done循環(huán)讀取part-list文件內(nèi)容并調(diào)用該應(yīng)用;
3勾怒、python腳本:將該應(yīng)用返回?cái)?shù)據(jù)再灌入python腳本婆排。

由于無(wú)需調(diào)用其他應(yīng)用,因此:
1笔链、hadoop命令:input指向的是待處理數(shù)據(jù)段只;
2、map.sh腳本:將待處理的數(shù)據(jù)流直接灌入python腳本鉴扫;
3赞枕、python腳本:直接從stdin數(shù)據(jù)流中獲取待處理數(shù)據(jù)。

hadoop輸入使用待處理文件路徑文件:
1坪创、hadoop命令:hadoop的input指向的是待處理數(shù)據(jù)的文件路徑part-list文件炕婶,并將待處理數(shù)據(jù)路徑使用cachefile參數(shù)分發(fā)至計(jì)算節(jié)點(diǎn);
2莱预、map.sh腳本:使用while-do-done或者直接灌入python腳本柠掂;
3、python腳本:使用codecs訪問stdin中的文件路徑锁施,獲取數(shù)據(jù)后再處理陪踩。
這種方式僅適用于待處理文件不大的情況杖们,否則分發(fā)文件會(huì)耗費(fèi)資源。

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末肩狂,一起剝皮案震驚了整個(gè)濱河市摘完,隨后出現(xiàn)的幾起案子,更是在濱河造成了極大的恐慌傻谁,老刑警劉巖孝治,帶你破解...
    沈念sama閱讀 217,277評(píng)論 6 503
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件,死亡現(xiàn)場(chǎng)離奇詭異审磁,居然都是意外死亡谈飒,警方通過查閱死者的電腦和手機(jī),發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 92,689評(píng)論 3 393
  • 文/潘曉璐 我一進(jìn)店門态蒂,熙熙樓的掌柜王于貴愁眉苦臉地迎上來杭措,“玉大人,你說我怎么就攤上這事钾恢∈炙兀” “怎么了?”我有些...
    開封第一講書人閱讀 163,624評(píng)論 0 353
  • 文/不壞的土叔 我叫張陵瘩蚪,是天一觀的道長(zhǎng)泉懦。 經(jīng)常有香客問我,道長(zhǎng)疹瘦,這世上最難降的妖魔是什么崩哩? 我笑而不...
    開封第一講書人閱讀 58,356評(píng)論 1 293
  • 正文 為了忘掉前任,我火速辦了婚禮言沐,結(jié)果婚禮上邓嘹,老公的妹妹穿的比我還像新娘。我一直安慰自己呢灶,他們只是感情好吴超,可當(dāng)我...
    茶點(diǎn)故事閱讀 67,402評(píng)論 6 392
  • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著鸯乃,像睡著了一般鲸阻。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上缨睡,一...
    開封第一講書人閱讀 51,292評(píng)論 1 301
  • 那天鸟悴,我揣著相機(jī)與錄音,去河邊找鬼奖年。 笑死细诸,一個(gè)胖子當(dāng)著我的面吹牛,可吹牛的內(nèi)容都是我干的陋守。 我是一名探鬼主播震贵,決...
    沈念sama閱讀 40,135評(píng)論 3 418
  • 文/蒼蘭香墨 我猛地睜開眼利赋,長(zhǎng)吁一口氣:“原來是場(chǎng)噩夢(mèng)啊……” “哼!你這毒婦竟也來了猩系?” 一聲冷哼從身側(cè)響起媚送,我...
    開封第一講書人閱讀 38,992評(píng)論 0 275
  • 序言:老撾萬(wàn)榮一對(duì)情侶失蹤,失蹤者是張志新(化名)和其女友劉穎寇甸,沒想到半個(gè)月后塘偎,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體,經(jīng)...
    沈念sama閱讀 45,429評(píng)論 1 314
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡拿霉,尸身上長(zhǎng)有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 37,636評(píng)論 3 334
  • 正文 我和宋清朗相戀三年吟秩,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片绽淘。...
    茶點(diǎn)故事閱讀 39,785評(píng)論 1 348
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡涵防,死狀恐怖,靈堂內(nèi)的尸體忽然破棺而出沪铭,到底是詐尸還是另有隱情武学,我是刑警寧澤,帶...
    沈念sama閱讀 35,492評(píng)論 5 345
  • 正文 年R本政府宣布伦意,位于F島的核電站,受9級(jí)特大地震影響硼补,放射性物質(zhì)發(fā)生泄漏驮肉。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 41,092評(píng)論 3 328
  • 文/蒙蒙 一已骇、第九天 我趴在偏房一處隱蔽的房頂上張望离钝。 院中可真熱鬧,春花似錦褪储、人聲如沸卵渴。這莊子的主人今日做“春日...
    開封第一講書人閱讀 31,723評(píng)論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽(yáng)浪读。三九已至,卻和暖如春辛藻,著一層夾襖步出監(jiān)牢的瞬間碘橘,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 32,858評(píng)論 1 269
  • 我被黑心中介騙來泰國(guó)打工吱肌, 沒想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留痘拆,地道東北人。 一個(gè)月前我還...
    沈念sama閱讀 47,891評(píng)論 2 370
  • 正文 我出身青樓氮墨,卻偏偏與公主長(zhǎng)得像纺蛆,于是被迫代替她去往敵國(guó)和親吐葵。 傳聞我的和親對(duì)象是個(gè)殘疾皇子,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 44,713評(píng)論 2 354

推薦閱讀更多精彩內(nèi)容