6月01日第二十三次早課

1.hdfs是屬于什么架構(gòu)

Hadoop分布式文件系統(tǒng)(HDFS)被設(shè)計成適合運(yùn)行在通用硬件(commodity hardware)上的分布式文件系統(tǒng)谴轮。它和現(xiàn)有的分布式文件系統(tǒng)有很多共同點(diǎn)。但同時,它和其他的分布式文件系統(tǒng)的區(qū)別也是很明顯的占婉。HDFS是一個高度容錯性的系統(tǒng)酒请,適合部署在廉價的機(jī)器上量愧。HDFS能提供高吞吐量的數(shù)據(jù)訪問淫半,非常適合大規(guī)模數(shù)據(jù)集上的應(yīng)用溃槐。HDFS放寬了一部分POSIX約束,來實(shí)現(xiàn)流式讀取文件系統(tǒng)數(shù)據(jù)的目的撮慨。HDFS在最開始是作為Apache Nutch搜索引擎項(xiàng)目的基礎(chǔ)架構(gòu)而開發(fā)的竿痰。HDFS是Apache Hadoop Core項(xiàng)目的一部分脆粥。

2.hdfs部署后進(jìn)程哪些?按啟動順序說

NN DN? SNN

3.一個文件180M砌溺,請問實(shí)際存儲多少影涉,多少塊?多少map?task?(副本為3)

540M? 6塊? 6mp ?假如文件是壓縮的,那么正好壓縮不支持分割规伐,那么就一個map task

4.副本放置策略蟹倾,來說說看

HDFS默認(rèn)數(shù)據(jù)放置策略

系統(tǒng)默認(rèn)為每一個數(shù)據(jù)塊存放3個副本,按照布署在NameNode上的默認(rèn)機(jī)架感知策略存放數(shù)據(jù)塊副本猖闪。其中:

第一個block副本放在client結(jié)點(diǎn)所在機(jī)架的datanode里(如果client不在集群范圍內(nèi)鲜棠,則這第一個node是隨機(jī)選取的,當(dāng)然系統(tǒng)會嘗試不選擇哪些太滿或者太忙的node)培慌。?

第二個block副本放置在與第一個datanode節(jié)點(diǎn)相同的機(jī)架中的另一個datanode中(隨機(jī)選擇)豁陆。??

第三個block副本放置于另一個隨機(jī)遠(yuǎn)端機(jī)架的一個隨機(jī)datanode中。?

如果還有更多的副本就隨機(jī)放在集群的node里吵护。?

將第一盒音、二個block副本放置在同一個機(jī)架中,當(dāng)用戶發(fā)起數(shù)據(jù)讀取請求時可以較快地讀取馅而,從而保證數(shù)據(jù)具有較好的本地性祥诽。

第三個及更多的block副本放置于其他機(jī)架,當(dāng)整個本地結(jié)點(diǎn)都失效時瓮恭,HDFS將自動通過遠(yuǎn)端機(jī)架上的數(shù)據(jù)副本將數(shù)據(jù)副本的婁得恢復(fù)到標(biāo)準(zhǔn)數(shù)據(jù)雄坪。

Hadoop的副本放置策略在可靠性(block在不同的機(jī)架)和帶寬(一個管道只需要穿越一個網(wǎng)絡(luò)節(jié)點(diǎn))中做了一個很好的平衡。下圖是備份參數(shù)是3的情況下一個管道的三個datanode的分布情況屯蹦。


5.snn職責(zé)是什么

SecondaryNameNode: 當(dāng)HA時维哈,SNN不存在了

? ? ? ?? 存儲: 命令空間鏡像文件fsimage + 編輯日志editlog

作用: 定期合并 fsimage +editlog 為新的fsimage,推送給NN,稱為檢查點(diǎn) checkpoint

參數(shù): dfs.namenode.checkpoint.period 3600s

http://www.reibang.com/p/5d292a9a8c86


6.hadoop?fs命令和什么命令一樣

hdfs dfs?

7.shuffle登澜,說說你們的理解

在map和repuced中間 進(jìn)行重組 洗牌操作

8.yarn的進(jìn)程哪些?

NodeManager,ResourceManager

9.jps命令阔挠,談?wù)勀銈兊睦斫?/h4>

查看java進(jìn)程及其對應(yīng)信息

10.hdfs?yarn界面的默認(rèn)端口分別多少?假如讓你們修改這個端口號,會不會?

hdfs 50070

yarn? 8088

11.查看進(jìn)程哪個占系統(tǒng)資源較多的命令是什么

top

12.查看系統(tǒng)負(fù)載帖渠,1分鐘?5分鐘??15分鐘?的命令是什么

top右上角 load average: 0.09, 0.05, 0.01

三個數(shù)分別代表不同時間段的系統(tǒng)平均負(fù)載(一分鐘谒亦、五 分鐘、以及十五分鐘)

13.說說你們對top空郊,還能夠看啥?

查看系統(tǒng)的CPU份招、內(nèi)存、運(yùn)行時間狞甚、交換分區(qū)锁摔、執(zhí)行的線程等信息

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末,一起剝皮案震驚了整個濱河市哼审,隨后出現(xiàn)的幾起案子谐腰,更是在濱河造成了極大的恐慌孕豹,老刑警劉巖,帶你破解...
    沈念sama閱讀 222,464評論 6 517
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件十气,死亡現(xiàn)場離奇詭異励背,居然都是意外死亡,警方通過查閱死者的電腦和手機(jī)砸西,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 95,033評論 3 399
  • 文/潘曉璐 我一進(jìn)店門叶眉,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人芹枷,你說我怎么就攤上這事衅疙。” “怎么了鸳慈?”我有些...
    開封第一講書人閱讀 169,078評論 0 362
  • 文/不壞的土叔 我叫張陵饱溢,是天一觀的道長。 經(jīng)常有香客問我走芋,道長绩郎,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 59,979評論 1 299
  • 正文 為了忘掉前任绿聘,我火速辦了婚禮嗽上,結(jié)果婚禮上,老公的妹妹穿的比我還像新娘熄攘。我一直安慰自己兽愤,他們只是感情好,可當(dāng)我...
    茶點(diǎn)故事閱讀 69,001評論 6 398
  • 文/花漫 我一把揭開白布挪圾。 她就那樣靜靜地躺著浅萧,像睡著了一般。 火紅的嫁衣襯著肌膚如雪哲思。 梳的紋絲不亂的頭發(fā)上洼畅,一...
    開封第一講書人閱讀 52,584評論 1 312
  • 那天,我揣著相機(jī)與錄音棚赔,去河邊找鬼帝簇。 笑死,一個胖子當(dāng)著我的面吹牛靠益,可吹牛的內(nèi)容都是我干的丧肴。 我是一名探鬼主播,決...
    沈念sama閱讀 41,085評論 3 422
  • 文/蒼蘭香墨 我猛地睜開眼胧后,長吁一口氣:“原來是場噩夢啊……” “哼芋浮!你這毒婦竟也來了?” 一聲冷哼從身側(cè)響起壳快,我...
    開封第一講書人閱讀 40,023評論 0 277
  • 序言:老撾萬榮一對情侶失蹤纸巷,失蹤者是張志新(化名)和其女友劉穎镇草,沒想到半個月后,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體瘤旨,經(jīng)...
    沈念sama閱讀 46,555評論 1 319
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡梯啤,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 38,626評論 3 342
  • 正文 我和宋清朗相戀三年,在試婚紗的時候發(fā)現(xiàn)自己被綠了裆站。 大學(xué)時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片条辟。...
    茶點(diǎn)故事閱讀 40,769評論 1 353
  • 序言:一個原本活蹦亂跳的男人離奇死亡黔夭,死狀恐怖宏胯,靈堂內(nèi)的尸體忽然破棺而出,到底是詐尸還是另有隱情本姥,我是刑警寧澤肩袍,帶...
    沈念sama閱讀 36,439評論 5 351
  • 正文 年R本政府宣布,位于F島的核電站婚惫,受9級特大地震影響氛赐,放射性物質(zhì)發(fā)生泄漏。R本人自食惡果不足惜先舷,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 42,115評論 3 335
  • 文/蒙蒙 一艰管、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧蒋川,春花似錦牲芋、人聲如沸。這莊子的主人今日做“春日...
    開封第一講書人閱讀 32,601評論 0 25
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽。三九已至氮兵,卻和暖如春裂逐,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背泣栈。 一陣腳步聲響...
    開封第一講書人閱讀 33,702評論 1 274
  • 我被黑心中介騙來泰國打工卜高, 沒想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留,地道東北人南片。 一個月前我還...
    沈念sama閱讀 49,191評論 3 378
  • 正文 我出身青樓掺涛,卻偏偏與公主長得像,于是被迫代替她去往敵國和親铃绒。 傳聞我的和親對象是個殘疾皇子鸽照,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 45,781評論 2 361

推薦閱讀更多精彩內(nèi)容

  • 翻譯: http://hadoop.apache.org/docs/stable/hadoop-project-d...
    金剛_30bf閱讀 807評論 0 2
  • 認(rèn)識HDFS HDFS的特點(diǎn): 高容錯性高吞吐量故障的檢測和自動快速恢復(fù)流式的數(shù)據(jù)訪問大數(shù)據(jù)集一次寫入,多次讀寫 ...
    Bloo_m閱讀 3,269評論 6 8
  • 我的天空里沒有太陽總是黑夜但并不黑暗因?yàn)橛袞|西代替了太陽。雖然沒有太陽那么明亮但對我來說已經(jīng)足夠了憑借著這份光我便...
    彼年上旋閱讀 1,355評論 10 43
  • 天邊有一座高樓 無數(shù)人攀沿而上 我坐在夕陽旁邊颠悬,冷眼而看 誰會做那第一名 誰會受不住痛矮燎,半途而廢 夕陽終會落下 留...
    云牧1閱讀 137評論 0 0
  • 要求:用半個小時的時間對第二篇進(jìn)行檢視閱讀定血。 一、檢視閱讀過程記錄 1诞外、閱讀前:準(zhǔn)備了三張卡片澜沟,分別是《檢視閱讀五...
    暖暖的高效慢生活閱讀 341評論 0 0