關于大數(shù)據(jù)hadoop的45個科普小知識

圖1

時至今日腿短,Hadoop已成為最流行的離線數(shù)據(jù)處理平臺皆看,然而它的集群配置起來并不簡單。如果你學習Hadoop不久橱夭,相信下面這45個問題會對你有所幫助哺壶。

大數(shù)據(jù)和架構師相關課程可以點擊“免費了解

在工作生活中屋吨,有些問題非常簡單,但往往搜索半天也找不到所需的答案山宾,在Hadoop的學習與使用過程中同樣如此至扰。這里為大家分享Hadoop集群設置中經(jīng)常出現(xiàn)的一些問題,以下為譯文:

1.Hadoop集群可以運行的3個模式资锰?

單機(本地)模式

偽分布式模式

全分布式模式

2. 單機(本地)模式中的注意點敢课?

在單機模式(standalone)中不會存在守護進程,所有東西都運行在一個JVM上。這里同樣沒有DFS直秆,使用的是本地文件系統(tǒng)濒募。單機模式適用于開發(fā)過程中運行MapReduce程序,這也是最少使用的一個模式圾结。

3. 偽分布模式中的注意點瑰剃?

偽分布式(Pseudo)適用于開發(fā)和測試環(huán)境,在這個模式中筝野,所有守護進程都在同一臺機器上運行晌姚。

4. VM是否可以稱為Pseudo?

不是歇竟,兩個事物挥唠,同時Pseudo只針對Hadoop。

5. 全分布模式又有什么注意點途蒋?

全分布模式通常被用于生產(chǎn)環(huán)境,這里我們使用N臺主機組成一個Hadoop集群馋记,Hadoop守護進程運行在每臺主機之上号坡。這里會存在Namenode運行的主機,Datanode運行的主機梯醒,以及task tracker運行的主機宽堆。在分布式環(huán)境下,主節(jié)點和從節(jié)點會分開茸习。

6. Hadoop是否遵循UNIX模式畜隶?

是的,在UNIX用例下号胚,Hadoop還擁有“conf”目錄籽慢。

7. Hadoop安裝在什么目錄下?

Cloudera和Apache使用相同的目錄結構猫胁,Hadoop被安裝在cd/usr/lib/hadoop-0.20/箱亿。

8. Namenode、Job tracker和task tracker的端口號是弃秆?

Namenode届惋,70;Job tracker菠赚,30脑豹;Task tracker,60衡查。

9. Hadoop的核心配置是什么瘩欺?

Hadoop的核心配置通過兩個xml文件來完成:1,hadoop-default.xml;2击碗,hadoop-site.xml筑悴。這些文件都使用xml格式,因此每個xml中都有一些屬性稍途,包括名稱和值阁吝,但是當下這些文件都已不復存在。

10. 那當下又該如何配置械拍?

Hadoop現(xiàn)在擁有3個配置文件:1突勇,core-site.xml;2坷虑,hdfs-site.xml甲馋;3,mapred-site.xml迄损。這些文件都保存在conf/子目錄下定躏。

11. RAM的溢出因子是?

溢出因子(Spill factor)是臨時文件中儲存文件的大小芹敌,也就是Hadoop-temp目錄痊远。

12. fs.mapr.working.dir只是單一的目錄?

fs.mapr.working.dir只是一個目錄氏捞。

13. hdfs-site.xml的3個主要屬性碧聪?

dfs.name.dir決定的是元數(shù)據(jù)存儲的路徑以及DFS的存儲方式(磁盤或是遠端)

dfs.data.dir決定的是數(shù)據(jù)存儲的路徑

fs.checkpoint.dir用于第二Namenode

14. 如何退出輸入模式?

退出輸入的方式有:1液茎,按ESC逞姿;2,鍵入:q(如果你沒有輸入任何當下)或者鍵入:wq(如果你已經(jīng)輸入當下)捆等,并且按下Enter滞造。

15. 當你輸入hadoopfsck /造成“connection refused java exception’”時,系統(tǒng)究竟發(fā)生了什么栋烤?

這意味著Namenode沒有運行在你的VM之上断部。

16. 我們使用Ubuntu及Cloudera,那么我們該去哪里下載Hadoop班缎,或者是默認就與Ubuntu一起安裝蝴光?

這個屬于Hadoop的默認配置,你必須從Cloudera或者Edureka的dropbox下載达址,然后在你的系統(tǒng)上運行蔑祟。當然,你也可以自己配置沉唠,但是你需要一個Linux box疆虚,Ubuntu或者是Red Hat。在Cloudera網(wǎng)站或者是Edureka的Dropbox中有安裝步驟。

17. “jps”命令的用處径簿?

這個命令可以檢查Namenode罢屈、Datanode、Task Tracker篇亭、 Job Tracker是否正常工作缠捌。

18. 如何重啟Namenode?

點擊stop-all.sh译蒂,再點擊start-all.sh曼月。

鍵入sudo hdfs(Enter),su-hdfs (Enter)柔昼,/etc/init.d/ha(Enter)哑芹,及/etc/init.d/hadoop-0.20-namenode start(Enter)。

19. Fsck的全名捕透?

全名是:File System Check聪姿。

20. 如何檢查Namenode是否正常運行?

如果要檢查Namenode是否正常工作乙嘀,使用命令/etc/init.d/hadoop-0.20-namenode status或者就是簡單的jps末购。

21. mapred.job.tracker命令的作用?

可以讓你知道哪個節(jié)點是Job Tracker乒躺。

22. /etc /init.d命令的作用是招盲?

/etc /init.d說明了守護進程(服務)的位置或狀態(tài)低缩,其實是LINUX特性嘉冒,和Hadoop關系不大。

23. 如何在瀏覽器中查找Namenode咆繁?

如果你確實需要在瀏覽器中查找Namenode讳推,你不再需要localhost:8021,Namenode的端口號是50070玩般。

24. 如何從SU轉到Cloudera银觅?

從SU轉到Cloudera只需要鍵入exit。

25. 啟動和關閉命令會用到哪些文件坏为?

Slaves及Masters究驴。

26. Slaves由什么組成?

Slaves由主機的列表組成匀伏,每臺1行洒忧,用于說明數(shù)據(jù)節(jié)點。

27. Masters由什么組成够颠?

Masters同樣是主機的列表組成熙侍,每臺一行,用于說明第二Namenode服務器。

28. hadoop-env.sh是用于做什么的蛉抓?

hadoop-env.sh提供了Hadoop中. JAVA_HOME的運行環(huán)境庆尘。

29. Master文件是否提供了多個入口?

是的你可以擁有多個Master文件接口巷送。

30. hadoop-env.sh文件當下的位置驶忌?

hadoop-env.sh現(xiàn)在位于conf。

31. 在Hadoop_PID_DIR中惩系,PID代表了什么位岔?

PID代表了“Process ID”。

32. /var/hadoop/pids用于做什么堡牡?

/var/hadoop/pids用來存儲PID抒抬。

33. hadoop-metrics.properties文件的作用是?

hadoop-metrics.properties被用做“Reporting”晤柄,控制Hadoop報告擦剑,初始狀態(tài)是“not to report”。

34. Hadoop需求什么樣的網(wǎng)絡芥颈?

Hadoop核心使用Shell(SSH)來驅動從節(jié)點上的服務器進程惠勒,并在主節(jié)點和從節(jié)點之間使用password-less SSH連接。

35. 全分布式環(huán)境下為什么需求password-less SSH爬坑?

這主要因為集群中通信過于頻繁纠屋,Job Tracker需要盡可能快的給Task Tracker發(fā)布任務。

36. 這會導致安全問題嗎盾计?

完全不用擔心售担。Hadoop集群是完全隔離的,通常情況下無法從互聯(lián)網(wǎng)進行操作署辉。與眾不同的配置族铆,因此我們完全不需要在意這種級別的安全漏洞,比如說通過互聯(lián)網(wǎng)侵入等等哭尝。Hadoop為機器之間的連接提供了一個相對安全的方式哥攘。

37. SSH工作的端口號是?

SSH工作的端口號是NO.22材鹦,當然可以通過它來配置逝淹,22是默認的端口號。

38. SSH中的注意點還包括桶唐?

SSH只是個安全的shell通信栅葡,可以把它當做NO.22上的一種協(xié)議,只需要配置一個密碼就可以安全的訪問莽红。

39. 為什么SSH本地主機需要密碼妥畏?

在SSH中使用密碼主要是增加安全性邦邦,在某些情況下也根本不會設置密碼通信。

40. 如果在SSH中添加key醉蚁,是否還需要設置密碼燃辖?

是的,即使在SSH中添加了key网棍,還是需要設置密碼黔龟。

41. 假如Namenode中沒有數(shù)據(jù)會怎么樣?

沒有數(shù)據(jù)的Namenode就不能稱之為Namenode滥玷,通常情況下氏身,Namenode肯定會有數(shù)據(jù)。

42. 當Job Tracker宕掉時惑畴,Namenode會發(fā)生什么蛋欣?

當Job Tracker失敗時,集群仍然可以正常工作如贷,只要Namenode沒問題陷虎。

43. 是客戶端還是Namenode決定輸入的分片?

這并不是客戶端決定的杠袱,在配置文件中以及決定分片細則尚猿。

44. 是否可以自行搭建Hadoop集群?

是的楣富,只要對Hadoop環(huán)境足夠熟悉凿掂,你完全可以這么做。

45. 是否可以在Windows上運行Hadoop纹蝴?

你最好不要這么做庄萎,Red Hat Linux或者是Ubuntu才是Hadoop的最佳操作系統(tǒng)。在Hadoop安裝中骗灶,Windows通常不會被使用惨恭,因為會出現(xiàn)各種各樣的問題秉馏。因此耙旦,Windows絕對不是Hadoop的推薦系統(tǒng)。

?著作權歸作者所有,轉載或內容合作請聯(lián)系作者
  • 序言:七十年代末萝究,一起剝皮案震驚了整個濱河市免都,隨后出現(xiàn)的幾起案子,更是在濱河造成了極大的恐慌帆竹,老刑警劉巖绕娘,帶你破解...
    沈念sama閱讀 222,104評論 6 515
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件,死亡現(xiàn)場離奇詭異栽连,居然都是意外死亡险领,警方通過查閱死者的電腦和手機侨舆,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 94,816評論 3 399
  • 文/潘曉璐 我一進店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來绢陌,“玉大人挨下,你說我怎么就攤上這事∑晖澹” “怎么了臭笆?”我有些...
    開封第一講書人閱讀 168,697評論 0 360
  • 文/不壞的土叔 我叫張陵,是天一觀的道長秤掌。 經(jīng)常有香客問我愁铺,道長,這世上最難降的妖魔是什么闻鉴? 我笑而不...
    開封第一講書人閱讀 59,836評論 1 298
  • 正文 為了忘掉前任茵乱,我火速辦了婚禮,結果婚禮上孟岛,老公的妹妹穿的比我還像新娘似将。我一直安慰自己,他們只是感情好蚀苛,可當我...
    茶點故事閱讀 68,851評論 6 397
  • 文/花漫 我一把揭開白布在验。 她就那樣靜靜地躺著,像睡著了一般堵未。 火紅的嫁衣襯著肌膚如雪腋舌。 梳的紋絲不亂的頭發(fā)上,一...
    開封第一講書人閱讀 52,441評論 1 310
  • 那天渗蟹,我揣著相機與錄音块饺,去河邊找鬼。 笑死雌芽,一個胖子當著我的面吹牛授艰,可吹牛的內容都是我干的。 我是一名探鬼主播世落,決...
    沈念sama閱讀 40,992評論 3 421
  • 文/蒼蘭香墨 我猛地睜開眼淮腾,長吁一口氣:“原來是場噩夢啊……” “哼!你這毒婦竟也來了屉佳?” 一聲冷哼從身側響起谷朝,我...
    開封第一講書人閱讀 39,899評論 0 276
  • 序言:老撾萬榮一對情侶失蹤,失蹤者是張志新(化名)和其女友劉穎武花,沒想到半個月后圆凰,有當?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體,經(jīng)...
    沈念sama閱讀 46,457評論 1 318
  • 正文 獨居荒郊野嶺守林人離奇死亡体箕,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內容為張勛視角 年9月15日...
    茶點故事閱讀 38,529評論 3 341
  • 正文 我和宋清朗相戀三年专钉,在試婚紗的時候發(fā)現(xiàn)自己被綠了挑童。 大學時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片。...
    茶點故事閱讀 40,664評論 1 352
  • 序言:一個原本活蹦亂跳的男人離奇死亡跃须,死狀恐怖炮沐,靈堂內的尸體忽然破棺而出,到底是詐尸還是另有隱情回怜,我是刑警寧澤大年,帶...
    沈念sama閱讀 36,346評論 5 350
  • 正文 年R本政府宣布,位于F島的核電站玉雾,受9級特大地震影響翔试,放射性物質發(fā)生泄漏。R本人自食惡果不足惜复旬,卻給世界環(huán)境...
    茶點故事閱讀 42,025評論 3 334
  • 文/蒙蒙 一垦缅、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧驹碍,春花似錦壁涎、人聲如沸。這莊子的主人今日做“春日...
    開封第一講書人閱讀 32,511評論 0 24
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽。三九已至浮还,卻和暖如春竟坛,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背钧舌。 一陣腳步聲響...
    開封第一講書人閱讀 33,611評論 1 272
  • 我被黑心中介騙來泰國打工担汤, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留,地道東北人洼冻。 一個月前我還...
    沈念sama閱讀 49,081評論 3 377
  • 正文 我出身青樓崭歧,卻偏偏與公主長得像,于是被迫代替她去往敵國和親撞牢。 傳聞我的和親對象是個殘疾皇子率碾,可洞房花燭夜當晚...
    茶點故事閱讀 45,675評論 2 359

推薦閱讀更多精彩內容

  • 今日體驗:今天下午寶馬x5過來取車播掷,對咱們噴的漆特別不滿意审编,一頓數(shù)落撼班,心里也挺躁,后來經(jīng)過安撫垒酬,車主同意過幾天來重...
    京心達王繹龍閱讀 131評論 0 0
  • 20180728周六砰嘁,戊戌年六月十六件炉。興致驅車凌云鄉(xiāng),非洲大雁此重生矮湘。原名美洲香鶉禽斟冕,產(chǎn)于南中美熱帶。頭頂紅色迷人...
    陳均_8d72閱讀 794評論 0 0
  • 山上有個得道的和尚缅阳,能醫(yī)治百病磕蛇。 山下的人都這么說著。 山上有個快死的和尚十办,吃了能得長生秀撇。 山里的妖怪都這么說著。...
    弱弱書生持白卷閱讀 878評論 0 1
  • 由于在山里沒有信號向族,所以也沒辦法進行文字的分享呵燕。選擇用徒步的方式,可能是希望能進一步接近大自然件相,欣賞到美麗的風景再扭。...
    魚耗子閱讀 96評論 0 0