時至今日腿短,Hadoop已成為最流行的離線數(shù)據(jù)處理平臺皆看,然而它的集群配置起來并不簡單。如果你學習Hadoop不久橱夭,相信下面這45個問題會對你有所幫助哺壶。
大數(shù)據(jù)和架構師相關課程可以點擊“免費了解”
在工作生活中屋吨,有些問題非常簡單,但往往搜索半天也找不到所需的答案山宾,在Hadoop的學習與使用過程中同樣如此至扰。這里為大家分享Hadoop集群設置中經(jīng)常出現(xiàn)的一些問題,以下為譯文:
1.Hadoop集群可以運行的3個模式资锰?
單機(本地)模式
偽分布式模式
全分布式模式
2. 單機(本地)模式中的注意點敢课?
在單機模式(standalone)中不會存在守護進程,所有東西都運行在一個JVM上。這里同樣沒有DFS直秆,使用的是本地文件系統(tǒng)濒募。單機模式適用于開發(fā)過程中運行MapReduce程序,這也是最少使用的一個模式圾结。
3. 偽分布模式中的注意點瑰剃?
偽分布式(Pseudo)適用于開發(fā)和測試環(huán)境,在這個模式中筝野,所有守護進程都在同一臺機器上運行晌姚。
4. VM是否可以稱為Pseudo?
不是歇竟,兩個事物挥唠,同時Pseudo只針對Hadoop。
5. 全分布模式又有什么注意點途蒋?
全分布模式通常被用于生產(chǎn)環(huán)境,這里我們使用N臺主機組成一個Hadoop集群馋记,Hadoop守護進程運行在每臺主機之上号坡。這里會存在Namenode運行的主機,Datanode運行的主機梯醒,以及task tracker運行的主機宽堆。在分布式環(huán)境下,主節(jié)點和從節(jié)點會分開茸习。
6. Hadoop是否遵循UNIX模式畜隶?
是的,在UNIX用例下号胚,Hadoop還擁有“conf”目錄籽慢。
7. Hadoop安裝在什么目錄下?
Cloudera和Apache使用相同的目錄結構猫胁,Hadoop被安裝在cd/usr/lib/hadoop-0.20/箱亿。
8. Namenode、Job tracker和task tracker的端口號是弃秆?
Namenode届惋,70;Job tracker菠赚,30脑豹;Task tracker,60衡查。
9. Hadoop的核心配置是什么瘩欺?
Hadoop的核心配置通過兩個xml文件來完成:1,hadoop-default.xml;2击碗,hadoop-site.xml筑悴。這些文件都使用xml格式,因此每個xml中都有一些屬性稍途,包括名稱和值阁吝,但是當下這些文件都已不復存在。
10. 那當下又該如何配置械拍?
Hadoop現(xiàn)在擁有3個配置文件:1突勇,core-site.xml;2坷虑,hdfs-site.xml甲馋;3,mapred-site.xml迄损。這些文件都保存在conf/子目錄下定躏。
11. RAM的溢出因子是?
溢出因子(Spill factor)是臨時文件中儲存文件的大小芹敌,也就是Hadoop-temp目錄痊远。
12. fs.mapr.working.dir只是單一的目錄?
fs.mapr.working.dir只是一個目錄氏捞。
13. hdfs-site.xml的3個主要屬性碧聪?
dfs.name.dir決定的是元數(shù)據(jù)存儲的路徑以及DFS的存儲方式(磁盤或是遠端)
dfs.data.dir決定的是數(shù)據(jù)存儲的路徑
fs.checkpoint.dir用于第二Namenode
14. 如何退出輸入模式?
退出輸入的方式有:1液茎,按ESC逞姿;2,鍵入:q(如果你沒有輸入任何當下)或者鍵入:wq(如果你已經(jīng)輸入當下)捆等,并且按下Enter滞造。
15. 當你輸入hadoopfsck /造成“connection refused java exception’”時,系統(tǒng)究竟發(fā)生了什么栋烤?
這意味著Namenode沒有運行在你的VM之上断部。
16. 我們使用Ubuntu及Cloudera,那么我們該去哪里下載Hadoop班缎,或者是默認就與Ubuntu一起安裝蝴光?
這個屬于Hadoop的默認配置,你必須從Cloudera或者Edureka的dropbox下載达址,然后在你的系統(tǒng)上運行蔑祟。當然,你也可以自己配置沉唠,但是你需要一個Linux box疆虚,Ubuntu或者是Red Hat。在Cloudera網(wǎng)站或者是Edureka的Dropbox中有安裝步驟。
17. “jps”命令的用處径簿?
這個命令可以檢查Namenode罢屈、Datanode、Task Tracker篇亭、 Job Tracker是否正常工作缠捌。
18. 如何重啟Namenode?
點擊stop-all.sh译蒂,再點擊start-all.sh曼月。
鍵入sudo hdfs(Enter),su-hdfs (Enter)柔昼,/etc/init.d/ha(Enter)哑芹,及/etc/init.d/hadoop-0.20-namenode start(Enter)。
19. Fsck的全名捕透?
全名是:File System Check聪姿。
20. 如何檢查Namenode是否正常運行?
如果要檢查Namenode是否正常工作乙嘀,使用命令/etc/init.d/hadoop-0.20-namenode status或者就是簡單的jps末购。
21. mapred.job.tracker命令的作用?
可以讓你知道哪個節(jié)點是Job Tracker乒躺。
22. /etc /init.d命令的作用是招盲?
/etc /init.d說明了守護進程(服務)的位置或狀態(tài)低缩,其實是LINUX特性嘉冒,和Hadoop關系不大。
23. 如何在瀏覽器中查找Namenode咆繁?
如果你確實需要在瀏覽器中查找Namenode讳推,你不再需要localhost:8021,Namenode的端口號是50070玩般。
24. 如何從SU轉到Cloudera银觅?
從SU轉到Cloudera只需要鍵入exit。
25. 啟動和關閉命令會用到哪些文件坏为?
Slaves及Masters究驴。
26. Slaves由什么組成?
Slaves由主機的列表組成匀伏,每臺1行洒忧,用于說明數(shù)據(jù)節(jié)點。
27. Masters由什么組成够颠?
Masters同樣是主機的列表組成熙侍,每臺一行,用于說明第二Namenode服務器。
28. hadoop-env.sh是用于做什么的蛉抓?
hadoop-env.sh提供了Hadoop中. JAVA_HOME的運行環(huán)境庆尘。
29. Master文件是否提供了多個入口?
是的你可以擁有多個Master文件接口巷送。
30. hadoop-env.sh文件當下的位置驶忌?
hadoop-env.sh現(xiàn)在位于conf。
31. 在Hadoop_PID_DIR中惩系,PID代表了什么位岔?
PID代表了“Process ID”。
32. /var/hadoop/pids用于做什么堡牡?
/var/hadoop/pids用來存儲PID抒抬。
33. hadoop-metrics.properties文件的作用是?
hadoop-metrics.properties被用做“Reporting”晤柄,控制Hadoop報告擦剑,初始狀態(tài)是“not to report”。
34. Hadoop需求什么樣的網(wǎng)絡芥颈?
Hadoop核心使用Shell(SSH)來驅動從節(jié)點上的服務器進程惠勒,并在主節(jié)點和從節(jié)點之間使用password-less SSH連接。
35. 全分布式環(huán)境下為什么需求password-less SSH爬坑?
這主要因為集群中通信過于頻繁纠屋,Job Tracker需要盡可能快的給Task Tracker發(fā)布任務。
36. 這會導致安全問題嗎盾计?
完全不用擔心售担。Hadoop集群是完全隔離的,通常情況下無法從互聯(lián)網(wǎng)進行操作署辉。與眾不同的配置族铆,因此我們完全不需要在意這種級別的安全漏洞,比如說通過互聯(lián)網(wǎng)侵入等等哭尝。Hadoop為機器之間的連接提供了一個相對安全的方式哥攘。
37. SSH工作的端口號是?
SSH工作的端口號是NO.22材鹦,當然可以通過它來配置逝淹,22是默認的端口號。
38. SSH中的注意點還包括桶唐?
SSH只是個安全的shell通信栅葡,可以把它當做NO.22上的一種協(xié)議,只需要配置一個密碼就可以安全的訪問莽红。
39. 為什么SSH本地主機需要密碼妥畏?
在SSH中使用密碼主要是增加安全性邦邦,在某些情況下也根本不會設置密碼通信。
40. 如果在SSH中添加key醉蚁,是否還需要設置密碼燃辖?
是的,即使在SSH中添加了key网棍,還是需要設置密碼黔龟。
41. 假如Namenode中沒有數(shù)據(jù)會怎么樣?
沒有數(shù)據(jù)的Namenode就不能稱之為Namenode滥玷,通常情況下氏身,Namenode肯定會有數(shù)據(jù)。
42. 當Job Tracker宕掉時惑畴,Namenode會發(fā)生什么蛋欣?
當Job Tracker失敗時,集群仍然可以正常工作如贷,只要Namenode沒問題陷虎。
43. 是客戶端還是Namenode決定輸入的分片?
這并不是客戶端決定的杠袱,在配置文件中以及決定分片細則尚猿。
44. 是否可以自行搭建Hadoop集群?
是的楣富,只要對Hadoop環(huán)境足夠熟悉凿掂,你完全可以這么做。
45. 是否可以在Windows上運行Hadoop纹蝴?
你最好不要這么做庄萎,Red Hat Linux或者是Ubuntu才是Hadoop的最佳操作系統(tǒng)。在Hadoop安裝中骗灶,Windows通常不會被使用惨恭,因為會出現(xiàn)各種各樣的問題秉馏。因此耙旦,Windows絕對不是Hadoop的推薦系統(tǒng)。