大數(shù)據(jù)入門——搭建Hadoop處理環(huán)境

由于Hadoop需要運行在Linux環(huán)境中督禽,而且是分布式的,因此個人學(xué)習(xí)只能裝虛擬機,本文都以VMware Workstation為準需频,安裝CentOS7,具體的安裝此處不作過多介紹筷凤,只作需要用到的知識介紹昭殉。

VMware的安裝苞七,裝好一個虛擬機后利用復(fù)制虛擬機的方式創(chuàng)建后面幾個虛擬機,省時省力挪丢,需要注意的是需要修改每個虛擬機的IP與主機名蹂风。

所有虛擬機采用NAT模式上網(wǎng),而且要保證與物理主機的IP互相能訪問乾蓬。

需要注意的幾個問題惠啄。nat如果上網(wǎng)首先需要查看物理機(pc機)這個服務(wù)器已經(jīng)啟動。上網(wǎng)的原理:流量是走的物理網(wǎng)卡任内,但是它的ip,卻是和物理機沒有關(guān)系的撵渡。也就是說,無論你怎么更換網(wǎng)絡(luò)環(huán)境死嗦,你的虛擬機都不需要做改變趋距。這就是它的優(yōu)點。



首先在安裝VMware 之后越走,我們會看到多了兩個網(wǎng)卡

這個如果經(jīng)過網(wǎng)絡(luò)配置的折磨棚品,應(yīng)該能找到著兩個網(wǎng)卡:vmnet1和vmnet8,這里講的是vmnet8廊敌。



重點看右側(cè)第三圖你會看到ip地址铜跑,這個ip地址,因個人而異骡澈,也就是說不同網(wǎng)絡(luò)锅纺,不同環(huán)境,這個ip變化的概率是很大的肋殴《陲保可能是192.168.0.1等等。這里也相當于我們編程的一個變量护锤,這里是需要你根據(jù)你的環(huán)境來賦值的官地,建議vmnet1到vmnet8分別設(shè)置192.168.10.1到192.168.80.1,好作區(qū)分烙懦。

上面我們通過看到的虛擬機網(wǎng)卡的ip驱入,為了避免混肴,上面的虛擬網(wǎng)卡和本地網(wǎng)絡(luò)適配器處于同一界面氯析。如下圖:



而下面則是在打開虛擬機之后亏较,通過菜單彈出



彈出之后,我們在看一下虛擬機的(交換機)vmnet8.

可以看到vmnet8子網(wǎng)ip和虛擬機網(wǎng)卡是出于同一個網(wǎng)段的掩缓。

同時在右側(cè)net設(shè)置界面雪情,我們可以看到網(wǎng)關(guān)為:192.168.106.2,改成192.168.80.2 虛擬機的設(shè)置會用到你辣。

Linux基礎(chǔ)知識

Linux的學(xué)習(xí)也是一個過程巡通,因為可能你連最簡單的開機和關(guān)機命令都不會尘执,更不要談配置網(wǎng)絡(luò)。這里面給大家提供剛開始學(xué)習(xí)所查閱的資料和經(jīng)驗總結(jié)扁达。

首先我們需要使用一些命令正卧,進行網(wǎng)絡(luò)配置,但是在網(wǎng)絡(luò)配置中跪解,這里面又必須懂得虛擬機的一些知識炉旷,所以前面的虛擬機知識需要掌握扎實一些。

在此注意CentOS7與CentOS6的命令有些不同叉讥,會一些常用命令是必備窘行,每次開機或啟動解壓安裝授權(quán)都是最基本的知識,其它的可以暫時不用學(xué)图仓。

CentOS中安裝java環(huán)境

下載對應(yīng)32或64位jdk罐盔,設(shè)置好JDK環(huán)境變量PATH,具體的配置可自行Google救崔。

環(huán)境準備

修改機器名,每個系統(tǒng)中都要修改成這樣惶看。

打開終端,切換到root用戶下修改機器名稱六孵。

$ sudo su

$ vim /etc/sysconfig/network

在其中添加“HOSTNAME=H32”

添加每個服務(wù)器IP對應(yīng)的機器名

三個ip地址都添加到各自的/etc/hosts文件中

每個系統(tǒng)中都要修改成這樣

#編輯hosts

vim /etc/hosts



關(guān)閉SELinux

#編輯 SELinux 配置文件

vim /etc/selinux/config

#改狀態(tài)

SELINUX=disabled

SSH設(shè)置

進入H30纬黎,查看ssh是否安裝,如果有,繼續(xù)劫窒,沒有安裝下本今。

rpm -qa|grep ssh



時間服務(wù)器安裝

這里需要安裝時間服務(wù)器,其他的服務(wù)器通過這個來進行多機器時間的同步主巍,分布式部署時機器時間不一致會導(dǎo)致數(shù)據(jù)錯誤或組件內(nèi)通訊錯誤冠息。

安裝httpd服務(wù)

httpd是Apache超文本傳輸協(xié)議(HTTP)服務(wù)器的主程序。被設(shè)計為一個獨立運行的后臺進程孕索,它會建立一個處理請求的子進程或線程的池逛艰。

安裝yum-utils

yum install yum-utils 用于在線yum安裝 它是基於RPM包管理,能夠從指定的服務(wù)器自動下載RPM包并且安裝搞旭,可以自動處理依賴性關(guān)系瓮孙,并且一次安裝所有依賴的軟體包,無須繁瑣地一次次下載选脊、安裝。yum提供了查找脸甘、安裝恳啥、刪除某一個、一組甚至全部軟件包的命令丹诀,而且命令簡潔而又好記钝的。(需要機器能訪問外網(wǎng))

準備資源和環(huán)境

下載Centos 7.2 的iso安裝鏡像翁垂,jdk1.8 for Linux壓縮包,hadoop2.7.3壓縮包(本來用hadoop3硝桩,發(fā)現(xiàn)后面不兼容hive的最新版本)

Java基礎(chǔ)知識

由于Hadoop框架源碼都是以Java來寫沿猜,因此最好都以Java作為開發(fā)的最佳語言,雖然說有些用C#做了封裝碗脊,但性能已大打折扣啼肩。(這就是為什么說Java的學(xué)大數(shù)據(jù)有很大的優(yōu)勢,其它語言的還需要重新學(xué)習(xí)Java)

Eclipse IDE使用

Linux和Windows下源碼編譯技術(shù)

還有最重要的是你的網(wǎng)速要好衙伶,因為安裝過程中會下載依賴包祈坠,網(wǎng)不好會卡到你懷疑人生。

最后還需要有耐心矢劲,每臺機子的環(huán)境都不一樣赦拘,而且每個人下載的包的版本也有可能不一樣 會導(dǎo)致各種問題,此時就需要耐心的去看日志芬沉,不停的嘗試和仔細的對比安裝步驟躺同,可能就是少了個變量 或大小寫錯誤或是要重啟。

為了幫助大家讓學(xué)習(xí)變得輕松丸逸、高效蹋艺,給大家免費分享一大批資料,幫助大家在成為大數(shù)據(jù)工程師椭员,乃至架構(gòu)師的路上披荊斬棘车海。在這里給大家推薦一個大數(shù)據(jù)學(xué)習(xí)交流圈:658558542 歡迎大家進群交流討論,學(xué)習(xí)交流隘击,共同進步侍芝。

當真正開始學(xué)習(xí)的時候難免不知道從哪入手,導(dǎo)致效率低下影響繼續(xù)學(xué)習(xí)的信心埋同。

但最重要的是不知道哪些技術(shù)需要重點掌握州叠,學(xué)習(xí)時頻繁踩坑,最終浪費大量時間凶赁,所以有有效資源還是很有必要的咧栗。

最后祝福所有遇到瓶疾且不知道怎么辦的大數(shù)據(jù)程序員們,祝福大家在往后的工作與面試中一切順利虱肄。

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末致板,一起剝皮案震驚了整個濱河市,隨后出現(xiàn)的幾起案子咏窿,更是在濱河造成了極大的恐慌斟或,老刑警劉巖,帶你破解...
    沈念sama閱讀 217,734評論 6 505
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件集嵌,死亡現(xiàn)場離奇詭異萝挤,居然都是意外死亡御毅,警方通過查閱死者的電腦和手機,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 92,931評論 3 394
  • 文/潘曉璐 我一進店門怜珍,熙熙樓的掌柜王于貴愁眉苦臉地迎上來端蛆,“玉大人,你說我怎么就攤上這事酥泛〗穸梗” “怎么了?”我有些...
    開封第一講書人閱讀 164,133評論 0 354
  • 文/不壞的土叔 我叫張陵揭璃,是天一觀的道長晚凿。 經(jīng)常有香客問我,道長瘦馍,這世上最難降的妖魔是什么歼秽? 我笑而不...
    開封第一講書人閱讀 58,532評論 1 293
  • 正文 為了忘掉前任,我火速辦了婚禮情组,結(jié)果婚禮上燥筷,老公的妹妹穿的比我還像新娘。我一直安慰自己院崇,他們只是感情好肆氓,可當我...
    茶點故事閱讀 67,585評論 6 392
  • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著底瓣,像睡著了一般谢揪。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上捐凭,一...
    開封第一講書人閱讀 51,462評論 1 302
  • 那天拨扶,我揣著相機與錄音,去河邊找鬼茁肠。 笑死患民,一個胖子當著我的面吹牛,可吹牛的內(nèi)容都是我干的垦梆。 我是一名探鬼主播匹颤,決...
    沈念sama閱讀 40,262評論 3 418
  • 文/蒼蘭香墨 我猛地睜開眼,長吁一口氣:“原來是場噩夢啊……” “哼托猩!你這毒婦竟也來了印蓖?” 一聲冷哼從身側(cè)響起,我...
    開封第一講書人閱讀 39,153評論 0 276
  • 序言:老撾萬榮一對情侶失蹤京腥,失蹤者是張志新(化名)和其女友劉穎另伍,沒想到半個月后,有當?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體,經(jīng)...
    沈念sama閱讀 45,587評論 1 314
  • 正文 獨居荒郊野嶺守林人離奇死亡摆尝,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點故事閱讀 37,792評論 3 336
  • 正文 我和宋清朗相戀三年,在試婚紗的時候發(fā)現(xiàn)自己被綠了因悲。 大學(xué)時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片堕汞。...
    茶點故事閱讀 39,919評論 1 348
  • 序言:一個原本活蹦亂跳的男人離奇死亡,死狀恐怖晃琳,靈堂內(nèi)的尸體忽然破棺而出讯检,到底是詐尸還是另有隱情,我是刑警寧澤卫旱,帶...
    沈念sama閱讀 35,635評論 5 345
  • 正文 年R本政府宣布人灼,位于F島的核電站,受9級特大地震影響顾翼,放射性物質(zhì)發(fā)生泄漏投放。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點故事閱讀 41,237評論 3 329
  • 文/蒙蒙 一适贸、第九天 我趴在偏房一處隱蔽的房頂上張望灸芳。 院中可真熱鬧,春花似錦拜姿、人聲如沸烙样。這莊子的主人今日做“春日...
    開封第一講書人閱讀 31,855評論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽谒获。三九已至,卻和暖如春壁却,著一層夾襖步出監(jiān)牢的瞬間批狱,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 32,983評論 1 269
  • 我被黑心中介騙來泰國打工儒洛, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留精耐,地道東北人。 一個月前我還...
    沈念sama閱讀 48,048評論 3 370
  • 正文 我出身青樓琅锻,卻偏偏與公主長得像卦停,于是被迫代替她去往敵國和親。 傳聞我的和親對象是個殘疾皇子恼蓬,可洞房花燭夜當晚...
    茶點故事閱讀 44,864評論 2 354

推薦閱讀更多精彩內(nèi)容