Spark 開發(fā)環(huán)境搭建(五)- Scala和Spark安裝

五饵撑、Scala 和Spark 安裝

Scala的安裝比較簡單询兴,下載安裝包诡蜓,解壓烫饼,然后配置環(huán)境變量即可使用猎塞。

1. Scala 安裝

下載Scala http://www.scala-lang.org/download/2.11.6.html
為保持統(tǒng)一,我們將安裝的程序都放在/usr目錄下杠纵,在/usr目錄下創(chuàng)建Scala文件夾

sudo mkdir /usr/scala

解壓

tar zxvf scala-2.11.6.tgz
sudo mv scala-2.11.6.tgz /usr/scala/

在/etc/profile中添加scala環(huán)境變量

sudo vim /etc/profile

添加以下內(nèi)容:

export SCALA_HOME=/usr/scala/scala-2.11.6
export PATH=$PATH:$SCALA_HOME/bin

使修改立刻生效:

source /etc/profile

測試Scala是否安裝成功

scala -version // 查看Scala的版本
Scala運(yùn)行測試

2. Spark安裝

spark的安裝和hadoop有些相近荠耽,添加環(huán)境變量,修改配置文件比藻。

2.1 spark下載

下載spark:http://www-eu.apache.org/dist/spark/spark-1.6.2/
這里我們下載:spark-1.6.2-bin-hadoop2.6.tgz
我的程序放置路徑為:

程序路徑.png

解壓:

tar zxvf spark-1.6.2-bin-hadoop2.6.tgz

2.2 添加環(huán)境變量

在/etc/profile中添加spark環(huán)境變量铝量,如下:

export SPARK_HOME=/home/hadoop/package/spark-1.6.2-bin-hadoop2.6
export PATH=$PATH:$SPARK_HOME/bin

是的修改立刻生效

source /etc/profile

2.3 修改配置文件

配置文件在spark-1.6.2-bin-hadoop2.6/conf 文件夾下,因此進(jìn)入文件配置

2.3.1 修改spark-env.sh

conf文件下只有spark-env.sh.template银亲,因此我們copy一份

cp spark-env.sh.template spark-env.sh

該文件中是一個模板文件里面有沒有配置慢叨,我們再其中添加java,Scala务蝠,hadoop拍谐,spark的環(huán)境變量,以使其能夠正常到運(yùn)行馏段,具體添加內(nèi)容為:

export JAVA_HOME=/usr/java/jdk1.8.0_91
export SCALA_HOME=/usr/scala/scala-2.11.6
export SPARK_MASTER=192.168.56.112
export SPARK_WORKER_MEMORY=1g
export HADOOP_HOME=/home/hadoop/package/hadoop-2.7.2/etc/hadoop

2.3.2 修改slaves

操作步驟同上赠尾,

cp slaves.template slaves

添加以下內(nèi)容:

master
slave1
slave2

至此所有安裝都已完成,剩下的就是用同樣的方法去配置另外的機(jī)器毅弧,由于其他機(jī)器是clone出來的气嫁,所以路徑都一樣,直接將 配置好的spark文件夾和/usr/scala 文件夾和環(huán)境變量文件/etc/profile够坐,copy到其他機(jī)器即可寸宵。

3. 測試spark集群

在master機(jī)器上啟動hadoop

./hadoop-2.7.2/sbin/start-all.sh

啟動spark

./spark-1.6.2-bin-hadoop2.6/sbin/start-all.sh

如果不出問題的話崖面,此時你的spark集群已經(jīng)成功啟動,查看集群情況梯影,

http://192.168.56.112:8080/   // ip換成你自己的master地址

會出現(xiàn)一下界面巫员,

集群監(jiān)控界面

如果你跟著教程走到了這一步,那么恭喜你已經(jīng)進(jìn)入大數(shù)據(jù)開發(fā)的海洋甲棍,我也是一名初學(xué)者简识,以后還會繼續(xù)發(fā)布spark學(xué)習(xí)相關(guān)的文章,還望繼續(xù)支持感猛。

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末七扰,一起剝皮案震驚了整個濱河市,隨后出現(xiàn)的幾起案子陪白,更是在濱河造成了極大的恐慌颈走,老刑警劉巖,帶你破解...
    沈念sama閱讀 207,248評論 6 481
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件咱士,死亡現(xiàn)場離奇詭異立由,居然都是意外死亡,警方通過查閱死者的電腦和手機(jī)序厉,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 88,681評論 2 381
  • 文/潘曉璐 我一進(jìn)店門锐膜,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人弛房,你說我怎么就攤上這事枣耀。” “怎么了庭再?”我有些...
    開封第一講書人閱讀 153,443評論 0 344
  • 文/不壞的土叔 我叫張陵捞奕,是天一觀的道長。 經(jīng)常有香客問我拄轻,道長颅围,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 55,475評論 1 279
  • 正文 為了忘掉前任恨搓,我火速辦了婚禮院促,結(jié)果婚禮上,老公的妹妹穿的比我還像新娘斧抱。我一直安慰自己常拓,他們只是感情好,可當(dāng)我...
    茶點(diǎn)故事閱讀 64,458評論 5 374
  • 文/花漫 我一把揭開白布辉浦。 她就那樣靜靜地躺著弄抬,像睡著了一般。 火紅的嫁衣襯著肌膚如雪宪郊。 梳的紋絲不亂的頭發(fā)上掂恕,一...
    開封第一講書人閱讀 49,185評論 1 284
  • 那天拖陆,我揣著相機(jī)與錄音,去河邊找鬼懊亡。 笑死依啰,一個胖子當(dāng)著我的面吹牛,可吹牛的內(nèi)容都是我干的店枣。 我是一名探鬼主播速警,決...
    沈念sama閱讀 38,451評論 3 401
  • 文/蒼蘭香墨 我猛地睜開眼,長吁一口氣:“原來是場噩夢啊……” “哼鸯两!你這毒婦竟也來了闷旧?” 一聲冷哼從身側(cè)響起,我...
    開封第一講書人閱讀 37,112評論 0 261
  • 序言:老撾萬榮一對情侶失蹤甩卓,失蹤者是張志新(化名)和其女友劉穎鸠匀,沒想到半個月后蕉斜,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體逾柿,經(jīng)...
    沈念sama閱讀 43,609評論 1 300
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 36,083評論 2 325
  • 正文 我和宋清朗相戀三年宅此,在試婚紗的時候發(fā)現(xiàn)自己被綠了机错。 大學(xué)時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片。...
    茶點(diǎn)故事閱讀 38,163評論 1 334
  • 序言:一個原本活蹦亂跳的男人離奇死亡父腕,死狀恐怖弱匪,靈堂內(nèi)的尸體忽然破棺而出,到底是詐尸還是另有隱情璧亮,我是刑警寧澤萧诫,帶...
    沈念sama閱讀 33,803評論 4 323
  • 正文 年R本政府宣布,位于F島的核電站枝嘶,受9級特大地震影響帘饶,放射性物質(zhì)發(fā)生泄漏。R本人自食惡果不足惜群扶,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 39,357評論 3 307
  • 文/蒙蒙 一及刻、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧竞阐,春花似錦缴饭、人聲如沸。這莊子的主人今日做“春日...
    開封第一講書人閱讀 30,357評論 0 19
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽。三九已至幕垦,卻和暖如春峭火,著一層夾襖步出監(jiān)牢的瞬間毁习,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 31,590評論 1 261
  • 我被黑心中介騙來泰國打工卖丸, 沒想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留纺且,地道東北人。 一個月前我還...
    沈念sama閱讀 45,636評論 2 355
  • 正文 我出身青樓稍浆,卻偏偏與公主長得像载碌,于是被迫代替她去往敵國和親。 傳聞我的和親對象是個殘疾皇子衅枫,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 42,925評論 2 344

推薦閱讀更多精彩內(nèi)容