Spark 運(yùn)行模式----Standalone模式

構(gòu)建一個(gè)由Master + Slave 構(gòu)成的 Spark 集群染坯,Spark 運(yùn)行在集群中取试。

這個(gè)要和Hadoop 中的 Standalone 區(qū)別開來. 這里的 Standalone 是指只用 Spark 來搭建一個(gè)集群, 不需要借助其他的框架.是相對于 Yarn 和 Mesos 來說的.

進(jìn)入Spark/conf配置文件目錄下杆逗,配置spark-evn.sh

cd?conf/?

mv?spark-env.sh.template spark-env.sh

1. 在spark-env.sh文件中配置如下內(nèi)容:

SPARK_MASTER_HOST=hadoop102

SPARK_MASTER_PORT=7077#默認(rèn)端口就是7077, 可以省略不配

2. 修改slaves文件, 添加 worker 節(jié)點(diǎn)

mv?slaves.template slaves

3. 在slaves文件中配置如下內(nèi)容:

hadoop103

hadoop104

4. sbin/spark-config.sh中添加入JAVA_HOME

vi?spark-config.sh

export JAVA_HOME=/opt/module/jdk8

5. 分發(fā)?spark-standalone

scp -r /opt/module/spark?hadoop103:/opt/module/

scp -r /opt/module/spark?hadoop104:/opt/module/

scp /etc/profile root@hadoop103:/etc

scp /etc/profile root@hadoop104:/etc source?

/etc/profile 刷新配置

6. 啟動Spark集群

sbin/start-all.sh

7.使用jps查看,或者在網(wǎng)頁中查看Spark集群情況

http://192.168.1.102:8080/



?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末箕速,一起剝皮案震驚了整個(gè)濱河市园欣,隨后出現(xiàn)的幾起案子叼风,更是在濱河造成了極大的恐慌取董,老刑警劉巖,帶你破解...
    沈念sama閱讀 218,682評論 6 507
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件无宿,死亡現(xiàn)場離奇詭異茵汰,居然都是意外死亡,警方通過查閱死者的電腦和手機(jī)孽鸡,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 93,277評論 3 395
  • 文/潘曉璐 我一進(jìn)店門蹂午,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人彬碱,你說我怎么就攤上這事豆胸。” “怎么了巷疼?”我有些...
    開封第一講書人閱讀 165,083評論 0 355
  • 文/不壞的土叔 我叫張陵晚胡,是天一觀的道長。 經(jīng)常有香客問我嚼沿,道長估盘,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 58,763評論 1 295
  • 正文 為了忘掉前任伏尼,我火速辦了婚禮忿檩,結(jié)果婚禮上尉尾,老公的妹妹穿的比我還像新娘爆阶。我一直安慰自己,他們只是感情好沙咏,可當(dāng)我...
    茶點(diǎn)故事閱讀 67,785評論 6 392
  • 文/花漫 我一把揭開白布辨图。 她就那樣靜靜地躺著,像睡著了一般肢藐。 火紅的嫁衣襯著肌膚如雪故河。 梳的紋絲不亂的頭發(fā)上,一...
    開封第一講書人閱讀 51,624評論 1 305
  • 那天吆豹,我揣著相機(jī)與錄音鱼的,去河邊找鬼理盆。 笑死,一個(gè)胖子當(dāng)著我的面吹牛凑阶,可吹牛的內(nèi)容都是我干的猿规。 我是一名探鬼主播,決...
    沈念sama閱讀 40,358評論 3 418
  • 文/蒼蘭香墨 我猛地睜開眼宙橱,長吁一口氣:“原來是場噩夢啊……” “哼姨俩!你這毒婦竟也來了?” 一聲冷哼從身側(cè)響起师郑,我...
    開封第一講書人閱讀 39,261評論 0 276
  • 序言:老撾萬榮一對情侶失蹤环葵,失蹤者是張志新(化名)和其女友劉穎,沒想到半個(gè)月后宝冕,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體张遭,經(jīng)...
    沈念sama閱讀 45,722評論 1 315
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 37,900評論 3 336
  • 正文 我和宋清朗相戀三年地梨,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了帝璧。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片。...
    茶點(diǎn)故事閱讀 40,030評論 1 350
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡湿刽,死狀恐怖的烁,靈堂內(nèi)的尸體忽然破棺而出,到底是詐尸還是另有隱情诈闺,我是刑警寧澤渴庆,帶...
    沈念sama閱讀 35,737評論 5 346
  • 正文 年R本政府宣布,位于F島的核電站雅镊,受9級特大地震影響襟雷,放射性物質(zhì)發(fā)生泄漏。R本人自食惡果不足惜仁烹,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 41,360評論 3 330
  • 文/蒙蒙 一耸弄、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧卓缰,春花似錦计呈、人聲如沸。這莊子的主人今日做“春日...
    開封第一講書人閱讀 31,941評論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽。三九已至总寒,卻和暖如春扶歪,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背摄闸。 一陣腳步聲響...
    開封第一講書人閱讀 33,057評論 1 270
  • 我被黑心中介騙來泰國打工善镰, 沒想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留妹萨,地道東北人。 一個(gè)月前我還...
    沈念sama閱讀 48,237評論 3 371
  • 正文 我出身青樓炫欺,卻偏偏與公主長得像眠副,于是被迫代替她去往敵國和親。 傳聞我的和親對象是個(gè)殘疾皇子竣稽,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 44,976評論 2 355