Flink學習筆記(2):Standalone集群部署

1. 部署說明

Flink 有三種部署模式,分別是 Local垫挨、Standalone Cluster 和 Yarn Cluster。對于 Local 模式來說,JobManager 和 TaskManager 共用一個 JVM夜只,Local模式的部署請點擊http://www.reibang.com/p/26c9ef86fb19。如果要驗證一個簡單的應用炒俱,Local 模式是最方便的盐肃。實際應用中大多使用 Standalone 或者 Yarn Cluster。

Flink是Master/Slave架構(gòu)权悟,充當Master角色的是JobManager砸王,充當Slave角色是SlaveTaskManager。和所有Master/Slave架構(gòu)的集群一樣峦阁,JobManager也存在單點故障的問題谦铃;Flink也提供了Master HA的方案,是由Zookeeper支撐的榔昔;本次部署暫不考慮HA的情況驹闰,僅僅達到了集群運行起來的目標。

2. 部署要求

  • 機器三臺撒会,IP是192.168.1.90—92嘹朗,主機名分別是vm1、vm2诵肛、vm3屹培。

  • Linux操作系統(tǒng),本次使用Centos 7.1。

  • JDK1.7或者更高版本褪秀,本次使用JDK 1.8蓄诽,并配置環(huán)境變量。

      [root@vm1 ~]# vi /etc/profile
      #在文件的末尾配置JAVA_HOME和Path
      export JAVA_HOME=/opt/jdk
      export PATH=$PATH:$JAVA_HOME/bin
    
      [root@vm1 ~]# source /etc/profile
    
  • 設(shè)置ssh免登錄

    • 生成ssh密碼的命令媒吗,-t 參數(shù)表示生成算法仑氛,有rsa和dsa兩種;-P表示使用的密碼闸英,這里使用“”空字符串表示無密碼锯岖。直接回車。

        [root@vm1 ~]# ssh-keygen -t rsa -P ""
      
    • 將生成的密鑰寫入authorized_keys文件甫何。

        [root@vm1 ~]# cat .ssh/id_rsa.pub >>.ssh/authorized_keys
      
    • 將.ssh目錄拷貝到其它主機相同目錄下嚎莉。

        [root@vm1 ~]# scp -r ~/.ssh root@192.168.1.91:~/
        [root@vm1 ~]# scp -r ~/.ssh root@192.168.1.92:~/
      

3. 部署過程

3.1 部署Flink

把Flink的壓縮包解壓到/opt目錄下,即Flink的Home路徑是/opt/flink-1.1.2沛豌,保持各臺機器上flink目錄一致趋箩。

3.2 Flink參數(shù)設(shè)置

Flink的配置文件路徑是/opt/flink-1.1.2/conf,目錄下的文件包括

  • flink-conf.yaml #flink的主配置文件
  • log4j-cli.properties
  • log4j.properties
  • log4j-yarn-session.properties
  • logback.xml
  • logback-yarn.xml
  • masters # master(jobmanager)配置文件
  • slaves # slave(taskmanager)配置文件
  • zoo.cfg # Zookeeper配置文件

本次部署加派,修改了vm1上的flink-conf.yaml叫确、mastes和slaves,并在修改完成后拷貝到了vm2和vm3上芍锦。

3.2.1 flink-conf.yaml的修改

文件路徑是/opt/flink-1.1.2/conf/flink-conf.yaml竹勉,主要關(guān)注以下參數(shù),具體的含義見注釋娄琉。還有更多的參數(shù)配置次乓,例如前端頁面的配置、文件存儲的配置(支持HDFS)孽水、HA的配置等票腰,更多配置說明參考:Flink官方配置說明

# Master的主機名或者ip
jobmanager.rpc.address: vm1

# JobManager監(jiān)聽端口
jobmanager.rpc.port: 6123

# JobManager的內(nèi)存參數(shù)
jobmanager.heap.mb: 512

# 每臺taskmanager可用的總內(nèi)存
taskmanager.heap.mb: 8192

# 每臺taskmanager可用的solt數(shù)目女气,一般設(shè)置成CPU的core數(shù)
taskmanager.numberOfTaskSlots: 2

# NumTaskManagers(slave的個數(shù)) * NumSlotsPerTaskManager
parallelism.default: 4

# 酌情修改臨時目錄杏慰。/tmp中的數(shù)據(jù)重啟就沒了。
taskmanager.tmp.dirs: /tmp

3.2.1 masters的修改

在配置jobmanager(master)文件時炼鞠,除了配置master的主機名(IP)之外缘滥,還需要指定 JobManager 的 UI 監(jiān)聽端口。

vm1:8081

3.2.1 slaves的修改

修改slaves文件谒主,配置多個taskmanager(slave)朝扼。

vm2
vm3

3.3 集群啟動和停止

3.3.1 啟動集群

在master節(jié)點,即本例中的vm1節(jié)點上執(zhí)行以下命令霎肯,啟動集群擎颖。其過程就是先啟動本機的jobmanager凹耙,然后ssh到各個slave節(jié)點上啟動taskmanager。

[root@vm1 flink-1.1.2]# bin/start-cluster.sh

訪問http://vm1:8081肠仪,可以看到有2個taskmanager,和4個slot备典。

Paste_Image.png

3.3.2 停止集群

在master節(jié)點异旧,即本例中的vm1節(jié)點上執(zhí)行以下命令,啟動集群提佣。其過程是先ssh到各個slave節(jié)點上停止taskmanager吮蛹,再停止本機的jobmanager。

[root@vm1 flink-1.1.2]# bin/stop-cluster.sh

3.3.3 啟停集群中的一個節(jié)點

如果想要啟動或者停止機器中的節(jié)點拌屏,不論是jobmanager或者taskmanager潮针,都可以在對應的主機上執(zhí)行以下命令。

# 啟動本機的jobmanager
bin/jobmanager.sh start
# 啟動本機的taskmanager
bin/taskmanager.sh start

# 停止本機的taskmanager
bin/taskmanager.sh stop
# jobmanager
bin/jobmanager.sh stop

https://ci.apache.org/projects/flink/flink-docs-release-1.1/quickstart/setup_quickstart.html#cluster-setup
https://ci.apache.org/projects/flink/flink-docs-release-1.1/setup/cluster_setup.html

(完)

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末倚喂,一起剝皮案震驚了整個濱河市每篷,隨后出現(xiàn)的幾起案子,更是在濱河造成了極大的恐慌端圈,老刑警劉巖焦读,帶你破解...
    沈念sama閱讀 216,470評論 6 501
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件,死亡現(xiàn)場離奇詭異舱权,居然都是意外死亡矗晃,警方通過查閱死者的電腦和手機,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 92,393評論 3 392
  • 文/潘曉璐 我一進店門宴倍,熙熙樓的掌柜王于貴愁眉苦臉地迎上來张症,“玉大人,你說我怎么就攤上這事鸵贬∷姿” “怎么了?”我有些...
    開封第一講書人閱讀 162,577評論 0 353
  • 文/不壞的土叔 我叫張陵阔逼,是天一觀的道長拯辙。 經(jīng)常有香客問我,道長颜价,這世上最難降的妖魔是什么涯保? 我笑而不...
    開封第一講書人閱讀 58,176評論 1 292
  • 正文 為了忘掉前任,我火速辦了婚禮周伦,結(jié)果婚禮上夕春,老公的妹妹穿的比我還像新娘。我一直安慰自己专挪,他們只是感情好及志,可當我...
    茶點故事閱讀 67,189評論 6 388
  • 文/花漫 我一把揭開白布片排。 她就那樣靜靜地躺著,像睡著了一般速侈。 火紅的嫁衣襯著肌膚如雪率寡。 梳的紋絲不亂的頭發(fā)上,一...
    開封第一講書人閱讀 51,155評論 1 299
  • 那天倚搬,我揣著相機與錄音冶共,去河邊找鬼。 笑死每界,一個胖子當著我的面吹牛捅僵,可吹牛的內(nèi)容都是我干的。 我是一名探鬼主播眨层,決...
    沈念sama閱讀 40,041評論 3 418
  • 文/蒼蘭香墨 我猛地睜開眼庙楚,長吁一口氣:“原來是場噩夢啊……” “哼!你這毒婦竟也來了趴樱?” 一聲冷哼從身側(cè)響起馒闷,我...
    開封第一講書人閱讀 38,903評論 0 274
  • 序言:老撾萬榮一對情侶失蹤,失蹤者是張志新(化名)和其女友劉穎叁征,沒想到半個月后窜司,有當?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體,經(jīng)...
    沈念sama閱讀 45,319評論 1 310
  • 正文 獨居荒郊野嶺守林人離奇死亡航揉,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點故事閱讀 37,539評論 2 332
  • 正文 我和宋清朗相戀三年塞祈,在試婚紗的時候發(fā)現(xiàn)自己被綠了。 大學時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片帅涂。...
    茶點故事閱讀 39,703評論 1 348
  • 序言:一個原本活蹦亂跳的男人離奇死亡议薪,死狀恐怖,靈堂內(nèi)的尸體忽然破棺而出媳友,到底是詐尸還是另有隱情斯议,我是刑警寧澤,帶...
    沈念sama閱讀 35,417評論 5 343
  • 正文 年R本政府宣布醇锚,位于F島的核電站哼御,受9級特大地震影響,放射性物質(zhì)發(fā)生泄漏焊唬。R本人自食惡果不足惜恋昼,卻給世界環(huán)境...
    茶點故事閱讀 41,013評論 3 325
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望赶促。 院中可真熱鬧液肌,春花似錦、人聲如沸鸥滨。這莊子的主人今日做“春日...
    開封第一講書人閱讀 31,664評論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽。三九已至老速,卻和暖如春粥喜,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背橘券。 一陣腳步聲響...
    開封第一講書人閱讀 32,818評論 1 269
  • 我被黑心中介騙來泰國打工额湘, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留,地道東北人约郁。 一個月前我還...
    沈念sama閱讀 47,711評論 2 368
  • 正文 我出身青樓,卻偏偏與公主長得像但两,于是被迫代替她去往敵國和親鬓梅。 傳聞我的和親對象是個殘疾皇子,可洞房花燭夜當晚...
    茶點故事閱讀 44,601評論 2 353

推薦閱讀更多精彩內(nèi)容