FLink集群搭建(standalone cluster)

FLink Installation(Standalone Mode)

說明: 安裝教程的參考了Apache Flink官網(wǎng)教程假残,使用的Flink1.3辉懒。如有異議請聯(lián)系我.

軟件要求
  • Java 1.7.x 或者更高
  • ssh sshd必須運行起來坑资,因為flink用來管理遠程的組件

如果集群不滿足全部上述要求,必須進行更新仿便,否則無法搭建flink集群.
如果已經(jīng)配置了ssh免密和在所有的節(jié)點創(chuàng)建了一樣的目錄結構攒巍,那么就可以使用flink腳本來管理一切fink集群事務了。 安裝過程如下:

JAVA_HOME 配置

Flink 所有的節(jié)點需要已經(jīng)指向了java安裝目錄的環(huán)境變量JAVA_HOME. JAVA_HOME可以在conf/flink-conf.yml中通過env.java.java.home鍵進行設置闻坚。

配置ssh免密登錄

在即將安裝flink集群的所有節(jié)點上創(chuàng)建用來管理flink集群的用戶, 例如flink, 并且配置master節(jié)點到所有worker節(jié)點的免密登錄兢孝。

Flink設置

在flink下載頁下載匹配使用的hadoop的版本仅偎,如果不使用hadoop, 那么可以選擇任意版本雳殊。下載完成后夯秃,將安裝包上傳到master節(jié)點上并解壓:
tar xvf flink-.tgz
cd flink-

配置flink

解壓完fink安裝包以后,需要通過編輯conf/flink-conf.yaml來進行集群的配置仓洼。 相關配置項如下:
jobmanager.rpc.address 設置指向master節(jié)點的地址。
jobmanager.heap.mb 設置master/jobmanager節(jié)點jvm可以使用的堆內存大小(MB為單位)
taskmanager.heap.mb 設置taskmanager節(jié)點jvm可以使用的堆內存大小(MB為單位)

注意:如果某些工作節(jié)點有等過的內存可以讓flink使用哺呜,那么可以使用FLINK_TM_HEAP環(huán)境變量來覆蓋默認的設置镀岛。

最后,需要配置一個集群主機的列表。和hdfs配置類似走越,編輯conf/slaves耻瑟,輸入所有的計算節(jié)點(worker)的ip/hostname 。這些輸入的每一個ip/hostname將會被啟動為taskmanager.

以下為3個節(jié)點的flink集群構成和配置谆构。IP從10.0.0.1到10.0.0.3, hostname分別為: master, worker1, worker2框都。

quickstart_cluster.png

flink 的目錄在所有的結束上必須路徑一致魏保。 可以使用一個共享的NFS或者拷貝整個flink目錄到所有的worker節(jié)點上。 根據(jù)詳細的配置請參考配置頁谓罗, 一下的配置是十分重要的。
jobmanager.heap.mb jobmanager 可以使用的內存總量
taskmanager.heap.mb taskmanager 可以使用的內存總量
taskmanager.numberOfTaskSlots 每個機器上可以使用的cpu數(shù)量
parallelism.default 集群中cpu的總數(shù)
taskmanager.tmp.dirs taskmanager的臨時目錄

啟動flink集群

進入flink的安裝目錄揭措,執(zhí)行如下腳本:
bin/start-cluster.sh

如果要停止flink集群绊含,使用stop-cluster.sh腳本

添加jobmanager/taskmanager實例到集群

使用bin/jobmanager.sh 和 bin/taskmanager.sh 腳本可以向正在運行的flink集群中添加jobmanager和taskmanager

添加jobmanager
bin/jobmanager.sh ((start|start-foreground) cluster)|stop|stop-all

添加taskmanager
bin/taskmanager.sh start|start-foreground|stop|stop-all

?著作權歸作者所有,轉載或內容合作請聯(lián)系作者
  • 序言:七十年代末,一起剝皮案震驚了整個濱河市不翩,隨后出現(xiàn)的幾起案子麻裳,更是在濱河造成了極大的恐慌,老刑警劉巖妙蔗,帶你破解...
    沈念sama閱讀 219,490評論 6 508
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件眉反,死亡現(xiàn)場離奇詭異穆役,居然都是意外死亡,警方通過查閱死者的電腦和手機耿币,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 93,581評論 3 395
  • 文/潘曉璐 我一進店門淹接,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人劲适,你說我怎么就攤上這事厢蒜。” “怎么了支示?”我有些...
    開封第一講書人閱讀 165,830評論 0 356
  • 文/不壞的土叔 我叫張陵鄙才,是天一觀的道長攒庵。 經(jīng)常有香客問我败晴,道長栽渴,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 58,957評論 1 295
  • 正文 為了忘掉前任慢味,我火速辦了婚禮墅冷,結果婚禮上,老公的妹妹穿的比我還像新娘驰唬。我一直安慰自己腔彰,他們只是感情好,可當我...
    茶點故事閱讀 67,974評論 6 393
  • 文/花漫 我一把揭開白布搓逾。 她就那樣靜靜地躺著杯拐,像睡著了一般。 火紅的嫁衣襯著肌膚如雪藕施。 梳的紋絲不亂的頭發(fā)上凸郑,一...
    開封第一講書人閱讀 51,754評論 1 307
  • 那天芙沥,我揣著相機與錄音,去河邊找鬼而昨。 笑死,一個胖子當著我的面吹牛着憨,可吹牛的內容都是我干的务嫡。 我是一名探鬼主播漆改,決...
    沈念sama閱讀 40,464評論 3 420
  • 文/蒼蘭香墨 我猛地睜開眼挫剑,長吁一口氣:“原來是場噩夢啊……” “哼柱衔!你這毒婦竟也來了?” 一聲冷哼從身側響起哲戚,我...
    開封第一講書人閱讀 39,357評論 0 276
  • 序言:老撾萬榮一對情侶失蹤或链,失蹤者是張志新(化名)和其女友劉穎,沒想到半個月后澳盐,有當?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體祈纯,經(jīng)...
    沈念sama閱讀 45,847評論 1 317
  • 正文 獨居荒郊野嶺守林人離奇死亡,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內容為張勛視角 年9月15日...
    茶點故事閱讀 37,995評論 3 338
  • 正文 我和宋清朗相戀三年叼耙,在試婚紗的時候發(fā)現(xiàn)自己被綠了腕窥。 大學時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片。...
    茶點故事閱讀 40,137評論 1 351
  • 序言:一個原本活蹦亂跳的男人離奇死亡筛婉,死狀恐怖簇爆,靈堂內的尸體忽然破棺而出,到底是詐尸還是另有隱情爽撒,我是刑警寧澤入蛆,帶...
    沈念sama閱讀 35,819評論 5 346
  • 正文 年R本政府宣布,位于F島的核電站硕勿,受9級特大地震影響哨毁,放射性物質發(fā)生泄漏源武。R本人自食惡果不足惜扼褪,卻給世界環(huán)境...
    茶點故事閱讀 41,482評論 3 331
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望粱栖。 院中可真熱鬧话浇,春花似錦、人聲如沸闹究。這莊子的主人今日做“春日...
    開封第一講書人閱讀 32,023評論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽。三九已至岖瑰,卻和暖如春叛买,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背蹋订。 一陣腳步聲響...
    開封第一講書人閱讀 33,149評論 1 272
  • 我被黑心中介騙來泰國打工率挣, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留,地道東北人露戒。 一個月前我還...
    沈念sama閱讀 48,409評論 3 373
  • 正文 我出身青樓椒功,卻偏偏與公主長得像,于是被迫代替她去往敵國和親智什。 傳聞我的和親對象是個殘疾皇子动漾,可洞房花燭夜當晚...
    茶點故事閱讀 45,086評論 2 355

推薦閱讀更多精彩內容