Flink HA部署


1丁寄、Flink簡介

Apache Flink是一個框架和分布式處理引擎苔可,用于對無界和有界數(shù)據(jù)流進行有狀態(tài)計算臀蛛。Flink被設(shè)計在所有常見的集群環(huán)境中運行刊殉,以內(nèi)存執(zhí)行速度和任意規(guī)模來執(zhí)行計算闺阱。

Flink起源于Stratosphere項目炮车,Stratosphere是在2010~2014年由3所地處柏林的大學和歐洲的一些其他的大學共同進行的研究項目,2014年4月Stratosphere的代碼被復制并捐贈給了Apache軟件基金會酣溃,參加這個孵化項目的初始成員是Stratosphere系統(tǒng)的核心開發(fā)人員瘦穆,2014年12月,F(xiàn)link一躍成為Apache軟件基金會的頂級項目赊豌。

Flink雖然誕生的早(2010年)扛或,但是其實是起大早趕晚集,直到2015年才開始突然爆發(fā)熱度碘饼。

在Flink被apache提升為頂級項目之后熙兔,阿里實時計算團隊決定在阿里內(nèi)部建立一個Flink 分支 Blink,并對 Flink 進行大量的修改和完善艾恼,讓其適應(yīng)阿里巴巴這種超大規(guī)模的業(yè)務(wù)場景住涉。

Blink由2016年上線,服務(wù)于阿里集團內(nèi)部搜索钠绍、推薦舆声、廣告和螞蟻等大量核心實時業(yè)務(wù)。與2019年1月Blink正式開源,目前阿里70%的技術(shù)部門都有使用該版本媳握。

Blink比起Flink的優(yōu)勢就是對SQL語法的更完善的支持以及執(zhí)行SQL的性能提升碱屁。

2、Flink 安裝部署 HA

a:下載 Flink tar 包

略坑的地方是蛾找,flink 包賊難下載娩脾,巨慢,有需要聯(lián)系博主

b:解壓 Flink tar 包

當我們解壓完成后打毛,看一下原始目錄

c:修改conf 下 ?flink-conf.yaml

jobmanager.rpc.address: stat-master

jobmanager.rpc.port: 6123

jobmanager.heap.size: 1024m

taskmanager.heap.size: 1024m

taskmanager.numberOfTaskSlots: 2

parallelism.default: 1

taskmanager.tmp.dirs: /opt/hadoop/flink-1.7.0/tmp

high-availability: zookeeper

high-availability.storageDir: hdfs://stat-master:9000/flink/ha/

high-availability.zookeeper.quorum: core-master:2181,core-slave01:2181,core-slave02:2181

high-availability.zookeeper.client.acl: open

state.backend: filesystem

state.checkpoints.dir: hdfs://stat-master:9000/flink-checkpoints

rest.port: 8081

d:修改 conf 下 masters

這時候有大家可能不知道我的hosts文件映射晦雨,我截圖給大家說明

e:修改conf 下 slaves

f:修改 conf下 zoo.cfg

tickTime=2000

initLimit=10

syncLimit=5

dataDir=/tmp/zookeeper

clientPort=2181

server.1=core-master:2888:3888

server.2=core-slave01:2888:3888

server.3=core-slave02:2888:3888

g:分別上傳 給各個機器?

h:啟動 / 停止 flink 集群

進入到 bin 目錄下 執(zhí)行?

啟動?./start-cluster.sh

停止?./stop-cluster.sh

jps 查看進程

i:驗證服務(wù)是否啟動成功

進行模擬連接 webUI 執(zhí)行?curl 172.16.16.204:8081

查看端口號??netstat -tunlp

webUI 界面

然后進行kill 掉進程 進行了切換

至此 Flink HA 全部搭建完畢,后續(xù)博主會更新如何提交任務(wù)隘冲,F(xiàn)link 使用以及整體鏈路闹瞧,如果幫助到大家記得點個贊哦~



?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末,一起剝皮案震驚了整個濱河市展辞,隨后出現(xiàn)的幾起案子奥邮,更是在濱河造成了極大的恐慌,老刑警劉巖罗珍,帶你破解...
    沈念sama閱讀 217,406評論 6 503
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件洽腺,死亡現(xiàn)場離奇詭異,居然都是意外死亡覆旱,警方通過查閱死者的電腦和手機蘸朋,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 92,732評論 3 393
  • 文/潘曉璐 我一進店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來扣唱,“玉大人藕坯,你說我怎么就攤上這事≡肷常” “怎么了炼彪?”我有些...
    開封第一講書人閱讀 163,711評論 0 353
  • 文/不壞的土叔 我叫張陵,是天一觀的道長正歼。 經(jīng)常有香客問我辐马,道長,這世上最難降的妖魔是什么局义? 我笑而不...
    開封第一講書人閱讀 58,380評論 1 293
  • 正文 為了忘掉前任喜爷,我火速辦了婚禮,結(jié)果婚禮上萄唇,老公的妹妹穿的比我還像新娘檩帐。我一直安慰自己,他們只是感情好穷绵,可當我...
    茶點故事閱讀 67,432評論 6 392
  • 文/花漫 我一把揭開白布轿塔。 她就那樣靜靜地躺著特愿,像睡著了一般仲墨。 火紅的嫁衣襯著肌膚如雪勾缭。 梳的紋絲不亂的頭發(fā)上,一...
    開封第一講書人閱讀 51,301評論 1 301
  • 那天目养,我揣著相機與錄音俩由,去河邊找鬼。 笑死癌蚁,一個胖子當著我的面吹牛幻梯,可吹牛的內(nèi)容都是我干的。 我是一名探鬼主播努释,決...
    沈念sama閱讀 40,145評論 3 418
  • 文/蒼蘭香墨 我猛地睜開眼碘梢,長吁一口氣:“原來是場噩夢啊……” “哼!你這毒婦竟也來了伐蒂?” 一聲冷哼從身側(cè)響起煞躬,我...
    開封第一講書人閱讀 39,008評論 0 276
  • 序言:老撾萬榮一對情侶失蹤,失蹤者是張志新(化名)和其女友劉穎逸邦,沒想到半個月后恩沛,有當?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體,經(jīng)...
    沈念sama閱讀 45,443評論 1 314
  • 正文 獨居荒郊野嶺守林人離奇死亡缕减,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點故事閱讀 37,649評論 3 334
  • 正文 我和宋清朗相戀三年雷客,在試婚紗的時候發(fā)現(xiàn)自己被綠了。 大學時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片桥狡。...
    茶點故事閱讀 39,795評論 1 347
  • 序言:一個原本活蹦亂跳的男人離奇死亡搅裙,死狀恐怖,靈堂內(nèi)的尸體忽然破棺而出裹芝,到底是詐尸還是另有隱情呈宇,我是刑警寧澤,帶...
    沈念sama閱讀 35,501評論 5 345
  • 正文 年R本政府宣布局雄,位于F島的核電站甥啄,受9級特大地震影響,放射性物質(zhì)發(fā)生泄漏炬搭。R本人自食惡果不足惜蜈漓,卻給世界環(huán)境...
    茶點故事閱讀 41,119評論 3 328
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望宫盔。 院中可真熱鬧融虽,春花似錦、人聲如沸灼芭。這莊子的主人今日做“春日...
    開封第一講書人閱讀 31,731評論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽。三九已至巍佑,卻和暖如春茴迁,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背萤衰。 一陣腳步聲響...
    開封第一講書人閱讀 32,865評論 1 269
  • 我被黑心中介騙來泰國打工堕义, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留,地道東北人脆栋。 一個月前我還...
    沈念sama閱讀 47,899評論 2 370
  • 正文 我出身青樓倦卖,卻偏偏與公主長得像,于是被迫代替她去往敵國和親椿争。 傳聞我的和親對象是個殘疾皇子怕膛,可洞房花燭夜當晚...
    茶點故事閱讀 44,724評論 2 354

推薦閱讀更多精彩內(nèi)容