Flink集群部署模式

根據(jù)集群的生命周期、資源隔離方式和應用程序的main()方法執(zhí)行位置(client或者JobManager)可以將集群部署模式分為:Flink Session Cluster(session mode)古掏、Flink Job Cluster(per-job mode) 和Flink Application Cluster(application mode)三類壹若。

deployment mode

Flink Session Cluster(session mode)

Flink Session Cluster集群部署模式也稱為session mode择葡。該模式集群會預先啟動懦趋、長時間運行,并且能夠接收多個job提交運行千诬。也就是提交到集群的job共享一套flink runtime cluster(JobManager和TaskManager)。

該模式特點如下:

  • 生命周期:集群生命周期不受job影響过咬,只有手動關閉會話大渤,集群才會被停止制妄。

  • 資源隔離:所有job共用一套JobManager和TaskManager掸绞,所有job間存在集群資源競爭,比如提交job階段的帶寬耕捞。并且當節(jié)點發(fā)生FO時衔掸,會影響多個job(JobManager crash會影響所有job)。

  • 模式優(yōu)點:

    • 集群所有節(jié)點都預先啟動俺抽,無需每次啟動作業(yè)都申請資源敞映、啟動節(jié)點,尤其對于作業(yè)執(zhí)行時間段磷斧、對job啟動時間敏感的任務振愿。
    • 資源充分共享,提升資源利用率弛饭。
  • 模式缺點:

    • 資源隔離比較差冕末。
    • 非Native部署,TaskManager不容易擴展侣颂,Slot計算資源伸縮比較差档桃。
  • Client負載:Client負載比較大,需要生成JobGraph憔晒,并將JobGraph及其依賴jar提交到JobManager藻肄。

Flink Session Cluster

Flink Job Cluter(per-job mode)

Flink Job Cluster集群部署模式又稱為per-job mode蔑舞。該模式與Job綁定,集群管理器會為每個Job啟動一個flink runtime cluster(JobManager和TaskManager)嘹屯。Client會首先向集群管理器請求資源來啟動JobManager攻询,并將job提交給其內(nèi)部的Dispatcher,TaskManager根據(jù)job的資源請求延遲分配啟動的州弟。

該模式特點如下:

  • 生命周期:集群生命周期和job綁定蜕窿,job停止后集群也會被停止。

  • 資源隔離:單個Job獨享一套JobManager和TaskManager呆馁,不存在資源競爭問題桐经。并且節(jié)點發(fā)生FO后,只會影響單個job浙滤。

  • 模式優(yōu)點:

    • Job之間資源充分隔離阴挣,不會互相影響。
    • 資源資源根據(jù)job所需來申請纺腊。
  • 模式缺點:

    • job啟動慢畔咧,因為ResourceManager需要向外部資源管理器請求資源來啟動TaskManager。所以一般適合long runtime類型job運行揖膜。
    • 資源相較浪費誓沸,每個job都需要啟動一個JobManager。
  • Client負載:Client負載比較大壹粟,需要生成JobGraph拜隧,并將JobGraph及其依賴jar上傳到JobManager。

Flink Job Cluster

NOTE: Flink Job Cluster模式不支持部署在Kubernetes上趁仙。

Flink Application Cluster(application mode)

Flink Application Cluster集群部署模式又稱為Application mode洪添。該模式集群屬于專屬集群模式,只會執(zhí)行一個Flink Application中的job雀费,集群管理器為每個Flink Application啟動一個flink runtime cluster(JobManager和TaskManager)干奢。并且應用程序的main方法是運行在Cluster中,而不是client上盏袄。

該模式可以看做是對per-job模式和session模式的優(yōu)化部署模式忿峻。集群執(zhí)行job粒度上,相較前兩者找到了更好的一個隔離點辕羽,并且減輕了Client的負載逛尚。

該模式特點如下:

  • 生命周期:生命周期和Flink Application綁定,當Application全部執(zhí)行完逛漫,集群才會停止黑低。

  • 資源隔離:Flink Application使用一套JobManager和TaskManager,相較前兩種模式找到了一個比較好的隔離點。

  • 模式優(yōu)點:

    • 降低Client負載克握。
    • Application之間實現(xiàn)資源隔離蕾管,Application內(nèi)實現(xiàn)資源共享。
  • 模式缺點:

    • 暫無
  • Client負載:用戶將代碼邏輯和相關依賴打到一個jar中菩暗。Client只需負責作業(yè)提交(不包括作業(yè)上傳)掰曾,所以負載非常輕。

Flink Application Cluster

NOTE: Application mode中的多個job停团,實際在代碼上的表現(xiàn)就是能夠允許在一個Application里面調(diào)用多次execute/executeAsyc方法旷坦。但是execute方法會被阻塞,也就是只有一個job完成之后才能繼續(xù)下一個job的execute佑稠,但是可以通過executeAsync進行異步非阻塞執(zhí)行秒梅。
另一個需要注意的點是,對于Application mode的進行HA部署時舌胶,是不支持多個execute執(zhí)行的捆蜀。

最后編輯于
?著作權歸作者所有,轉載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末,一起剝皮案震驚了整個濱河市幔嫂,隨后出現(xiàn)的幾起案子辆它,更是在濱河造成了極大的恐慌,老刑警劉巖履恩,帶你破解...
    沈念sama閱讀 207,113評論 6 481
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件锰茉,死亡現(xiàn)場離奇詭異,居然都是意外死亡切心,警方通過查閱死者的電腦和手機飒筑,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 88,644評論 2 381
  • 文/潘曉璐 我一進店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來昙衅,“玉大人扬霜,你說我怎么就攤上這事定鸟《妫” “怎么了?”我有些...
    開封第一講書人閱讀 153,340評論 0 344
  • 文/不壞的土叔 我叫張陵联予,是天一觀的道長啼县。 經(jīng)常有香客問我,道長沸久,這世上最難降的妖魔是什么季眷? 我笑而不...
    開封第一講書人閱讀 55,449評論 1 279
  • 正文 為了忘掉前任,我火速辦了婚禮卷胯,結果婚禮上子刮,老公的妹妹穿的比我還像新娘。我一直安慰自己,他們只是感情好挺峡,可當我...
    茶點故事閱讀 64,445評論 5 374
  • 文/花漫 我一把揭開白布葵孤。 她就那樣靜靜地躺著,像睡著了一般橱赠。 火紅的嫁衣襯著肌膚如雪尤仍。 梳的紋絲不亂的頭發(fā)上,一...
    開封第一講書人閱讀 49,166評論 1 284
  • 那天狭姨,我揣著相機與錄音宰啦,去河邊找鬼。 笑死饼拍,一個胖子當著我的面吹牛赡模,可吹牛的內(nèi)容都是我干的。 我是一名探鬼主播师抄,決...
    沈念sama閱讀 38,442評論 3 401
  • 文/蒼蘭香墨 我猛地睜開眼纺裁,長吁一口氣:“原來是場噩夢啊……” “哼!你這毒婦竟也來了司澎?” 一聲冷哼從身側響起欺缘,我...
    開封第一講書人閱讀 37,105評論 0 261
  • 序言:老撾萬榮一對情侶失蹤,失蹤者是張志新(化名)和其女友劉穎挤安,沒想到半個月后谚殊,有當?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體,經(jīng)...
    沈念sama閱讀 43,601評論 1 300
  • 正文 獨居荒郊野嶺守林人離奇死亡蛤铜,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點故事閱讀 36,066評論 2 325
  • 正文 我和宋清朗相戀三年嫩絮,在試婚紗的時候發(fā)現(xiàn)自己被綠了。 大學時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片围肥。...
    茶點故事閱讀 38,161評論 1 334
  • 序言:一個原本活蹦亂跳的男人離奇死亡剿干,死狀恐怖,靈堂內(nèi)的尸體忽然破棺而出穆刻,到底是詐尸還是另有隱情置尔,我是刑警寧澤,帶...
    沈念sama閱讀 33,792評論 4 323
  • 正文 年R本政府宣布氢伟,位于F島的核電站榜轿,受9級特大地震影響,放射性物質(zhì)發(fā)生泄漏朵锣。R本人自食惡果不足惜谬盐,卻給世界環(huán)境...
    茶點故事閱讀 39,351評論 3 307
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望诚些。 院中可真熱鬧飞傀,春花似錦、人聲如沸。這莊子的主人今日做“春日...
    開封第一講書人閱讀 30,352評論 0 19
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽。三九已至外冀,卻和暖如春寡键,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背雪隧。 一陣腳步聲響...
    開封第一講書人閱讀 31,584評論 1 261
  • 我被黑心中介騙來泰國打工西轩, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留,地道東北人脑沿。 一個月前我還...
    沈念sama閱讀 45,618評論 2 355
  • 正文 我出身青樓藕畔,卻偏偏與公主長得像,于是被迫代替她去往敵國和親庄拇。 傳聞我的和親對象是個殘疾皇子注服,可洞房花燭夜當晚...
    茶點故事閱讀 42,916評論 2 344

推薦閱讀更多精彩內(nèi)容