Checkpoint Storage
checkpoint期間State Backend存儲(chǔ)snapshot的地方夭织,JobManager的Java 堆內(nèi)存或文件系統(tǒng)Flink Application Cluster
只執(zhí)行一個(gè)Application中的job的集群残吩,生命周期與Application相同Flink Job Cluster
只執(zhí)行一個(gè)job的集群均牢,生命周期與job相同Flink Cluster
包含一個(gè)JobManager和多個(gè)TaskManager進(jìn)程的分布式系統(tǒng)Flink Session Cluster
可接收多次job提交,session不停止則永久運(yùn)行Event
一個(gè)事件是應(yīng)用程序中領(lǐng)域狀態(tài)變化的聲明阵谚,事件可以是流/批處理程序的輸入或輸出。Execution Graph/ Physical Graph/
分布式運(yùn)行時(shí)執(zhí)行的邏輯圖的物理轉(zhuǎn)換,nodes轉(zhuǎn)換為tasks,edges是數(shù)據(jù)流/數(shù)據(jù)集的輸入輸出或分區(qū)關(guān)系Function
用戶實(shí)現(xiàn)的包含一段應(yīng)用邏輯的Flink程序斤程,大多數(shù)function都包含在一個(gè)對(duì)應(yīng)的Operator中Parallel Instance
相同operator或function的多個(gè)并行的實(shí)例Flink Application
在main()里提交的一個(gè)或多個(gè)job,Flink Job
一個(gè)邏輯圖的運(yùn)行時(shí)表示,job提交由execute()完成Job Graph / Logical Graph
數(shù)據(jù)流/數(shù)據(jù)集的操作和輸入輸出關(guān)系的有向圖铛嘱。節(jié)點(diǎn)代表operator, 邊代表operator的輸入輸出關(guān)系暖释。邏輯圖在提交job時(shí)生成袭厂。Managed State
由Flink 框架記錄的應(yīng)用程序的應(yīng)用stateOperator
邏輯圖的節(jié)點(diǎn)墨吓,一個(gè)operator執(zhí)行一種操作球匕,通常由一個(gè)function執(zhí)行Operator Chain
一個(gè)operator chain是兩個(gè)或多個(gè)連續(xù)的不需要重分區(qū)的operator。chained operators之間可不通過(guò)網(wǎng)絡(luò)或序列化直接轉(zhuǎn)發(fā)數(shù)據(jù)帖烘。Partition
數(shù)據(jù)流/數(shù)據(jù)集中獨(dú)立的子集亮曹。partition通常是某個(gè)task的輸入。如果某個(gè)轉(zhuǎn)換操作導(dǎo)致數(shù)據(jù)流/集分區(qū)改變秘症,則稱(chēng)作重分區(qū)照卦。Execution Mode
批模式或流模式State Backend
在流處理應(yīng)用中,TaskManager存儲(chǔ)state的方式:TaskManager的java堆內(nèi)存或內(nèi)置的RocksDBSub-Task
負(fù)責(zé)處理數(shù)據(jù)流中一個(gè)分區(qū)的task乡摹,用sub-task時(shí)表示相同的operator或operator-chain由有多個(gè)并行的taskTask
物理圖的一個(gè)節(jié)點(diǎn)役耕,task是任務(wù)的一個(gè)基本單位Flink TaskManager
Flink集群中的工作者進(jìn)程,Task分配給TaskManager執(zhí)行聪廉,Transformation
通過(guò)對(duì)數(shù)據(jù)流做某種操作而生成新的數(shù)據(jù)流瞬痘,可以是one-to-one的轉(zhuǎn)換,也可以是對(duì)數(shù)據(jù)流的分區(qū)或聚合
Flink 術(shù)語(yǔ)表
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
- 文/潘曉璐 我一進(jìn)店門(mén)竭贩,熙熙樓的掌柜王于貴愁眉苦臉地迎上來(lái)蚜印,“玉大人,你說(shuō)我怎么就攤上這事娶视∩购澹” “怎么了?”我有些...
- 文/不壞的土叔 我叫張陵肪获,是天一觀的道長(zhǎng)寝凌。 經(jīng)常有香客問(wèn)我,道長(zhǎng)孝赫,這世上最難降的妖魔是什么较木? 我笑而不...
- 正文 為了忘掉前任,我火速辦了婚禮青柄,結(jié)果婚禮上伐债,老公的妹妹穿的比我還像新娘预侯。我一直安慰自己,他們只是感情好峰锁,可當(dāng)我...
- 文/花漫 我一把揭開(kāi)白布萎馅。 她就那樣靜靜地躺著,像睡著了一般虹蒋。 火紅的嫁衣襯著肌膚如雪糜芳。 梳的紋絲不亂的頭發(fā)上,一...
- 那天魄衅,我揣著相機(jī)與錄音峭竣,去河邊找鬼。 笑死晃虫,一個(gè)胖子當(dāng)著我的面吹牛皆撩,可吹牛的內(nèi)容都是我干的。 我是一名探鬼主播哲银,決...
- 文/蒼蘭香墨 我猛地睜開(kāi)眼扛吞,長(zhǎng)吁一口氣:“原來(lái)是場(chǎng)噩夢(mèng)啊……” “哼!你這毒婦竟也來(lái)了盘榨?” 一聲冷哼從身側(cè)響起喻粹,我...
- 序言:老撾萬(wàn)榮一對(duì)情侶失蹤,失蹤者是張志新(化名)和其女友劉穎草巡,沒(méi)想到半個(gè)月后守呜,有當(dāng)?shù)厝嗽跇?shù)林里發(fā)現(xiàn)了一具尸體,經(jīng)...
- 正文 獨(dú)居荒郊野嶺守林人離奇死亡山憨,尸身上長(zhǎng)有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
- 正文 我和宋清朗相戀三年查乒,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片郁竟。...
- 正文 年R本政府宣布讥蟆,位于F島的核電站勒虾,受9級(jí)特大地震影響,放射性物質(zhì)發(fā)生泄漏瘸彤。R本人自食惡果不足惜修然,卻給世界環(huán)境...
- 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧愕宋,春花似錦玻靡、人聲如沸。這莊子的主人今日做“春日...
- 文/蒼蘭香墨 我抬頭看了看天上的太陽(yáng)。三九已至雄妥,卻和暖如春最蕾,著一層夾襖步出監(jiān)牢的瞬間依溯,已是汗流浹背老厌。 一陣腳步聲響...
- 正文 我出身青樓,卻偏偏與公主長(zhǎng)得像慷嗜,于是被迫代替她去往敵國(guó)和親淀弹。 傳聞我的和親對(duì)象是個(gè)殘疾皇子,可洞房花燭夜當(dāng)晚...
推薦閱讀更多精彩內(nèi)容
- 說(shuō)明:本文為《Flink大數(shù)據(jù)項(xiàng)目實(shí)戰(zhàn)》學(xué)習(xí)筆記薇溃,想通過(guò)視頻系統(tǒng)學(xué)習(xí)Flink這個(gè)最火爆的大數(shù)據(jù)計(jì)算框架的同學(xué),推...
- 介紹 概述 Apache Flink是一個(gè)面向數(shù)據(jù)流處理和批量數(shù)據(jù)處理的可分布式的開(kāi)源計(jì)算框架缭乘,它基于同一個(gè)Fli...
- 記錄一下曾經(jīng)走過(guò)的一些坑沐序,一定要注意operator狀態(tài)之前盡量不要用keyby Flink提供了Exactly ...
- 來(lái)源:cxhfuujust博客園 :https://www.cnblogs.com/cxhfuujust/p/10...