Flink中指定Key的幾種方式

前言

在Flink中比如某些算子(join,coGroup,keyBy,groupBy)要求在數(shù)據(jù)元上定義key。另外有些算子操作扒披,例如reduce沸停,groupReduce良狈,Aggregate,Windows需要數(shù)據(jù)在處理之前根據(jù)key進(jìn)行分組黍特。

在Flink中數(shù)據(jù)模型不是基于Key,Value格式處理的蛙讥,因此不需將數(shù)據(jù)處理成鍵值對的格式,key是“虛擬的”灭衷,可以人為的來指定次慢,實(shí)際數(shù)據(jù)處理過程中根據(jù)指定的key來對數(shù)據(jù)進(jìn)行分組,DataSet中使用groupBy來指定key,DataStream中使用keyBy來指定key翔曲。那么如何指定keys呢?

一.使用Tuples來指定key

定義元組來指定key可以指定tuple中的第幾個(gè)元素當(dāng)做key迫像,或者指定tuple中的聯(lián)合元素當(dāng)做key。需要使用org.apache.flink.api.java.tuple.TupleXX包下的tuple,最多支持25個(gè)元素且Tuple必須new創(chuàng)建瞳遍。

如果Tuple是嵌套的格式闻妓,例如:DataStream<Tuple3<Tuple2<Integer, Float>,String,Long>> ds,如果指定keyBy(0)則會(huì)使用內(nèi)部的整個(gè)Tuple2作為key掠械。如果想要使用內(nèi)部Tuple2中的Float格式當(dāng)做key由缆,可以使用keyBy("f0.f1")這樣的形式指定。

這里需要注意猾蒂,在Flink的Tuple中指定的key的下標(biāo)從0開始算起均唉,這里不像Scala中的Tuple從1開始算起,同時(shí)一般需要指定key的函數(shù)中都可以有兩種寫法肚菠,一種是直接寫數(shù)字0舔箭,1,2等等蚊逢,還有一種是寫字符串的形式前面的0层扶,1,2對應(yīng)的字符串的表達(dá)形式為f1时捌,f2怒医,f3。

如果需要指定多個(gè)字段當(dāng)做聯(lián)合的Key奢讨,可以寫成keyBy(0,1)稚叹,如果寫成字符串形式在字符串中指定多個(gè)key焰薄,還可以寫成keyBy("f0","f1")的形式。

二.使用Field Expression來指定key

可以使用Field Expression來指定key,一般作用的對象可以是類對象扒袖,或者嵌套的Tuple格式的數(shù)據(jù)塞茅。

對于這種形式的使用,注意點(diǎn)如下:

1.對于類對象可以使用類中的字段來指定key季率,類對象定義需要注意:

  • 類的訪問級別必須是public
  • 必須寫出默認(rèn)的空的構(gòu)造函數(shù)
  • 類中所有的字段必須是public的或者必須有g(shù)etter野瘦,setter方法。
  • Flink必須支持字段的類型飒泻。

2.對于嵌套的Tuple類型的Tuple數(shù)據(jù)可以使用"xx.f0"表示嵌套tuple中第一個(gè)元素鞭光,也可以直接使用”xx.0”來表示第一個(gè)元素。

三.使用Key Selector Functions來指定key

使用key Selector這種方式選擇key泞遗,非常方便惰许,可以從數(shù)據(jù)類型中指定想要的key.

KeyedStream<String, String> keyBy = socketText.keyBy(new KeySelector<String, String>() {
            @Override
            public String getKey(String line) throws Exception {
                return line.split("\t")[2];
            }
        });
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末,一起剝皮案震驚了整個(gè)濱河市史辙,隨后出現(xiàn)的幾起案子汹买,更是在濱河造成了極大的恐慌,老刑警劉巖聊倔,帶你破解...
    沈念sama閱讀 218,682評論 6 507
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件晦毙,死亡現(xiàn)場離奇詭異,居然都是意外死亡耙蔑,警方通過查閱死者的電腦和手機(jī)见妒,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 93,277評論 3 395
  • 文/潘曉璐 我一進(jìn)店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來甸陌,“玉大人徐鹤,你說我怎么就攤上這事⊙悖” “怎么了返敬?”我有些...
    開封第一講書人閱讀 165,083評論 0 355
  • 文/不壞的土叔 我叫張陵,是天一觀的道長寥院。 經(jīng)常有香客問我劲赠,道長,這世上最難降的妖魔是什么秸谢? 我笑而不...
    開封第一講書人閱讀 58,763評論 1 295
  • 正文 為了忘掉前任凛澎,我火速辦了婚禮,結(jié)果婚禮上估蹄,老公的妹妹穿的比我還像新娘塑煎。我一直安慰自己,他們只是感情好臭蚁,可當(dāng)我...
    茶點(diǎn)故事閱讀 67,785評論 6 392
  • 文/花漫 我一把揭開白布最铁。 她就那樣靜靜地躺著讯赏,像睡著了一般。 火紅的嫁衣襯著肌膚如雪冷尉。 梳的紋絲不亂的頭發(fā)上漱挎,一...
    開封第一講書人閱讀 51,624評論 1 305
  • 那天,我揣著相機(jī)與錄音雀哨,去河邊找鬼磕谅。 笑死,一個(gè)胖子當(dāng)著我的面吹牛雾棺,可吹牛的內(nèi)容都是我干的膊夹。 我是一名探鬼主播,決...
    沈念sama閱讀 40,358評論 3 418
  • 文/蒼蘭香墨 我猛地睜開眼捌浩,長吁一口氣:“原來是場噩夢啊……” “哼割疾!你這毒婦竟也來了?” 一聲冷哼從身側(cè)響起嘉栓,我...
    開封第一講書人閱讀 39,261評論 0 276
  • 序言:老撾萬榮一對情侶失蹤,失蹤者是張志新(化名)和其女友劉穎拓诸,沒想到半個(gè)月后侵佃,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體,經(jīng)...
    沈念sama閱讀 45,722評論 1 315
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡奠支,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 37,900評論 3 336
  • 正文 我和宋清朗相戀三年馋辈,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片倍谜。...
    茶點(diǎn)故事閱讀 40,030評論 1 350
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡迈螟,死狀恐怖,靈堂內(nèi)的尸體忽然破棺而出尔崔,到底是詐尸還是另有隱情答毫,我是刑警寧澤,帶...
    沈念sama閱讀 35,737評論 5 346
  • 正文 年R本政府宣布季春,位于F島的核電站洗搂,受9級特大地震影響,放射性物質(zhì)發(fā)生泄漏载弄。R本人自食惡果不足惜耘拇,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 41,360評論 3 330
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望宇攻。 院中可真熱鬧惫叛,春花似錦、人聲如沸逞刷。這莊子的主人今日做“春日...
    開封第一講書人閱讀 31,941評論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽。三九已至洛心,卻和暖如春固耘,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背词身。 一陣腳步聲響...
    開封第一講書人閱讀 33,057評論 1 270
  • 我被黑心中介騙來泰國打工厅目, 沒想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留,地道東北人法严。 一個(gè)月前我還...
    沈念sama閱讀 48,237評論 3 371
  • 正文 我出身青樓损敷,卻偏偏與公主長得像,于是被迫代替她去往敵國和親深啤。 傳聞我的和親對象是個(gè)殘疾皇子拗馒,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 44,976評論 2 355

推薦閱讀更多精彩內(nèi)容