JAVA flink小試——單詞計(jì)數(shù)

本文用java來實(shí)現(xiàn)一個(gè)簡單的fink計(jì)數(shù)單詞脚乡。

本文寫了兩個(gè)flink版本哥蔚,一個(gè)普通版本嚼贡,一個(gè)lambda版本驮配。有以下注意點(diǎn):

  • 寫法差異娘扩,lambda需要調(diào)用return方法,而普通版本是不需要的壮锻。
  • 在導(dǎo)包時(shí)琐旁,注意不要導(dǎo)成Scala中包,很多類名在flink和Scala中都有同名猜绣。會(huì)衍生出不必要的錯(cuò)誤灰殴。比如Tuple2這個(gè)類。

在本地執(zhí)行命令:

curl https://flink.apache.org/q/quickstart.sh | bash

會(huì)下載一個(gè)官網(wǎng)的示例掰邢,主要看中了他的pom文件牺陶。可以將他的項(xiàng)目導(dǎo)入IDEA中辣之,編寫自己的示例程序掰伸。

package org.myorg.test;

import org.apache.flink.api.common.functions.FlatMapFunction;
import org.apache.flink.api.common.typeinfo.Types;
import org.apache.flink.api.java.DataSet;
import org.apache.flink.api.java.ExecutionEnvironment;
import org.apache.flink.api.java.tuple.Tuple2;

import java.util.stream.Stream;

/**
 * @author lingbao08
 * @DESCRIPTION
 * @create 2019-09-15 13:23
 **/

public class WordCount {

    public static void main(String[] args) throws Exception {

        ExecutionEnvironment env = ExecutionEnvironment.getExecutionEnvironment();

        DataSet<String> text = env.fromElements("我是中國人,我愛中國");

//普通版本
        DataSet<Tuple2<String, Integer>> counts =
                text.flatMap(new FlatMapFunction<String, Tuple2<String, Integer>>() {

                    @Override
                    public void flatMap(String s, Collector<Tuple2<String, Integer>> collector) throws Exception {
                        String[] split = s.split("");
                        for (String s1 : split) {
                            if (s1.length() > 0)
                                collector.collect(new Tuple2<String, Integer>(s1, 1));
                        }
                    }
                }).groupBy(0)
                        .sum(1);

        counts.print();

    }
}

lambda版本:

DataSet<Tuple2<String, Integer>> counts =
                text.flatMap((FlatMapFunction<String, Tuple2<String, Integer>>) (s, collector) -> {
                    Stream.of(s.split("")).forEach(v -> collector.collect(new Tuple2<>(v, 1)));
                }).returns(Types.TUPLE(Types.STRING, Types.INT)).groupBy(0)
                        .sum(1);


        counts.print();

參考:https://blog.csdn.net/RUIMENG061511332/article/details/91873570.

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末怀估,一起剝皮案震驚了整個(gè)濱河市狮鸭,隨后出現(xiàn)的幾起案子,更是在濱河造成了極大的恐慌多搀,老刑警劉巖歧蕉,帶你破解...
    沈念sama閱讀 206,311評(píng)論 6 481
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件,死亡現(xiàn)場離奇詭異康铭,居然都是意外死亡惯退,警方通過查閱死者的電腦和手機(jī),發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 88,339評(píng)論 2 382
  • 文/潘曉璐 我一進(jìn)店門从藤,熙熙樓的掌柜王于貴愁眉苦臉地迎上來催跪,“玉大人锁蠕,你說我怎么就攤上這事〉” “怎么了匿沛?”我有些...
    開封第一講書人閱讀 152,671評(píng)論 0 342
  • 文/不壞的土叔 我叫張陵,是天一觀的道長榛鼎。 經(jīng)常有香客問我逃呼,道長,這世上最難降的妖魔是什么者娱? 我笑而不...
    開封第一講書人閱讀 55,252評(píng)論 1 279
  • 正文 為了忘掉前任抡笼,我火速辦了婚禮,結(jié)果婚禮上黄鳍,老公的妹妹穿的比我還像新娘推姻。我一直安慰自己,他們只是感情好框沟,可當(dāng)我...
    茶點(diǎn)故事閱讀 64,253評(píng)論 5 371
  • 文/花漫 我一把揭開白布藏古。 她就那樣靜靜地躺著,像睡著了一般忍燥。 火紅的嫁衣襯著肌膚如雪拧晕。 梳的紋絲不亂的頭發(fā)上,一...
    開封第一講書人閱讀 49,031評(píng)論 1 285
  • 那天梅垄,我揣著相機(jī)與錄音厂捞,去河邊找鬼。 笑死队丝,一個(gè)胖子當(dāng)著我的面吹牛靡馁,可吹牛的內(nèi)容都是我干的。 我是一名探鬼主播机久,決...
    沈念sama閱讀 38,340評(píng)論 3 399
  • 文/蒼蘭香墨 我猛地睜開眼臭墨,長吁一口氣:“原來是場噩夢(mèng)啊……” “哼!你這毒婦竟也來了膘盖?” 一聲冷哼從身側(cè)響起裙犹,我...
    開封第一講書人閱讀 36,973評(píng)論 0 259
  • 序言:老撾萬榮一對(duì)情侶失蹤,失蹤者是張志新(化名)和其女友劉穎衔憨,沒想到半個(gè)月后,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體袄膏,經(jīng)...
    沈念sama閱讀 43,466評(píng)論 1 300
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡践图,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 35,937評(píng)論 2 323
  • 正文 我和宋清朗相戀三年,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了沉馆。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片码党。...
    茶點(diǎn)故事閱讀 38,039評(píng)論 1 333
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡德崭,死狀恐怖,靈堂內(nèi)的尸體忽然破棺而出揖盘,到底是詐尸還是另有隱情眉厨,我是刑警寧澤,帶...
    沈念sama閱讀 33,701評(píng)論 4 323
  • 正文 年R本政府宣布兽狭,位于F島的核電站憾股,受9級(jí)特大地震影響,放射性物質(zhì)發(fā)生泄漏箕慧。R本人自食惡果不足惜服球,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 39,254評(píng)論 3 307
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望颠焦。 院中可真熱鬧斩熊,春花似錦、人聲如沸伐庭。這莊子的主人今日做“春日...
    開封第一講書人閱讀 30,259評(píng)論 0 19
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽圾另。三九已至霸株,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間盯捌,已是汗流浹背淳衙。 一陣腳步聲響...
    開封第一講書人閱讀 31,485評(píng)論 1 262
  • 我被黑心中介騙來泰國打工, 沒想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留饺著,地道東北人箫攀。 一個(gè)月前我還...
    沈念sama閱讀 45,497評(píng)論 2 354
  • 正文 我出身青樓,卻偏偏與公主長得像幼衰,于是被迫代替她去往敵國和親靴跛。 傳聞我的和親對(duì)象是個(gè)殘疾皇子,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 42,786評(píng)論 2 345

推薦閱讀更多精彩內(nèi)容