Spark的那些事(二)Structured streaming中Foreach sink的用法

Structured streaming默認(rèn)支持的sink類(lèi)型有File sink哪雕,F(xiàn)oreach sink,Console sink师枣,Memory sink血巍。
特別的說(shuō)明一下Foreach sink的用法(ps:以通過(guò)Foreach sink寫(xiě)入外部redis為例)。

lastEtlData.writeStream().foreach(new TestForeachWriter()).outputMode("update").start();

foreach方法的參數(shù)為ForeachWriter對(duì)象端逼,看下api說(shuō)明:

  datasetOfString.writeStream().foreach(new ForeachWriter<String>() {

    @Override
    public boolean open(long partitionId, long version) {
      // open connection
      //此處用于打開(kāi)連接朗兵,以redis為例,此處從redis連接池中獲取連接
    }

    @Override
    public void process(String value) {
      // write string to connection
      //此處用于數(shù)據(jù)寫(xiě)入redis顶滩。value為GenericRowWithSchema對(duì)象
    }

    @Override
    public void close(Throwable errorOrNull) {
      // close the connection
      //此處用于關(guān)閉連接
    }
  });

看一下三個(gè)方法在的調(diào)用過(guò)程余掖,因?yàn)槭敲總€(gè)Partition的一批數(shù)據(jù)調(diào)用一次,還是需要關(guān)注下open礁鲁,close的頻率盐欺。一批數(shù)據(jù)open,close各一次仅醇。如下所示:

data.queryExecution.toRdd.foreachPartition { iter =>
  if (writer.open(TaskContext.getPartitionId(), batchId)) {
    try {
      while (iter.hasNext) {
        writer.process(encoder.fromRow(iter.next()))
      }
    } catch {
      case e: Throwable =>
        writer.close(e)
        throw e
    }
    writer.close(null)
  } else {
    writer.close(null)
  }
}

附寫(xiě)redis的foreachwriter實(shí)現(xiàn):

public static class TestForeachWriter extends ForeachWriter implements Serializable{

       public static JedisPool jedisPool;
        public Jedis jedis;
        static {
                JedisPoolConfig config = new JedisPoolConfig();
                config.setMaxTotal(20);
                config.setMaxIdle(5);
                config.setMaxWaitMillis(1000);
                config.setMinIdle(2);
                config.setTestOnBorrow(false);
                jedisPool = new JedisPool(config, "127.0.0.1", 6379);
        }

        public static synchronized Jedis getJedis() {
            return jedisPool.getResource();
        }


        @Override
        public boolean open(long partitionId, long version) {
           jedis = getJedis();
            return true;
        }

        @Override
        public void process(Object value) {
            GenericRowWithSchema genericRowWithSchema = (GenericRowWithSchema) value;

           System.out.println(((GenericRowWithSchema) value).get(0).toString()+"-----------"+ ((GenericRowWithSchema) value).get(2).toString());

            jedis.set(((GenericRowWithSchema) value).get(Integer.parseInt(genericRowWithSchema.schema().getFieldIndex("ID").get().toString())).toString(),((GenericRowWithSchema) value).get(Integer.parseInt(genericRowWithSchema.schema().getFieldIndex("COUNT(ADA1)").get().toString())).toString());
            System.out.println("++++++++++"+((GenericRowWithSchema) value).get(Integer.parseInt(genericRowWithSchema.schema().getFieldIndex("ID").get().toString())).toString());

        }

        @Override
        public void close(Throwable errorOrNull) {

            jedis.close();
        }
    }

特別提醒:需要顯示實(shí)現(xiàn)Serializable接口冗美。

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末,一起剝皮案震驚了整個(gè)濱河市析二,隨后出現(xiàn)的幾起案子粉洼,更是在濱河造成了極大的恐慌,老刑警劉巖叶摄,帶你破解...
    沈念sama閱讀 218,755評(píng)論 6 507
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件漆改,死亡現(xiàn)場(chǎng)離奇詭異,居然都是意外死亡准谚,警方通過(guò)查閱死者的電腦和手機(jī),發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 93,305評(píng)論 3 395
  • 文/潘曉璐 我一進(jìn)店門(mén)去扣,熙熙樓的掌柜王于貴愁眉苦臉地迎上來(lái)柱衔,“玉大人樊破,你說(shuō)我怎么就攤上這事∷纛恚” “怎么了哲戚?”我有些...
    開(kāi)封第一講書(shū)人閱讀 165,138評(píng)論 0 355
  • 文/不壞的土叔 我叫張陵,是天一觀的道長(zhǎng)艾岂。 經(jīng)常有香客問(wèn)我顺少,道長(zhǎng),這世上最難降的妖魔是什么王浴? 我笑而不...
    開(kāi)封第一講書(shū)人閱讀 58,791評(píng)論 1 295
  • 正文 為了忘掉前任脆炎,我火速辦了婚禮,結(jié)果婚禮上氓辣,老公的妹妹穿的比我還像新娘秒裕。我一直安慰自己,他們只是感情好钞啸,可當(dāng)我...
    茶點(diǎn)故事閱讀 67,794評(píng)論 6 392
  • 文/花漫 我一把揭開(kāi)白布几蜻。 她就那樣靜靜地躺著,像睡著了一般体斩。 火紅的嫁衣襯著肌膚如雪梭稚。 梳的紋絲不亂的頭發(fā)上,一...
    開(kāi)封第一講書(shū)人閱讀 51,631評(píng)論 1 305
  • 那天絮吵,我揣著相機(jī)與錄音弧烤,去河邊找鬼。 笑死源武,一個(gè)胖子當(dāng)著我的面吹牛扼褪,可吹牛的內(nèi)容都是我干的。 我是一名探鬼主播粱栖,決...
    沈念sama閱讀 40,362評(píng)論 3 418
  • 文/蒼蘭香墨 我猛地睜開(kāi)眼话浇,長(zhǎng)吁一口氣:“原來(lái)是場(chǎng)噩夢(mèng)啊……” “哼!你這毒婦竟也來(lái)了闹究?” 一聲冷哼從身側(cè)響起幔崖,我...
    開(kāi)封第一講書(shū)人閱讀 39,264評(píng)論 0 276
  • 序言:老撾萬(wàn)榮一對(duì)情侶失蹤,失蹤者是張志新(化名)和其女友劉穎渣淤,沒(méi)想到半個(gè)月后赏寇,有當(dāng)?shù)厝嗽跇?shù)林里發(fā)現(xiàn)了一具尸體,經(jīng)...
    沈念sama閱讀 45,724評(píng)論 1 315
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡价认,尸身上長(zhǎng)有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 37,900評(píng)論 3 336
  • 正文 我和宋清朗相戀三年嗅定,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片用踩。...
    茶點(diǎn)故事閱讀 40,040評(píng)論 1 350
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡渠退,死狀恐怖忙迁,靈堂內(nèi)的尸體忽然破棺而出,到底是詐尸還是另有隱情碎乃,我是刑警寧澤姊扔,帶...
    沈念sama閱讀 35,742評(píng)論 5 346
  • 正文 年R本政府宣布,位于F島的核電站梅誓,受9級(jí)特大地震影響恰梢,放射性物質(zhì)發(fā)生泄漏。R本人自食惡果不足惜梗掰,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 41,364評(píng)論 3 330
  • 文/蒙蒙 一嵌言、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧愧怜,春花似錦呀页、人聲如沸。這莊子的主人今日做“春日...
    開(kāi)封第一講書(shū)人閱讀 31,944評(píng)論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽(yáng)。三九已至猜惋,卻和暖如春丸氛,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背著摔。 一陣腳步聲響...
    開(kāi)封第一講書(shū)人閱讀 33,060評(píng)論 1 270
  • 我被黑心中介騙來(lái)泰國(guó)打工缓窜, 沒(méi)想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留,地道東北人谍咆。 一個(gè)月前我還...
    沈念sama閱讀 48,247評(píng)論 3 371
  • 正文 我出身青樓禾锤,卻偏偏與公主長(zhǎng)得像,于是被迫代替她去往敵國(guó)和親摹察。 傳聞我的和親對(duì)象是個(gè)殘疾皇子恩掷,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 44,979評(píng)論 2 355

推薦閱讀更多精彩內(nèi)容