第五章 DataStream API (基礎(chǔ)篇)

一個Flink程序谚鄙,其實就是對DataStream的各種轉(zhuǎn)換熙宇。具體來說朦乏,代碼基本上由以下幾部分構(gòu)成:

  • 獲取執(zhí)行環(huán)境(Execution Environment)找颓;
  • 讀取數(shù)據(jù)源(Source)岳颇;
  • 定義基于數(shù)據(jù)的轉(zhuǎn)換操作(Transformations)照捡;
  • 定義計算結(jié)果的輸出位置(Sink);
  • 觸發(fā)執(zhí)行程序话侧;


5.1 執(zhí)行環(huán)境

5.1.1 創(chuàng)建執(zhí)行環(huán)境

創(chuàng)建執(zhí)行環(huán)境栗精,通過調(diào)用StreamExecutionEnviroment類的的靜態(tài)方法。具體有三種:

  • StreamExecutionEnvironment.getExecutionEnvironment瞻鹏,它會根據(jù)當(dāng)前運(yùn)行的上下文
    直接得到正確的結(jié)果悲立;也就是說,這個方法會根據(jù)當(dāng)前運(yùn)行的方式新博,自行決定該返回什么樣的
    運(yùn)行環(huán)境级历;
  • StreamExecutionEnvironment.createLocalEnvironment, 這個方法返回一個本地執(zhí)行環(huán)境;
  • StreamExecutionEnvironment.createRemoteEnvironment, 這個方法返回集群執(zhí)行環(huán)境,調(diào)用時需要指定JobManager的主機(jī)號和端口號叭披,并指定要運(yùn)行的jar包寥殖;

5.1.2 執(zhí)行模式

  • 流執(zhí)行模式(streaming);
  • 批執(zhí)行模式(batch)涩蜘,有兩種方式進(jìn)行配置:
    • 命令行配置:bin/flink run -Dexecution.runtime-mode=BATCH ...;
    • 代碼中進(jìn)行配置:env.setRuntimeMode(RuntimeExcutionMode.BATCH);
  • 自動模式(automatic)嚼贡,在這種模式下,將由程序根據(jù)輸入數(shù)據(jù)源是否有界同诫,來自動選擇執(zhí)行模式粤策。

5.2 數(shù)據(jù)源算子(SOURCE)

Flink可以從各種來源獲取數(shù)據(jù),然后構(gòu)建DataStream進(jìn)行轉(zhuǎn)換處理误窖。一般將數(shù)據(jù)的輸入來源稱為數(shù)據(jù)源叮盘,而讀取數(shù)據(jù)的算子就是源算子(Source)。因此霹俺,Source就是整個處理程序的輸入端柔吼。

Flink有多種讀取源數(shù)據(jù)的方式:

// 定義一個模擬的用戶行為樣例類
case class Event(user:String, url:String, timestamp:Long)

// 創(chuàng)建執(zhí)行環(huán)境
val env = StreamExecutionEnvironment.getExecutionEnvironment

// 1、從集合讀取數(shù)據(jù)
val clicks = List(Event("Mary", "/.home", 1000L), Event("Bob", "/.cart", 2000L))
val stream1 = env.fromColletctions(clicks)
// 也可以直接將元素列舉出來通過fromElements進(jìn)行讀取數(shù)據(jù)
val stream1 = env.fromElements(Event("Mary", "/.home", 1000L), Event("Bob", "/.cart", 2000L))

// 2丙唧、從文件讀取數(shù)據(jù):可以是目錄/文件愈魏,可以是hdfs文件,也可以是本地文件
val stream2 = env.readTextFile("clicks.csv")

// 3、從socket讀取數(shù)據(jù)
val stream3 = env.socketTextStream("localhost", 777)

// 4培漏、從kafka讀取數(shù)據(jù)溪厘。需要添加依賴 連接工具 flink-connector-kafka
// 創(chuàng)建 FlinkKafkaConsumer 時需要傳入三個參數(shù):
// (1) topic,定義了從哪些主題中讀取數(shù)據(jù);
// (2) 第二個參數(shù)是一個 DeserializationSchema 或者 KeyedDeserializationSchema, 反序列化方式牌柄;
// (3) Properties 對象畸悬,設(shè)置了 Kafka 客戶端的一些屬性;
import org.apache.flink.api.common.serialization.SimpleStringSchema
import org.apache.flink.streaming.api.scala._
import org.apache.flink.streaming.connectors.kafka.FlinkKafkaConsumer
// 創(chuàng)建kafka相關(guān)配置
val properties = new Properties();
properties.setProperty("bootstrap.servers", "hadoop102:9092")
properties.setProperty("group.id", "consumer-group")
properties.setProperty("key.deserializer",
"org.apache.kafka.common.serialization.StringDeserializer")
properties.setProperty("value.deserializer",
"org.apache.kafka.common.serialization.StringDeserializer")
properties.setProperty("auto.offset.reset", "latest")
//創(chuàng)建一個 FlinkKafkaConsumer 對象,傳入必要參數(shù)珊佣,從 Kafka 中讀取數(shù)據(jù)
val stream = env.addSource(new FlinkKafkaConsumer[String](
  "clicks",
  new SimpleStringSchema(),
  properties
))

上面介紹的是直接通過API讀取數(shù)據(jù)源蹋宦。另一種比較復(fù)雜的方式是自定義數(shù)據(jù)源,然后通過env.addSource進(jìn)行讀取彩扔。

自定義數(shù)據(jù)源需要實現(xiàn)SourceFunction接口妆档。主要需要重寫兩個關(guān)鍵方法:

  • run()方法,使用運(yùn)行時上下文對象(SourceContext)向下游發(fā)送數(shù)據(jù)虫碉;
  • cancel()方法贾惦,通過標(biāo)識位控制退出循環(huán),來達(dá)到中斷數(shù)據(jù)源的效果敦捧;
package com.whu.chapter05

import org.apache.flink.streaming.api.functions.source.SourceFunction
import org.apache.flink.streaming.api.functions.source.SourceFunction.SourceContext

import java.util.Calendar
import scala.util.Random


// 調(diào)用
// val stream = env.addSource(new ClickSource)


case class Event(user: String, url: String, timestamp: Long)

// 實現(xiàn) SourceFunction 接口须板,接口中的泛型是自定義數(shù)據(jù)源中的類型
class ClickSource(sleepTime:Long=1000L) extends SourceFunction[Event] {
  // 標(biāo)志位,用來控制循環(huán)的退出
  var running = true

  // 重寫run方法兢卵,使用上下文對象sourceContext調(diào)用collect方法
  override def run(ctx: SourceContext[Event]): Unit = {
    // 實例化一個隨機(jī)數(shù)發(fā)生器
    val random = new Random()
    // 供隨機(jī)選擇的用戶名數(shù)組
    val users = Array("Marry", "Bob", "Jack", "Cary")
    // 供選擇的url數(shù)組
    val urls = Array("./home", "./cart", "./fav", "./prod?id=1", "./prod?id=2")

    // 通過while循環(huán)發(fā)送數(shù)據(jù)习瑰,running默認(rèn)為true,所以會一直發(fā)送數(shù)據(jù)
    while (running) {
      // 調(diào)用collect方法向下游發(fā)送數(shù)據(jù)
      ctx.collect(Event(
        users(random.nextInt(users.length)),
        urls(random.nextInt(urls.length)),
        Calendar.getInstance.getTimeInMillis // 當(dāng)前時間戳
      ))
      // 每隔一秒生成一個點擊事件秽荤,方便觀測
      Thread.sleep(sleepTime)
    }
  }

  override def cancel(): Unit = {
    // 通過將running設(shè)置為false來終止數(shù)據(jù)發(fā)送
    running = false
  }
}

5.3 轉(zhuǎn)換算子(Transformation)

數(shù)據(jù)源讀入數(shù)據(jù)之后甜奄,我們就可以使用各種轉(zhuǎn)換算子,講一個或多個DataStream轉(zhuǎn)換為新的DataStream窃款。

5.3.1 基本轉(zhuǎn)換算子

  • map, 一個個進(jìn)行數(shù)據(jù)轉(zhuǎn)換课兄;
  • filter, 對數(shù)據(jù)進(jìn)行過濾;
  • flatmap, 扁平映射晨继,可以理解為先map然后進(jìn)行flatten;

5.3.2 聚合算子(Aggregation)

  • keyBy, 按鍵分區(qū)烟阐。對于Flink來說,DataStream是沒有直接進(jìn)行覺得API的紊扬。要做聚合需要先進(jìn)行分區(qū)蜒茄,這個操作就是通過keyBy來完成的。keyBy()方法需要傳入一個參數(shù)餐屎,這個參數(shù)指定了一個或一組 key檀葛。有很多不同的方法來指定 key:比如對于 Tuple 數(shù)據(jù)類型,可以指定字段的位置或者多個位置的組合啤挎。對于 POJO 類型或 Scala 的樣例類驻谆,可以指定字段的名稱(String)卵凑;另外庆聘,還可以傳入 Lambda 表達(dá)式或者實現(xiàn)一個鍵選擇器(KeySelector)胜臊,用于說明從數(shù)據(jù)中提取 key 的邏輯。
  • 簡單聚合伙判,sum象对、min、max宴抚、minBy勒魔、maxBy等。都是在指定字段上進(jìn)行聚合操作菇曲。min()只計算指定字段的最小值冠绢,其他字段會保留最初第一個數(shù)據(jù)的值;而 minBy()則會返回包含字段最小值的整條數(shù)據(jù)常潮。

指定字段的方式有兩種:指定位置弟胀,和指定名稱。元組通過位置喊式,樣例類通過字段名稱孵户。

keyBy得到的數(shù)據(jù)流一般稱為KeyedStream。而聚合操作則會將KeyedStream轉(zhuǎn)換為DataStream岔留。

規(guī)約聚合(reduce)

與簡單聚合類似夏哭,reduce操作也會將KeyedStream轉(zhuǎn)換為DataStream。他不會改變流的元素數(shù)據(jù)類型献联,輸入輸出是一致的竖配。

reduce方法來自ReduceFunction接口,該方法接收兩個輸入事件里逆,經(jīng)過處理后輸出一個相同數(shù)據(jù)類型的事件进胯。

一個簡單的栗子:

import org.apache.flink.streaming.api.scala._

object TransformationDemo {
  def main(args:Array[String]): Unit = {
    val env = StreamExecutionEnvironment.getExecutionEnvironment
    env.setParallelism(1)

    // 添加自定義數(shù)據(jù)源
    env.addSource(new ClickSource)
      .map(r => (r.user, 1L))
      // 按照用戶進(jìn)行分組
      .keyBy(_._1)
      // 計算每個用戶的訪問頻次
      .reduce((r1, r2) => (r1._1, r1._2+r2._2))
      // 將所有數(shù)據(jù)分到同一個分區(qū)
      .keyBy(_ => true)
      // 通過reduce實現(xiàn)max功能,計算訪問頻次最高的用戶
      .reduce((r1, r2)=> if(r1._2>r2._2) r1 else r2)
      .print()
    
    // 更簡單的方法是直接keyBy然后sum然后maxBy就行了运悲,這里只是為了演示reduce用法
    env.execute()
  }
}

5.3.3 用戶自定義函數(shù)(UDF)

Flink的DataStream API編程風(fēng)格其實是一致的:基本都是基于DataStream調(diào)用一個方法龄减,表示要做一個轉(zhuǎn)換操作;方法需要傳入一個參數(shù)班眯,這個參數(shù)都是需要實現(xiàn)一個接口希停。

這個接口有一個共同特定:全部都以算子操作名稱 + Function命名,如數(shù)據(jù)源算子需要實現(xiàn)SourceFunction接口署隘,map算子需要實現(xiàn)MapFunction接口宠能。我們可以通過三種方式來實現(xiàn)接口。這就是所謂的用戶自定義函數(shù)(UDF)磁餐。

  • 自定義函數(shù)類违崇;
  • 匿名類阿弃;
  • lambda表達(dá)式;

接下來對這三種編程方式做一個梳理羞延。

函數(shù)類(Function Classes)
package com.whu.chapter05

import org.apache.flink.api.common.functions.FilterFunction
import org.apache.flink.streaming.api.scala._

object TransformationUDFDemo {
 def main(args:Array[String]): Unit = {

   // 自定義filterFunction類, 并接受額外的參數(shù)
   class MyFilter(key:String) extends FilterFunction[Event] {
     override def filter(t: Event): Boolean = {
       t.url.contains(key)
     }
   }

   val env = StreamExecutionEnvironment.getExecutionEnvironment
   env.setParallelism(1)

   // 通過自定義函數(shù)類
   val stream1 = env.addSource(new ClickSource)
     .filter(new MyFilter("home"))

   // 通過匿名類
   val stream2 = env.addSource(new ClickSource)
     .filter(new FilterFunction[Event]{
       override def filter(t: Event): Boolean = {
         t.url.contains("home")
       }
     })

   // 最簡單的lambda 表達(dá)式
   val stream3 = env.addSource(new ClickSource)
     .filter(_.url.contains("home"))
   
   stream1.print("stream1")
   stream2.print("stream2")
   stream3.print("stream3")
   
   env.execute()
 }
}
富函數(shù)類(Rich Function Classes)

富函數(shù)類也是DataStream API提供的一個函數(shù)類的接口渣淳,所有的Flink函數(shù)類都有其Rich版本。富函數(shù)類一般是已抽象類的形式出現(xiàn)的伴箩。例如:RichMapFunction入愧,RichFilterFunction,RichReduceFunction等嗤谚。

與常規(guī)函數(shù)類的不同主要在于富函數(shù)類可以獲取運(yùn)行環(huán)境的上下文棺蛛,并擁有一些生命周期方法,所以可以實現(xiàn)更復(fù)雜的功能巩步。

典型的生命周期方法有:

  • open方法旁赊,是RichFunction的初始化方法,會開啟一個算子的生命周期椅野。當(dāng)一個算子的實際工作方法如map终畅、filter等方法被調(diào)用之前,open會首先被調(diào)用鳄橘。所以像文件IO流声离、數(shù)據(jù)庫連接、配置文件讀取等等這樣一次性的工作瘫怜,都適合在open方法中完成术徊;
  • close方法,是生命周期中最后一個調(diào)用的方法鲸湃,類似于解構(gòu)方法赠涮。一般用來做一些清理工作。

open暗挑、close等生命周期方法對于一個并行子任務(wù)來說只會調(diào)用一次笋除;而對應(yīng)的,實際工作方法炸裆,如map垃它,對于每一條數(shù)據(jù)都會調(diào)用一次。

package com.whu.chapter05

import org.apache.flink.api.common.functions.RichMapFunction
import org.apache.flink.configuration.Configuration
import org.apache.flink.streaming.api.scala._

object RichFunctionDemo {
  def main(args:Array[String]) : Unit = {
    val env = StreamExecutionEnvironment.getExecutionEnvironment
    env.setParallelism(2)

    env.addSource(new ClickSource(10000))
      .map(new RichMapFunction[Event, Long] {
        // 在任務(wù)生命周期開始時會執(zhí)行open方法烹看,在控制臺打印對應(yīng)語句
        override def open(parameters: Configuration): Unit = {
          println(s"索引為 ${getRuntimeContext.getIndexOfThisSubtask} 的任務(wù)開始")
        }
        override def map(in: Event): Long = {
          in.timeStamp
        }

        override def close(): Unit = {
          println(s"索引為 ${getRuntimeContext.getIndexOfThisSubtask} 的任務(wù)結(jié)束")
        }
      }).print()
    
    env.execute()
  }
}

在上面的例子中可以看到国拇,富函數(shù)類提供了getRuntimeContex方法,可以獲取運(yùn)行時上下文信息惯殊,如程序執(zhí)行的并行度酱吝,任務(wù)名稱,任務(wù)狀態(tài)等土思。

5.3.4 物理分區(qū)(Physical Partitioning)

分區(qū)(partitioning)操作就是要將數(shù)據(jù)進(jìn)行重新分布务热,傳遞到不同的流分區(qū)去進(jìn)行下一步計算忆嗜。keyBy是一種邏輯分區(qū)(logic partitioning)操作。

Flink 對于經(jīng)過轉(zhuǎn)換操作之后的 DataStream崎岂,提供了一系列的底層操作算子捆毫,能夠幫我們實現(xiàn)數(shù)據(jù)流的手動重分區(qū)。為了同 keyBy()相區(qū)別该镣,我們把這些操作統(tǒng)稱為“物理分區(qū)”操作冻璃。

常見的物理分區(qū)策略有隨機(jī)分區(qū)响谓、輪詢分區(qū)损合、重縮放和廣播,還有一種特殊的分區(qū)策略— —全局分區(qū)娘纷,并且 Flink 還支持用戶自定義分區(qū)策略嫁审,下邊我們分別來做了解。

隨機(jī)分區(qū)(shuffle)

最簡單的重分區(qū)方式就是直接“洗牌”赖晶。通過調(diào)用 DataStream 的 shuffle()方法律适,將數(shù)據(jù)隨機(jī)地分配到下游算子的并行任務(wù)中去。

隨機(jī)分區(qū)服從均勻分布(uniform distribution)遏插,所以可以把流中的數(shù)據(jù)隨機(jī)打亂捂贿,均勻地傳遞到下游任務(wù)分區(qū)。

輪詢分區(qū)(Round-Robin)

輪詢也是一種常見的重分區(qū)方式胳嘲。簡單來說就是“發(fā)牌”厂僧,按照先后順序?qū)?shù)據(jù)做依次分發(fā)。通過調(diào)用 DataStream的.rebalance()方法了牛,就可以實現(xiàn)輪詢重分區(qū)颜屠。rebalance()使用的是 Round-Robin 負(fù)載均衡算法,可以將輸入流數(shù)據(jù)平均分配到下游的并行任務(wù)中去鹰祸。


重縮放分區(qū)(rescale)

重縮放分區(qū)和輪詢分區(qū)非常相似甫窟。當(dāng)調(diào)用 rescale()方法時,其實底層也是使用 Round-Robin算法進(jìn)行輪詢蛙婴,但是只會將數(shù)據(jù)輪詢發(fā)送到下游并行任務(wù)的一部分中粗井,也就是說,“發(fā)牌人”如果有多個街图,那么 rebalance()的方式是每個發(fā)牌人都面向所有人發(fā)牌浇衬;而rescale()的做法是分成小團(tuán)體,發(fā)牌人只給自己團(tuán)體內(nèi)的所有人輪流發(fā)牌台夺。



當(dāng)下游任務(wù)(數(shù)據(jù)接收方)的數(shù)量是上游任務(wù)(數(shù)據(jù)發(fā)送方)數(shù)量的整數(shù)倍時径玖,rescale()的效率明顯會更高。比如當(dāng)上游任務(wù)數(shù)量是 2颤介,下游任務(wù)數(shù)量是 6 時梳星,上游任務(wù)其中一個分區(qū)的數(shù)據(jù)就將會平均分配到下游任務(wù)的 3 個分區(qū)中赞赖。

廣播(broadcast)

這種方式其實不應(yīng)該叫作“重分區(qū)”,因為經(jīng)過廣播之后冤灾,數(shù)據(jù)會在不同的分區(qū)都保留一份前域,可能進(jìn)行重復(fù)處理≡隙郑可以通過調(diào)用 DataStream 的 broadcast()方法匿垄,將輸入數(shù)據(jù)復(fù)制并發(fā)送到下游算子的所有并行任務(wù)中去。

全局分區(qū)(global)

全局分區(qū)也是一種特殊的分區(qū)方式归粉。這種做法非常極端椿疗,通過調(diào)用.global()方法,會將所有的輸入流數(shù)據(jù)都發(fā)送到下游算子的第一個并行子任務(wù)中去糠悼。這就相當(dāng)于強(qiáng)行讓下游任務(wù)并行度變成了 1届榄,所以使用這個操作需要非常謹(jǐn)慎,可能對程序造成很大的壓力倔喂。

自定義分區(qū)

當(dāng) Flink 提 供 的 所 有 分 區(qū) 策 略 都 不 能 滿 足 用 戶 的 需 求 時 铝条, 我 們 可 以 通 過 使 用partitionCustom()方法來自定義分區(qū)策略。
在調(diào)用時席噩,方法需要傳入兩個參數(shù)班缰,第一個是自定義分區(qū)器(Partitioner)對象,第二個是應(yīng)用分區(qū)器的字段悼枢,它的指定方式與 keyBy 指定 key 基本一樣:可以通過字段名稱指定埠忘,也可以通過字段位置索引來指定,還可以實現(xiàn)一個 KeySelector 接口萧芙。

栗子:

package com.whu.chapter05

import org.apache.flink.api.common.functions.Partitioner
import org.apache.flink.streaming.api.scala._

object PartitioningDemo {
  def main(args:Array[String]) : Unit = {
    val env = StreamExecutionEnvironment.getExecutionEnvironment

    // 讀取數(shù)據(jù)源
    val stream = env.addSource(new ClickSource())

    // 隨機(jī)分區(qū)(shuffle)
    stream.shuffle.print("shuffle").setParallelism(4)

    // 輪詢分區(qū)(rebalance, Round-Robin)
    stream.rebalance.print("rebalance").setParallelism(4)

    // 重縮放分區(qū)(rescale)
    stream.rescale.print("rescale").setParallelism(4)

    // 廣播 (broadcast)
    stream.broadcast.print("broadcast").setParallelism(4)

    // 全局分區(qū)(global)
    stream.global.print("global").setParallelism(4)

    // 自定義分區(qū)
    stream.partitionCustom(new Partitioner[Event] {
      // 根據(jù) key 的奇偶性計算出數(shù)據(jù)將被發(fā)送到哪個分區(qū)
      override def partition(k: Event, i: Int): Int = {
        k.timeStamp.toInt % 2
      }
    }, "user"
    ).print()
    
    env.execute()
  }
}

5.4 輸出算子(Sink)

5.4.1 連接到外部系統(tǒng)

Flink的DataStream API專門提供了向外部寫入數(shù)據(jù)的方法:addSink给梅。與addSource類似,addSink方法對應(yīng)著一個Sink算子双揪,主要就是用來實現(xiàn)與外部系統(tǒng)鏈接动羽、并將數(shù)據(jù)提交寫入的;Flink程序中所有對外的輸出操作渔期,一般都是利用Sink算子完成的运吓。

與addSource類似,addSink也支持自定義sink算子SinkFunction疯趟。在這個接口中只需要重寫一個方法invoke()拘哨,用來將指定的值寫入到外部系統(tǒng)中。這個方法在每條數(shù)據(jù)記錄到來時都會調(diào)用信峻。Flink官方提供了諸多第三方系統(tǒng)連接器:


除 Flink 官方之外倦青,Apache Bahir 作為給 Spark 和 Flink 提供擴(kuò)展支持的項目,也實現(xiàn)了一
些其他第三方系統(tǒng)與 Flink 的連接器:


5.4.2 輸出到文件

Flink有一些非常簡單粗暴的輸出到文件的預(yù)實現(xiàn)方法盹舞,如writeAsCsv等产镐,目前這些簡單的方法已經(jīng)要被棄用隘庄。

Flink專門提供了一個流式文件系統(tǒng)連接器:StreamingFileSink,它繼承自抽象類RichSinkFunction癣亚,而且繼承了Flink的檢查點機(jī)制丑掺,用來確保精確一次(exactly)的一致性語義。

StreamingFileSink支持行編碼(row-encoded)和批量編碼(bulk-encoded述雾,比如parquet)格式街州。這兩種不同的方式都有各自的構(gòu)建器(builder),調(diào)用方法如下:

  • 行編碼:StreamingFileSink.forRowFormat (basePath, rowEncoder)玻孟;
  • 批量編碼:StreamingFileSink.forBulkFormat (basePath,bulkWriterFactory)唆缴;

在創(chuàng)建行或批量Sink時,我們需要傳入兩個參數(shù)取募,用來指定存儲桶的基本路徑和數(shù)據(jù)的編碼邏輯琐谤。

package com.whu.chapter05

import org.apache.flink.api.common.serialization.SimpleStringEncoder
import org.apache.flink.streaming.api.scala._
import org.apache.flink.core.fs.Path
import org.apache.flink.streaming.api.functions.sink.filesystem.StreamingFileSink
import org.apache.flink.streaming.api.functions.sink.filesystem.rollingpolicies.DefaultRollingPolicy

import java.util.concurrent.TimeUnit


object SinkToFileDemo {
  def main(args: Array[String]): Unit = {
    val env = StreamExecutionEnvironment.getExecutionEnvironment
    
    val stream = env.addSource(new ClickSource())
    
    val fileSink = StreamingFileSink.forRowFormat(
      new Path("./output"),
      new SimpleStringEncoder[String]("UTF-8")
    )
      // 通過.withRollingPolicy()方法指定滾動邏輯
      .withRollingPolicy(
        DefaultRollingPolicy.builder()
          .withMaxPartSize(1024*1024*1024)
          .withRolloverInterval(TimeUnit.MINUTES.toMillis(15))
          .withInactivityInterval(TimeUnit.MINUTES.toMillis(5))
          .build()
      ).build()
    
    stream.map(_.toString).addSink(fileSink)
  }
}

上面創(chuàng)建了一個簡單的文件 Sink,通過 withRollingPolicy()方法指定了一個“滾動策略”玩敏。上面的代碼設(shè)置了在以下 3 種情況下,我們就會滾動分區(qū)文件:

  • 至少包含 15 分鐘的數(shù)據(jù)质礼;
  • 最近 5 分鐘沒有收到新的數(shù)據(jù)旺聚;
  • 文件大小已達(dá)到1GB;

輸出到其他系統(tǒng)

略眶蕉。

參考:
FLink教程

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末砰粹,一起剝皮案震驚了整個濱河市,隨后出現(xiàn)的幾起案子造挽,更是在濱河造成了極大的恐慌碱璃,老刑警劉巖,帶你破解...
    沈念sama閱讀 216,324評論 6 498
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件饭入,死亡現(xiàn)場離奇詭異嵌器,居然都是意外死亡,警方通過查閱死者的電腦和手機(jī)谐丢,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 92,356評論 3 392
  • 文/潘曉璐 我一進(jìn)店門爽航,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人乾忱,你說我怎么就攤上這事讥珍。” “怎么了窄瘟?”我有些...
    開封第一講書人閱讀 162,328評論 0 353
  • 文/不壞的土叔 我叫張陵衷佃,是天一觀的道長。 經(jīng)常有香客問我蹄葱,道長氏义,這世上最難降的妖魔是什么衰腌? 我笑而不...
    開封第一講書人閱讀 58,147評論 1 292
  • 正文 為了忘掉前任,我火速辦了婚禮觅赊,結(jié)果婚禮上右蕊,老公的妹妹穿的比我還像新娘。我一直安慰自己吮螺,他們只是感情好饶囚,可當(dāng)我...
    茶點故事閱讀 67,160評論 6 388
  • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著鸠补,像睡著了一般萝风。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上紫岩,一...
    開封第一講書人閱讀 51,115評論 1 296
  • 那天规惰,我揣著相機(jī)與錄音,去河邊找鬼泉蝌。 笑死歇万,一個胖子當(dāng)著我的面吹牛,可吹牛的內(nèi)容都是我干的勋陪。 我是一名探鬼主播贪磺,決...
    沈念sama閱讀 40,025評論 3 417
  • 文/蒼蘭香墨 我猛地睜開眼,長吁一口氣:“原來是場噩夢啊……” “哼诅愚!你這毒婦竟也來了寒锚?” 一聲冷哼從身側(cè)響起,我...
    開封第一講書人閱讀 38,867評論 0 274
  • 序言:老撾萬榮一對情侶失蹤违孝,失蹤者是張志新(化名)和其女友劉穎刹前,沒想到半個月后,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體雌桑,經(jīng)...
    沈念sama閱讀 45,307評論 1 310
  • 正文 獨居荒郊野嶺守林人離奇死亡喇喉,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點故事閱讀 37,528評論 2 332
  • 正文 我和宋清朗相戀三年,在試婚紗的時候發(fā)現(xiàn)自己被綠了筹燕。 大學(xué)時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片轧飞。...
    茶點故事閱讀 39,688評論 1 348
  • 序言:一個原本活蹦亂跳的男人離奇死亡,死狀恐怖撒踪,靈堂內(nèi)的尸體忽然破棺而出过咬,到底是詐尸還是另有隱情,我是刑警寧澤制妄,帶...
    沈念sama閱讀 35,409評論 5 343
  • 正文 年R本政府宣布掸绞,位于F島的核電站,受9級特大地震影響,放射性物質(zhì)發(fā)生泄漏衔掸。R本人自食惡果不足惜烫幕,卻給世界環(huán)境...
    茶點故事閱讀 41,001評論 3 325
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望敞映。 院中可真熱鬧较曼,春花似錦、人聲如沸振愿。這莊子的主人今日做“春日...
    開封第一講書人閱讀 31,657評論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽冕末。三九已至萍歉,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間档桃,已是汗流浹背枪孩。 一陣腳步聲響...
    開封第一講書人閱讀 32,811評論 1 268
  • 我被黑心中介騙來泰國打工, 沒想到剛下飛機(jī)就差點兒被人妖公主榨干…… 1. 我叫王不留藻肄,地道東北人蔑舞。 一個月前我還...
    沈念sama閱讀 47,685評論 2 368
  • 正文 我出身青樓,卻偏偏與公主長得像仅炊,于是被迫代替她去往敵國和親斗幼。 傳聞我的和親對象是個殘疾皇子,可洞房花燭夜當(dāng)晚...
    茶點故事閱讀 44,573評論 2 353

推薦閱讀更多精彩內(nèi)容