240 發(fā)簡信
IP屬地:青海
  • 我又試了下,修改非上面的內容,比如增加對stream的操作,也不會影響checkpoint的反序列化。

    【容錯篇】Spark Streaming的還原藥水——Checkpoint

    一個 Streaming Application 往往需要7*24不間斷的跑赋朦,所以需要有抵御意外的能力(比如機器或者系統(tǒng)掛掉参咙,JVM crash等)叶沛。為了讓這成為可能摇天,Spa...

  • 您好,我在閱讀Checkpoint的代碼時恐仑,發(fā)現泉坐,StreamingContext會反序列化checkpoint的保存內容。但是反序列化的對象是Checkpoint:
    class Checkpoint(ssc: StreamingContext, val checkpointTime: Time)
    extends Logging with Serializable {
    val master = ssc.sc.master
    val framework = ssc.sc.appName
    val jars = ssc.sc.jars
    val graph = ssc.graph
    val checkpointDir = ssc.checkpointDir
    val checkpointDuration = ssc.checkpointDuration
    val pendingTimes = ssc.scheduler.getPendingTimes().toArray
    val delaySeconds = MetadataCleaner.getDelaySeconds(ssc.conf)
    val sparkConfPairs = ssc.conf.getAll

    如果這些東西不改變裳仆,是不是即便重新編譯包腕让,檢查點一樣是可用的?

    【容錯篇】Spark Streaming的還原藥水——Checkpoint

    一個 Streaming Application 往往需要7*24不間斷的跑,所以需要有抵御意外的能力(比如機器或者系統(tǒng)掛掉纯丸,JVM crash等)偏形。為了讓這成為可能,Spa...

亚洲A日韩AV无卡,小受高潮白浆痉挛av免费观看,成人AV无码久久久久不卡网站,国产AV日韩精品