對于異步提交的方式,存在一種異常:如果在提交的過程中提交失敗剧劝,那么對于消費者來說應(yīng)該還會發(fā)生重復(fù)消費的問題毡证。
使用 java 時可以采取異步+同步的方式楣号,即異步提交發(fā)生異常時使用同步的時候救斑。
在 spark 消費 kafka 的過程中是怎么處理這種異常問題呢羹蚣?
Kafka+Spark Streaming管理offset的兩種方法Kafka配合Spark Streaming是大數(shù)據(jù)領(lǐng)域常見的黃金搭檔之一袁翁,主要是用于數(shù)據(jù)實時入庫或分析蜈七。 為了應(yīng)對可能出現(xiàn)的引起Streaming程序崩潰的異常情況秒拔,我們一...