kafka之auto-offset-reset

官方文檔解釋

auto.offset.reset: What to do when there is no initial offset in Kafka or if the current offset does not exist any more on the server (e.g. because that data has been deleted):
earliest: automatically reset the offset to the earliest offset
latest: automatically reset the offset to the latest offset
none: throw exception to the consumer if no previous offset is found for the consumer's group
anything else: throw exception to the consumer.

官方文檔說得很清楚了:kafka中沒有offset時伙窃,不論是什么原因,offset沒了样漆,這是auto.offset.reset配置就會起作用为障,

  • earliest:從最早的offset開始消費,就是partition的起始位置開始消費
  • latest:從最近的offset開始消費放祟,就是新加入partition的消息才會被消費
  • none:報錯
    測試
    最容易測試的方式就是在partition中預存放一些消息鳍怨,然后新建一個consum group來消費這個partition。

測試步驟:創(chuàng)建兩個不同組的消費者跪妥,分別設置為earliest和latest

預先生產10條消息
啟動兩個消費者鞋喇,觀察消息獲取
在不關閉消費者的情況下,繼續(xù)生產10條消息
觀察消息獲取
第一步寫入消息

@Autowired
private KafkaTemplate kafkaTemplate;

@Test
void sendMsg() {
    for (int i = 0; i < 10; i++) {
        kafkaTemplate.send("test", "message" + i);
    }
}

第二步創(chuàng)建骗奖、啟動消費者
創(chuàng)建兩個消費者consumer1(earliest)确徙、consumer2(lastest)醒串,分別啟動后觀察到consumer1消費到10條消息,consumer2消費到0條消息

consumer1: partitions assigned: [test-0]
message0
message1
message2
message3
message4
message5
message6
message7
message8
message9
consumer2: partitions assigned: [test-0]

第三步繼續(xù)生產消息
可以觀察到兩個消費者都消費了新的10條消息

message10
message11
message12
message13
message14
message15
message16
message17
message18
message19

第四步消費者關閉鄙皇,再生產10條消息芜赌,啟動消費者
此時在kafka服務器已經記錄了消費者的offset,重啟后兩個消費者都從記錄中的offset開始消費

message20
message21
message22
message23
message24
message25
message26
message27
message28
message29

總結
如果kafka服務器記錄有消費者消費到的offset伴逸,那么消費者會從該offset開始消費
如果由于某些offset記錄丟失了缠沈,此時auto-offset-reset就起了作用,earlist從頭開始消費错蝴,latest從最新生產的消息開始消費

作者:陸陽226
鏈接:http://www.reibang.com/p/2e0e682f77dd

?著作權歸作者所有,轉載或內容合作請聯(lián)系作者
  • 序言:七十年代末洲愤,一起剝皮案震驚了整個濱河市,隨后出現(xiàn)的幾起案子顷锰,更是在濱河造成了極大的恐慌柬赐,老刑警劉巖,帶你破解...
    沈念sama閱讀 206,311評論 6 481
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件官紫,死亡現(xiàn)場離奇詭異肛宋,居然都是意外死亡,警方通過查閱死者的電腦和手機束世,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 88,339評論 2 382
  • 文/潘曉璐 我一進店門酝陈,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人毁涉,你說我怎么就攤上這事沉帮。” “怎么了贫堰?”我有些...
    開封第一講書人閱讀 152,671評論 0 342
  • 文/不壞的土叔 我叫張陵穆壕,是天一觀的道長。 經常有香客問我严嗜,道長粱檀,這世上最難降的妖魔是什么洲敢? 我笑而不...
    開封第一講書人閱讀 55,252評論 1 279
  • 正文 為了忘掉前任漫玄,我火速辦了婚禮,結果婚禮上压彭,老公的妹妹穿的比我還像新娘睦优。我一直安慰自己,他們只是感情好壮不,可當我...
    茶點故事閱讀 64,253評論 5 371
  • 文/花漫 我一把揭開白布汗盘。 她就那樣靜靜地躺著,像睡著了一般询一。 火紅的嫁衣襯著肌膚如雪隐孽。 梳的紋絲不亂的頭發(fā)上癌椿,一...
    開封第一講書人閱讀 49,031評論 1 285
  • 那天,我揣著相機與錄音菱阵,去河邊找鬼踢俄。 笑死,一個胖子當著我的面吹牛晴及,可吹牛的內容都是我干的都办。 我是一名探鬼主播,決...
    沈念sama閱讀 38,340評論 3 399
  • 文/蒼蘭香墨 我猛地睜開眼虑稼,長吁一口氣:“原來是場噩夢啊……” “哼琳钉!你這毒婦竟也來了?” 一聲冷哼從身側響起蛛倦,我...
    開封第一講書人閱讀 36,973評論 0 259
  • 序言:老撾萬榮一對情侶失蹤歌懒,失蹤者是張志新(化名)和其女友劉穎,沒想到半個月后溯壶,有當?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體歼培,經...
    沈念sama閱讀 43,466評論 1 300
  • 正文 獨居荒郊野嶺守林人離奇死亡,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內容為張勛視角 年9月15日...
    茶點故事閱讀 35,937評論 2 323
  • 正文 我和宋清朗相戀三年茸塞,在試婚紗的時候發(fā)現(xiàn)自己被綠了躲庄。 大學時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片。...
    茶點故事閱讀 38,039評論 1 333
  • 序言:一個原本活蹦亂跳的男人離奇死亡钾虐,死狀恐怖噪窘,靈堂內的尸體忽然破棺而出,到底是詐尸還是另有隱情效扫,我是刑警寧澤倔监,帶...
    沈念sama閱讀 33,701評論 4 323
  • 正文 年R本政府宣布,位于F島的核電站菌仁,受9級特大地震影響浩习,放射性物質發(fā)生泄漏。R本人自食惡果不足惜济丘,卻給世界環(huán)境...
    茶點故事閱讀 39,254評論 3 307
  • 文/蒙蒙 一谱秽、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧摹迷,春花似錦疟赊、人聲如沸。這莊子的主人今日做“春日...
    開封第一講書人閱讀 30,259評論 0 19
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽。三九已至鲫寄,卻和暖如春吉执,著一層夾襖步出監(jiān)牢的瞬間疯淫,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 31,485評論 1 262
  • 我被黑心中介騙來泰國打工戳玫, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留峡竣,地道東北人。 一個月前我還...
    沈念sama閱讀 45,497評論 2 354
  • 正文 我出身青樓量九,卻偏偏與公主長得像适掰,于是被迫代替她去往敵國和親。 傳聞我的和親對象是個殘疾皇子荠列,可洞房花燭夜當晚...
    茶點故事閱讀 42,786評論 2 345

推薦閱讀更多精彩內容

  • 官方文檔解釋 auto.offset.reset: What to do when there is no ini...
    陸陽226閱讀 10,763評論 0 1
  • 消息中間件的背景分析 場景分析 前面跟著我看過 zk 的源碼,學過并發(fā)編程的同學應該知道,我們可以使用阻塞隊列+線...
    悠娜的奶爸閱讀 290評論 0 2
  • 什么是Kafka Kafka是一款分布式消息發(fā)布和訂閱系統(tǒng)类浪,它的特點是高性能、高吞吐量肌似。 最早設計的目的是作為Li...
    WEIJAVA閱讀 8,459評論 4 76
  • 什么是Kafka[#---kafka] Kafka的應用場景[#kafka-----] Kafka的架構[#kaf...
    PENG先森_曉宇閱讀 4,858評論 4 91
  • 應用程序使用 KafkaConsumer向 Kafka 訂閱 Topic 接收消息费就,首先理解 Kafka 中消費者...
    Alex90閱讀 44,599評論 2 15