kafka0.9 Commit cannot be completed due to group rebalance

1,在使用kafka0.9新的客戶(hù)端消費(fèi)消息時(shí)垂寥,會(huì)出現(xiàn)
org.apache.kafka.clients.consumer.CommitFailedException:Commit cannot be completed due to group rebalance耐齐。
的問(wèn)題,出現(xiàn)的原因就是consumer在一定時(shí)間內(nèi)沒(méi)有發(fā)送心跳給coordinator(kafka 0.9后新出現(xiàn)的角色)评架。

問(wèn)題鏈接

參數(shù)優(yōu)化說(shuō)明

Kafka triggers a rebalance if it doesn't receive at least one heartbeat within session time out. If the rebalance is triggered, the commit will fail. That is expected. So the question is why has the heartbeat not happened? There might be a couple of reasons for that.
First thing is that you are doing a manual commit. Starting 0.9, heartbeat doesn't happen in a separate thread. The consumer runs on a single thread which handles commit, heartbeat and polling. So the heartbeat happens when you do a consumer.poll() or consumer.commit(). So if your processing time is exceeding the session time out, that might cause the heartbeat to fail.

There is a known issue in kafka 0.9 consumer which might cause the problem you are facing.

https://issues.apache.org/jira/browse/KAFKA-3627
In either case, downgrading your consumer to 0.8 will solve the problem.
Edit: You can try increasing the session time out to as high as 5 min and see if it works.
Regarding kafka configs
Kafka server expects that it receives at least one heartbeat within the session time out. So the consumer tries to do a heartbeat at most (session time out/heartbeat times). Some heartbeats might be missed. So your heartbeat time should not be more than 1/3 of the session time out. (You can refer to the docs)

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末,一起剝皮案震驚了整個(gè)濱河市炕泳,隨后出現(xiàn)的幾起案子纵诞,更是在濱河造成了極大的恐慌,老刑警劉巖培遵,帶你破解...
    沈念sama閱讀 218,525評(píng)論 6 507
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件浙芙,死亡現(xiàn)場(chǎng)離奇詭異登刺,居然都是意外死亡,警方通過(guò)查閱死者的電腦和手機(jī)嗡呼,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 93,203評(píng)論 3 395
  • 文/潘曉璐 我一進(jìn)店門(mén)纸俭,熙熙樓的掌柜王于貴愁眉苦臉地迎上來(lái),“玉大人南窗,你說(shuō)我怎么就攤上這事揍很。” “怎么了万伤?”我有些...
    開(kāi)封第一講書(shū)人閱讀 164,862評(píng)論 0 354
  • 文/不壞的土叔 我叫張陵窒悔,是天一觀的道長(zhǎng)。 經(jīng)常有香客問(wèn)我敌买,道長(zhǎng)简珠,這世上最難降的妖魔是什么? 我笑而不...
    開(kāi)封第一講書(shū)人閱讀 58,728評(píng)論 1 294
  • 正文 為了忘掉前任虹钮,我火速辦了婚禮聋庵,結(jié)果婚禮上,老公的妹妹穿的比我還像新娘芜抒。我一直安慰自己珍策,他們只是感情好,可當(dāng)我...
    茶點(diǎn)故事閱讀 67,743評(píng)論 6 392
  • 文/花漫 我一把揭開(kāi)白布宅倒。 她就那樣靜靜地躺著攘宙,像睡著了一般。 火紅的嫁衣襯著肌膚如雪拐迁。 梳的紋絲不亂的頭發(fā)上蹭劈,一...
    開(kāi)封第一講書(shū)人閱讀 51,590評(píng)論 1 305
  • 那天,我揣著相機(jī)與錄音线召,去河邊找鬼铺韧。 笑死,一個(gè)胖子當(dāng)著我的面吹牛缓淹,可吹牛的內(nèi)容都是我干的哈打。 我是一名探鬼主播,決...
    沈念sama閱讀 40,330評(píng)論 3 418
  • 文/蒼蘭香墨 我猛地睜開(kāi)眼讯壶,長(zhǎng)吁一口氣:“原來(lái)是場(chǎng)噩夢(mèng)啊……” “哼料仗!你這毒婦竟也來(lái)了?” 一聲冷哼從身側(cè)響起伏蚊,我...
    開(kāi)封第一講書(shū)人閱讀 39,244評(píng)論 0 276
  • 序言:老撾萬(wàn)榮一對(duì)情侶失蹤立轧,失蹤者是張志新(化名)和其女友劉穎,沒(méi)想到半個(gè)月后,有當(dāng)?shù)厝嗽跇?shù)林里發(fā)現(xiàn)了一具尸體氛改,經(jīng)...
    沈念sama閱讀 45,693評(píng)論 1 314
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡帐萎,尸身上長(zhǎng)有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 37,885評(píng)論 3 336
  • 正文 我和宋清朗相戀三年,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了胜卤。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片疆导。...
    茶點(diǎn)故事閱讀 40,001評(píng)論 1 348
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡,死狀恐怖瑰艘,靈堂內(nèi)的尸體忽然破棺而出是鬼,到底是詐尸還是另有隱情,我是刑警寧澤紫新,帶...
    沈念sama閱讀 35,723評(píng)論 5 346
  • 正文 年R本政府宣布,位于F島的核電站李剖,受9級(jí)特大地震影響芒率,放射性物質(zhì)發(fā)生泄漏。R本人自食惡果不足惜篙顺,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 41,343評(píng)論 3 330
  • 文/蒙蒙 一偶芍、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧德玫,春花似錦匪蟀、人聲如沸。這莊子的主人今日做“春日...
    開(kāi)封第一講書(shū)人閱讀 31,919評(píng)論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽(yáng)。三九已至琴儿,卻和暖如春段化,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背造成。 一陣腳步聲響...
    開(kāi)封第一講書(shū)人閱讀 33,042評(píng)論 1 270
  • 我被黑心中介騙來(lái)泰國(guó)打工显熏, 沒(méi)想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留,地道東北人晒屎。 一個(gè)月前我還...
    沈念sama閱讀 48,191評(píng)論 3 370
  • 正文 我出身青樓喘蟆,卻偏偏與公主長(zhǎng)得像,于是被迫代替她去往敵國(guó)和親鼓鲁。 傳聞我的和親對(duì)象是個(gè)殘疾皇子蕴轨,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 44,955評(píng)論 2 355

推薦閱讀更多精彩內(nèi)容

  • **2014真題Directions:Read the following text. Choose the be...
    又是夜半驚坐起閱讀 9,505評(píng)論 0 23
  • =========================================================...
    lavor閱讀 3,490評(píng)論 0 5
  • Spring Cloud為開(kāi)發(fā)人員提供了快速構(gòu)建分布式系統(tǒng)中一些常見(jiàn)模式的工具(例如配置管理,服務(wù)發(fā)現(xiàn)坐桩,斷路器尺棋,智...
    卡卡羅2017閱讀 134,657評(píng)論 18 139
  • 董藝一摸到餓下去的口袋,心里就突然發(fā)慌起來(lái)。 董藝自小膘螟,就有一個(gè)夢(mèng)想成福,就是擁有自己的第一套碧旭牌藍(lán)牙耳機(jī)。要說(shuō)為什...
    點(diǎn)壹閱讀 483評(píng)論 0 3
  • 我想我應(yīng)該比正常人有資格談?wù)撨@件事情荆残,因?yàn)槲矣忠淮螐募本仁页鰜?lái)奴艾。 如果死亡帶走了我,我想我可以安然離去内斯。但我最不想...
    沐格小姐閱讀 286評(píng)論 0 0