kafka-python 獲取topic lag值

說真闷叉,這個問題看上去很簡單钝侠,但“得益”與kafka-python神奇的文檔佣蓉,真的不算簡單,反正我是搜了半天還看了半天源碼馆铁。直接上代碼吧

from kafka import SimpleClient, KafkaConsumer
from kafka.common import OffsetRequestPayload, TopicPartition

def get_topic_offset(brokers, topic):
    """
    獲取一個topic的offset值的和
    """
    client = SimpleClient(brokers)
    partitions = client.topic_partitions[topic]
    offset_requests = [OffsetRequestPayload(topic, p, -1, 1) for p in partitions.keys()]
    offsets_responses = client.send_offset_request(offset_requests)
    return sum([r.offsets[0] for r in offsets_responses])


def get_group_offset(brokers, group_id, topic):
    """
    獲取一個topic特定group已經(jīng)消費的offset值的和
    """
    consumer = KafkaConsumer(bootstrap_servers=brokers,
                             group_id=group_id,
                             )
    pts = [TopicPartition(topic=topic, partition=i) for i in
           consumer.partitions_for_topic(topic)]
    result = consumer._coordinator.fetch_committed_offsets(pts)
    return sum([r.offset for r in result.values()])


if __name__ == '__main__':
    topic_offset = get_topic_offset("brokers", "topic")
    group_offset = get_group_offset("brokers", "group_id", "topic")
    lag = topic_offset - group_offset
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末跑揉,一起剝皮案震驚了整個濱河市,隨后出現(xiàn)的幾起案子埠巨,更是在濱河造成了極大的恐慌历谍,老刑警劉巖,帶你破解...
    沈念sama閱讀 210,835評論 6 490
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件辣垒,死亡現(xiàn)場離奇詭異望侈,居然都是意外死亡,警方通過查閱死者的電腦和手機勋桶,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 89,900評論 2 383
  • 文/潘曉璐 我一進店門脱衙,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人例驹,你說我怎么就攤上這事捐韩。” “怎么了眠饮?”我有些...
    開封第一講書人閱讀 156,481評論 0 345
  • 文/不壞的土叔 我叫張陵奥帘,是天一觀的道長。 經(jīng)常有香客問我仪召,道長寨蹋,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 56,303評論 1 282
  • 正文 為了忘掉前任扔茅,我火速辦了婚禮已旧,結(jié)果婚禮上,老公的妹妹穿的比我還像新娘召娜。我一直安慰自己运褪,他們只是感情好,可當我...
    茶點故事閱讀 65,375評論 5 384
  • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著秸讹,像睡著了一般檀咙。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上璃诀,一...
    開封第一講書人閱讀 49,729評論 1 289
  • 那天弧可,我揣著相機與錄音,去河邊找鬼劣欢。 笑死棕诵,一個胖子當著我的面吹牛,可吹牛的內(nèi)容都是我干的凿将。 我是一名探鬼主播校套,決...
    沈念sama閱讀 38,877評論 3 404
  • 文/蒼蘭香墨 我猛地睜開眼,長吁一口氣:“原來是場噩夢啊……” “哼牧抵!你這毒婦竟也來了笛匙?” 一聲冷哼從身側(cè)響起,我...
    開封第一講書人閱讀 37,633評論 0 266
  • 序言:老撾萬榮一對情侶失蹤灭忠,失蹤者是張志新(化名)和其女友劉穎膳算,沒想到半個月后,有當?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體弛作,經(jīng)...
    沈念sama閱讀 44,088評論 1 303
  • 正文 獨居荒郊野嶺守林人離奇死亡,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點故事閱讀 36,443評論 2 326
  • 正文 我和宋清朗相戀三年华匾,在試婚紗的時候發(fā)現(xiàn)自己被綠了映琳。 大學(xué)時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片。...
    茶點故事閱讀 38,563評論 1 339
  • 序言:一個原本活蹦亂跳的男人離奇死亡蜘拉,死狀恐怖萨西,靈堂內(nèi)的尸體忽然破棺而出,到底是詐尸還是另有隱情旭旭,我是刑警寧澤谎脯,帶...
    沈念sama閱讀 34,251評論 4 328
  • 正文 年R本政府宣布,位于F島的核電站持寄,受9級特大地震影響源梭,放射性物質(zhì)發(fā)生泄漏。R本人自食惡果不足惜稍味,卻給世界環(huán)境...
    茶點故事閱讀 39,827評論 3 312
  • 文/蒙蒙 一废麻、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧模庐,春花似錦烛愧、人聲如沸。這莊子的主人今日做“春日...
    開封第一講書人閱讀 30,712評論 0 21
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽慎冤。三九已至,卻和暖如春沧卢,著一層夾襖步出監(jiān)牢的瞬間蚁堤,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 31,943評論 1 264
  • 我被黑心中介騙來泰國打工搏恤, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留违寿,地道東北人。 一個月前我還...
    沈念sama閱讀 46,240評論 2 360
  • 正文 我出身青樓熟空,卻偏偏與公主長得像藤巢,于是被迫代替她去往敵國和親。 傳聞我的和親對象是個殘疾皇子息罗,可洞房花燭夜當晚...
    茶點故事閱讀 43,435評論 2 348

推薦閱讀更多精彩內(nèi)容

  • 轉(zhuǎn)自:https://weibo.com/ttarticle/p/show?id=2309404129469920...
    xpf2000閱讀 4,718評論 0 48
  • Web UI測試自動化 splinter - web UI測試工具掂咒,基于selnium封裝。 selenium -...
    Thea0216閱讀 5,811評論 2 48
  • 知識經(jīng)常被認為是儲存在昏暗圖書館里堆滿塵埃的書架上的死物迈喉。遺憾的是绍刮,圖書館里沉寂的氣氛會使人想起教堂的葬禮或...
    鄧潔兒閱讀 154評論 0 1
  • 聽了20多期吐槽課程,對幽默也有了一定了解挨摸,感覺自己在段子手的道路上似乎又前進了一步孩革。 許多內(nèi)容,聽過了之后也不過...
    烏卓閱讀 1,154評論 0 4
  • 沙子的自由 風無法囚禁住他 愚蠢的海浪也不能 和風一樣愚蠢 自信的神 不了解他們自己 除非他們首先失去自己 然后沙...
    瓦爾登野人閱讀 324評論 0 0