kafka學習00-Kafka相關概念

1.2.1 消息

消息:字節(jié)數據組琅拌。消息有一個可選的元數據稱為鍵某残,也是一個字節(jié)數組,在分區(qū)時會對鍵取hash值再模以分區(qū)數得到這條數據存進哪個分區(qū)暂衡。

1.2.2 模式

可以理解為數據的格式:如:json、xml低飒、強類型模式
Avro提供了一種緊湊的序列化格式计螺,模式和消息體是分開的蕾各,支持強烈型和模式進化。
數據格式要一致才能解除生產者和消費者之間的耦合。

1.2.3 主題和分區(qū)

主題:可以把一個主題看成是從生產者流到消費者的一條數據流遏乔。
分區(qū):一個主題可以有多個分區(qū)义矛,數據被追加到這些分區(qū),單個分區(qū)內到數據是有序的盟萨。
    分區(qū)的好處是數據冗余備份和數據吞吐的伸縮性凉翻,分區(qū)是負載均衡和冗余備份的單位。

1.2.4 生產者和消費者

生產者:負責把數據寫入主題捻激。默認是均衡的把消息寫到所有分區(qū)制轰,也可以指定分區(qū)器,通過消息的鍵生成一個散列值胞谭,將其映射到指定分區(qū)上垃杖。
消費者:讀取主題數據。
        偏移量:消費者通過檢查偏移量來記錄已經讀區(qū)過的消息丈屹,每個分區(qū)內的偏移量都是唯一调俘、遞增的。每個分區(qū)最后讀取的偏移量被保存到zookeeper或Kafka中
消費者群組:一個消費者組對應一個主題泉瞻。一個主題內的一個分區(qū)只能被一個消費者所有脉漏,但一個消費者可以擁有多個分區(qū)苞冯。
        這樣設計的好處在于:
            1. 保證了在一個組內袖牙,每條消息只被處理一次。
            2. 這種方式讓消費者組可以負載均衡的消費大量消息的主題舅锄,而且還具有容災的特性鞭达。

1.2.5 broker和集群

broker:一個獨立的Kafka server就是一個broker
        對生產者作用:接收消息->設置偏移量->提交存盤
        對消費者作用:響應讀取消息的請求
        性能:數千分區(qū)、每秒百萬級別數據
        對于分區(qū):一個分區(qū)可以存儲到多個broker上皇忿,其中一個是master負責讀寫消息畴蹭,其它的salve負責復制數據備份,master掛了會有一個頂上
集群:集群內會有一個broker作為controller的角色鳍烁,負責分配分區(qū)給broker和監(jiān)控broker
保留消息:保留一段時間叨襟、保留一定大小、緊湊型日志(只有最后一個帶有特定鍵的消息會被保留)

1.3選擇kafka的理由

1. 支持多個生產者同時寫如一個主題幔荒,消費者可以獲得統(tǒng)一主題數據
2. 可以重復消費一個主題糊闽,一個主題可以由多個消費者并發(fā)消費,每個分區(qū)只能指定一個消費者爹梁,保證了每條消費只被消費一次右犹。
3. 基于磁盤的存儲。讓消息可以保留姚垃、不會阻塞在生產端念链、消費端可重復消費、消費者離線也不會丟數據
4. 伸縮性好,broker可以從一個逐步擴展到多個
?著作權歸作者所有,轉載或內容合作請聯(lián)系作者
  • 序言:七十年代末掂墓,一起剝皮案震驚了整個濱河市谦纱,隨后出現(xiàn)的幾起案子,更是在濱河造成了極大的恐慌君编,老刑警劉巖服协,帶你破解...
    沈念sama閱讀 217,185評論 6 503
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件,死亡現(xiàn)場離奇詭異啦粹,居然都是意外死亡偿荷,警方通過查閱死者的電腦和手機,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 92,652評論 3 393
  • 文/潘曉璐 我一進店門唠椭,熙熙樓的掌柜王于貴愁眉苦臉地迎上來跳纳,“玉大人,你說我怎么就攤上這事贪嫂∷伦” “怎么了?”我有些...
    開封第一講書人閱讀 163,524評論 0 353
  • 文/不壞的土叔 我叫張陵力崇,是天一觀的道長斗塘。 經常有香客問我,道長亮靴,這世上最難降的妖魔是什么馍盟? 我笑而不...
    開封第一講書人閱讀 58,339評論 1 293
  • 正文 為了忘掉前任,我火速辦了婚禮茧吊,結果婚禮上贞岭,老公的妹妹穿的比我還像新娘。我一直安慰自己搓侄,他們只是感情好瞄桨,可當我...
    茶點故事閱讀 67,387評論 6 391
  • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著讶踪,像睡著了一般芯侥。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上乳讥,一...
    開封第一講書人閱讀 51,287評論 1 301
  • 那天柱查,我揣著相機與錄音,去河邊找鬼雏婶。 笑死物赶,一個胖子當著我的面吹牛,可吹牛的內容都是我干的留晚。 我是一名探鬼主播酵紫,決...
    沈念sama閱讀 40,130評論 3 418
  • 文/蒼蘭香墨 我猛地睜開眼告嘲,長吁一口氣:“原來是場噩夢啊……” “哼!你這毒婦竟也來了奖地?” 一聲冷哼從身側響起橄唬,我...
    開封第一講書人閱讀 38,985評論 0 275
  • 序言:老撾萬榮一對情侶失蹤,失蹤者是張志新(化名)和其女友劉穎参歹,沒想到半個月后仰楚,有當地人在樹林里發(fā)現(xiàn)了一具尸體,經...
    沈念sama閱讀 45,420評論 1 313
  • 正文 獨居荒郊野嶺守林人離奇死亡犬庇,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內容為張勛視角 年9月15日...
    茶點故事閱讀 37,617評論 3 334
  • 正文 我和宋清朗相戀三年僧界,在試婚紗的時候發(fā)現(xiàn)自己被綠了。 大學時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片臭挽。...
    茶點故事閱讀 39,779評論 1 348
  • 序言:一個原本活蹦亂跳的男人離奇死亡捂襟,死狀恐怖,靈堂內的尸體忽然破棺而出欢峰,到底是詐尸還是另有隱情葬荷,我是刑警寧澤,帶...
    沈念sama閱讀 35,477評論 5 345
  • 正文 年R本政府宣布纽帖,位于F島的核電站宠漩,受9級特大地震影響,放射性物質發(fā)生泄漏懊直。R本人自食惡果不足惜扒吁,卻給世界環(huán)境...
    茶點故事閱讀 41,088評論 3 328
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望吹截。 院中可真熱鬧瘦陈,春花似錦凝危、人聲如沸波俄。這莊子的主人今日做“春日...
    開封第一講書人閱讀 31,716評論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽懦铺。三九已至,卻和暖如春支鸡,著一層夾襖步出監(jiān)牢的瞬間冬念,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 32,857評論 1 269
  • 我被黑心中介騙來泰國打工牧挣, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留急前,地道東北人。 一個月前我還...
    沈念sama閱讀 47,876評論 2 370
  • 正文 我出身青樓瀑构,卻偏偏與公主長得像裆针,于是被迫代替她去往敵國和親。 傳聞我的和親對象是個殘疾皇子,可洞房花燭夜當晚...
    茶點故事閱讀 44,700評論 2 354

推薦閱讀更多精彩內容

  • Kafka提供的主要功能 生產者 ——>消息隊列 <——消費者 所謂消息對象世吨,本質上就是由生產者向消息隊列不斷發(fā)送...
    leofight閱讀 1,639評論 0 5
  • 一澡刹、Kafka簡介 Kafka (科技術語)。Kafka是一種高吞吐量的分布式發(fā)布訂閱消息系統(tǒng)耘婚,它可以處理消費者規(guī)...
    邊學邊記閱讀 1,736評論 0 14
  • kafka客戶端 Kafka除了提供內置Java客戶端外罢浇,還提供了二進制連接協(xié)議,即向Kafka網絡端口發(fā)送適當的...
    零度沸騰_yjz閱讀 2,819評論 0 4
  • 一沐祷、概述 Kafka是一個具有高吞吐量嚷闭,高拓展性,高性能和高可靠的基于發(fā)布訂閱模式的消息隊列赖临,是由領英基于Java...
    服務端開發(fā)閱讀 782評論 1 5
  • 簡介 Kafka從0.8.x版本開始引入副本機制凌受,這樣可以極大的提高集群的可靠性和穩(wěn)定性。不過這也使得Kafka變...
    朱小廝閱讀 1,923評論 0 1