Kafka的Topic配置詳解

一察皇、Kafka中topic級別配置

配置topic級別參數(shù)時优床,相同(參數(shù))屬性topic級別會覆蓋全局的泥畅,否則默認為全局配置屬性值豌骏。
創(chuàng)建topic參數(shù)可以設(shè)置一個或多個--config "Property(屬性)",下面是創(chuàng)建一個topic名稱為"my-topic"例子,它設(shè)置了2個參數(shù)max message size 和 flush rate.
(A)創(chuàng)建topic時配置參數(shù)

bin/kafka-topics.sh --zookeeper 192.168.2.225:2183/config/mobile/mq/mafka02 --create --topic my-topic --partitions 1   --replication-factor 1 
--config max.message.bytes=64000 --config flush.messages=1

(B)修改topic時配置參數(shù)
覆蓋已經(jīng)有topic參數(shù)汁蝶,下面例子修改"my-topic"的max message屬性

bin/kafka-topics.sh --zookeeper192.168.2.225:2183/config/mobile/mq/mafka02  --alter --topic my-topic  --config max.message.bytes=128000 

(C)刪除topic級別配置參數(shù)

bin/kafka-topics.sh --zookeeper192.168.2.225:2183/config/mobile/mq/mafka02  --alter --topic my-topic  --delete-config max.message.bytes

注:配置的kafka集群的根目錄為/config/mobile/mq/mafka02交惯,因此所有節(jié)點信息都在此目錄下。

二穿仪、Topic級別配置屬性表

cleanup.policy

Default(默認值):delete
server.properties:log.cleanup.policy
說明(解釋):日志清理策略選擇有:delete和compact主要針對過期數(shù)據(jù)的處理席爽,或是日志文件達到限制的額度,會被  topic創(chuàng)建時的指定參數(shù)覆蓋

delete.retention.ms

Default(默認值):86400000 (24 hours)
server.properties:log.cleaner.delete.retention.ms
說明(解釋): 
對于壓縮的日志保留的最長時間啊片,也是客戶端消費消息的最長時間只锻,同log.retention.minutes的區(qū)別在于一個控制未壓縮數(shù)據(jù),一個控制壓縮后的數(shù)據(jù)紫谷。會被topic創(chuàng)建時的指定參數(shù)覆蓋

delete.retention.ms

Default(默認值):86400000 (24 hours)
server.properties:log.cleaner.delete.retention.ms
說明(解釋): 
對于壓縮的日志保留的最長時間齐饮,也是客戶端消費消息的最長時間,同log.retention.minutes的區(qū)別在于一個控制未壓縮數(shù)據(jù)笤昨,一個控制壓縮后的數(shù)據(jù)祖驱。會被topic創(chuàng)建時的指定參數(shù)覆蓋

flush.messages

Default(默認值):None
server.properties:log.flush.interval.messages
說明(解釋): 
log文件”sync”到磁盤之前累積的消息條數(shù),因為磁盤IO操作是一個慢操作,但又是一個”數(shù)據(jù)可靠性"的必要手段,所以此參數(shù)的設(shè)置,需要在"數(shù)據(jù)可靠性"與"性能"之間做必要的權(quán)衡.如果此值過大,將會導致每次"fsync"的時間較長(IO阻塞),如果此值過小,將會導致"fsync"的次數(shù)較多,這也意味著整體的client請求有一定的延遲.物理server故障,將會導致沒有fsync的消息丟失.

flush.ms

Default(默認值):None
server.properties:log.flush.interval.ms
說明(解釋):僅僅通過interval來控制消息的磁盤寫入時機,是不足的.此參數(shù)用于控制"fsync"的時間間隔,如果消息量始終沒有達到閥值,但是離上一次磁盤同步的時間間隔達到閥值,也將觸發(fā).

index.interval.bytes

Default(默認值):4096
server.properties:log.index.interval.bytes
說明(解釋):當執(zhí)行一個fetch操作后,需要一定的空間來掃描最近的offset大小瞒窒,設(shè)置越大捺僻,代表掃描速度越快,但是也更好內(nèi)存崇裁,一般情況下不需要搭理這個參數(shù)

message.max.bytes

Default(默認值):1,000,000
server.properties:  表示消息的最大大小匕坯,單位是字節(jié)
說明(解釋):當執(zhí)行一個fetch操作后,需要一定的空間來掃描最近的offset大小拔稳,設(shè)置越大葛峻,代表掃描速度越快,但是也更好內(nèi)存巴比,一般情況下不需要搭理這個參數(shù)

min.cleanable.dirty.ratio

Default(默認值):0.5
server.properties:log.cleaner.min.cleanable.ratio
說明(解釋):日志清理的頻率控制术奖,越大意味著更高效的清理礁遵,同時會存在一些空間上的浪費,會被topic創(chuàng)建時的指定參數(shù)覆蓋

retention.bytes

Default(默認值):None
server.properties:log.retention.bytes
說明(解釋): 
topic每個分區(qū)的最大文件大小采记,一個topic的大小限制  = 分區(qū)數(shù)*log.retention.bytes佣耐。-1沒有大小限log.retention.bytes和log.retention.minutes任意一個達到要求,都會執(zhí)行刪除挺庞,會被topic創(chuàng)建時的指定參數(shù)覆蓋

retention.ms

Default(默認值):None
server.properties:log.retention.minutes
說明(解釋): 
數(shù)據(jù)存儲的最大時間超過這個時間會根據(jù)log.cleanup.policy設(shè)置的策略處理數(shù)據(jù),也就是消費端能夠多久去消費數(shù)據(jù)
log.retention.bytes和log.retention.minutes達到要求稼病,都會執(zhí)行刪除选侨,會被topic創(chuàng)建時的指定參數(shù)覆蓋

segment.bytes

Default(默認值):1 GB
server.properties:log.segment.bytes
說明(解釋): 
topic的分區(qū)是以一堆segment文件存儲的,這個控制每個segment的大小然走,會被topic創(chuàng)建時的指定參數(shù)覆蓋

segment.index.bytes

Default(默認值):10 MB
server.properties:log.index.size.max.bytes
說明(解釋):對于segment日志的索引文件大小限制援制,會被topic創(chuàng)建時的指定參數(shù)覆蓋

log.roll.hours

Default(默認值):7 days
server.properties:log.index.size.max.bytes
說明(解釋): 這個參數(shù)會在日志segment沒有達到log.segment.bytes設(shè)置的大小,也會強制新建一個segment會被  topic創(chuàng)建時的指定參數(shù)覆蓋

參考資料:
https://www.cnblogs.com/moonandstar08/p/6139502.html
https://www.cnblogs.com/moonandstar08/p/6139463.html

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末芍瑞,一起剝皮案震驚了整個濱河市晨仑,隨后出現(xiàn)的幾起案子,更是在濱河造成了極大的恐慌拆檬,老刑警劉巖洪己,帶你破解...
    沈念sama閱讀 217,657評論 6 505
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件,死亡現(xiàn)場離奇詭異竟贯,居然都是意外死亡答捕,警方通過查閱死者的電腦和手機,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 92,889評論 3 394
  • 文/潘曉璐 我一進店門屑那,熙熙樓的掌柜王于貴愁眉苦臉地迎上來拱镐,“玉大人,你說我怎么就攤上這事持际∥掷牛” “怎么了?”我有些...
    開封第一講書人閱讀 164,057評論 0 354
  • 文/不壞的土叔 我叫張陵蜘欲,是天一觀的道長益眉。 經(jīng)常有香客問我,道長姥份,這世上最難降的妖魔是什么呜叫? 我笑而不...
    開封第一講書人閱讀 58,509評論 1 293
  • 正文 為了忘掉前任,我火速辦了婚禮殿衰,結(jié)果婚禮上朱庆,老公的妹妹穿的比我還像新娘。我一直安慰自己闷祥,他們只是感情好娱颊,可當我...
    茶點故事閱讀 67,562評論 6 392
  • 文/花漫 我一把揭開白布傲诵。 她就那樣靜靜地躺著,像睡著了一般箱硕。 火紅的嫁衣襯著肌膚如雪拴竹。 梳的紋絲不亂的頭發(fā)上,一...
    開封第一講書人閱讀 51,443評論 1 302
  • 那天剧罩,我揣著相機與錄音栓拜,去河邊找鬼。 笑死惠昔,一個胖子當著我的面吹牛幕与,可吹牛的內(nèi)容都是我干的。 我是一名探鬼主播镇防,決...
    沈念sama閱讀 40,251評論 3 418
  • 文/蒼蘭香墨 我猛地睜開眼啦鸣,長吁一口氣:“原來是場噩夢啊……” “哼!你這毒婦竟也來了来氧?” 一聲冷哼從身側(cè)響起诫给,我...
    開封第一講書人閱讀 39,129評論 0 276
  • 序言:老撾萬榮一對情侶失蹤,失蹤者是張志新(化名)和其女友劉穎啦扬,沒想到半個月后中狂,有當?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體,經(jīng)...
    沈念sama閱讀 45,561評論 1 314
  • 正文 獨居荒郊野嶺守林人離奇死亡扑毡,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點故事閱讀 37,779評論 3 335
  • 正文 我和宋清朗相戀三年吃型,在試婚紗的時候發(fā)現(xiàn)自己被綠了。 大學時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片僚楞。...
    茶點故事閱讀 39,902評論 1 348
  • 序言:一個原本活蹦亂跳的男人離奇死亡勤晚,死狀恐怖,靈堂內(nèi)的尸體忽然破棺而出泉褐,到底是詐尸還是另有隱情赐写,我是刑警寧澤,帶...
    沈念sama閱讀 35,621評論 5 345
  • 正文 年R本政府宣布膜赃,位于F島的核電站挺邀,受9級特大地震影響,放射性物質(zhì)發(fā)生泄漏跳座。R本人自食惡果不足惜端铛,卻給世界環(huán)境...
    茶點故事閱讀 41,220評論 3 328
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望疲眷。 院中可真熱鬧禾蚕,春花似錦、人聲如沸狂丝。這莊子的主人今日做“春日...
    開封第一講書人閱讀 31,838評論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽。三九已至倍试,卻和暖如春讯屈,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背县习。 一陣腳步聲響...
    開封第一講書人閱讀 32,971評論 1 269
  • 我被黑心中介騙來泰國打工涮母, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留,地道東北人躁愿。 一個月前我還...
    沈念sama閱讀 48,025評論 2 370
  • 正文 我出身青樓叛本,卻偏偏與公主長得像,于是被迫代替她去往敵國和親攘已。 傳聞我的和親對象是個殘疾皇子炮赦,可洞房花燭夜當晚...
    茶點故事閱讀 44,843評論 2 354

推薦閱讀更多精彩內(nèi)容

  • 本文轉(zhuǎn)載自http://dataunion.org/?p=9307 背景介紹Kafka簡介Kafka是一種分布式的...
    Bottle丶Fish閱讀 5,469評論 0 34
  • ############################# System ####################...
    snail_knight閱讀 1,736評論 0 0
  • 大致可以通過上述情況進行排除 1.kafka服務(wù)器問題 查看日志是否有報錯怜跑,網(wǎng)絡(luò)訪問問題等样勃。 2. kafka p...
    生活的探路者閱讀 7,589評論 0 10
  • “我就是作植锉,非得變足花樣滿足自己” 好好的面包烤了不吃辫樱,非得撕了稀巴爛,好好的奧利奧不直接吃俊庇,非得挑掉夾心狮暑。我就是...
    區(qū)塊鏈卡咩閱讀 668評論 0 50
  • 今天我學了英語,超級難然后再學英語的時候辉饱,我和爸爸玩賭錢了搬男。學完英語我又玩植物大戰(zhàn)僵尸了還有今天在學校開家長會了,...
    卞卡727閱讀 98評論 0 0