【Kafka】Producer配置

名稱 描述 類型 默認(rèn)值
bootstrap.servers kafka集群地址,ip+端口,以逗號隔開。不管這邊配置的是什么服務(wù)器缸榄,客戶端會(huì)使用所有的服務(wù)器呀邢。配置的列表只會(huì)影響初始發(fā)現(xiàn)所有主機(jī)阶冈。配置的格式應(yīng)該是:ip:port,ip:port傻谁,因?yàn)榕渲玫膬?nèi)容只是用于服務(wù)集群的初始發(fā)現(xiàn)(集群地址可能會(huì)變化),配置可以不包含所有的服務(wù)器(你可能需要配置多于一個(gè)进倍,防止某個(gè)服務(wù)掛掉) list
key.serializer 實(shí)現(xiàn)Serializer接口的序列化類鍵 class
value.serializer 實(shí)現(xiàn)Serializer接口的序列化類值 class
acks 生產(chǎn)者認(rèn)為一個(gè)請求完成,所需要kafka集群主服務(wù)的應(yīng)答次數(shù)购对。這個(gè)配置控制已發(fā)送消息的持久性猾昆。下面是這個(gè)配置可能的值。acks=0:如果設(shè)置為0骡苞,生產(chǎn)者不會(huì)等待kafka的響應(yīng)垂蜗。消息會(huì)被立刻加到發(fā)送緩沖通道中楷扬,并且認(rèn)為已經(jīng)發(fā)送成功。這種情況下贴见,不能保證kafka接收到了這條消息烘苹,retries配置不會(huì)生效,每條消息的偏移量都是1片部;acks=1:這個(gè)配置意味著kafka會(huì)把這條消息寫到本地日志文件中镣衡,但是不會(huì)等待集群中其他機(jī)器的成功響應(yīng)。這種情況下档悠,在寫入日志成功后廊鸥,集群主機(jī)器掛掉,同時(shí)從機(jī)器還沒來得及寫的話辖所,消息就會(huì)丟失掉惰说。acks=all:這個(gè)配置意味著leader會(huì)等待所有的follower同步完成。這個(gè)確保消息不會(huì)丟失缘回,除非kafka集群中所有機(jī)器掛掉吆视。這是最強(qiáng)的可用性保證。 string 1
buffer.memory 生產(chǎn)者等待發(fā)送到kafka的消息隊(duì)列占用內(nèi)容的大小切诀。如果消息發(fā)送的速度比傳輸給kafka快揩环,生產(chǎn)者會(huì)在拋出異常后,阻塞max.block.ms的時(shí)間幅虑。這個(gè)配置應(yīng)該大體與生產(chǎn)者用到的內(nèi)存差不多丰滑,但不全是,因?yàn)樯a(chǎn)者使用的內(nèi)存不全部用于消息隊(duì)列倒庵。還有些內(nèi)存會(huì)被用于壓縮和保持長連接褒墨。 long 33554432
compression.type 生產(chǎn)者的數(shù)據(jù)壓縮類型。默認(rèn)是不壓縮(no compression)擎宝。有效的配置可以是none郁妈,gzip,snappy或lz4绍申。壓縮是數(shù)據(jù)的批量壓縮噩咪,所以批量的效果也就是壓縮的比例(壓縮的比例越好,數(shù)據(jù)量越屑摹)胃碾。 string none
retries 配置為大于0的值的話,客戶端會(huì)在消息發(fā)送失敗時(shí)重新發(fā)送筋搏。重試等同于在發(fā)送有異常時(shí)重新發(fā)送消息仆百。如果不把max.in.flight.requests.per.connection設(shè)為1,重試可能會(huì)改變消息的順序奔脐。兩條消息同時(shí)發(fā)送到同一個(gè)分區(qū)俄周,第一條失敗了吁讨,并在第二條發(fā)送成功后重新發(fā)送,那么第二條消息可能在第一條消息前到達(dá)峦朗。 int 0
ssl.key.password 存在文件中的私鑰密碼建丧,對于生產(chǎn)者來說可選。 password null
ssl.keystore.location 存儲(chǔ)私鑰的文件地址甚垦,可以用于不同客戶端的認(rèn)證茶鹃。 string null
ssl.keystore.password 私鑰文件存儲(chǔ)密碼。只有當(dāng)ssl.keystore.location配置了艰亮,才有用闭翩。 password null
ssl.truststore.location 信任存儲(chǔ)文件路徑。 string null
ssl.truststore.password 信任存儲(chǔ)文件密碼 password null
batch.size 當(dāng)多條消息需要發(fā)送到同一個(gè)分區(qū)時(shí)迄埃,生產(chǎn)者會(huì)嘗試合并網(wǎng)絡(luò)請求疗韵。這會(huì)提高client和生產(chǎn)者的效率。如果消息體大于這個(gè)配置侄非,生產(chǎn)者不會(huì)嘗試發(fā)送消息蕉汪。發(fā)送給kafka的消息包含不同的批次,每批發(fā)送給一個(gè)分區(qū)逞怨。批次大小太小的話可能會(huì)降低吞吐量者疤。如果設(shè)為0,會(huì)禁用批處理功能叠赦。如果批次設(shè)置很大驹马,可能會(huì)有些浪費(fèi)內(nèi)存,因?yàn)槲覀儠?huì)預(yù)留這部分內(nèi)存用于額外的消息除秀。 int 16384
client.id 發(fā)送請求給kafka時(shí)帶上的生產(chǎn)者標(biāo)識糯累。目的是為了在ip+端口之外,通過邏輯上的應(yīng)用名稱跟蹤請求册踩,以便記錄在kafka日志中泳姐。 string ""
connections.max.idle.ms 在配置項(xiàng)的時(shí)間之后,關(guān)閉空閑的鏈接 long 540000
linger.ms 消息延遲發(fā)送的毫秒數(shù)暂吉,目的是為了等待多個(gè)消息胖秒,在同一批次發(fā)送,減少網(wǎng)絡(luò)請求慕的。 long 0
max.block.ms 這個(gè)配置控制KafkaProducer.send()和KafkaProducer.partitionsFor()的阻塞時(shí)間扒怖,當(dāng)緩沖區(qū)空間不夠或者源數(shù)據(jù)丟失時(shí)阻塞 int 60000
max.request.size 生產(chǎn)者一次請求的最大字節(jié)數(shù),這也是一次消息體的最大值业稼。注意到kafka集群有自己的消息限制,可能與這個(gè)值不一樣蚂蕴。這個(gè)配置限制的是生產(chǎn)者一次發(fā)送消息的大小低散,為的是避免發(fā)送大的數(shù)據(jù)量俯邓。 int 1048576
partitioner.class 實(shí)現(xiàn)Partitioner接口的分區(qū)類 class class org.apache.kafka.clients.producer.internals.DefaultPartitioner
receive.buffer.bytes socket接收緩存空間的大小,讀數(shù)據(jù)時(shí)用 int 32768
request.timeout.ms 生產(chǎn)者發(fā)送消息后等待響應(yīng)的最大時(shí)間熔号,如果在配置時(shí)間內(nèi)沒有得到響應(yīng)稽鞭,生產(chǎn)者會(huì)重試。 int 30000
timeout.ms kafka集群的leader等待follower響應(yīng)的超時(shí)時(shí)間引镊。 int 30000
最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末朦蕴,一起剝皮案震驚了整個(gè)濱河市,隨后出現(xiàn)的幾起案子弟头,更是在濱河造成了極大的恐慌吩抓,老刑警劉巖,帶你破解...
    沈念sama閱讀 223,207評論 6 521
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件赴恨,死亡現(xiàn)場離奇詭異疹娶,居然都是意外死亡,警方通過查閱死者的電腦和手機(jī)伦连,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 95,455評論 3 400
  • 文/潘曉璐 我一進(jìn)店門雨饺,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人惑淳,你說我怎么就攤上這事额港。” “怎么了歧焦?”我有些...
    開封第一講書人閱讀 170,031評論 0 366
  • 文/不壞的土叔 我叫張陵移斩,是天一觀的道長。 經(jīng)常有香客問我倚舀,道長叹哭,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 60,334評論 1 300
  • 正文 為了忘掉前任痕貌,我火速辦了婚禮风罩,結(jié)果婚禮上,老公的妹妹穿的比我還像新娘舵稠。我一直安慰自己超升,他們只是感情好,可當(dāng)我...
    茶點(diǎn)故事閱讀 69,322評論 6 398
  • 文/花漫 我一把揭開白布哺徊。 她就那樣靜靜地躺著室琢,像睡著了一般。 火紅的嫁衣襯著肌膚如雪落追。 梳的紋絲不亂的頭發(fā)上盈滴,一...
    開封第一講書人閱讀 52,895評論 1 314
  • 那天,我揣著相機(jī)與錄音,去河邊找鬼巢钓。 笑死病苗,一個(gè)胖子當(dāng)著我的面吹牛,可吹牛的內(nèi)容都是我干的症汹。 我是一名探鬼主播硫朦,決...
    沈念sama閱讀 41,300評論 3 424
  • 文/蒼蘭香墨 我猛地睜開眼,長吁一口氣:“原來是場噩夢啊……” “哼背镇!你這毒婦竟也來了咬展?” 一聲冷哼從身側(cè)響起,我...
    開封第一講書人閱讀 40,264評論 0 277
  • 序言:老撾萬榮一對情侶失蹤瞒斩,失蹤者是張志新(化名)和其女友劉穎破婆,沒想到半個(gè)月后,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體济瓢,經(jīng)...
    沈念sama閱讀 46,784評論 1 321
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡荠割,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 38,870評論 3 343
  • 正文 我和宋清朗相戀三年,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了旺矾。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片蔑鹦。...
    茶點(diǎn)故事閱讀 40,989評論 1 354
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡,死狀恐怖箕宙,靈堂內(nèi)的尸體忽然破棺而出嚎朽,到底是詐尸還是另有隱情,我是刑警寧澤柬帕,帶...
    沈念sama閱讀 36,649評論 5 351
  • 正文 年R本政府宣布哟忍,位于F島的核電站,受9級特大地震影響陷寝,放射性物質(zhì)發(fā)生泄漏锅很。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 42,331評論 3 336
  • 文/蒙蒙 一凤跑、第九天 我趴在偏房一處隱蔽的房頂上張望爆安。 院中可真熱鬧,春花似錦仔引、人聲如沸扔仓。這莊子的主人今日做“春日...
    開封第一講書人閱讀 32,814評論 0 25
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽翘簇。三九已至,卻和暖如春儿倒,著一層夾襖步出監(jiān)牢的瞬間版保,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 33,940評論 1 275
  • 我被黑心中介騙來泰國打工, 沒想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留找筝,地道東北人蹈垢。 一個(gè)月前我還...
    沈念sama閱讀 49,452評論 3 379
  • 正文 我出身青樓,卻偏偏與公主長得像袖裕,于是被迫代替她去往敵國和親。 傳聞我的和親對象是個(gè)殘疾皇子逸爵,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 45,995評論 2 361

推薦閱讀更多精彩內(nèi)容