kafka源碼解析—初始化生產(chǎn)者流程(一)

kafka版本:0.10.1.0

將kafka源碼下載下來導(dǎo)入idea后都會(huì)看到一個(gè)example包饭耳,這個(gè)包里面有生產(chǎn)者和消費(fèi)者的例子呼猪,教我們?nèi)绾问褂枚渎啵瑐€(gè)人認(rèn)為這里面的例子是我們學(xué)習(xí)源碼最好的入口浇垦。

在初始化生產(chǎn)者之前會(huì)設(shè)置一些配置蹦锋,包括kafka地址兆沙,key、value序列化器等莉掂,當(dāng)然上面例子中的配置在我們實(shí)際使用時(shí)是遠(yuǎn)遠(yuǎn)不夠的葛圃,后面在分析過程中會(huì)整理一些針對kafka調(diào)優(yōu)的參數(shù)。

個(gè)人習(xí)慣在核心代碼上面加一個(gè)todo憎妙,并注明這段代碼的目的库正。new KafkaProducer<>(props); 點(diǎn)進(jìn)去

點(diǎn)進(jìn)去可以看到KafkaProducer提供了多種構(gòu)造方法,也可以自定義序列化器厘唾,一般我們使用kafka的key褥符、value序列化器即可,這里面只傳進(jìn)去了我們自定義的配置抚垃。繼續(xù)點(diǎn)進(jìn)去喷楣。



這里面比較重要的是趟大,設(shè)置分區(qū)器和設(shè)置重試時(shí)間,我們知道kafka的一個(gè)topic可以有多個(gè)分區(qū)铣焊,那么發(fā)送消息的時(shí)候具體發(fā)送到哪個(gè)分區(qū)中也是有一定策略的逊朽,后面會(huì)深入講解。并且kafka也支持消息重試曲伊,retry.backoff.ms 表示每次重試的時(shí)間間隔叽讳。

讀到這里我們發(fā)現(xiàn)很多參數(shù)在example包里面的例子中都是沒有設(shè)置的,如果我們沒有設(shè)置熊昌,就會(huì)走默認(rèn)的配置绽榛,那么這些默認(rèn)配置不一定符合我們實(shí)際生產(chǎn)中的需求,這就是一些調(diào)優(yōu)項(xiàng)婿屹,當(dāng)然也是根據(jù)不同場景來修改的灭美。

這段代碼初始化了三大重要組件:

1、RecordAccumulator 對象昂利,kafka發(fā)送數(shù)據(jù)實(shí)際上也是批量發(fā)送的届腐,這個(gè)對象是保證kafka高吞吐的重要設(shè)計(jì)

2、NetworkClient 管理網(wǎng)絡(luò)的重要組件

3蜂奸、Sender 線程犁苏,也是真正發(fā)送數(shù)據(jù)的線程

至此,生產(chǎn)者就初始化好了扩所,但是目前為止只是粗略的過了一下流程围详,后面進(jìn)行細(xì)節(jié)分析~

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末,一起剝皮案震驚了整個(gè)濱河市祖屏,隨后出現(xiàn)的幾起案子助赞,更是在濱河造成了極大的恐慌,老刑警劉巖袁勺,帶你破解...
    沈念sama閱讀 218,755評論 6 507
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件雹食,死亡現(xiàn)場離奇詭異,居然都是意外死亡期丰,警方通過查閱死者的電腦和手機(jī)群叶,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 93,305評論 3 395
  • 文/潘曉璐 我一進(jìn)店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來钝荡,“玉大人街立,你說我怎么就攤上這事』海” “怎么了几晤?”我有些...
    開封第一講書人閱讀 165,138評論 0 355
  • 文/不壞的土叔 我叫張陵,是天一觀的道長植阴。 經(jīng)常有香客問我蟹瘾,道長圾浅,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 58,791評論 1 295
  • 正文 為了忘掉前任憾朴,我火速辦了婚禮狸捕,結(jié)果婚禮上,老公的妹妹穿的比我還像新娘众雷。我一直安慰自己灸拍,他們只是感情好,可當(dāng)我...
    茶點(diǎn)故事閱讀 67,794評論 6 392
  • 文/花漫 我一把揭開白布砾省。 她就那樣靜靜地躺著鸡岗,像睡著了一般。 火紅的嫁衣襯著肌膚如雪编兄。 梳的紋絲不亂的頭發(fā)上轩性,一...
    開封第一講書人閱讀 51,631評論 1 305
  • 那天,我揣著相機(jī)與錄音狠鸳,去河邊找鬼揣苏。 笑死,一個(gè)胖子當(dāng)著我的面吹牛件舵,可吹牛的內(nèi)容都是我干的卸察。 我是一名探鬼主播,決...
    沈念sama閱讀 40,362評論 3 418
  • 文/蒼蘭香墨 我猛地睜開眼铅祸,長吁一口氣:“原來是場噩夢啊……” “哼坑质!你這毒婦竟也來了?” 一聲冷哼從身側(cè)響起临梗,我...
    開封第一講書人閱讀 39,264評論 0 276
  • 序言:老撾萬榮一對情侶失蹤洪乍,失蹤者是張志新(化名)和其女友劉穎,沒想到半個(gè)月后夜焦,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體,經(jīng)...
    沈念sama閱讀 45,724評論 1 315
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡岂贩,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 37,900評論 3 336
  • 正文 我和宋清朗相戀三年茫经,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片萎津。...
    茶點(diǎn)故事閱讀 40,040評論 1 350
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡卸伞,死狀恐怖,靈堂內(nèi)的尸體忽然破棺而出锉屈,到底是詐尸還是另有隱情荤傲,我是刑警寧澤,帶...
    沈念sama閱讀 35,742評論 5 346
  • 正文 年R本政府宣布颈渊,位于F島的核電站遂黍,受9級特大地震影響终佛,放射性物質(zhì)發(fā)生泄漏。R本人自食惡果不足惜雾家,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 41,364評論 3 330
  • 文/蒙蒙 一铃彰、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧芯咧,春花似錦牙捉、人聲如沸。這莊子的主人今日做“春日...
    開封第一講書人閱讀 31,944評論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽。三九已至无拗,卻和暖如春带到,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背蓝纲。 一陣腳步聲響...
    開封第一講書人閱讀 33,060評論 1 270
  • 我被黑心中介騙來泰國打工阴孟, 沒想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留,地道東北人税迷。 一個(gè)月前我還...
    沈念sama閱讀 48,247評論 3 371
  • 正文 我出身青樓永丝,卻偏偏與公主長得像,于是被迫代替她去往敵國和親箭养。 傳聞我的和親對象是個(gè)殘疾皇子慕嚷,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 44,979評論 2 355