銀行系統(tǒng)中的消息分發(fā)利器Kafka(一)

在我們?yōu)殂y行設(shè)計金融系統(tǒng)的時候谓苟,消息分發(fā)利器是個非常關(guān)鍵的環(huán)節(jié)棕叫。
消息分發(fā)處理主要做什么识颊?

銀行金融系統(tǒng)每天有大量的交易發(fā)生耿焊,這些交易很多需要進行實時的檢查與處理揪惦,比如一筆交易發(fā)生,這筆交易是否是欺詐交易搀别,這筆交易是否已經(jīng)達到限額了丹擎,相關(guān)用戶是否在黑名單中,交易結(jié)果聯(lián)動短信歇父、Email等渠道通知用戶……等等蒂培,也許一筆簡單的交易,就要與反欺詐系統(tǒng)榜苫、黑名單系統(tǒng)护戳、限額或授信管控系統(tǒng)、短信郵件系統(tǒng)進行通訊垂睬。
這還不是全部媳荒,銀行金融系統(tǒng)在進行運行時,如果出現(xiàn)了問題驹饺,需要日志及時定位問題钳枕;為了及時發(fā)現(xiàn)問題,要將處理結(jié)果實施發(fā)送監(jiān)控平臺赏壹;為了預(yù)防突發(fā)事件發(fā)生鱼炒,還需要備份系統(tǒng)做高可用處理。這就仍然需要與日志系統(tǒng)蝌借、監(jiān)控系統(tǒng)昔瞧、備份系統(tǒng)進行通訊。
最重要的是菩佑,上面這些處理必須在極短時間內(nèi)完成自晰,否則用戶就會感到有卡頓,影響體驗稍坯。
怎么解決這些問題呢酬荞?將交易處理相關(guān)的系統(tǒng)全部直連起來,似乎是個辦法:


屏幕快照 2019-01-05 上午9.54.46.png

但明顯不是一個好辦法瞧哟,你將面臨極高的后續(xù)維護成本:


![屏幕快照 2019-01-05 上午10.02.12.png](https://upload-images.jianshu.io/upload_images/4696469-d326aa5668fa1caa.png?imageMogr2/auto-orient/strip%7CimageView2/2/w/1240)

于是袜蚕,消息分發(fā)處理的概念出現(xiàn)了,我們在各個系統(tǒng)之間搭建一個消息分發(fā)的總控系統(tǒng)绢涡,連接這個總控系統(tǒng)的主要有兩方:
1牲剃、消息供應(yīng)方(Producer):他們會產(chǎn)生消息,并將消息送給消息分發(fā)系統(tǒng)雄可。
2凿傅、消息消費方(Comsumer):他們需要最新的消息以進行自身功能的處理缠犀,他們會從消息分發(fā)系統(tǒng)拿消息。
而消息分發(fā)系統(tǒng)就在中間聪舒,起到消息中介(Message Broker)的作用辨液。

kafka系統(tǒng)就是一個消息中介,從kafka的官網(wǎng)可以找到kafka的官方介紹:


![屏幕快照 2019-01-06 上午10.26.38.png](https://upload-images.jianshu.io/upload_images/4696469-65989bd523baa510.png?imageMogr2/auto-orient/strip%7CimageView2/2/w/1240)

可以看出箱残,介紹中也提到kafka很像是一個消息隊列或者企業(yè)級消息分發(fā)系統(tǒng)滔迈。當(dāng)然它不同于一般的消息隊列系統(tǒng),它的并發(fā)處理能力很強大被辑,同時燎悍,通過分布式架構(gòu)可以很靈活的增加處理能力。


屏幕快照 2019-01-06 上午10.26.38.png

上圖展示了一個最簡單的kafka分布式架構(gòu)的情況盼理,通過分布式架構(gòu)谈山,kafka集群可以橫向擴容很多的broker,以增加自己的并發(fā)處理能力宏怔。集群通過Zookeeper或其它技術(shù)進行分布式調(diào)度(Zookeeper簡單說就是分布式系統(tǒng)的一個指揮奏路,它會對哪個broker做什么做好指揮,確保所有的broker可以協(xié)同工作臊诊。以后有機會單獨寫文章講解)鸽粉。

我們可以更加細(xì)致的看一下kafka的架構(gòu):

上方的Producers會產(chǎn)生很多的消息和信息送給kafka。

kafka會把這些消息存儲下來抓艳。

下方的Consumers會從kafka獲取它所需要的數(shù)據(jù)触机,然后自行處理,比如Consumers可能會降消息存儲到hadoop壶硅、cassandra、Base销斟。

右側(cè)是流處理App庐椒。首先“流”是什么?“流”簡單來說蚂踊,就是不間斷的一系列變化的數(shù)據(jù)或者消息约谈。kafka可以很好的支持流處理(支持很多“流API”),一些流處理框架下的App可以接入kafka犁钟,并且可以實時的獲取變化的數(shù)據(jù)和消息棱诱,對消息進行處理后可以立刻存回kafka,等待其它Consumers調(diào)用涝动。

最后是左側(cè)的connectors迈勋,通過它,你可以將kafka與不同的數(shù)據(jù)庫或App聯(lián)通醋粟,實現(xiàn)海量數(shù)據(jù)導(dǎo)入kafka或者從kafka導(dǎo)出靡菇。

總結(jié)一下重归,簡單說,kafka是一個企業(yè)級的消息分發(fā)處理系統(tǒng)厦凤,可以幫助企業(yè)很好的進行多個系統(tǒng)間的消息處理事務(wù)鼻吮,同時支持實時的流處理。

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末较鼓,一起剝皮案震驚了整個濱河市椎木,隨后出現(xiàn)的幾起案子,更是在濱河造成了極大的恐慌博烂,老刑警劉巖香椎,帶你破解...
    沈念sama閱讀 216,324評論 6 498
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件,死亡現(xiàn)場離奇詭異脖母,居然都是意外死亡士鸥,警方通過查閱死者的電腦和手機,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 92,356評論 3 392
  • 文/潘曉璐 我一進店門谆级,熙熙樓的掌柜王于貴愁眉苦臉地迎上來烤礁,“玉大人,你說我怎么就攤上這事肥照〗抛校” “怎么了?”我有些...
    開封第一講書人閱讀 162,328評論 0 353
  • 文/不壞的土叔 我叫張陵舆绎,是天一觀的道長鲤脏。 經(jīng)常有香客問我,道長吕朵,這世上最難降的妖魔是什么猎醇? 我笑而不...
    開封第一講書人閱讀 58,147評論 1 292
  • 正文 為了忘掉前任,我火速辦了婚禮努溃,結(jié)果婚禮上硫嘶,老公的妹妹穿的比我還像新娘。我一直安慰自己梧税,他們只是感情好沦疾,可當(dāng)我...
    茶點故事閱讀 67,160評論 6 388
  • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著第队,像睡著了一般哮塞。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上凳谦,一...
    開封第一講書人閱讀 51,115評論 1 296
  • 那天忆畅,我揣著相機與錄音,去河邊找鬼尸执。 笑死邻眷,一個胖子當(dāng)著我的面吹牛眠屎,可吹牛的內(nèi)容都是我干的。 我是一名探鬼主播肆饶,決...
    沈念sama閱讀 40,025評論 3 417
  • 文/蒼蘭香墨 我猛地睜開眼改衩,長吁一口氣:“原來是場噩夢啊……” “哼!你這毒婦竟也來了驯镊?” 一聲冷哼從身側(cè)響起葫督,我...
    開封第一講書人閱讀 38,867評論 0 274
  • 序言:老撾萬榮一對情侶失蹤,失蹤者是張志新(化名)和其女友劉穎板惑,沒想到半個月后橄镜,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體,經(jīng)...
    沈念sama閱讀 45,307評論 1 310
  • 正文 獨居荒郊野嶺守林人離奇死亡冯乘,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點故事閱讀 37,528評論 2 332
  • 正文 我和宋清朗相戀三年洽胶,在試婚紗的時候發(fā)現(xiàn)自己被綠了。 大學(xué)時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片裆馒。...
    茶點故事閱讀 39,688評論 1 348
  • 序言:一個原本活蹦亂跳的男人離奇死亡姊氓,死狀恐怖,靈堂內(nèi)的尸體忽然破棺而出喷好,到底是詐尸還是另有隱情翔横,我是刑警寧澤,帶...
    沈念sama閱讀 35,409評論 5 343
  • 正文 年R本政府宣布梗搅,位于F島的核電站禾唁,受9級特大地震影響,放射性物質(zhì)發(fā)生泄漏无切。R本人自食惡果不足惜荡短,卻給世界環(huán)境...
    茶點故事閱讀 41,001評論 3 325
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望哆键。 院中可真熱鬧掘托,春花似錦、人聲如沸洼哎。這莊子的主人今日做“春日...
    開封第一講書人閱讀 31,657評論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽噩峦。三九已至,卻和暖如春抽兆,著一層夾襖步出監(jiān)牢的瞬間识补,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 32,811評論 1 268
  • 我被黑心中介騙來泰國打工辫红, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留凭涂,地道東北人祝辣。 一個月前我還...
    沈念sama閱讀 47,685評論 2 368
  • 正文 我出身青樓,卻偏偏與公主長得像切油,于是被迫代替她去往敵國和親蝙斜。 傳聞我的和親對象是個殘疾皇子,可洞房花燭夜當(dāng)晚...
    茶點故事閱讀 44,573評論 2 353