風(fēng)控系統(tǒng)實(shí)踐之感: drools 和 redis 二

根據(jù)目前風(fēng)控系統(tǒng)運(yùn)行情況來(lái)看,遇到如下的問題

1. redis 中的key 太多,在存量卡號(hào)比較大的情況下百框,redis 中key的存儲(chǔ)過于龐大。

2. redis 本身RDB 和 AOF 的問題牍汹。 線上開啟AOF 重寫出差情況下铐维,會(huì)阻塞redis 主線程柬泽。

基于以上問題,我們發(fā)現(xiàn)redis 開啟AOF 和 RDB 帶來(lái)許多麻煩方椎。第一點(diǎn) 是冷熱key 的問題聂抢,redis中存儲(chǔ)了大量的key,而這些key 是用來(lái)累計(jì)各種衍生變量的棠众。但是其中很大一部分是冷key琳疏。這些key 其實(shí)可以置換到SSD 這種存儲(chǔ)設(shè)備上的。

因此為了解決冷熱key 的問題闸拿,我們引入了額外的中間件 areospike空盼。 冷熱key的置換和一致性的維護(hù),是比較困難的新荤,何為冷key揽趾,可以熱key呢?? 我們沒有嚴(yán)格按照冷熱key的標(biāo)準(zhǔn)來(lái)做,我們根據(jù)業(yè)務(wù)來(lái)做苛骨。天篱瞎,周,月 等累計(jì)或者統(tǒng)計(jì)痒芝,都是放在areospike 里面進(jìn)行的俐筋。 但是天以內(nèi)的小時(shí)級(jí)別的累計(jì),因?yàn)橐髮?shí)現(xiàn)滑動(dòng)窗口严衬,對(duì)準(zhǔn)確性和實(shí)時(shí)性比較高, 因而延續(xù)redis 的方式去實(shí)現(xiàn)澄者。那么對(duì)于風(fēng)控中各種窗口的累計(jì)和維護(hù)變成如下的變動(dòng):

1.?areospike 統(tǒng)計(jì) 天, 周请琳, 月 等緯度的累計(jì)粱挡,默認(rèn)是一天長(zhǎng)度的滾動(dòng)窗口

2. 24小時(shí)內(nèi)的衍生變量計(jì)算,繼續(xù)使用redis做滑動(dòng)窗口的計(jì)算俄精。

針對(duì)第二問題询筏,我們也沒有發(fā)現(xiàn)線上產(chǎn)生這種原因具體是什么,但是可以懷疑的是

線上單臺(tái)redis 太大竖慧,有120G屈留,如果AOF 重寫出錯(cuò),需要從頭開始同步更多的數(shù)據(jù)测蘑。一邊應(yīng)用對(duì)redis 有大量的寫操作灌危,一邊 redis 本身有AOF 大量重寫。

對(duì)于這種問題碳胳,我們沒有找到本質(zhì)原因勇蝙,但是我們將120G redis 變成了 60G的大小,切成兩臺(tái)挨约。同時(shí)只開了RDB味混。 問題就沒有再出現(xiàn)過产雹。

對(duì)于risk 后面的規(guī)劃是在實(shí)時(shí)風(fēng)控那塊變成Flink 模式。 批量風(fēng)控目前hive/clickhouse 可以解決翁锡,系統(tǒng)還在逐步的演化蔓挖。

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末,一起剝皮案震驚了整個(gè)濱河市馆衔,隨后出現(xiàn)的幾起案子瘟判,更是在濱河造成了極大的恐慌,老刑警劉巖角溃,帶你破解...
    沈念sama閱讀 206,214評(píng)論 6 481
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件拷获,死亡現(xiàn)場(chǎng)離奇詭異,居然都是意外死亡减细,警方通過查閱死者的電腦和手機(jī)匆瓜,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 88,307評(píng)論 2 382
  • 文/潘曉璐 我一進(jìn)店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來(lái)未蝌,“玉大人驮吱,你說我怎么就攤上這事∠舴停” “怎么了左冬?”我有些...
    開封第一講書人閱讀 152,543評(píng)論 0 341
  • 文/不壞的土叔 我叫張陵,是天一觀的道長(zhǎng)怎憋。 經(jīng)常有香客問我,道長(zhǎng)九昧,這世上最難降的妖魔是什么绊袋? 我笑而不...
    開封第一講書人閱讀 55,221評(píng)論 1 279
  • 正文 為了忘掉前任,我火速辦了婚禮铸鹰,結(jié)果婚禮上癌别,老公的妹妹穿的比我還像新娘。我一直安慰自己蹋笼,他們只是感情好展姐,可當(dāng)我...
    茶點(diǎn)故事閱讀 64,224評(píng)論 5 371
  • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著剖毯,像睡著了一般圾笨。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上逊谋,一...
    開封第一講書人閱讀 49,007評(píng)論 1 284
  • 那天擂达,我揣著相機(jī)與錄音,去河邊找鬼胶滋。 笑死板鬓,一個(gè)胖子當(dāng)著我的面吹牛悲敷,可吹牛的內(nèi)容都是我干的。 我是一名探鬼主播俭令,決...
    沈念sama閱讀 38,313評(píng)論 3 399
  • 文/蒼蘭香墨 我猛地睜開眼后德,長(zhǎng)吁一口氣:“原來(lái)是場(chǎng)噩夢(mèng)啊……” “哼!你這毒婦竟也來(lái)了抄腔?” 一聲冷哼從身側(cè)響起瓢湃,我...
    開封第一講書人閱讀 36,956評(píng)論 0 259
  • 序言:老撾萬(wàn)榮一對(duì)情侶失蹤,失蹤者是張志新(化名)和其女友劉穎妓柜,沒想到半個(gè)月后箱季,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體,經(jīng)...
    沈念sama閱讀 43,441評(píng)論 1 300
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡棍掐,尸身上長(zhǎng)有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 35,925評(píng)論 2 323
  • 正文 我和宋清朗相戀三年藏雏,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片作煌。...
    茶點(diǎn)故事閱讀 38,018評(píng)論 1 333
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡掘殴,死狀恐怖,靈堂內(nèi)的尸體忽然破棺而出粟誓,到底是詐尸還是另有隱情奏寨,我是刑警寧澤,帶...
    沈念sama閱讀 33,685評(píng)論 4 322
  • 正文 年R本政府宣布鹰服,位于F島的核電站病瞳,受9級(jí)特大地震影響,放射性物質(zhì)發(fā)生泄漏悲酷。R本人自食惡果不足惜套菜,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 39,234評(píng)論 3 307
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望设易。 院中可真熱鬧逗柴,春花似錦、人聲如沸顿肺。這莊子的主人今日做“春日...
    開封第一講書人閱讀 30,240評(píng)論 0 19
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽(yáng)屠尊。三九已至旷祸,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間讼昆,已是汗流浹背肋僧。 一陣腳步聲響...
    開封第一講書人閱讀 31,464評(píng)論 1 261
  • 我被黑心中介騙來(lái)泰國(guó)打工, 沒想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留,地道東北人嫌吠。 一個(gè)月前我還...
    沈念sama閱讀 45,467評(píng)論 2 352
  • 正文 我出身青樓止潘,卻偏偏與公主長(zhǎng)得像,于是被迫代替她去往敵國(guó)和親辫诅。 傳聞我的和親對(duì)象是個(gè)殘疾皇子凭戴,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 42,762評(píng)論 2 345

推薦閱讀更多精彩內(nèi)容