Core Table Housekeeping案例1

分享一下自己做Core Table Housekeeping的思路…首先說下背景:我們系統(tǒng)沒有使用warehouse蜘犁,用的是ODS喂急,因為考慮到改動和測試量很大,所以暫不考慮建數(shù)倉温技。

一革为、為什么要做數(shù)據(jù)清理?
●系統(tǒng)運行一段時間后舵鳞,會產(chǎn)生歷史數(shù)據(jù)震檩,保存太久會降低系統(tǒng)處理效率。比如:賬戶計提歷史表蜓堕。
●若系統(tǒng)沒有建數(shù)據(jù)倉庫抛虏,使用的是操作型數(shù)據(jù)存儲ODS(Operational Data Storage)存儲數(shù)據(jù),通常存儲周期在半年以內(nèi)套才。

二迂猴、如何做?
1.導出系統(tǒng)存量表清單(含全量數(shù)據(jù)量背伴、每日增量數(shù)據(jù)量错忱、歷史數(shù)據(jù)存量以及數(shù)據(jù)量增長的趨勢);
2.補充表信息(名稱挂据、歸屬模塊以清、負責人、清理建議崎逃、備注)掷倔;
3.對表進行分類(主檔/歷史表/參數(shù)表/關系表):
(1)主檔(Master table):指系統(tǒng)中的共享數(shù)據(jù)(如客戶信息表、賬號信息表个绍,表Key為客戶號勒葱、賬號)浪汪。
(2)歷史表(History table):用于記錄業(yè)務活動的數(shù)據(jù),一旦被記錄凛虽,不會再變化(開銷戶登記簿死遭、賬戶利率歷史表)。
(3)參數(shù)表(Parameter table):記錄表數(shù)據(jù)值域的內(nèi)容凯旋,或是業(yè)務參數(shù)(比如活期II類戶的限額參數(shù)呀潭、標準費率參數(shù))。
(4)關系表(Relationship table):記錄主檔與主檔之間(比如客戶與賬戶關聯(lián)關系表至非、卡賬關聯(lián)表)钠署、主檔與歷史表之間。
4.每張表挨個分析(確定清理周期荒椭、清理條件谐鼎、清理范圍)因為各表的業(yè)務不同,所以清理時間和條件及范圍也不同趣惠。比如每半年執(zhí)行一次清理狸棍,根據(jù)清理條件把之前的數(shù)據(jù)都清理掉。
其實味悄,除了要考慮設計方法草戈,也還需要看數(shù)據(jù)量。
1.因為銀行的交易量是巨大的傍菇,若數(shù)據(jù)到了一定規(guī)模可能還是要大改的界赔,沒有捷徑丢习,比如引入數(shù)倉。如果一年數(shù)據(jù)量仍然太大淮悼,要不要做horizontal sharding等等咐低;
2.分析主數(shù)據(jù)信息的單條記錄長度、重要信息的單條記錄長度袜腥、主數(shù)據(jù)被變更的頻率见擦;
3.有分區(qū)表做分區(qū)切換,將歷史數(shù)據(jù)置換出去羹令。

?著作權歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末鲤屡,一起剝皮案震驚了整個濱河市,隨后出現(xiàn)的幾起案子福侈,更是在濱河造成了極大的恐慌酒来,老刑警劉巖,帶你破解...
    沈念sama閱讀 217,277評論 6 503
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件肪凛,死亡現(xiàn)場離奇詭異堰汉,居然都是意外死亡辽社,警方通過查閱死者的電腦和手機,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 92,689評論 3 393
  • 文/潘曉璐 我一進店門翘鸭,熙熙樓的掌柜王于貴愁眉苦臉地迎上來滴铅,“玉大人,你說我怎么就攤上這事就乓『撼祝” “怎么了?”我有些...
    開封第一講書人閱讀 163,624評論 0 353
  • 文/不壞的土叔 我叫張陵档址,是天一觀的道長盹兢。 經(jīng)常有香客問我,道長守伸,這世上最難降的妖魔是什么绎秒? 我笑而不...
    開封第一講書人閱讀 58,356評論 1 293
  • 正文 為了忘掉前任,我火速辦了婚禮尼摹,結果婚禮上见芹,老公的妹妹穿的比我還像新娘。我一直安慰自己蠢涝,他們只是感情好玄呛,可當我...
    茶點故事閱讀 67,402評論 6 392
  • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著和二,像睡著了一般徘铝。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上惯吕,一...
    開封第一講書人閱讀 51,292評論 1 301
  • 那天惕它,我揣著相機與錄音,去河邊找鬼废登。 笑死淹魄,一個胖子當著我的面吹牛,可吹牛的內(nèi)容都是我干的堡距。 我是一名探鬼主播甲锡,決...
    沈念sama閱讀 40,135評論 3 418
  • 文/蒼蘭香墨 我猛地睜開眼,長吁一口氣:“原來是場噩夢啊……” “哼羽戒!你這毒婦竟也來了缤沦?” 一聲冷哼從身側響起,我...
    開封第一講書人閱讀 38,992評論 0 275
  • 序言:老撾萬榮一對情侶失蹤易稠,失蹤者是張志新(化名)和其女友劉穎疚俱,沒想到半個月后,有當?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體缩多,經(jīng)...
    沈念sama閱讀 45,429評論 1 314
  • 正文 獨居荒郊野嶺守林人離奇死亡呆奕,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點故事閱讀 37,636評論 3 334
  • 正文 我和宋清朗相戀三年养晋,在試婚紗的時候發(fā)現(xiàn)自己被綠了。 大學時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片梁钾。...
    茶點故事閱讀 39,785評論 1 348
  • 序言:一個原本活蹦亂跳的男人離奇死亡绳泉,死狀恐怖,靈堂內(nèi)的尸體忽然破棺而出姆泻,到底是詐尸還是另有隱情零酪,我是刑警寧澤,帶...
    沈念sama閱讀 35,492評論 5 345
  • 正文 年R本政府宣布拇勃,位于F島的核電站四苇,受9級特大地震影響,放射性物質(zhì)發(fā)生泄漏方咆。R本人自食惡果不足惜月腋,卻給世界環(huán)境...
    茶點故事閱讀 41,092評論 3 328
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望瓣赂。 院中可真熱鬧榆骚,春花似錦、人聲如沸煌集。這莊子的主人今日做“春日...
    開封第一講書人閱讀 31,723評論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽苫纤。三九已至碉钠,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間卷拘,已是汗流浹背喊废。 一陣腳步聲響...
    開封第一講書人閱讀 32,858評論 1 269
  • 我被黑心中介騙來泰國打工, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留恭金,地道東北人操禀。 一個月前我還...
    沈念sama閱讀 47,891評論 2 370
  • 正文 我出身青樓褂策,卻偏偏與公主長得像横腿,于是被迫代替她去往敵國和親。 傳聞我的和親對象是個殘疾皇子斤寂,可洞房花燭夜當晚...
    茶點故事閱讀 44,713評論 2 354

推薦閱讀更多精彩內(nèi)容