?????????建立多層次的數(shù)據(jù)訪(fǎng)問(wèn)服務(wù)體系,有力提升數(shù)據(jù)倉(cāng)庫(kù)的價(jià)值郊供∠康铮基于指標(biāo)匯總層、集市層驮审、可以提供面向業(yè)務(wù)人員的即席數(shù)據(jù)查詢(xún)鲫寄、以及面向應(yīng)用開(kāi)發(fā)者的數(shù)據(jù)接口、應(yīng)用訪(fǎng)問(wèn)接口疯淫,滿(mǎn)足不同類(lèi)型應(yīng)用的需要地来。
1、匯總指標(biāo)層模型設(shè)計(jì)原則及步驟
??? 1.1建設(shè)目標(biāo):
????????匯總指標(biāo)層也叫中間層峡竣,他提煉出對(duì)ODS具有共性的數(shù)據(jù)訪(fǎng)問(wèn)靠抑、統(tǒng)計(jì)需求,從而構(gòu)建出的一個(gè)面向支持應(yīng)用的适掰、提供共享的數(shù)據(jù)訪(fǎng)問(wèn)服務(wù)的公共數(shù)據(jù)颂碧。從技術(shù)角度看目標(biāo)有:
????????(1)同時(shí)服務(wù)于多個(gè)不同應(yīng)用,實(shí)現(xiàn)數(shù)據(jù)和指標(biāo)的共享类浪,減少相同的業(yè)務(wù)統(tǒng)計(jì)所帶來(lái)的數(shù)據(jù)重復(fù)計(jì)算與存儲(chǔ)载城,避免數(shù)據(jù)在多次加工后出現(xiàn)的不一致。
????????(2)提高查詢(xún)效率费就。將計(jì)算結(jié)果存儲(chǔ)在指標(biāo)匯總層诉瓦,數(shù)據(jù)一次加工,多次使用力细,減少了重新關(guān)聯(lián)表進(jìn)行計(jì)算所帶來(lái)的性能問(wèn)題睬澡,加快了查詢(xún)的響應(yīng)時(shí)間。
????從業(yè)務(wù)層面來(lái)看眠蚂,主要目的如下:
????????(1)指標(biāo)匯總層的實(shí)現(xiàn)對(duì)常用的業(yè)務(wù)統(tǒng)計(jì)口徑進(jìn)行統(tǒng)一的定義和維護(hù)煞聪,并基于此建立起常用的業(yè)務(wù)統(tǒng)計(jì)口徑標(biāo)準(zhǔn)數(shù)據(jù)定義。
????????(2)指標(biāo)匯總層提供了一個(gè)便于業(yè)務(wù)人員理解的數(shù)據(jù)視圖逝慧,可以供其分析使用昔脯。
? ??1.2設(shè)計(jì)步驟
?????? 第7節(jié)已經(jīng)提到過(guò)中間層的設(shè)計(jì)步驟如下:
????????(1)從各集市以及數(shù)據(jù)應(yīng)用系統(tǒng)分析共性的數(shù)據(jù)需求啄糙;
????????(2)確定共性的關(guān)鍵實(shí)體和指標(biāo),即完成中間層數(shù)據(jù)加工范圍云稚;
????????(3)確定統(tǒng)計(jì)維度隧饼,設(shè)計(jì)中間層表結(jié)構(gòu),設(shè)計(jì)時(shí)也需要考慮后續(xù)應(yīng)用需求静陈,做適當(dāng)?shù)膶傩院途S度擴(kuò)充燕雁;
????????(4)對(duì)所需要的數(shù)據(jù)與主數(shù)據(jù)區(qū)數(shù)據(jù)進(jìn)行映射,確定加工規(guī)則窿给;
????????(5)系統(tǒng)驗(yàn)證以及后續(xù)不斷維護(hù)擴(kuò)充贵白,由于業(yè)務(wù)不斷變化,中間層也會(huì)和數(shù)據(jù)倉(cāng)庫(kù)一樣不斷進(jìn)行演化并適應(yīng)數(shù)據(jù)使用需求崩泡;
? ??1.3設(shè)計(jì)原則
????????那匯總指標(biāo)層主要設(shè)計(jì)原則如下:
????????(1)?應(yīng)用驅(qū)動(dòng)禁荒,按業(yè)務(wù)分析視角組織表設(shè)計(jì):從設(shè)計(jì)步驟看,中間層的設(shè)計(jì)起源于各集市及數(shù)據(jù)應(yīng)用系統(tǒng)的需求角撞,同時(shí)設(shè)計(jì)中間層時(shí)需要按業(yè)務(wù)產(chǎn)品視角進(jìn)行分類(lèi)呛伴,如存款、貸款谒所、中間業(yè)務(wù)等热康,以便業(yè)務(wù)集市和系統(tǒng)理解和使用,因?yàn)閰R總指標(biāo)層的數(shù)據(jù)直接會(huì)給到業(yè)務(wù)人員使用劣领;
????????(2)中間層采用了逆范式寬表設(shè)計(jì)姐军,即采用維度建模的方法,在事實(shí)表盡量關(guān)聯(lián)更多的屬性尖淘,以減少后續(xù)關(guān)聯(lián)奕锌。
????????(3)匯總指標(biāo)層主要統(tǒng)計(jì)的維度包括時(shí)間(年、月村生、日)惊暴,機(jī)構(gòu)、產(chǎn)品趁桃、客戶(hù)辽话、賬戶(hù)、幣種卫病、交易渠道油啤、交易類(lèi)型等,加工結(jié)果表一般都有多維度聚合蟀苛,如存款賬戶(hù)交易月匯總指標(biāo)益咬,即根據(jù)存款賬戶(hù)不同的交易類(lèi)型(交易碼)來(lái)統(tǒng)計(jì)交易筆數(shù)和交易金額,如卡交易月匯總指標(biāo)根據(jù)維度組合(卡屹逛、產(chǎn)品础废、機(jī)構(gòu)、客戶(hù)罕模、幣種)來(lái)統(tǒng)計(jì)交易筆數(shù)和交易金額
????????(4)匯總指標(biāo)按維度統(tǒng)計(jì)時(shí)按由細(xì)到粗的順序進(jìn)行匯總评腺,減少重復(fù)計(jì)算量,如統(tǒng)計(jì)年交易量淑掌,可以先統(tǒng)計(jì)日交易量蒿讥,再統(tǒng)計(jì)月交易量,最后統(tǒng)計(jì)年交易量抛腕,如統(tǒng)計(jì)芋绸,如統(tǒng)計(jì)客戶(hù)資產(chǎn)可先按賬戶(hù)統(tǒng)計(jì)余額,再按產(chǎn)品匯總余額担敌,最后按客戶(hù)匯總各產(chǎn)品為總資產(chǎn)摔敛;如統(tǒng)計(jì)各機(jī)構(gòu)的客戶(hù)數(shù),可以按支行全封、分行马昙、總行進(jìn)行逐層統(tǒng)計(jì)。
????????(5)匯總指標(biāo)層一般分為明細(xì)層和加工層刹悴,明細(xì)層主要為業(yè)務(wù)實(shí)體表行楞,加工層主要為維度表和匯總指標(biāo)結(jié)果表。明細(xì)層表主要按業(yè)務(wù)條線(xiàn)和產(chǎn)品條線(xiàn)進(jìn)行表設(shè)計(jì)土匀,如存款對(duì)私賬戶(hù)表子房、貸款借據(jù)表等,同時(shí)需要關(guān)聯(lián)多表獲得更全面的屬性以及維度就轧。如借據(jù)表需要有客戶(hù)证杭、合同、機(jī)構(gòu)钓丰、幣種躯砰、產(chǎn)品等維度,以便后續(xù)進(jìn)行統(tǒng)計(jì)匯總携丁。
????????(6)?歷史數(shù)據(jù)保留策略:中間層數(shù)據(jù)實(shí)際上是數(shù)據(jù)倉(cāng)庫(kù)當(dāng)前全量的一個(gè)快照琢歇,如果按照歷史每天保存數(shù)據(jù)量是非常大的,根據(jù)應(yīng)用訪(fǎng)問(wèn)的要求和基礎(chǔ)數(shù)據(jù)平臺(tái)的空間情況梦鉴,可以制定中間層數(shù)據(jù)的保留策略:
? ?????1)事件交易明細(xì)表以視圖方式獲取主數(shù)據(jù)區(qū)數(shù)據(jù)李茫,不進(jìn)行保留;
? ? ? ? 2)日表保留1-3日數(shù)據(jù)肥橙;
? ? ? ? 3)月表保留13個(gè)月的月末數(shù)據(jù)魄宏;
??????? 4)季報(bào)保留5個(gè)季度末數(shù)據(jù);
??????? 5)年報(bào)保留2個(gè)年末數(shù)據(jù)存筏;
? ??1.4重點(diǎn)加工舉例
? ??? ? 那在銀行數(shù)據(jù)倉(cāng)庫(kù)中宠互,加工層中的匯總指標(biāo)結(jié)果除了常見(jiàn)的幣種折算味榛、余額、交易量予跌、客戶(hù)數(shù)等搏色,以下幾個(gè)方面也經(jīng)常在中間層實(shí)現(xiàn):
????????(1)賬戶(hù)日均:日均是在產(chǎn)品分析、績(jī)效考核績(jī)效考核中都會(huì)遇到的指標(biāo)券册,需要對(duì)存貸款賬戶(hù)的日均進(jìn)行加工频轿;
????????(2)客戶(hù)資產(chǎn)負(fù)債:客戶(hù)資產(chǎn)負(fù)債對(duì)于客戶(hù)分層以及營(yíng)銷(xiāo)方面經(jīng)常使用,如需要將個(gè)人客戶(hù)在銀行的存款烁焙、貸款航邢、理財(cái)、基金骄蝇、三方存款膳殷、保險(xiǎn)、信托九火、信用卡秽之、貴金屬等數(shù)據(jù)按資產(chǎn)負(fù)債進(jìn)行分類(lèi)統(tǒng)計(jì)。
????????(3)交易對(duì)手:交易對(duì)手是監(jiān)管報(bào)表吃既、客戶(hù)分析考榨、風(fēng)險(xiǎn)控制所需要的重要信息,但是由于交易信息會(huì)散落在各個(gè)系統(tǒng)中鹦倚,如支付河质、核心等,因此需要對(duì)交易進(jìn)行關(guān)聯(lián)以補(bǔ)充交易對(duì)手信息震叙;
????????(4)疑似客戶(hù):即2個(gè)客戶(hù)號(hào)可能為同一個(gè)客戶(hù)掀鹅,如只有證件號(hào)碼相同、只有手機(jī)號(hào)相同的客戶(hù)媒楼,無(wú)法確定是否是同一個(gè)客戶(hù)乐尊,可以在客戶(hù)分析及數(shù)據(jù)清理時(shí)提供數(shù)據(jù),由柜面在辦理客戶(hù)業(yè)務(wù)市進(jìn)行補(bǔ)充信息划址,完善ECIF中的客戶(hù)識(shí)別扔嵌。
2、集市模型設(shè)計(jì)原則及步驟
????????數(shù)據(jù)集市是面向數(shù)據(jù)應(yīng)用為出發(fā)點(diǎn)夺颤,一個(gè)數(shù)據(jù)集市可以支持多個(gè)相關(guān)的數(shù)據(jù)應(yīng)用痢缎,如風(fēng)險(xiǎn)集市可能支持新資本協(xié)議相關(guān)的內(nèi)評(píng)歧寺、經(jīng)濟(jì)資本主儡、風(fēng)險(xiǎn)緩釋等系統(tǒng);監(jiān)管集市會(huì)支持央行大集中宿稀、1104報(bào)表、反洗錢(qián)等監(jiān)管報(bào)送系統(tǒng)嵌洼。數(shù)據(jù)集市的作用與指標(biāo)匯總層類(lèi)似案疲,但服務(wù)的目標(biāo)系統(tǒng)只是指標(biāo)匯總層的一部分,因此集市比指標(biāo)匯總層更面向應(yīng)用和用戶(hù)麻养。
? ??2.1設(shè)計(jì)步驟
? ? ? (1)應(yīng)用需求分析:這部分主要針對(duì)數(shù)據(jù)應(yīng)用系統(tǒng)所需要的數(shù)據(jù)范圍及指標(biāo)來(lái)確定络拌,因此是先分析數(shù)據(jù)應(yīng)用系統(tǒng)的需求,再提煉數(shù)據(jù)集市的數(shù)據(jù)接口需求回溺;
?????? (2)目標(biāo)表設(shè)計(jì):即數(shù)據(jù)集市結(jié)果表設(shè)計(jì),他會(huì)根據(jù)數(shù)據(jù)應(yīng)用的需求進(jìn)行數(shù)據(jù)表設(shè)計(jì)混萝,一般專(zhuān)業(yè)度高遗遵、產(chǎn)品成熟的系統(tǒng)會(huì)自帶數(shù)據(jù)集市目標(biāo)表的設(shè)計(jì)。比如管理會(huì)計(jì)逸嘀、風(fēng)險(xiǎn)緩釋等系統(tǒng)车要。
?????? (3)數(shù)據(jù)源分析:主要分析數(shù)據(jù)倉(cāng)庫(kù)的數(shù)據(jù)如何滿(mǎn)足集市的需要,即確定需要數(shù)據(jù)倉(cāng)庫(kù)的那些表數(shù)據(jù)崭倘,如果數(shù)據(jù)倉(cāng)庫(kù)沒(méi)有翼岁,則需要數(shù)據(jù)倉(cāng)庫(kù)進(jìn)行數(shù)據(jù)補(bǔ)充。
?????? (4)數(shù)據(jù)倉(cāng)庫(kù)表與目標(biāo)表字段進(jìn)行映射司光,確定加工規(guī)則琅坡;
?????? (5)驗(yàn)證數(shù)據(jù)并調(diào)整加工規(guī)則;
?????2.2設(shè)計(jì)原則
?????? 數(shù)據(jù)集市一般簡(jiǎn)單分為三層:
?????? (1)基礎(chǔ)數(shù)據(jù):主要是從數(shù)據(jù)倉(cāng)庫(kù)獲取的數(shù)據(jù)残家,如果是倉(cāng)內(nèi)集市榆俺,只需要做視圖映射,減少數(shù)據(jù)移動(dòng)坞淮,如果是倉(cāng)外集市則需要通過(guò)數(shù)據(jù)抽取加載批量獲取數(shù)據(jù)茴晋,對(duì)于基礎(chǔ)數(shù)據(jù)由于數(shù)據(jù)倉(cāng)庫(kù)已經(jīng)保留了歷史數(shù)據(jù),這部分歷史數(shù)據(jù)可以只簡(jiǎn)單保留幾天即可回窘;
?????? (2)加工計(jì)算:即集市的目標(biāo)表或物理模型诺擅,需要從基礎(chǔ)數(shù)據(jù)加工映射到目標(biāo)表。這部分結(jié)果表需要根據(jù)應(yīng)用的需求進(jìn)行加工結(jié)果保留啡直,有些系統(tǒng)如新資本協(xié)議相關(guān)系統(tǒng)的歷史數(shù)據(jù)要求比較高烁涌,則需要設(shè)計(jì)歷史數(shù)據(jù)保留方式,考慮是否可以歸到到歷史數(shù)據(jù)區(qū)酒觅。
????????(3)接口層:主要提供數(shù)據(jù)給應(yīng)用系統(tǒng)的批量數(shù)據(jù)接口烹玉,接口的加工不能太復(fù)雜,不進(jìn)行數(shù)據(jù)加工阐滩,只進(jìn)行簡(jiǎn)單的關(guān)聯(lián)篩選二打,可以用視圖表示,該部分?jǐn)?shù)據(jù)只需要保留3天進(jìn)行問(wèn)題處理即可掂榔。
????????集市的設(shè)計(jì)原則與指標(biāo)匯總層類(lèi)似继效,也是采用維度建模方式症杏,常見(jiàn)的有星座模型、雪花模型等瑞信,只需要按實(shí)際應(yīng)用需要和方便設(shè)計(jì)即可厉颤,對(duì)于指標(biāo)加工也可按匯總指標(biāo)層的方式逐層加工。
????????那數(shù)據(jù)集市相對(duì)于匯總指標(biāo)層更面向應(yīng)用凡简,兩者的邊界簡(jiǎn)單可以按加工需求是否是單一集市或應(yīng)用系統(tǒng)使用逼友,比如反洗錢(qián)相關(guān)的報(bào)送指標(biāo)只有在反洗錢(qián)系統(tǒng)使用,那就在對(duì)應(yīng)的監(jiān)管集市來(lái)加工秤涩。如果對(duì)于貸款逾期相關(guān)的指標(biāo)行內(nèi)風(fēng)險(xiǎn)分析報(bào)表(對(duì)應(yīng)風(fēng)險(xiǎn)集市)以及監(jiān)管報(bào)表(對(duì)應(yīng)監(jiān)管集市)都需要使用帜乞,則需要在匯總指標(biāo)層加工。
3筐眷、指標(biāo)系統(tǒng)
????????指標(biāo)系統(tǒng)主要是進(jìn)行指標(biāo)管理的系統(tǒng)黎烈,他的主要功能有:
????????(1)基礎(chǔ)指標(biāo)定義,即將基礎(chǔ)指標(biāo)和數(shù)據(jù)庫(kù)字段進(jìn)行映射匀谣;
????????(2)衍生指標(biāo)定義照棋,即以基礎(chǔ)指標(biāo)為基礎(chǔ),通過(guò)簡(jiǎn)單或復(fù)雜的計(jì)算得到衍生指標(biāo)武翎,那衍生指標(biāo)的規(guī)則可以進(jìn)行配置烈炭;
????????(3)?衍生指標(biāo)計(jì)算,即按設(shè)定的周期進(jìn)行衍生指標(biāo)加工宝恶,如每天計(jì)算梳庆、月底計(jì)算等。
????????通過(guò)指標(biāo)系統(tǒng)可以清晰管理數(shù)據(jù)倉(cāng)庫(kù)及各集市卑惜、應(yīng)用的指標(biāo)膏执,減少代碼開(kāi)發(fā)工作量。從系統(tǒng)建設(shè)上并不復(fù)雜露久,但在指標(biāo)的業(yè)務(wù)管理方面往往會(huì)遇到問(wèn)題更米,因?yàn)橹笜?biāo)系統(tǒng)的定位應(yīng)該是全行的指標(biāo)體系,系統(tǒng)的業(yè)務(wù)屬主由哪個(gè)部門(mén)來(lái)承擔(dān)毫痕?如何進(jìn)行指標(biāo)分類(lèi)征峦?對(duì)于每一個(gè)指標(biāo)由哪個(gè)業(yè)務(wù)部門(mén)來(lái)維護(hù)?這也業(yè)務(wù)指標(biāo)的管理往往比較難以推進(jìn)消请,因此有些銀行建立了指標(biāo)系統(tǒng)栏笆,但是只針對(duì)了幾個(gè)系統(tǒng)指標(biāo)進(jìn)行了管理,應(yīng)用效果也發(fā)揮不出來(lái)臊泰。
????????指標(biāo)系統(tǒng)可以作為全行的一個(gè)標(biāo)準(zhǔn)服務(wù)蛉加,可以連接任何一個(gè)數(shù)據(jù)集市、應(yīng)用系統(tǒng)。通過(guò)用戶(hù)進(jìn)行隔離针饥,如果單由一個(gè)業(yè)務(wù)部門(mén)全行推行較難厂抽,可以由各集市或數(shù)據(jù)應(yīng)用的業(yè)務(wù)部門(mén)分別對(duì)各自的指標(biāo)進(jìn)行管理,分而治之丁眼。如果沒(méi)有業(yè)務(wù)部門(mén)介入筷凤,由各系統(tǒng)負(fù)責(zé)人按指標(biāo)方式進(jìn)行管理和計(jì)算也有助于加工規(guī)則的需求管理。便于經(jīng)驗(yàn)知識(shí)傳遞苞七。