Greenplum 數(shù)據(jù)庫 之 拉鏈表 的實現(xiàn)

??歷史拉鏈表是一種數(shù)據(jù)模型聚凹,主要是針對數(shù)據(jù)倉庫設(shè)計中表存儲數(shù)據(jù)的方式而定義的芜壁;顧名思義,所謂歷史拉鏈表庐冯,就是記錄一個事務(wù)從開始一直到當(dāng)前狀態(tài)的所有變化的信息孽亲,拉鏈表可以避免按每一天存儲所有記錄造成的海量存儲問題,同事也是處理緩慢變化數(shù)據(jù)的一種常見方式展父。

一返劲、概念

??在拉鏈表中玲昧,每一條數(shù)據(jù)都有一個生效日期(sdate) 和 失效日期(edate)。假設(shè)在一個用戶表中篮绿,在 2019年10月8日 新增了兩個用戶孵延,則這兩條記錄的生效時間為當(dāng)天,由于到 2019年10月8日 為止亲配,這兩條記錄還沒有被修改過尘应,所以失效時間為無窮大,這里設(shè)置為數(shù)據(jù)庫中的最大值(2999-12-31)吼虎,如圖所示:
image.png
??第二天(2019-10-09)犬钢,用戶 1001 被刪除,用戶 1002 的電話號碼被修改成 16500000006思灰。為了保留歷史狀態(tài)玷犹,用戶 1001 的失效時間被修改成 2019-10-09,用戶 1002 則變成兩條記錄官辈,如圖所示:
image.png
??第三天(2019-10-10)箱舞,又新增了用戶 1003,則用戶表數(shù)據(jù)如圖:
image.png

??如果要查詢最新的數(shù)據(jù)拳亿,那么只要查詢失效時間為 2999-12-31 的數(shù)據(jù)即可,如果要查詢 10月8號 的歷史數(shù)據(jù)愿伴,則篩選生效時間 <= 2019-10-08 并且失效時間 > 2019-10-08 的數(shù)據(jù)即可肺魁;如果查詢的是 10月9日的數(shù)據(jù),那么篩選條件則是生效時間 <= 2019-10-09 并且失效時間 > 2019-10-09隔节;以此類推鹅经。

二、表的創(chuàng)建

??臨時源表 T_FIN_ACCTION_SRC怎诫,接收其它數(shù)據(jù)庫(如 oracle)表推送過來的數(shù)據(jù) 瘾晃,表結(jié)構(gòu)和源數(shù)據(jù)庫的表結(jié)構(gòu)一致

--源表
create table T_FIN_ACCTION_SRC(
    eNo varchar(6),
    eName varchar(10),
    ePhone varchar(11),
    eData_date date
);

??目標(biāo)表 ( 即拉鏈表 ) T_FIN_ACCTION_TAR,這里注意的是:拉鏈表把源表的時間字段改成了 生效時間 和 失效時間 哦

--拉鏈表
create table T_FIN_ACCTION_TAR(
    eNo varchar(6),
    eName varchar(10),
    ePhone varchar(11),
    sdate date,
    edate date
);

三幻妓、存儲過程的創(chuàng)建

??在這里為了方便閱讀以及代碼的編寫蹦误,先寫出整體的存儲過程架構(gòu),然后我們在一步一步添加代碼:

-- 將當(dāng)前時間傳入 (也可以傳入昨天的時間哦肉津,隨機應(yīng)變强胰,如果傳入的時間是今天則使用中要將時間減一,因為我們要處理的是昨天的數(shù)據(jù))
create or replace function My_FIN_GL_SUBJECT_PRO(IN P_TODAY VARCHAR)
    returns void 
as $$ 
declare

begin   
            --1.目標(biāo)表中沒有此主鍵的則確定為新增  -  新增

            --2.源表中沒有該ID則進行關(guān)鏈  -  刪除

            --3.修改
            --3.1 閉鏈:目標(biāo)表中有此主鍵的記錄,狀態(tài)值不同妹沙,更新結(jié)束日期為當(dāng)天
            
            --3.2 開鏈:目標(biāo)表中新增一條修改的數(shù)據(jù)偶洋,更新結(jié)束日期為無窮大
                
end;
$$ 
language plpgsql;

四、拉鏈的過程實現(xiàn)

1.目標(biāo)表中沒有此主鍵的則確定為新增 - 新增
insert into gplcydb.public.T_FIN_ACCTION_TAR(eNo,eName,ePhone,sdate,edate)  
                     select s.eNo,s.eName,s.ePhone,s.eData_date,to_date('2999-12-31','yyyy-mm-dd')   
                                    from gplcydb.public.T_FIN_ACCTION_SRC s 
                                         where s.eData_date=(to_date(P_TODAY,'yyyy-mm-dd') - 1) 
                                         and not exists(
                                                select 1 from gplcydb.public.T_FIN_ACCTION_TAR t 
                                                        where 
                                                            s.eNo=t.eNo 
                                                        and s.eName=t.eName
                                                        and s.ePhone=t.ePhone
                                        );


2.源表中沒有該ID則進行關(guān)鏈 - 刪除
update gplcydb.public.T_FIN_ACCTION_TAR a set edate=(to_date(P_TODAY,'yyyy-mm-dd')-1) 
                     where not exists(
                         select 1 from gplcydb.public.T_FIN_ACCTION_SRC s 
                                        where 
                                            s.eNo=a.eNo 
                                        and a.edate=to_date('2999-12-31', 'yyyy-mm-dd') 
                                    );


3.修改

3.1 閉鏈:目標(biāo)表中有此主鍵的記錄,狀態(tài)值不同距糖,更新結(jié)束日期為當(dāng)天

update gplcydb.public.T_FIN_ACCTION_TAR b set edate=(to_date(P_TODAY,'yyyy-mm-dd')-1)    
                     where b.edate=to_date('2999-12-31','yyyy-mm-dd')   
                           and exists(
                               select 1 from gplcydb.public.T_FIN_ACCTION_SRC s 
                                      where 
                                            s.eNo = b.eNo and b.sdate < (to_date(P_TODAY,'yyyy-mm-dd')-1) 
                                      and (
                                            s.eName <> b.eName or s.ePhone <> b.ePhone 
                                          ) 
                            );


3.2 開鏈:目標(biāo)表中新增一條修改的數(shù)據(jù)玄窝,更新結(jié)束日期為無窮大

insert into gplcydb.public.T_FIN_ACCTION_TAR(eNo,eName,ePhone,sdate,edate)  
                     select s.eNo,s.eName,s.ePhone,(to_date(P_TODAY,'yyyy-mm-dd') - 1),to_date('2999-12-31','yyyy-mm-dd')   
                            from gplcydb.public.T_FIN_ACCTION_SRC s 
                                 where 
                                     s.eData_date=(to_date(P_TODAY,'yyyy-mm-dd') - 1) 
                                 and exists( --處理數(shù)據(jù)斷鏈新增的情況
                                        select 1 from (
                                                        select eNo,sdate,max(edate) end_date 
                                                                from gplcydb.public.T_FIN_ACCTION_TAR group by eNo,sdate) t 
                                                                        where 
                                                                            t.eNo=s.eNo 
                                                                        and s.eData_date = t.sdate 
                                                                        and t.end_date <= to_date(P_TODAY,'yyyy-mm-dd') 
                                );


五牵寺、測試

??要測試拉鏈函數(shù),首先我們必須要在原表中插入數(shù)據(jù)(模擬一天全量的數(shù)據(jù)):

insert into T_FIN_ACCTION_SRC values('1001','feiniu','18500000001','2019-10-10');
insert into T_FIN_ACCTION_SRC values('1002','beibei','18400000005','2019-10-10');
insert into T_FIN_ACCTION_SRC values('1003','yuyu','13800000005','2019-10-10');

調(diào)用函數(shù)進行拉鏈測試:

select My_FIN_GL_SUBJECT_PRO('2019-10-11');  --調(diào)用函數(shù)

select * from T_FIN_ACCTION_TAR;   --查詢拉鏈表

測試結(jié)果如下圖:
image.png

??插入第二天全量數(shù)據(jù)恩脂,這些數(shù)據(jù)中有新增的數(shù)據(jù)缸剪,有源數(shù)據(jù)被刪除,還有源數(shù)據(jù)被修改东亦,完整的模擬sql語句如下:

delete from T_FIN_ACCTION_SRC where eno='1003';
insert into T_FIN_ACCTION_SRC values('1004','kongkong','13800000666','2019-10-11');
update T_FIN_ACCTION_SRC set ename='xiaofeifei' where eno='1001';

select * from T_FIN_ACCTION_SRC;

原表的效果圖如下:
image.png

接下來執(zhí)行拉鏈函數(shù):

--執(zhí)行拉鏈函數(shù)
select My_FIN_GL_SUBJECT_PRO('2019-10-12');

select * from T_FIN_ACCTION_TAR;  --查詢目標(biāo)表

效果圖如下:
image.png

??到此杏节,我們的拉鏈實現(xiàn)就完成咯,哈哈哈典阵,容易把奋渔,當(dāng)初還用了很多個臨時表,網(wǎng)上的資料也基本沒有壮啊,琢磨了好久終于可以實現(xiàn)了嫉鲸,希望能幫助到你,如果對你有用可以給我贊哦歹啼;轉(zhuǎn)載請標(biāo)明出處玄渗,原創(chuàng)不易,謝謝狸眼。

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末藤树,一起剝皮案震驚了整個濱河市,隨后出現(xiàn)的幾起案子拓萌,更是在濱河造成了極大的恐慌岁钓,老刑警劉巖,帶你破解...
    沈念sama閱讀 222,183評論 6 516
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件微王,死亡現(xiàn)場離奇詭異屡限,居然都是意外死亡,警方通過查閱死者的電腦和手機炕倘,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 94,850評論 3 399
  • 文/潘曉璐 我一進店門钧大,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人罩旋,你說我怎么就攤上這事啊央。” “怎么了瘸恼?”我有些...
    開封第一講書人閱讀 168,766評論 0 361
  • 文/不壞的土叔 我叫張陵劣挫,是天一觀的道長。 經(jīng)常有香客問我东帅,道長压固,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 59,854評論 1 299
  • 正文 為了忘掉前任靠闭,我火速辦了婚禮帐我,結(jié)果婚禮上坎炼,老公的妹妹穿的比我還像新娘。我一直安慰自己拦键,他們只是感情好谣光,可當(dāng)我...
    茶點故事閱讀 68,871評論 6 398
  • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著芬为,像睡著了一般萄金。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上媚朦,一...
    開封第一講書人閱讀 52,457評論 1 311
  • 那天氧敢,我揣著相機與錄音,去河邊找鬼询张。 笑死孙乖,一個胖子當(dāng)著我的面吹牛,可吹牛的內(nèi)容都是我干的份氧。 我是一名探鬼主播唯袄,決...
    沈念sama閱讀 40,999評論 3 422
  • 文/蒼蘭香墨 我猛地睜開眼,長吁一口氣:“原來是場噩夢啊……” “哼蜗帜!你這毒婦竟也來了恋拷?” 一聲冷哼從身側(cè)響起,我...
    開封第一講書人閱讀 39,914評論 0 277
  • 序言:老撾萬榮一對情侶失蹤钮糖,失蹤者是張志新(化名)和其女友劉穎梅掠,沒想到半個月后,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體店归,經(jīng)...
    沈念sama閱讀 46,465評論 1 319
  • 正文 獨居荒郊野嶺守林人離奇死亡,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點故事閱讀 38,543評論 3 342
  • 正文 我和宋清朗相戀三年酪我,在試婚紗的時候發(fā)現(xiàn)自己被綠了消痛。 大學(xué)時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片。...
    茶點故事閱讀 40,675評論 1 353
  • 序言:一個原本活蹦亂跳的男人離奇死亡都哭,死狀恐怖秩伞,靈堂內(nèi)的尸體忽然破棺而出,到底是詐尸還是另有隱情欺矫,我是刑警寧澤纱新,帶...
    沈念sama閱讀 36,354評論 5 351
  • 正文 年R本政府宣布,位于F島的核電站穆趴,受9級特大地震影響脸爱,放射性物質(zhì)發(fā)生泄漏。R本人自食惡果不足惜未妹,卻給世界環(huán)境...
    茶點故事閱讀 42,029評論 3 335
  • 文/蒙蒙 一簿废、第九天 我趴在偏房一處隱蔽的房頂上張望空入。 院中可真熱鬧,春花似錦族檬、人聲如沸歪赢。這莊子的主人今日做“春日...
    開封第一講書人閱讀 32,514評論 0 25
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽埋凯。三九已至,卻和暖如春扫尖,著一層夾襖步出監(jiān)牢的瞬間白对,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 33,616評論 1 274
  • 我被黑心中介騙來泰國打工藏斩, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留躏结,地道東北人。 一個月前我還...
    沈念sama閱讀 49,091評論 3 378
  • 正文 我出身青樓狰域,卻偏偏與公主長得像媳拴,于是被迫代替她去往敵國和親。 傳聞我的和親對象是個殘疾皇子兆览,可洞房花燭夜當(dāng)晚...
    茶點故事閱讀 45,685評論 2 360

推薦閱讀更多精彩內(nèi)容