數(shù)據(jù)治理&開(kāi)發(fā)規(guī)范框架

數(shù)據(jù)治理

通過(guò)有效的管控手段栖雾,實(shí)現(xiàn)數(shù)據(jù)看得見(jiàn)楞抡、找得到、管得住析藕、用得好召廷,加快數(shù)據(jù)共享的效率,終極目標(biāo)提升數(shù)據(jù)利用率和數(shù)據(jù)價(jià)值。

常見(jiàn)問(wèn)題的解決

  • 數(shù)據(jù)目錄缺失
    無(wú)完善柱恤、持續(xù)維護(hù)的數(shù)據(jù)目錄数初,難以全局查看數(shù)據(jù)團(tuán)隊(duì)儲(chǔ)存的所有數(shù)據(jù)。缺失清晰的數(shù)據(jù)主題和數(shù)據(jù)分類管理梗顺。

  • 數(shù)據(jù)標(biāo)準(zhǔn)缺失
    缺少數(shù)據(jù)標(biāo)準(zhǔn)文件泡孩,數(shù)據(jù)理解、接入方式靠口口相傳寺谤,尋找對(duì)應(yīng)的源系統(tǒng)和接口人時(shí)仑鸥,效率會(huì)比較低。

  • 數(shù)據(jù)指標(biāo)变屁、數(shù)據(jù)服務(wù)管理
    沒(méi)有統(tǒng)一的指標(biāo)管理體系和文件眼俊,系統(tǒng)越來(lái)越龐大,指標(biāo)體系復(fù)雜度會(huì)不斷增加粟关;同時(shí)指標(biāo)分散在各個(gè)報(bào)表疮胖、看板和系統(tǒng),定義方法和口徑闷板,難以管理澎灸。指標(biāo)的建設(shè)和維護(hù)依賴于分析人員;挖掘指標(biāo)價(jià)值的困難遮晚。

  • 其他方面:數(shù)據(jù)血緣性昭、數(shù)據(jù)質(zhì)量、數(shù)據(jù)告警等

解決方案&步驟的概要

數(shù)據(jù)目錄

數(shù)據(jù)目錄是構(gòu)建企業(yè)數(shù)據(jù)架構(gòu)體系的基礎(chǔ)工作县遣∶拥撸可形成企業(yè)統(tǒng)一的數(shù)據(jù)資產(chǎn)目錄,并為各業(yè)務(wù)域提供數(shù)據(jù)資產(chǎn)全景圖萧求。

  • 盤點(diǎn)數(shù)據(jù)
  • 數(shù)據(jù)目錄分級(jí)其兴、分域的設(shè)計(jì)
  • 數(shù)據(jù)目錄的協(xié)作編輯、外部共享

標(biāo)準(zhǔn)&指標(biāo)

設(shè)計(jì)數(shù)據(jù)標(biāo)準(zhǔn)的屬性夸政,例如:系統(tǒng)來(lái)源忌警、接入方式、服務(wù)域秒梳、源系統(tǒng)接口人、數(shù)據(jù)團(tuán)隊(duì)負(fù)責(zé)人箕速、數(shù)據(jù)量酪碘、數(shù)據(jù)更新頻率、每個(gè)字段的注釋等

設(shè)計(jì)數(shù)據(jù)指標(biāo)的屬性盐茎,例如:業(yè)務(wù)含義兴垦、負(fù)責(zé)人、算法等

工具的選用

目前沒(méi)有統(tǒng)一的中臺(tái)系統(tǒng),難以在實(shí)際數(shù)據(jù)過(guò)程中實(shí)現(xiàn)數(shù)據(jù)接入后對(duì)數(shù)據(jù)目錄的自動(dòng)更新探越,都需要人工長(zhǎng)期的維護(hù)和治理狡赐。

這三部分,都屬于知識(shí)方面的管理钦幔,在工具的選用方面應(yīng)該要滿足以下幾個(gè)方面是需求枕屉。

  • 符合公司規(guī)定
  • 便于協(xié)同編輯和外部共享
  • 易于檢索和目錄設(shè)計(jì)
  • 足夠的設(shè)計(jì)能力,滿足畫(huà)圖鲤氢、表格的輸入

案例參考

在有完善搀擂、自主開(kāi)發(fā)的數(shù)據(jù)中臺(tái)系統(tǒng)中,會(huì)支持系統(tǒng)級(jí)別的數(shù)據(jù)治理卷玉,實(shí)現(xiàn)目錄和標(biāo)準(zhǔn)的自動(dòng)更新哨颂。
數(shù)據(jù)目錄:直接在數(shù)據(jù)平臺(tái)檢索,能查到所有表以及對(duì)應(yīng)數(shù)據(jù)標(biāo)準(zhǔn)相种。
數(shù)據(jù)標(biāo)準(zhǔn):外部進(jìn)來(lái)的數(shù)據(jù)統(tǒng)一儲(chǔ)存在云端的對(duì)象存儲(chǔ)(object store)中威恼,建表后自動(dòng)建立對(duì)應(yīng)表的數(shù)據(jù)標(biāo)準(zhǔn),引用create table 時(shí)每個(gè)字段的comment解釋每個(gè)字段的業(yè)務(wù)含義寝并,然后到數(shù)據(jù)目錄界面完善其他信息箫措。

數(shù)據(jù)開(kāi)發(fā)規(guī)范

目前數(shù)據(jù)開(kāi)發(fā)的腳本,基本上在TM1平臺(tái)完成食茎,但TM1目前不支持開(kāi)發(fā)和生產(chǎn)腳本的分離蒂破,以及生產(chǎn)定時(shí)調(diào)度版本的控制,在多人協(xié)同編輯别渔、測(cè)試開(kāi)發(fā)附迷、版本回退的情況下,都會(huì)容易出現(xiàn)問(wèn)題哎媚。新腳本的上線也缺少監(jiān)控喇伯,如果沒(méi)有對(duì)歷史腳本保存,則難以回退拨与。

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末稻据,一起剝皮案震驚了整個(gè)濱河市,隨后出現(xiàn)的幾起案子买喧,更是在濱河造成了極大的恐慌捻悯,老刑警劉巖,帶你破解...
    沈念sama閱讀 207,113評(píng)論 6 481
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件淤毛,死亡現(xiàn)場(chǎng)離奇詭異今缚,居然都是意外死亡,警方通過(guò)查閱死者的電腦和手機(jī)低淡,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 88,644評(píng)論 2 381
  • 文/潘曉璐 我一進(jìn)店門姓言,熙熙樓的掌柜王于貴愁眉苦臉地迎上來(lái)瞬项,“玉大人,你說(shuō)我怎么就攤上這事何荚〈蚜埽” “怎么了?”我有些...
    開(kāi)封第一講書(shū)人閱讀 153,340評(píng)論 0 344
  • 文/不壞的土叔 我叫張陵餐塘,是天一觀的道長(zhǎng)妥衣。 經(jīng)常有香客問(wèn)我,道長(zhǎng)唠倦,這世上最難降的妖魔是什么称鳞? 我笑而不...
    開(kāi)封第一講書(shū)人閱讀 55,449評(píng)論 1 279
  • 正文 為了忘掉前任,我火速辦了婚禮稠鼻,結(jié)果婚禮上冈止,老公的妹妹穿的比我還像新娘。我一直安慰自己候齿,他們只是感情好熙暴,可當(dāng)我...
    茶點(diǎn)故事閱讀 64,445評(píng)論 5 374
  • 文/花漫 我一把揭開(kāi)白布。 她就那樣靜靜地躺著慌盯,像睡著了一般周霉。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上亚皂,一...
    開(kāi)封第一講書(shū)人閱讀 49,166評(píng)論 1 284
  • 那天俱箱,我揣著相機(jī)與錄音,去河邊找鬼灭必。 笑死狞谱,一個(gè)胖子當(dāng)著我的面吹牛,可吹牛的內(nèi)容都是我干的禁漓。 我是一名探鬼主播跟衅,決...
    沈念sama閱讀 38,442評(píng)論 3 401
  • 文/蒼蘭香墨 我猛地睜開(kāi)眼,長(zhǎng)吁一口氣:“原來(lái)是場(chǎng)噩夢(mèng)啊……” “哼播歼!你這毒婦竟也來(lái)了伶跷?” 一聲冷哼從身側(cè)響起,我...
    開(kāi)封第一講書(shū)人閱讀 37,105評(píng)論 0 261
  • 序言:老撾萬(wàn)榮一對(duì)情侶失蹤秘狞,失蹤者是張志新(化名)和其女友劉穎叭莫,沒(méi)想到半個(gè)月后,有當(dāng)?shù)厝嗽跇?shù)林里發(fā)現(xiàn)了一具尸體烁试,經(jīng)...
    沈念sama閱讀 43,601評(píng)論 1 300
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡雇初,尸身上長(zhǎng)有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 36,066評(píng)論 2 325
  • 正文 我和宋清朗相戀三年,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了廓潜。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片。...
    茶點(diǎn)故事閱讀 38,161評(píng)論 1 334
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡,死狀恐怖辩蛋,靈堂內(nèi)的尸體忽然破棺而出呻畸,到底是詐尸還是另有隱情,我是刑警寧澤悼院,帶...
    沈念sama閱讀 33,792評(píng)論 4 323
  • 正文 年R本政府宣布伤为,位于F島的核電站翘贮,受9級(jí)特大地震影響鞠眉,放射性物質(zhì)發(fā)生泄漏。R本人自食惡果不足惜史翘,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 39,351評(píng)論 3 307
  • 文/蒙蒙 一颖医、第九天 我趴在偏房一處隱蔽的房頂上張望位衩。 院中可真熱鬧,春花似錦熔萧、人聲如沸糖驴。這莊子的主人今日做“春日...
    開(kāi)封第一講書(shū)人閱讀 30,352評(píng)論 0 19
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽(yáng)贮缕。三九已至,卻和暖如春俺榆,著一層夾襖步出監(jiān)牢的瞬間感昼,已是汗流浹背。 一陣腳步聲響...
    開(kāi)封第一講書(shū)人閱讀 31,584評(píng)論 1 261
  • 我被黑心中介騙來(lái)泰國(guó)打工罐脊, 沒(méi)想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留定嗓,地道東北人。 一個(gè)月前我還...
    沈念sama閱讀 45,618評(píng)論 2 355
  • 正文 我出身青樓爹殊,卻偏偏與公主長(zhǎng)得像蜕乡,于是被迫代替她去往敵國(guó)和親。 傳聞我的和親對(duì)象是個(gè)殘疾皇子梗夸,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 42,916評(píng)論 2 344

推薦閱讀更多精彩內(nèi)容