關(guān)于數(shù)據(jù)質(zhì)量

哎许饿,這兩天又在搞數(shù)據(jù)阳欲,之前的底層表沒法用,只好自己同步一下陋率,同步完之后球化,發(fā)現(xiàn)兩邊的數(shù)據(jù)不一致,找來找去瓦糟,發(fā)現(xiàn)是增量數(shù)據(jù)的問題筒愚,業(yè)務(wù)系統(tǒng)里沒有對所有的記錄的時間字段進行更新,經(jīng)常手動update數(shù)據(jù)菩浙,而且update_time還沒更新巢掺。

所以吧,我得監(jiān)控一下這個數(shù)據(jù)質(zhì)量劲蜻,打算用python來寫陆淀,記錄下遇到的小問題。

ModuleNotFoundError: No module named 'MySQLdb'

服務(wù)器上的anaconda是新安裝的先嬉,默認貌似沒有這個mysql的驅(qū)動轧苫,就配置下

conda install  mysqlclient

python3的話,是安裝這個

ModuleNotFoundError: No module named 'cx_Oracle'

Oracle驅(qū)動包沒有疫蔓,同樣安裝一下

conda install cx_Oracle

Python代碼寫完了含懊,目前是滿足基本需求,后面分享下大概思路

1.每天定時執(zhí)行腳本
2.查詢業(yè)務(wù)庫的表數(shù)據(jù)
3.查詢ODS庫的表數(shù)據(jù)
4.匹配差異
5.調(diào)用企業(yè)微信接口發(fā)送消息

目前主要對比下訂單表衅胀,用戶表绢要,其他后續(xù)應(yīng)該還會有增加,代碼持續(xù)優(yōu)化下拗小。

愈發(fā)的感覺到一個好用的調(diào)度工具重罪,太重要了,有點兒懷念DataWorks了

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末哀九,一起剝皮案震驚了整個濱河市剿配,隨后出現(xiàn)的幾起案子,更是在濱河造成了極大的恐慌阅束,老刑警劉巖呼胚,帶你破解...
    沈念sama閱讀 216,692評論 6 501
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件,死亡現(xiàn)場離奇詭異息裸,居然都是意外死亡蝇更,警方通過查閱死者的電腦和手機沪编,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 92,482評論 3 392
  • 文/潘曉璐 我一進店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來年扩,“玉大人蚁廓,你說我怎么就攤上這事〕茫” “怎么了相嵌?”我有些...
    開封第一講書人閱讀 162,995評論 0 353
  • 文/不壞的土叔 我叫張陵,是天一觀的道長况脆。 經(jīng)常有香客問我饭宾,道長,這世上最難降的妖魔是什么格了? 我笑而不...
    開封第一講書人閱讀 58,223評論 1 292
  • 正文 為了忘掉前任看铆,我火速辦了婚禮,結(jié)果婚禮上盛末,老公的妹妹穿的比我還像新娘性湿。我一直安慰自己,他們只是感情好满败,可當我...
    茶點故事閱讀 67,245評論 6 388
  • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著叹括,像睡著了一般算墨。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上汁雷,一...
    開封第一講書人閱讀 51,208評論 1 299
  • 那天净嘀,我揣著相機與錄音,去河邊找鬼侠讯。 笑死挖藏,一個胖子當著我的面吹牛,可吹牛的內(nèi)容都是我干的厢漩。 我是一名探鬼主播膜眠,決...
    沈念sama閱讀 40,091評論 3 418
  • 文/蒼蘭香墨 我猛地睜開眼,長吁一口氣:“原來是場噩夢啊……” “哼溜嗜!你這毒婦竟也來了宵膨?” 一聲冷哼從身側(cè)響起,我...
    開封第一講書人閱讀 38,929評論 0 274
  • 序言:老撾萬榮一對情侶失蹤炸宵,失蹤者是張志新(化名)和其女友劉穎辟躏,沒想到半個月后,有當?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體土全,經(jīng)...
    沈念sama閱讀 45,346評論 1 311
  • 正文 獨居荒郊野嶺守林人離奇死亡捎琐,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點故事閱讀 37,570評論 2 333
  • 正文 我和宋清朗相戀三年会涎,在試婚紗的時候發(fā)現(xiàn)自己被綠了。 大學(xué)時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片瑞凑。...
    茶點故事閱讀 39,739評論 1 348
  • 序言:一個原本活蹦亂跳的男人離奇死亡末秃,死狀恐怖,靈堂內(nèi)的尸體忽然破棺而出拨黔,到底是詐尸還是另有隱情蛔溃,我是刑警寧澤,帶...
    沈念sama閱讀 35,437評論 5 344
  • 正文 年R本政府宣布篱蝇,位于F島的核電站贺待,受9級特大地震影響,放射性物質(zhì)發(fā)生泄漏零截。R本人自食惡果不足惜麸塞,卻給世界環(huán)境...
    茶點故事閱讀 41,037評論 3 326
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望涧衙。 院中可真熱鬧哪工,春花似錦、人聲如沸弧哎。這莊子的主人今日做“春日...
    開封第一講書人閱讀 31,677評論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽撤嫩。三九已至偎捎,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間序攘,已是汗流浹背茴她。 一陣腳步聲響...
    開封第一講書人閱讀 32,833評論 1 269
  • 我被黑心中介騙來泰國打工, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留程奠,地道東北人丈牢。 一個月前我還...
    沈念sama閱讀 47,760評論 2 369
  • 正文 我出身青樓,卻偏偏與公主長得像瞄沙,于是被迫代替她去往敵國和親己沛。 傳聞我的和親對象是個殘疾皇子,可洞房花燭夜當晚...
    茶點故事閱讀 44,647評論 2 354

推薦閱讀更多精彩內(nèi)容

  • feisky云計算距境、虛擬化與Linux技術(shù)筆記posts - 1014, comments - 298, trac...
    不排版閱讀 3,846評論 0 5
  • 背景: 閱讀新聞 12C CDB模式下RMAN備份與恢復(fù) [日期:2016-11-29] 來源:Linux社區(qū) 作...
    陽屯okyepd閱讀 3,397評論 0 7
  • 模塊和包 一 模塊 1 什么是模塊肮疗? 常見的場景:一個模塊就是一個包含了python定義和聲明的文件晶姊,文件名就是...
    go以恒閱讀 2,270評論 0 4
  • 一、BIND是什么 BIND是互聯(lián)網(wǎng)應(yīng)用最為廣泛的DNS軟件伪货。 二们衙、BIND的安裝與使用 以下內(nèi)容轉(zhuǎn)自 http:...
    0_0啊閱讀 3,089評論 0 0
  • Oracle入門 這一章我們開始探討Oracle的使用钾怔,從Oracle的介紹開始,接觸Oracle的安裝蒙挑、基本服務(wù)...
    厲鉚兄閱讀 5,571評論 4 104