網(wǎng)站外鏈可用性監(jiān)控系統(tǒng)

簡介

大部分的網(wǎng)站都會(huì)有一些相關(guān)行業(yè)的外部鏈,這些一般是由相關(guān)模塊的運(yùn)營部門提供的猫牡,但是這些第三方鏈接可用性我們很難去保證腺晾。如果用戶從我們這邊點(diǎn)擊了不可用的外鏈,也會(huì)對我們的服務(wù)產(chǎn)生質(zhì)疑子刮。因此開發(fā)了這個(gè)外鏈可用性監(jiān)控系統(tǒng)威酒。

框架

其實(shí)原理很簡單,利用python requests庫挺峡,加上一些超時(shí)葵孤、重試、切換代理的方式去多次檢查鏈接的可用性橱赠,以保證報(bào)告的準(zhǔn)確性尤仍。結(jié)合富文本郵件,并Email提供給相關(guān)人員報(bào)告展示狭姨。
數(shù)據(jù)我選擇放在Excel里是為了降低系統(tǒng)的復(fù)雜度宰啦,主要是對接的運(yùn)營人員都是Excel提供數(shù)據(jù) 苏遥,你也可以改裝下放數(shù)據(jù)庫。

整體的架構(gòu)

url_check.jpg

工程結(jié)構(gòu)

├── common
│   ├── emailCommon.py     # 郵件發(fā)送模塊
│   └── HTMLBuilder.py       # HTML報(bào)告生成模塊
├── data
│   └── url_data.xls              # 測試&配置數(shù)據(jù)
├── templete
│   └── templete.html           # HTML模板
├── venv                              # 虛擬環(huán)境
├── .gitignore                       # 提交過濾模板
├── checkScript.py              # 檢查核心腳本
├── requirements.txt            # 模塊依賴說明
└── run.py                            # 啟動(dòng)腳本

功能點(diǎn)

  • 定時(shí)執(zhí)行檢查任務(wù)
  • 郵件及部門通知人可配置
  • 支持2個(gè)以下的額外網(wǎng)絡(luò)代理檢查
  • 是否只在失敗時(shí)通知部門負(fù)責(zé)人可配置
  • 測試報(bào)告郵件相關(guān)人員

報(bào)告

總覽報(bào)告

TM20190612143713.png

出錯(cuò)收到的報(bào)告

TM20190612143822.png

配置

文件字段說明

系統(tǒng)中的配置信息都在url_data.xls的各個(gè)sheet中赡模,其實(shí)就相當(dāng)于數(shù)據(jù)庫的各個(gè)表田炭。


TM20190612141442.png

url_data.xls > mail_config # 郵件及定時(shí)任務(wù)配置

  • mail_server # 郵件服務(wù)器
  • user_name # 發(fā)件人賬號(hào)
  • user_password # 發(fā)件人密碼
  • mail_From_user # 郵件中顯示的發(fā)件人名
  • mail_From # 郵件中顯示的發(fā)件人郵箱
  • mail_subject # 郵件標(biāo)題
  • admin_user # 系統(tǒng)管理員郵箱(總覽報(bào)告通知人)
  • admin_cc_user # 系統(tǒng)報(bào)告抄送人郵箱(總覽報(bào)告通知人)
  • run_time # 定時(shí)任務(wù)啟動(dòng)時(shí)間
TM20190612141713.png

url_data.xls > proxy_config # 可用代理配置

  • id # 序號(hào)
  • name # 代理名
  • proxy # 代理配置(可配置賬號(hào)密碼)
TM20190612142002.png

url_data.xls > dep_config # 部門配置

  • id # 部門ID(URL的所屬用的)
  • name # 部門名稱
  • owner # 部門負(fù)責(zé)人
  • cc # 抄送人
  • report_type # 是否只有出錯(cuò)時(shí)才通知(1.只有出錯(cuò)時(shí)通知,0.都會(huì)通知)


    TM20190612142559.png

url_data.xls > data # 檢查鏈接數(shù)據(jù)

  • id # 序號(hào)
  • page_name # 檢查的鏈接所屬的頁面名稱
  • page_url # 檢查的鏈接所屬的頁面鏈接
  • check_name # 檢查的鏈接的名稱(暫時(shí)沒用纺裁,報(bào)告中直接顯示了檢查的URL)
  • check_url # 被檢查的鏈接
  • dep # 所屬的部門

安裝依賴

系統(tǒng)是基于py3寫的诫肠,使用的虛擬環(huán)境,具體用啥你隨意欺缘。

$ pip install -r requirements.txt

啟動(dòng)系統(tǒng)

$ python run.py

開源地址

https://github.com/t880216t/url_check

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末栋豫,一起剝皮案震驚了整個(gè)濱河市,隨后出現(xiàn)的幾起案子谚殊,更是在濱河造成了極大的恐慌丧鸯,老刑警劉巖,帶你破解...
    沈念sama閱讀 212,542評(píng)論 6 493
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件嫩絮,死亡現(xiàn)場離奇詭異丛肢,居然都是意外死亡,警方通過查閱死者的電腦和手機(jī)剿干,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 90,596評(píng)論 3 385
  • 文/潘曉璐 我一進(jìn)店門蜂怎,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人置尔,你說我怎么就攤上這事杠步。” “怎么了榜轿?”我有些...
    開封第一講書人閱讀 158,021評(píng)論 0 348
  • 文/不壞的土叔 我叫張陵幽歼,是天一觀的道長。 經(jīng)常有香客問我谬盐,道長甸私,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 56,682評(píng)論 1 284
  • 正文 為了忘掉前任飞傀,我火速辦了婚禮皇型,結(jié)果婚禮上,老公的妹妹穿的比我還像新娘砸烦。我一直安慰自己弃鸦,他們只是感情好,可當(dāng)我...
    茶點(diǎn)故事閱讀 65,792評(píng)論 6 386
  • 文/花漫 我一把揭開白布外冀。 她就那樣靜靜地躺著寡键,像睡著了一般。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上西轩,一...
    開封第一講書人閱讀 49,985評(píng)論 1 291
  • 那天员舵,我揣著相機(jī)與錄音,去河邊找鬼藕畔。 笑死马僻,一個(gè)胖子當(dāng)著我的面吹牛,可吹牛的內(nèi)容都是我干的注服。 我是一名探鬼主播韭邓,決...
    沈念sama閱讀 39,107評(píng)論 3 410
  • 文/蒼蘭香墨 我猛地睜開眼,長吁一口氣:“原來是場噩夢啊……” “哼溶弟!你這毒婦竟也來了女淑?” 一聲冷哼從身側(cè)響起,我...
    開封第一講書人閱讀 37,845評(píng)論 0 268
  • 序言:老撾萬榮一對情侶失蹤辜御,失蹤者是張志新(化名)和其女友劉穎鸭你,沒想到半個(gè)月后,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體擒权,經(jīng)...
    沈念sama閱讀 44,299評(píng)論 1 303
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡袱巨,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 36,612評(píng)論 2 327
  • 正文 我和宋清朗相戀三年,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了碳抄。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片愉老。...
    茶點(diǎn)故事閱讀 38,747評(píng)論 1 341
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡,死狀恐怖剖效,靈堂內(nèi)的尸體忽然破棺而出嫉入,到底是詐尸還是另有隱情,我是刑警寧澤贱鄙,帶...
    沈念sama閱讀 34,441評(píng)論 4 333
  • 正文 年R本政府宣布劝贸,位于F島的核電站姨谷,受9級(jí)特大地震影響逗宁,放射性物質(zhì)發(fā)生泄漏。R本人自食惡果不足惜梦湘,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 40,072評(píng)論 3 317
  • 文/蒙蒙 一瞎颗、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧捌议,春花似錦哼拔、人聲如沸。這莊子的主人今日做“春日...
    開封第一講書人閱讀 30,828評(píng)論 0 21
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽。三九已至宫补,卻和暖如春檬姥,著一層夾襖步出監(jiān)牢的瞬間曾我,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 32,069評(píng)論 1 267
  • 我被黑心中介騙來泰國打工健民, 沒想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留抒巢,地道東北人。 一個(gè)月前我還...
    沈念sama閱讀 46,545評(píng)論 2 362
  • 正文 我出身青樓秉犹,卻偏偏與公主長得像蛉谜,于是被迫代替她去往敵國和親。 傳聞我的和親對象是個(gè)殘疾皇子崇堵,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 43,658評(píng)論 2 350

推薦閱讀更多精彩內(nèi)容