手把手教你實現(xiàn)一個可視化爬蟲監(jiān)控系統(tǒng)叮贩,酷炫的圖形化界面

1. 前言

本文并不是講解爬蟲的相關(guān)技術(shù)實現(xiàn)的几于,而是從實用性的角度,將抓取并存入 MongoDB 的數(shù)據(jù) 用 InfluxDB 進(jìn)行處理筹陵,而后又通過 Grafana 將爬蟲抓取數(shù)據(jù)情況通過酷炫的圖形化界面展示出來刽锤。

在開始之前镊尺,先對 Grafana 和 InfluxDB 做一下簡要的介紹:

  • Grafana:是一個開源的分析和監(jiān)控系統(tǒng),擁有精美的web UI并思,支持多種圖表庐氮,可以展示influxdb中存儲的數(shù)據(jù),并且有報警的功能宋彼。
  • **Influxdb **:是一款開源的時間序列數(shù)據(jù)庫弄砍,專門用來存儲和時間相關(guān)的數(shù)據(jù)(比如我用它存儲某個時間點爬蟲抓取信息的數(shù)量)。

最終能實現(xiàn)的效果是這樣的:

手把手教你實現(xiàn)一個可視化爬蟲監(jiān)控系統(tǒng)宙暇,酷炫的圖形化界面

請注意以下操作输枯,都是 Mac 下實現(xiàn)的铅鲤。但是原理是相似的淀弹,你可以在自己的 PC 上進(jìn)行試驗往踢。

2. 安裝配置 InfluxDB

安裝 InfluxDB

手把手教你實現(xiàn)一個可視化爬蟲監(jiān)控系統(tǒng)遮精,酷炫的圖形化界面

修改配置文件/usr/local/etc/influxdb.conf纽匙,如果原文件中沒有對應(yīng)配置項恼蓬,需自己添加涮阔。

手把手教你實現(xiàn)一個可視化爬蟲監(jiān)控系統(tǒng)猴伶,酷炫的圖形化界面

3. 安裝配置 Grafana

安裝 Grafana

手把手教你實現(xiàn)一個可視化爬蟲監(jiān)控系統(tǒng)厢汹,酷炫的圖形化界面

并修改 Grafana 配置文件 /usr/local/etc/grafana/grafana.ini螟深,內(nèi)容如下:

手把手教你實現(xiàn)一個可視化爬蟲監(jiān)控系統(tǒng),酷炫的圖形化界面

4. 爬蟲代碼

由于這里主是要介紹如何將 Grafana 和 InfluxDB 與爬蟲進(jìn)行結(jié)合的方案烫葬,而不是主講爬蟲原理界弧,而且代碼也比較多,影響可讀性搭综,所以就不貼出爬取的代碼垢箕。

5. 監(jiān)控腳本

考慮到可能要增加爬蟲到監(jiān)控中,因此這里使用了熱更新對監(jiān)控進(jìn)行動態(tài)配置兑巾。

配置文件 influx_settings.conf 主要用于熱更新相關(guān)設(shè)置条获。

手把手教你實現(xiàn)一個可視化爬蟲監(jiān)控系統(tǒng),酷炫的圖形化界面

如何動態(tài)讀取這個配置文件的設(shè)置呢蒋歌?需要寫一個腳本來監(jiān)控帅掘。代碼如下:

手把手教你實現(xiàn)一個可視化爬蟲監(jiān)控系統(tǒng),酷炫的圖形化界面
手把手教你實現(xiàn)一個可視化爬蟲監(jiān)控系統(tǒng)堂油,酷炫的圖形化界面
手把手教你實現(xiàn)一個可視化爬蟲監(jiān)控系統(tǒng)修档,酷炫的圖形化界面
手把手教你實現(xiàn)一個可視化爬蟲監(jiān)控系統(tǒng),酷炫的圖形化界面

來試著運行一下

python3 influx_monitor.py 

運行府框,得到下圖內(nèi)容萍悴,表示監(jiān)控腳本運行成功。

手把手教你實現(xiàn)一個可視化爬蟲監(jiān)控系統(tǒng),酷炫的圖形化界面

另建窗口癣诱,修改配置文件 influx_settings.conf

# 修改間隔時間為8秒
interval = 8

切換至第一次運行 influxDB 的窗口计维,會提示配置更新,說明配置熱更新生效撕予。

手把手教你實現(xiàn)一個可視化爬蟲監(jiān)控系統(tǒng)鲫惶,酷炫的圖形化界面

6. 配置 Grafana

首先打開 Chrome 瀏覽器,輸入 http://127.0.0.1:3000 登錄 grafana 頁面实抡。

連接本地 influxDB 數(shù)據(jù)庫欠母,操作如下圖。

在紅色方框內(nèi)選擇 Type 類型為 InfluxDB吆寨,并輸入URL:http://localhost:8086

手把手教你實現(xiàn)一個可視化爬蟲監(jiān)控系統(tǒng)赏淌,酷炫的圖形化界面
手把手教你實現(xiàn)一個可視化爬蟲監(jiān)控系統(tǒng),酷炫的圖形化界面

在紅框內(nèi)輸入influxDB數(shù)據(jù)庫名稱

新建 dashboard

手把手教你實現(xiàn)一個可視化爬蟲監(jiān)控系統(tǒng)啄清,酷炫的圖形化界面

新建 graph 類型 dashboard

修改 dashboard 設(shè)置

手把手教你實現(xiàn)一個可視化爬蟲監(jiān)控系統(tǒng)六水,酷炫的圖形化界面

點擊紅色方框修改設(shè)定

手把手教你實現(xiàn)一個可視化爬蟲監(jiān)控系統(tǒng),酷炫的圖形化界面

修改 dashboard 配置

設(shè)置監(jiān)控的數(shù)據(jù)對象

在監(jiān)控腳本中辣卒,寫入influxDB的代碼如下掷贾,其中 "measurement" 對應(yīng) 表名,"fields" 對應(yīng)寫入的字段荣茫;

手把手教你實現(xiàn)一個可視化爬蟲監(jiān)控系統(tǒng)想帅,酷炫的圖形化界面

7. 運行爬蟲文件

啟動 MongoDB 數(shù)據(jù)庫服務(wù)。

brew services mongodb start

新建一個 terminal 窗口啡莉,運行爬蟲文件港准。

手把手教你實現(xiàn)一個可視化爬蟲監(jiān)控系統(tǒng),酷炫的圖形化界面

爬蟲文件運行成功

我們可以在剛剛打開的控制臺里查看效果展示:

手把手教你實現(xiàn)一個可視化爬蟲監(jiān)控系統(tǒng)咧欣,酷炫的圖形化界面

怎么樣浅缸?學(xué)會了嗎?

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末该押,一起剝皮案震驚了整個濱河市,隨后出現(xiàn)的幾起案子阵谚,更是在濱河造成了極大的恐慌蚕礼,老刑警劉巖,帶你破解...
    沈念sama閱讀 207,248評論 6 481
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件梢什,死亡現(xiàn)場離奇詭異奠蹬,居然都是意外死亡,警方通過查閱死者的電腦和手機嗡午,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 88,681評論 2 381
  • 文/潘曉璐 我一進(jìn)店門囤躁,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人,你說我怎么就攤上這事狸演⊙陨撸” “怎么了?”我有些...
    開封第一講書人閱讀 153,443評論 0 344
  • 文/不壞的土叔 我叫張陵宵距,是天一觀的道長腊尚。 經(jīng)常有香客問我,道長满哪,這世上最難降的妖魔是什么婿斥? 我笑而不...
    開封第一講書人閱讀 55,475評論 1 279
  • 正文 為了忘掉前任,我火速辦了婚禮哨鸭,結(jié)果婚禮上民宿,老公的妹妹穿的比我還像新娘。我一直安慰自己像鸡,他們只是感情好活鹰,可當(dāng)我...
    茶點故事閱讀 64,458評論 5 374
  • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著坟桅,像睡著了一般华望。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上仅乓,一...
    開封第一講書人閱讀 49,185評論 1 284
  • 那天赖舟,我揣著相機與錄音,去河邊找鬼夸楣。 笑死宾抓,一個胖子當(dāng)著我的面吹牛,可吹牛的內(nèi)容都是我干的豫喧。 我是一名探鬼主播石洗,決...
    沈念sama閱讀 38,451評論 3 401
  • 文/蒼蘭香墨 我猛地睜開眼,長吁一口氣:“原來是場噩夢啊……” “哼紧显!你這毒婦竟也來了讲衫?” 一聲冷哼從身側(cè)響起,我...
    開封第一講書人閱讀 37,112評論 0 261
  • 序言:老撾萬榮一對情侶失蹤孵班,失蹤者是張志新(化名)和其女友劉穎涉兽,沒想到半個月后,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體篙程,經(jīng)...
    沈念sama閱讀 43,609評論 1 300
  • 正文 獨居荒郊野嶺守林人離奇死亡枷畏,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點故事閱讀 36,083評論 2 325
  • 正文 我和宋清朗相戀三年,在試婚紗的時候發(fā)現(xiàn)自己被綠了虱饿。 大學(xué)時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片拥诡。...
    茶點故事閱讀 38,163評論 1 334
  • 序言:一個原本活蹦亂跳的男人離奇死亡触趴,死狀恐怖,靈堂內(nèi)的尸體忽然破棺而出渴肉,到底是詐尸還是另有隱情冗懦,我是刑警寧澤,帶...
    沈念sama閱讀 33,803評論 4 323
  • 正文 年R本政府宣布宾娜,位于F島的核電站批狐,受9級特大地震影響,放射性物質(zhì)發(fā)生泄漏前塔。R本人自食惡果不足惜嚣艇,卻給世界環(huán)境...
    茶點故事閱讀 39,357評論 3 307
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望华弓。 院中可真熱鬧食零,春花似錦、人聲如沸寂屏。這莊子的主人今日做“春日...
    開封第一講書人閱讀 30,357評論 0 19
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽迁霎。三九已至吱抚,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間考廉,已是汗流浹背秘豹。 一陣腳步聲響...
    開封第一講書人閱讀 31,590評論 1 261
  • 我被黑心中介騙來泰國打工, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留昌粤,地道東北人既绕。 一個月前我還...
    沈念sama閱讀 45,636評論 2 355
  • 正文 我出身青樓,卻偏偏與公主長得像涮坐,于是被迫代替她去往敵國和親凄贩。 傳聞我的和親對象是個殘疾皇子,可洞房花燭夜當(dāng)晚...
    茶點故事閱讀 42,925評論 2 344

推薦閱讀更多精彩內(nèi)容