認(rèn)識爬蟲?
一,什么是爬蟲锉试?
網(wǎng)絡(luò)爬蟲(又被稱為網(wǎng)頁蜘蛛猫十,網(wǎng)絡(luò)機(jī)器人,在FOAF社區(qū)中間,更經(jīng)常的稱為網(wǎng)頁追逐者)炫彩,是一種按照一定的規(guī)則匾七,自動地抓取萬維網(wǎng)信息的程序或者腳本。另外一些不常使用的名字還有螞蟻江兢、自動索引昨忆、模擬程序或者蠕蟲。其實通俗的講就是通過程序去獲取web頁面上自己想要的數(shù)據(jù)杉允,也就是自動抓取數(shù)據(jù)邑贴。
二,爬蟲可以做什么叔磷?
可以獲取瀏覽器里訪問的拢驾,我們需要的一些數(shù)據(jù),比如圖片改基,視頻等等
三繁疤,爬蟲的本質(zhì)
模擬瀏覽器打開網(wǎng)頁,獲取網(wǎng)頁中我們想要的那部分?jǐn)?shù)據(jù)秕狰,瀏覽器打開網(wǎng)頁的過程稠腊,當(dāng)你在瀏覽器中輸入地址后,經(jīng)過DNS服務(wù)器找到服務(wù)器主機(jī)鸣哀,向服務(wù)器發(fā)送一個請求架忌,服務(wù)器經(jīng)過解析后發(fā)送給用戶瀏覽器結(jié)果,包括html,js,css等文件內(nèi)容我衬,瀏覽器解析出來最后呈現(xiàn)給用戶在瀏覽器上看到的結(jié)果
所以用戶看到的瀏覽器的結(jié)果就是由HTML代碼構(gòu)成的叹放,我們爬蟲就是為了獲取這些內(nèi)容,通過分析和過濾html代碼挠羔,從中獲取我們想要資源(文本井仰,圖片,視頻.....)