網(wǎng)絡(luò)爬蟲輕松入門筆記

常見網(wǎng)頁(yè)抓取工具

火車頭采集器:
老牌專業(yè)數(shù)據(jù)采集工具
效率高、功能全赂韵、接口齊全,可擴(kuò)展
主要缺點(diǎn):
1.只能抓取靜態(tài)網(wǎng)頁(yè)
現(xiàn)在越來(lái)越多的主流沾點(diǎn)和核心數(shù)據(jù)展示都是使用動(dòng)態(tài)頁(yè)面
2.無(wú)法實(shí)現(xiàn)國(guó)語(yǔ)復(fù)雜的流程和邏輯
次要缺點(diǎn):采集規(guī)則的編寫對(duì)不懂代碼的用戶來(lái)說(shuō)有難度

八爪魚
全鼠標(biāo)拖放挠蛉,圖文操作界面
操作簡(jiǎn)介祭示,易于理解,入門成本低
可以使用云采集方式運(yùn)行谴古,不需要本機(jī)開機(jī)
主要缺點(diǎn):對(duì)用戶進(jìn)一步成長(zhǎng)不利
1.對(duì)用戶學(xué)習(xí)網(wǎng)絡(luò)爬蟲抓取相關(guān)知識(shí)幫助有限
2.復(fù)雜功能嚴(yán)重依賴軟件開發(fā)商提供
次要缺點(diǎn):所有操作都需要消耗積分质涛,大量采集數(shù)據(jù)實(shí)際不免費(fèi)
還有:殺毒軟件總是報(bào)告他有木馬?掰担!

火車瀏覽器

  • 集合了八爪魚和火車頭采集器的優(yōu)點(diǎn)
    像八爪魚一樣易學(xué)易用
    比火車頭采集器功能更加強(qiáng)大
    可以抓取動(dòng)態(tài)網(wǎng)頁(yè)
  • 只要看得到的頁(yè)面內(nèi)容蹂窖,全都可以采集下來(lái)!
  • 100%模擬真人對(duì)瀏覽器的操作動(dòng)作恩敌,可以達(dá)成任何操作目的
  • 可實(shí)現(xiàn)任意復(fù)雜的操作邏輯
  • 可編譯成EXE文件脫離平臺(tái)直接發(fā)布并運(yùn)行
  • 保持易用特征的同時(shí),對(duì)學(xué)習(xí)相應(yīng)的編程知識(shí)有非常有幫助
    缺點(diǎn):
    抓取速度比火車頭采集器明顯要慢
    免費(fèi)版一個(gè)項(xiàng)目只能抓取30分鐘横媚,超時(shí)后抓取程序會(huì)停止纠炮,必須手動(dòng)重新啟動(dòng)
    收費(fèi)版價(jià)格明顯要比火車頭采集器貴

案例:

  • 大眾點(diǎn)評(píng)數(shù)據(jù)抓取
  • 淘寶數(shù)據(jù)抓取
  • 微信公眾號(hào)文章檢測(cè)與抓取
    微信是防抓取功能最為完善的社交網(wǎng)絡(luò)軟件之一
    必須互相關(guān)注才能看到個(gè)人發(fā)送的信息
    必須個(gè)人明確授權(quán)才能獲取個(gè)人信息
    用模擬器登錄會(huì)直接封賬號(hào)
    沒(méi)有網(wǎng)頁(yè)版本可供抓取
    通訊內(nèi)容有一定程度的加密(呵呵)
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末,一起剝皮案震驚了整個(gè)濱河市灯蝴,隨后出現(xiàn)的幾起案子恢口,更是在濱河造成了極大的恐慌,老刑警劉巖穷躁,帶你破解...
    沈念sama閱讀 216,651評(píng)論 6 501
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件耕肩,死亡現(xiàn)場(chǎng)離奇詭異,居然都是意外死亡,警方通過(guò)查閱死者的電腦和手機(jī)猿诸,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 92,468評(píng)論 3 392
  • 文/潘曉璐 我一進(jìn)店門婚被,熙熙樓的掌柜王于貴愁眉苦臉地迎上來(lái),“玉大人梳虽,你說(shuō)我怎么就攤上這事址芯。” “怎么了窜觉?”我有些...
    開封第一講書人閱讀 162,931評(píng)論 0 353
  • 文/不壞的土叔 我叫張陵谷炸,是天一觀的道長(zhǎng)。 經(jīng)常有香客問(wèn)我禀挫,道長(zhǎng)旬陡,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 58,218評(píng)論 1 292
  • 正文 為了忘掉前任语婴,我火速辦了婚禮描孟,結(jié)果婚禮上,老公的妹妹穿的比我還像新娘腻格。我一直安慰自己画拾,他們只是感情好,可當(dāng)我...
    茶點(diǎn)故事閱讀 67,234評(píng)論 6 388
  • 文/花漫 我一把揭開白布菜职。 她就那樣靜靜地躺著青抛,像睡著了一般。 火紅的嫁衣襯著肌膚如雪酬核。 梳的紋絲不亂的頭發(fā)上蜜另,一...
    開封第一講書人閱讀 51,198評(píng)論 1 299
  • 那天,我揣著相機(jī)與錄音嫡意,去河邊找鬼举瑰。 笑死,一個(gè)胖子當(dāng)著我的面吹牛蔬螟,可吹牛的內(nèi)容都是我干的此迅。 我是一名探鬼主播,決...
    沈念sama閱讀 40,084評(píng)論 3 418
  • 文/蒼蘭香墨 我猛地睜開眼旧巾,長(zhǎng)吁一口氣:“原來(lái)是場(chǎng)噩夢(mèng)啊……” “哼耸序!你這毒婦竟也來(lái)了?” 一聲冷哼從身側(cè)響起鲁猩,我...
    開封第一講書人閱讀 38,926評(píng)論 0 274
  • 序言:老撾萬(wàn)榮一對(duì)情侶失蹤坎怪,失蹤者是張志新(化名)和其女友劉穎,沒(méi)想到半個(gè)月后廓握,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體搅窿,經(jīng)...
    沈念sama閱讀 45,341評(píng)論 1 311
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡嘁酿,尸身上長(zhǎng)有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 37,563評(píng)論 2 333
  • 正文 我和宋清朗相戀三年,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了男应。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片闹司。...
    茶點(diǎn)故事閱讀 39,731評(píng)論 1 348
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡,死狀恐怖殉了,靈堂內(nèi)的尸體忽然破棺而出开仰,到底是詐尸還是另有隱情,我是刑警寧澤薪铜,帶...
    沈念sama閱讀 35,430評(píng)論 5 343
  • 正文 年R本政府宣布众弓,位于F島的核電站,受9級(jí)特大地震影響隔箍,放射性物質(zhì)發(fā)生泄漏谓娃。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 41,036評(píng)論 3 326
  • 文/蒙蒙 一蜒滩、第九天 我趴在偏房一處隱蔽的房頂上張望滨达。 院中可真熱鬧,春花似錦俯艰、人聲如沸捡遍。這莊子的主人今日做“春日...
    開封第一講書人閱讀 31,676評(píng)論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽(yáng)画株。三九已至,卻和暖如春啦辐,著一層夾襖步出監(jiān)牢的瞬間谓传,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 32,829評(píng)論 1 269
  • 我被黑心中介騙來(lái)泰國(guó)打工芹关, 沒(méi)想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留续挟,地道東北人。 一個(gè)月前我還...
    沈念sama閱讀 47,743評(píng)論 2 368
  • 正文 我出身青樓侥衬,卻偏偏與公主長(zhǎng)得像诗祸,于是被迫代替她去往敵國(guó)和親。 傳聞我的和親對(duì)象是個(gè)殘疾皇子轴总,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 44,629評(píng)論 2 354

推薦閱讀更多精彩內(nèi)容

  • 1贬媒、通過(guò)CocoaPods安裝項(xiàng)目名稱項(xiàng)目信息 AFNetworking網(wǎng)絡(luò)請(qǐng)求組件 FMDB本地?cái)?shù)據(jù)庫(kù)組件 SD...
    陽(yáng)明先生_X自主閱讀 15,979評(píng)論 3 119
  • spring通過(guò)xml配置,經(jīng)常需要用到不同的spring模塊的標(biāo)簽肘习,想要shying這些標(biāo)簽需要在 屬性中添加非...
    GAWEGOR閱讀 14,696評(píng)論 1 4
  • 凜冽天 ,星夜寒 坡倔,獨(dú)臥 不忍眠漂佩,愁緒翩躚 何言脖含。 憶深處,夜同游 盡豪言投蝉,今 不少年养葵。 輾轉(zhuǎn) 夢(mèng)不香,酒亦不甜瘩缆。...
    春心語(yǔ)閱讀 241評(píng)論 2 1
  • 今天我們來(lái)談?wù)劙l(fā)晶庸娱! 黑發(fā)晶是發(fā)晶當(dāng)中的一種 那么黑發(fā)晶如何鑒別真假呢着绊? 黑發(fā)晶以晶體通透、發(fā)絲多熟尉、冰裂棉絮少為佳...
    水晶小狐貍閱讀 1,929評(píng)論 0 0
  • 注:python:可以用于精確計(jì)算大整數(shù)運(yùn)算PHP:大于 int 最大值后有精度問(wèn)題归露,導(dǎo)致計(jì)算不精確
    星星之火666閱讀 135評(píng)論 0 0