該如何循序漸進(jìn)學(xué)習(xí)Python爬蟲

對于爬蟲竿屹,可以選擇任何一種語言报强,只是實(shí)現(xiàn)的方式不一樣,效率的問題拱燃”龋可以是Java、Ruby碗誉、Perl......對于爬蟲召嘶,Python應(yīng)該算是優(yōu)選的語言,門檻低哮缺,簡潔弄跌,邏輯清晰,庫比較豐富......

缺點(diǎn):

1尝苇、動態(tài)性铛只,速度不是很快埠胖,對于大型爬蟲可以實(shí)現(xiàn)起來還需要其他擴(kuò)展。

2淳玩、對于多線程支持不是很好直撤,主要還是GIL鎖的緣故,網(wǎng)上大部分提倡多進(jìn)程蜕着。

......

對于Python爬蟲谊惭,還是和其他任何事物一樣,萬丈高樓平地起侮东,Python基礎(chǔ)自然要熟悉圈盔,對于OOP也是要盡量熟悉。

具體學(xué)習(xí)流程:

1悄雅、Python基礎(chǔ)(標(biāo)準(zhǔn)庫和方法驱敲,包括OOP)

2、html/css簡單的基礎(chǔ)知識宽闲。

3众眨、Python 標(biāo)準(zhǔn)模塊re、urllib內(nèi)的方法和屬性容诬,如何包裝瀏覽器頭娩梨、cookies、proxy等等览徒。

4狈定、循序漸進(jìn)學(xué)習(xí)一些第三方庫requests來代替標(biāo)準(zhǔn)庫

5、在解析網(wǎng)頁源碼的時(shí)候發(fā)現(xiàn)re模塊的寫法過于復(fù)雜和難懂习蓬,所有會選擇beautifulsoup來解析

6纽什、后又發(fā)現(xiàn)beautifulsoup庫也難免有些晦澀,接著學(xué)習(xí)lxml庫躲叼,速度應(yīng)該算是比較快的在Python里面芦缰。

7、在學(xué)習(xí)了如何解析網(wǎng)頁源碼的過程中發(fā)現(xiàn)到很多網(wǎng)頁是JavaScript渲染的枫慷,所以應(yīng)該學(xué)習(xí)到selenium让蕾、PhantomJS模塊(速度相對比較慢,但是完全夠用)

8或听、學(xué)到這里應(yīng)該算學(xué)習(xí)爬蟲到了一定的水平探孝,基本上可以解決一些常見的網(wǎng)站數(shù)據(jù)抓取,然而很多時(shí)候你會發(fā)現(xiàn)每次寫爬蟲的時(shí)候神帅,都是要一步步去實(shí)現(xiàn)一些重復(fù)的工作再姑,所以我們可以自己寫一個(gè)自定義的為自己使用的類,這樣隨時(shí)可以去調(diào)用找御,比如直接輸入一個(gè)url就可以直接構(gòu)造headers去爬取網(wǎng)頁元镀,這里有一個(gè)我自己寫類,里面包括可以自動簡單的構(gòu)造一個(gè)headers霎桅,還會隨機(jī)更換瀏覽器頭等等栖疑,還可以去模擬selenium 模擬鼠標(biāo)滾動滾動條,也就是說要提前安裝selenium滔驶,request遇革,lxml等等,這里不多說了揭糕,直接下載放入Python第三方目錄即可萝快,基本上沒有什么新東西,只是方便著角,下載地址:Crawler

9揪漩、接下來就是重頭戲:scrapy,scrapy不適合剛剛接觸爬蟲的人吏口,應(yīng)該學(xué)習(xí)一些爬蟲基礎(chǔ)奄容,因?yàn)閟crapy里面包含了前面大部分基礎(chǔ)知識如。

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末产徊,一起剝皮案震驚了整個(gè)濱河市昂勒,隨后出現(xiàn)的幾起案子,更是在濱河造成了極大的恐慌舟铜,老刑警劉巖戈盈,帶你破解...
    沈念sama閱讀 219,539評論 6 508
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件,死亡現(xiàn)場離奇詭異谆刨,居然都是意外死亡奕谭,警方通過查閱死者的電腦和手機(jī),發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 93,594評論 3 396
  • 文/潘曉璐 我一進(jìn)店門痴荐,熙熙樓的掌柜王于貴愁眉苦臉地迎上來血柳,“玉大人,你說我怎么就攤上這事生兆∧寻疲” “怎么了?”我有些...
    開封第一講書人閱讀 165,871評論 0 356
  • 文/不壞的土叔 我叫張陵鸦难,是天一觀的道長根吁。 經(jīng)常有香客問我,道長合蔽,這世上最難降的妖魔是什么击敌? 我笑而不...
    開封第一講書人閱讀 58,963評論 1 295
  • 正文 為了忘掉前任,我火速辦了婚禮拴事,結(jié)果婚禮上沃斤,老公的妹妹穿的比我還像新娘圣蝎。我一直安慰自己,他們只是感情好衡瓶,可當(dāng)我...
    茶點(diǎn)故事閱讀 67,984評論 6 393
  • 文/花漫 我一把揭開白布徘公。 她就那樣靜靜地躺著,像睡著了一般哮针。 火紅的嫁衣襯著肌膚如雪关面。 梳的紋絲不亂的頭發(fā)上,一...
    開封第一講書人閱讀 51,763評論 1 307
  • 那天十厢,我揣著相機(jī)與錄音等太,去河邊找鬼。 笑死蛮放,一個(gè)胖子當(dāng)著我的面吹牛缩抡,可吹牛的內(nèi)容都是我干的。 我是一名探鬼主播筛武,決...
    沈念sama閱讀 40,468評論 3 420
  • 文/蒼蘭香墨 我猛地睜開眼缝其,長吁一口氣:“原來是場噩夢啊……” “哼!你這毒婦竟也來了徘六?” 一聲冷哼從身側(cè)響起内边,我...
    開封第一講書人閱讀 39,357評論 0 276
  • 序言:老撾萬榮一對情侶失蹤,失蹤者是張志新(化名)和其女友劉穎待锈,沒想到半個(gè)月后漠其,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體,經(jīng)...
    沈念sama閱讀 45,850評論 1 317
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡竿音,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 38,002評論 3 338
  • 正文 我和宋清朗相戀三年和屎,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片春瞬。...
    茶點(diǎn)故事閱讀 40,144評論 1 351
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡柴信,死狀恐怖,靈堂內(nèi)的尸體忽然破棺而出宽气,到底是詐尸還是另有隱情随常,我是刑警寧澤,帶...
    沈念sama閱讀 35,823評論 5 346
  • 正文 年R本政府宣布萄涯,位于F島的核電站绪氛,受9級特大地震影響,放射性物質(zhì)發(fā)生泄漏涝影。R本人自食惡果不足惜枣察,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 41,483評論 3 331
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧序目,春花似錦臂痕、人聲如沸。這莊子的主人今日做“春日...
    開封第一講書人閱讀 32,026評論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽逗旁。三九已至嘿辟,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間片效,已是汗流浹背红伦。 一陣腳步聲響...
    開封第一講書人閱讀 33,150評論 1 272
  • 我被黑心中介騙來泰國打工, 沒想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留淀衣,地道東北人昙读。 一個(gè)月前我還...
    沈念sama閱讀 48,415評論 3 373
  • 正文 我出身青樓,卻偏偏與公主長得像膨桥,于是被迫代替她去往敵國和親蛮浑。 傳聞我的和親對象是個(gè)殘疾皇子,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 45,092評論 2 355

推薦閱讀更多精彩內(nèi)容