python:從爬蟲說起(一)

胡說8道的聲明:博客相關(guān)內(nèi)容都是個人學習的理解澎现,如果把讀者帶偏了伏社,當筆者瞎78扯

引言

? ?? 如果想入門學一門語言,我覺得python合適叶堆,python語法簡單等孵,容易上手。如果有一定語言基礎(chǔ)的話蹂空,基本2個小時能學完python基本語法和常用內(nèi)建庫俯萌。

? ? 然后能干什么呢,寫一些if else玩么....額上枕,貌似什么都干不了咐熙。就好比你學會了汽車原理,你就能策馬奔騰么辨萍。大兄弟棋恼,你想太多。首先買個車吧(引入三方庫或者框架)锈玉,然后學個駕校吧(學習三方庫使用)爪飘,然后練習練習再飛翔。

? ? so拉背,python各種三方庫和框架才是應(yīng)用的關(guān)鍵师崎。為啥從爬蟲說起呢,因為爬蟲簡單椅棺,只需要用到urllib(python3將urllib和urllib2整合到urllib里面了)犁罩,beautifulsoup兩個庫基本就能縱橫捭闔了。要是懂xpath或者css選擇器两疚,一些js語法床估,那記本就任你遨游了。再來加入點數(shù)據(jù)庫(典型的诱渤,SQL:mysql丐巫;NoSQL:mongoDB),那還不得上天。

? ? 好吧递胧,先區(qū)學python基本語法碑韵,再看看urllib咋寫爬蟲的,然后開始你的表演谓着。

爬蟲原理

? ? 我們在瀏覽網(wǎng)頁的時候泼诱,有大量的信息和資訊,他們是如何呈現(xiàn)給我們的呢赊锚?我們用瀏覽器去查看網(wǎng)頁的時候治筒,實際就是瀏覽器對網(wǎng)頁的網(wǎng)站服務(wù)器發(fā)起了一個request請求(通常method是Get或者Post),然后網(wǎng)站服務(wù)器(這時候web服務(wù)器捕獲到這個請求舷蒲,然后由web路由返回網(wǎng)頁信息)返回一個response耸袜,response中就包含了網(wǎng)頁信息(html)。分析分析這個html(就像 楊宗緯唱的洋蔥牲平,一層一層一層的剝開它的皮)堤框,你會發(fā)現(xiàn)網(wǎng)頁的各種文字,圖片鏈接纵柿,包括廣告信息都在html安靜的躺著蜈抓。

? ? ok,處理這個response昂儒,定位需要的元素沟使,將信息提取出來,這就是爬蟲渊跋。

? ? 爬蟲牛逼的地方在于自動化在跑腊嗡,你想想,找到一個不可描述的網(wǎng)站拾酝,寫個爬蟲燕少,吃個飯回來一看,硬盤里就爬取了大量不可描述的圖片蒿囤,刺不刺激客们,想不想學。

? ? 當然上一段都是開玩笑的蟋软,比較我們爬圖片是用于YCbCr顏色空間分析镶摘,判斷這些圖片是否不符合社會主義核心簡直觀,然后堅決舉報岳守。好吧,編不下去了....

? ? 以上碌冶,扯遠了湿痢。

scrapy爬騰訊視頻

? ? 為什么不直接用urllib寫爬蟲而要用scrapy呢,很簡單啊,地上一把M4譬重,一把噴子拒逮,就問你選啥....好吧,說白了就是覺得scrapy代碼架構(gòu)清晰臀规,開起來比較優(yōu)雅滩援。

? ? 為什么爬騰訊視頻呢,因為騰訊視頻需要去分析動態(tài)頁面塔嬉,還需要去分析視頻真實url(騰訊是不會把視頻url直接暴露給大家的玩徊,各種反爬加密),難度比較大谨究,爬蟲代碼比較簡單恩袱,必須增加難度,得裝一波胶哲。

? ? 寫累了畔塔,下一篇開始碼代碼和分析(其實是筆者還沒分析出騰訊視頻獲取真實url的請求的規(guī)則,萬事開頭難嘛鸯屿,先開個頭)

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末澈吨,一起剝皮案震驚了整個濱河市,隨后出現(xiàn)的幾起案子寄摆,更是在濱河造成了極大的恐慌谅辣,老刑警劉巖,帶你破解...
    沈念sama閱讀 222,807評論 6 518
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件冰肴,死亡現(xiàn)場離奇詭異屈藐,居然都是意外死亡,警方通過查閱死者的電腦和手機熙尉,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 95,284評論 3 399
  • 文/潘曉璐 我一進店門联逻,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人检痰,你說我怎么就攤上這事包归。” “怎么了铅歼?”我有些...
    開封第一講書人閱讀 169,589評論 0 363
  • 文/不壞的土叔 我叫張陵公壤,是天一觀的道長。 經(jīng)常有香客問我椎椰,道長厦幅,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 60,188評論 1 300
  • 正文 為了忘掉前任慨飘,我火速辦了婚禮确憨,結(jié)果婚禮上译荞,老公的妹妹穿的比我還像新娘。我一直安慰自己休弃,他們只是感情好吞歼,可當我...
    茶點故事閱讀 69,185評論 6 398
  • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著塔猾,像睡著了一般篙骡。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上丈甸,一...
    開封第一講書人閱讀 52,785評論 1 314
  • 那天糯俗,我揣著相機與錄音,去河邊找鬼老虫。 笑死叶骨,一個胖子當著我的面吹牛,可吹牛的內(nèi)容都是我干的祈匙。 我是一名探鬼主播忽刽,決...
    沈念sama閱讀 41,220評論 3 423
  • 文/蒼蘭香墨 我猛地睜開眼,長吁一口氣:“原來是場噩夢啊……” “哼夺欲!你這毒婦竟也來了跪帝?” 一聲冷哼從身側(cè)響起,我...
    開封第一講書人閱讀 40,167評論 0 277
  • 序言:老撾萬榮一對情侶失蹤些阅,失蹤者是張志新(化名)和其女友劉穎伞剑,沒想到半個月后,有當?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體市埋,經(jīng)...
    沈念sama閱讀 46,698評論 1 320
  • 正文 獨居荒郊野嶺守林人離奇死亡黎泣,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點故事閱讀 38,767評論 3 343
  • 正文 我和宋清朗相戀三年,在試婚紗的時候發(fā)現(xiàn)自己被綠了缤谎。 大學時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片抒倚。...
    茶點故事閱讀 40,912評論 1 353
  • 序言:一個原本活蹦亂跳的男人離奇死亡,死狀恐怖坷澡,靈堂內(nèi)的尸體忽然破棺而出托呕,到底是詐尸還是另有隱情,我是刑警寧澤频敛,帶...
    沈念sama閱讀 36,572評論 5 351
  • 正文 年R本政府宣布项郊,位于F島的核電站,受9級特大地震影響斟赚,放射性物質(zhì)發(fā)生泄漏着降。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點故事閱讀 42,254評論 3 336
  • 文/蒙蒙 一拗军、第九天 我趴在偏房一處隱蔽的房頂上張望鹊碍。 院中可真熱鬧厌殉,春花似錦食绿、人聲如沸侈咕。這莊子的主人今日做“春日...
    開封第一講書人閱讀 32,746評論 0 25
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽耀销。三九已至,卻和暖如春铲汪,著一層夾襖步出監(jiān)牢的瞬間熊尉,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 33,859評論 1 274
  • 我被黑心中介騙來泰國打工掌腰, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留狰住,地道東北人。 一個月前我還...
    沈念sama閱讀 49,359評論 3 379
  • 正文 我出身青樓齿梁,卻偏偏與公主長得像催植,于是被迫代替她去往敵國和親。 傳聞我的和親對象是個殘疾皇子勺择,可洞房花燭夜當晚...
    茶點故事閱讀 45,922評論 2 361

推薦閱讀更多精彩內(nèi)容