9.5 Scrapy項目管道爬取58實戰(zhàn)代碼

<article class="editor-area">

spider文件:

yield函數(shù) 意述,這個函數(shù)沒有結(jié)束,還可以繼續(xù)返回端圈,這里千萬不能return宴倍,return就結(jié)束了1條數(shù)據(jù)恭理。

這才yield出去到管道,才管道開始了寨腔。

yield item是yield到管道家卖,yield request是yield到調(diào)度器。

管道文件pipline.py文件

天生有一個管道榛臼,但是這個管道里面什么都沒有伊佃。之前講過管道有4個函數(shù)。

首先打開一個文件沛善,print(打開文件了)關閉一個航揉,print(關閉文件了),中間是管道


問題來了如何寫入文件:

如何把一個個對象寫入文件金刁。涉及到序列化帅涂,即把對象變成一個文本。如何把dictionary寫入到文本中呢尤蛮?經(jīng)典方案是import jaon媳友,把它變成一個json的字符串,然后存起來就ok了产捞。

即:序列號函數(shù)json.dumps(),item其實就是一個dictionaty醇锚,但是離真正還是差一點。

于是json.dumps(dic(item)讓其變成真正的dic坯临,并把其放入line變量中焊唬,即line=json.dumps(dic(item)。


這其中有個問題看靠,容易寫成一坨赶促,就是你不斷地這么寫只是在尾部追加,沒有換行符挟炬,

這時候我們要添加一個換行的機制鸥滨,并把其format粘貼進來

image

然后再寫到文件里面

image

激活管道,在setting文件中

image
image

解封即把紅框的注釋去掉谤祖,注意改變管道的順序補上改前邊的文件名婿滓,而是改動后邊的數(shù)字300


讓其執(zhí)行奔跑

手動創(chuàng)建main文件,并且把執(zhí)行命令寫進去粥喜,其中有個是文件名空幻,然后debug運行即可。

image

image

課后作業(yè):

  • 選4種選擇器中的一種對其高級語法學習
  • 學習和掌握正則表達式的用法
  • 嘗試使用高級語法解析一些頁面

補充資料:

介紹了四種選擇器容客,其中正則表達式是必須學習的秕铛,其它三種只需挑一種自己喜歡的進行學習并且精通就好。注意一定要通過實際的網(wǎng)站多加練習如何提取到自己想要的數(shù)據(jù)

  • CSS缩挑、Xpath和正則表達式:可以前往選擇器(Selectors)但两,學習更加全面的選擇器用法
  • 正則表達式:正則表達式是程序猿的必備技能,不僅在scrapy中可以用到供置,清洗數(shù)據(jù)谨湘、SQL數(shù)據(jù)庫提取數(shù)據(jù)等都可以用到,所以一定要多加學習:正則表達式
  • 谷歌瀏覽器具有一款拓展插件叫“XPath Helper”芥丧,可以在瀏覽器頁面直接寫Xpath query紧阔,即時顯示所寫的Xpath選擇到的結(jié)果,非常好用续担,可以自行下載

XPath Helper下載:https://pan.baidu.com/s/1c2vYUOw

提取碼 mtut

下載好擅耽,打開chrome://extensions/

然后把插件拖進去,重啟下瀏覽器就可以用了物遇,快捷打開插件方式shift+ctrl+X

補充資料

  • 有能力的同學可以去GitHub瀏覽Scrapy的源碼乖仇,更深入地理解Scrapy的使用和操作方法
  • 有興趣的同學可以嘗試去爬取京東的商品,這里有一個京東爬蟲開源的項目询兴,大家可以參考一下

</article>

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末乃沙,一起剝皮案震驚了整個濱河市,隨后出現(xiàn)的幾起案子诗舰,更是在濱河造成了極大的恐慌警儒,老刑警劉巖,帶你破解...
    沈念sama閱讀 219,039評論 6 508
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件眶根,死亡現(xiàn)場離奇詭異蜀铲,居然都是意外死亡,警方通過查閱死者的電腦和手機汛闸,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 93,426評論 3 395
  • 文/潘曉璐 我一進店門蝙茶,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人隆夯,你說我怎么就攤上這事”鸱” “怎么了蹄衷?”我有些...
    開封第一講書人閱讀 165,417評論 0 356
  • 文/不壞的土叔 我叫張陵,是天一觀的道長厘肮。 經(jīng)常有香客問我愧口,道長,這世上最難降的妖魔是什么类茂? 我笑而不...
    開封第一講書人閱讀 58,868評論 1 295
  • 正文 為了忘掉前任耍属,我火速辦了婚禮托嚣,結(jié)果婚禮上,老公的妹妹穿的比我還像新娘厚骗。我一直安慰自己示启,他們只是感情好,可當我...
    茶點故事閱讀 67,892評論 6 392
  • 文/花漫 我一把揭開白布领舰。 她就那樣靜靜地躺著夫嗓,像睡著了一般。 火紅的嫁衣襯著肌膚如雪冲秽。 梳的紋絲不亂的頭發(fā)上舍咖,一...
    開封第一講書人閱讀 51,692評論 1 305
  • 那天,我揣著相機與錄音锉桑,去河邊找鬼排霉。 笑死,一個胖子當著我的面吹牛刨仑,可吹牛的內(nèi)容都是我干的郑诺。 我是一名探鬼主播,決...
    沈念sama閱讀 40,416評論 3 419
  • 文/蒼蘭香墨 我猛地睜開眼杉武,長吁一口氣:“原來是場噩夢啊……” “哼辙诞!你這毒婦竟也來了?” 一聲冷哼從身側(cè)響起轻抱,我...
    開封第一講書人閱讀 39,326評論 0 276
  • 序言:老撾萬榮一對情侶失蹤飞涂,失蹤者是張志新(化名)和其女友劉穎,沒想到半個月后祈搜,有當?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體较店,經(jīng)...
    沈念sama閱讀 45,782評論 1 316
  • 正文 獨居荒郊野嶺守林人離奇死亡,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點故事閱讀 37,957評論 3 337
  • 正文 我和宋清朗相戀三年容燕,在試婚紗的時候發(fā)現(xiàn)自己被綠了梁呈。 大學時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片。...
    茶點故事閱讀 40,102評論 1 350
  • 序言:一個原本活蹦亂跳的男人離奇死亡蘸秘,死狀恐怖官卡,靈堂內(nèi)的尸體忽然破棺而出,到底是詐尸還是另有隱情醋虏,我是刑警寧澤寻咒,帶...
    沈念sama閱讀 35,790評論 5 346
  • 正文 年R本政府宣布,位于F島的核電站颈嚼,受9級特大地震影響毛秘,放射性物質(zhì)發(fā)生泄漏。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點故事閱讀 41,442評論 3 331
  • 文/蒙蒙 一叫挟、第九天 我趴在偏房一處隱蔽的房頂上張望艰匙。 院中可真熱鬧,春花似錦霞揉、人聲如沸旬薯。這莊子的主人今日做“春日...
    開封第一講書人閱讀 31,996評論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽。三九已至硕舆,卻和暖如春秽荞,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背抚官。 一陣腳步聲響...
    開封第一講書人閱讀 33,113評論 1 272
  • 我被黑心中介騙來泰國打工扬跋, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留,地道東北人凌节。 一個月前我還...
    沈念sama閱讀 48,332評論 3 373
  • 正文 我出身青樓钦听,卻偏偏與公主長得像,于是被迫代替她去往敵國和親倍奢。 傳聞我的和親對象是個殘疾皇子朴上,可洞房花燭夜當晚...
    茶點故事閱讀 45,044評論 2 355

推薦閱讀更多精彩內(nèi)容

  • scrapy學習筆記(有示例版) 我的博客 scrapy學習筆記1.使用scrapy1.1創(chuàng)建工程1.2創(chuàng)建爬蟲模...
    陳思煜閱讀 12,702評論 4 46
  • Python版本管理:pyenv和pyenv-virtualenvScrapy爬蟲入門教程一 安裝和基本使用Scr...
    inke閱讀 15,428評論 6 12
  • 四仰八叉地仰在椅背上,一腳蹬著電腦桌卒煞,一腳蹬著衣柜門痪宰,因為腿有自我認知:總覺太長不得不死命地伸展。面前的瓜子殼堆成...
    野縱千舟閱讀 163評論 0 0
  • 寫于2016年12月的某一天 今天晚上躺在床上看巴菲特畔裕,回想今天的一天衣撬,還算開心,有些不順扮饶,早上學車很順利具练,感恩我...
    墻角一朵小花閱讀 120評論 0 0
  • 前半段敘事節(jié)奏把握的很好,不疾不徐甜无,慢慢的將兩個主角交代清楚扛点。 到了影片的中段,伍世豪救雷洛毫蚓,闖進狼窟一般的地方占键,...
    泥購啦閱讀 208評論 0 0