使用爬蟲(chóng)參數(shù)

你可以使用你的爬蟲(chóng)提供命令行參數(shù),當(dāng)爬蟲(chóng)運(yùn)行時(shí)通過(guò)使用-a選項(xiàng):

    $  scrapy crawl quotes -o quotes-humor.json -a tag=humor

這些參數(shù)將會(huì)傳遞給爬蟲(chóng)的__init__方法同時(shí)默認(rèn)設(shè)定為爬蟲(chóng)的屬性,在此例子中,傳遞給tag的參數(shù)將會(huì)傳遞給self.tag(實(shí)例中的tag)。你可以使用此方法使你的爬蟲(chóng)只爬取指定的標(biāo)簽居凶,基于參數(shù)構(gòu)建的URL中。

    import scrapy

    class QuotesSpider(scrapy.Spider):
        name = "quotes"

        def start_requests(self):
            url = 'http://quotes.toscrapy.com/'
            tag = a.getarrt(self,'tag',None)
            if tag is not None:
               url = url + 'tag/' + tag
            yield scrapy.Request(url,self.parse)

        def parse(self, response):
            for quote in response.css('div.quote'):
                yield{
                    'text':quote.css('span.text::text').extract_first(),
                    'author':quote.css('small.author::text').extract_first(),
               }

            next_page = response.css('li.next a::attr(href)').extract_first()
            if next_page is not None:
               yield response.follow(next_page, self.parse)

如果你向爬蟲(chóng)傳遞tag=humor參數(shù)藤抡,你將會(huì)發(fā)現(xiàn)爬蟲(chóng)只訪問(wèn)URLs中的humor標(biāo)簽,比如說(shuō)是http://quotes.toscrapy.com/tag/humor抹估。

你可以在這里學(xué)習(xí)更多關(guān)于爬蟲(chóng)參數(shù)設(shè)置的內(nèi)容(P35)缠黍。

下一步

此教程僅僅講了一些Scrapy的基礎(chǔ),同時(shí)還有許多其他的功能特性還未提到药蜻。訪問(wèn)在Scarpy at glance中的更多內(nèi)容(P7)來(lái)瀏覽概述更重要的部分瓷式。

你可以繼續(xù)從章節(jié)基礎(chǔ)概念來(lái)學(xué)習(xí)更多關(guān)于命令行工具、爬蟲(chóng)语泽、選擇器和其他在此教程中沒(méi)有提到的像是建立爬蟲(chóng)數(shù)據(jù)結(jié)構(gòu)模型贸典。如果你更喜歡從例子中學(xué)習(xí)的話,請(qǐng)?jiān)L問(wèn)例子(21)章節(jié)踱卵。

例子

最好的學(xué)習(xí)方法是舉例子廊驼,對(duì)于Scrapy的學(xué)習(xí)也不例外。由于這樣我們提供一個(gè)名為quotesbot額項(xiàng)目例子來(lái)讓你操作和學(xué)習(xí)關(guān)于Scrapy更多的內(nèi)容惋砂。為爬取http://quotes.toscrape.com妒挎,它包括了兩只爬蟲(chóng),一只使用CSS選擇器西饵,另一只使用Xpath表達(dá)式酝掩。

qutoesbot項(xiàng)目在http://github.com/scrapy/quotesbot中,你可以在README*了解其基本內(nèi)容眷柔。

如果熟悉git語(yǔ)法的話你可以檢出代碼期虾。否則你可以下載其壓縮文件

  • Scrapy at glance 理解ScrapyScrapy如何幫助你爬取網(wǎng)頁(yè)內(nèi)容
  • Installation guideScrapy下載到你的計(jì)算機(jī)中
  • Scrapy Tutorial 編寫(xiě)你的第一個(gè)爬蟲(chóng)項(xiàng)目
  • ExampleScrapy成品項(xiàng)目中學(xué)習(xí)操作
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末驯嘱,一起剝皮案震驚了整個(gè)濱河市镶苞,隨后出現(xiàn)的幾起案子,更是在濱河造成了極大的恐慌宙拉,老刑警劉巖宾尚,帶你破解...
    沈念sama閱讀 218,858評(píng)論 6 508
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件,死亡現(xiàn)場(chǎng)離奇詭異,居然都是意外死亡煌贴,警方通過(guò)查閱死者的電腦和手機(jī)御板,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 93,372評(píng)論 3 395
  • 文/潘曉璐 我一進(jìn)店門(mén),熙熙樓的掌柜王于貴愁眉苦臉地迎上來(lái)牛郑,“玉大人怠肋,你說(shuō)我怎么就攤上這事⊙团螅” “怎么了笙各?”我有些...
    開(kāi)封第一講書(shū)人閱讀 165,282評(píng)論 0 356
  • 文/不壞的土叔 我叫張陵,是天一觀的道長(zhǎng)础芍。 經(jīng)常有香客問(wèn)我杈抢,道長(zhǎng),這世上最難降的妖魔是什么仑性? 我笑而不...
    開(kāi)封第一講書(shū)人閱讀 58,842評(píng)論 1 295
  • 正文 為了忘掉前任惶楼,我火速辦了婚禮,結(jié)果婚禮上诊杆,老公的妹妹穿的比我還像新娘歼捐。我一直安慰自己,他們只是感情好晨汹,可當(dāng)我...
    茶點(diǎn)故事閱讀 67,857評(píng)論 6 392
  • 文/花漫 我一把揭開(kāi)白布豹储。 她就那樣靜靜地躺著,像睡著了一般淘这。 火紅的嫁衣襯著肌膚如雪剥扣。 梳的紋絲不亂的頭發(fā)上,一...
    開(kāi)封第一講書(shū)人閱讀 51,679評(píng)論 1 305
  • 那天慨灭,我揣著相機(jī)與錄音朦乏,去河邊找鬼。 笑死氧骤,一個(gè)胖子當(dāng)著我的面吹牛呻疹,可吹牛的內(nèi)容都是我干的。 我是一名探鬼主播筹陵,決...
    沈念sama閱讀 40,406評(píng)論 3 418
  • 文/蒼蘭香墨 我猛地睜開(kāi)眼刽锤,長(zhǎng)吁一口氣:“原來(lái)是場(chǎng)噩夢(mèng)啊……” “哼!你這毒婦竟也來(lái)了朦佩?” 一聲冷哼從身側(cè)響起并思,我...
    開(kāi)封第一講書(shū)人閱讀 39,311評(píng)論 0 276
  • 序言:老撾萬(wàn)榮一對(duì)情侶失蹤,失蹤者是張志新(化名)和其女友劉穎语稠,沒(méi)想到半個(gè)月后宋彼,有當(dāng)?shù)厝嗽跇?shù)林里發(fā)現(xiàn)了一具尸體弄砍,經(jīng)...
    沈念sama閱讀 45,767評(píng)論 1 315
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡,尸身上長(zhǎng)有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 37,945評(píng)論 3 336
  • 正文 我和宋清朗相戀三年输涕,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了音婶。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片。...
    茶點(diǎn)故事閱讀 40,090評(píng)論 1 350
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡莱坎,死狀恐怖衣式,靈堂內(nèi)的尸體忽然破棺而出,到底是詐尸還是另有隱情檐什,我是刑警寧澤碴卧,帶...
    沈念sama閱讀 35,785評(píng)論 5 346
  • 正文 年R本政府宣布,位于F島的核電站乃正,受9級(jí)特大地震影響住册,放射性物質(zhì)發(fā)生泄漏。R本人自食惡果不足惜烫葬,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 41,420評(píng)論 3 331
  • 文/蒙蒙 一界弧、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧搭综,春花似錦、人聲如沸划栓。這莊子的主人今日做“春日...
    開(kāi)封第一講書(shū)人閱讀 31,988評(píng)論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽(yáng)忠荞。三九已至蒋歌,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間委煤,已是汗流浹背堂油。 一陣腳步聲響...
    開(kāi)封第一講書(shū)人閱讀 33,101評(píng)論 1 271
  • 我被黑心中介騙來(lái)泰國(guó)打工, 沒(méi)想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留碧绞,地道東北人府框。 一個(gè)月前我還...
    沈念sama閱讀 48,298評(píng)論 3 372
  • 正文 我出身青樓,卻偏偏與公主長(zhǎng)得像讥邻,于是被迫代替她去往敵國(guó)和親迫靖。 傳聞我的和親對(duì)象是個(gè)殘疾皇子,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 45,033評(píng)論 2 355

推薦閱讀更多精彩內(nèi)容