3 Scrapy 爬取 (3) 循環(huán)多個頁面

從網(wǎng)頁上獲取下一頁按鈕的鏈接衰猛,并與網(wǎng)站根url相連得出絕對路徑

In [24]: next_page_url = response.xpath('//*[@class="next"]/a/@href').extract_first()

In [25]: next_page_url
Out[25]: u'/page/2/'

In [26]: response.urljoin(next_page_url)
Out[26]: u'http://quotes.toscrape.com/page/2/'

對應的在spider的parse 函數(shù)末尾加上這些命令

        next_page_url = response.xpath('//*[@class="next"]/a/@href').extract_first()
        absolute_next_page_url = response.urljoin(next_page_url)
        yield scrapy.Request(absolute_next_page_url)

程序中我們只是把獲取到的數(shù)據(jù)存入變量text、author握玛、tags 中寺惫,并沒有把他們存儲起來菇晃。為了以特定格式存儲祈远,還需要用yield語句。將原先的print語句改成yield后可以通過命令
scrapy crawl quotes -o item.csv將多個items寫入item.csv 文件中商源。

需要惡補內(nèi)容

這里使用了yield語句和scrapy.Request(url)
并不知道yield語句是個什么车份,那個request最后又是怎么被處理的,怎么會又調(diào)回到那個 parse函數(shù)

最后編輯于
?著作權歸作者所有,轉載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末牡彻,一起剝皮案震驚了整個濱河市扫沼,隨后出現(xiàn)的幾起案子,更是在濱河造成了極大的恐慌庄吼,老刑警劉巖缎除,帶你破解...
    沈念sama閱讀 206,311評論 6 481
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件,死亡現(xiàn)場離奇詭異总寻,居然都是意外死亡器罐,警方通過查閱死者的電腦和手機,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 88,339評論 2 382
  • 文/潘曉璐 我一進店門渐行,熙熙樓的掌柜王于貴愁眉苦臉地迎上來轰坊,“玉大人,你說我怎么就攤上這事祟印‰饶” “怎么了?”我有些...
    開封第一講書人閱讀 152,671評論 0 342
  • 文/不壞的土叔 我叫張陵蕴忆,是天一觀的道長颤芬。 經(jīng)常有香客問我,道長,這世上最難降的妖魔是什么站蝠? 我笑而不...
    開封第一講書人閱讀 55,252評論 1 279
  • 正文 為了忘掉前任汰具,我火速辦了婚禮,結果婚禮上沉衣,老公的妹妹穿的比我還像新娘郁副。我一直安慰自己,他們只是感情好豌习,可當我...
    茶點故事閱讀 64,253評論 5 371
  • 文/花漫 我一把揭開白布存谎。 她就那樣靜靜地躺著,像睡著了一般肥隆。 火紅的嫁衣襯著肌膚如雪既荚。 梳的紋絲不亂的頭發(fā)上,一...
    開封第一講書人閱讀 49,031評論 1 285
  • 那天栋艳,我揣著相機與錄音恰聘,去河邊找鬼。 笑死吸占,一個胖子當著我的面吹牛晴叨,可吹牛的內(nèi)容都是我干的。 我是一名探鬼主播矾屯,決...
    沈念sama閱讀 38,340評論 3 399
  • 文/蒼蘭香墨 我猛地睜開眼兼蕊,長吁一口氣:“原來是場噩夢啊……” “哼!你這毒婦竟也來了件蚕?” 一聲冷哼從身側響起孙技,我...
    開封第一講書人閱讀 36,973評論 0 259
  • 序言:老撾萬榮一對情侶失蹤,失蹤者是張志新(化名)和其女友劉穎排作,沒想到半個月后牵啦,有當?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體,經(jīng)...
    沈念sama閱讀 43,466評論 1 300
  • 正文 獨居荒郊野嶺守林人離奇死亡妄痪,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點故事閱讀 35,937評論 2 323
  • 正文 我和宋清朗相戀三年哈雏,在試婚紗的時候發(fā)現(xiàn)自己被綠了。 大學時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片衫生。...
    茶點故事閱讀 38,039評論 1 333
  • 序言:一個原本活蹦亂跳的男人離奇死亡僧著,死狀恐怖,靈堂內(nèi)的尸體忽然破棺而出障簿,到底是詐尸還是另有隱情盹愚,我是刑警寧澤,帶...
    沈念sama閱讀 33,701評論 4 323
  • 正文 年R本政府宣布站故,位于F島的核電站皆怕,受9級特大地震影響毅舆,放射性物質發(fā)生泄漏。R本人自食惡果不足惜愈腾,卻給世界環(huán)境...
    茶點故事閱讀 39,254評論 3 307
  • 文/蒙蒙 一憋活、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧虱黄,春花似錦悦即、人聲如沸。這莊子的主人今日做“春日...
    開封第一講書人閱讀 30,259評論 0 19
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽。三九已至泳叠,卻和暖如春作瞄,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背危纫。 一陣腳步聲響...
    開封第一講書人閱讀 31,485評論 1 262
  • 我被黑心中介騙來泰國打工宗挥, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留,地道東北人种蝶。 一個月前我還...
    沈念sama閱讀 45,497評論 2 354
  • 正文 我出身青樓契耿,卻偏偏與公主長得像,于是被迫代替她去往敵國和親螃征。 傳聞我的和親對象是個殘疾皇子搪桂,可洞房花燭夜當晚...
    茶點故事閱讀 42,786評論 2 345

推薦閱讀更多精彩內(nèi)容