2020-02-24 爬蟲框架scrapy學習&01簡單使用

Scrapy是一個為了爬取網站數據忧额,提取結構性數據而編寫的應用框架±⒖冢可以應用在包括數據挖掘睦番,信息處理或存儲歷史數據等一系列的程序中。其最初是為了頁面抓鹊鞅啊(更確切來說,網絡抓嚷丈啊)所設計的,也可以應用在獲取API所返回的數據或者通用的網絡爬蟲恬涧。

創(chuàng)建項目

scrapy startproject [項目名]

運行爬蟲

scrapy crawl [爬蟲名]
?著作權歸作者所有,轉載或內容合作請聯(lián)系作者
  • 序言:七十年代末注益,一起剝皮案震驚了整個濱河市,隨后出現的幾起案子溯捆,更是在濱河造成了極大的恐慌丑搔,老刑警劉巖厦瓢,帶你破解...
    沈念sama閱讀 212,816評論 6 492
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件,死亡現場離奇詭異啤月,居然都是意外死亡煮仇,警方通過查閱死者的電腦和手機,發(fā)現死者居然都...
    沈念sama閱讀 90,729評論 3 385
  • 文/潘曉璐 我一進店門谎仲,熙熙樓的掌柜王于貴愁眉苦臉地迎上來浙垫,“玉大人,你說我怎么就攤上這事郑诺〖欣眩” “怎么了?”我有些...
    開封第一講書人閱讀 158,300評論 0 348
  • 文/不壞的土叔 我叫張陵辙诞,是天一觀的道長辙售。 經常有香客問我,道長飞涂,這世上最難降的妖魔是什么旦部? 我笑而不...
    開封第一講書人閱讀 56,780評論 1 285
  • 正文 為了忘掉前任,我火速辦了婚禮较店,結果婚禮上士八,老公的妹妹穿的比我還像新娘。我一直安慰自己泽西,他們只是感情好曹铃,可當我...
    茶點故事閱讀 65,890評論 6 385
  • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著捧杉,像睡著了一般。 火紅的嫁衣襯著肌膚如雪秘血。 梳的紋絲不亂的頭發(fā)上味抖,一...
    開封第一講書人閱讀 50,084評論 1 291
  • 那天,我揣著相機與錄音灰粮,去河邊找鬼仔涩。 笑死,一個胖子當著我的面吹牛粘舟,可吹牛的內容都是我干的熔脂。 我是一名探鬼主播,決...
    沈念sama閱讀 39,151評論 3 410
  • 文/蒼蘭香墨 我猛地睜開眼柑肴,長吁一口氣:“原來是場噩夢啊……” “哼霞揉!你這毒婦竟也來了?” 一聲冷哼從身側響起晰骑,我...
    開封第一講書人閱讀 37,912評論 0 268
  • 序言:老撾萬榮一對情侶失蹤适秩,失蹤者是張志新(化名)和其女友劉穎,沒想到半個月后,有當地人在樹林里發(fā)現了一具尸體秽荞,經...
    沈念sama閱讀 44,355評論 1 303
  • 正文 獨居荒郊野嶺守林人離奇死亡骤公,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內容為張勛視角 年9月15日...
    茶點故事閱讀 36,666評論 2 327
  • 正文 我和宋清朗相戀三年,在試婚紗的時候發(fā)現自己被綠了扬跋。 大學時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片阶捆。...
    茶點故事閱讀 38,809評論 1 341
  • 序言:一個原本活蹦亂跳的男人離奇死亡,死狀恐怖钦听,靈堂內的尸體忽然破棺而出洒试,到底是詐尸還是另有隱情,我是刑警寧澤彪见,帶...
    沈念sama閱讀 34,504評論 4 334
  • 正文 年R本政府宣布儡司,位于F島的核電站,受9級特大地震影響余指,放射性物質發(fā)生泄漏捕犬。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點故事閱讀 40,150評論 3 317
  • 文/蒙蒙 一酵镜、第九天 我趴在偏房一處隱蔽的房頂上張望碉碉。 院中可真熱鬧,春花似錦淮韭、人聲如沸垢粮。這莊子的主人今日做“春日...
    開封第一講書人閱讀 30,882評論 0 21
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽蜡吧。三九已至,卻和暖如春占键,著一層夾襖步出監(jiān)牢的瞬間昔善,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 32,121評論 1 267
  • 我被黑心中介騙來泰國打工畔乙, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留君仆,地道東北人。 一個月前我還...
    沈念sama閱讀 46,628評論 2 362
  • 正文 我出身青樓牲距,卻偏偏與公主長得像返咱,于是被迫代替她去往敵國和親。 傳聞我的和親對象是個殘疾皇子牍鞠,可洞房花燭夜當晚...
    茶點故事閱讀 43,724評論 2 351

推薦閱讀更多精彩內容