Scrapy安裝向?qū)?/h1>

安裝向?qū)?a target="_blank" rel="nofollow">https://doc.scrapy.org/en/latest/intro/install.html

安裝Scrapy

Scrapy運(yùn)行在python2.7和python3.3或以上版本(Windows還不支持python3)矗漾。

如果你已經(jīng)熟悉python包的安裝抖韩,你可以安裝Scrapy使用它的PyPI依賴:
pip install Scrapy
我們強(qiáng)烈建議你把Scrapy安裝在一個(gè)專用的虛擬環(huán)境中,以避免和你的系統(tǒng)包沖突。
更多細(xì)節(jié)和平臺(tái)規(guī)范介紹嗦随,繼續(xù)往下讀。

Things that are good to know

Scrapy完全使用Python編寫(xiě),依賴少量的關(guān)鍵Python包(包括):

  • lxml血筑,一個(gè)高效的XML和HTML解釋器
  • parsel绘沉,基于lxml的HTML/XML數(shù)據(jù)提取包
  • w3lib,處理url和web頁(yè)面編碼的多用途助手
  • twisted豺总,異步網(wǎng)絡(luò)框架
  • cryptographypyOpenSSL车伞,處理各種網(wǎng)絡(luò)級(jí)需求

Scrapy測(cè)試所需最小版本:

  • Twisted 14.0
  • lxml 3.4
  • pyOpenSSL 0.14

Scrapy可能使用更老的版本包也能工作但是不保證將來(lái)繼續(xù)有效畢竟沒(méi)有測(cè)試過(guò)。

這些包有些依賴非Python包喻喳,那可能需要根據(jù)你的平臺(tái)添加安裝步驟另玖。請(qǐng)檢查特定平臺(tái)下指南

有任何相關(guān)依賴方面的麻煩表伦,請(qǐng)參閱各自的安裝介紹:

使用一個(gè)虛擬的環(huán)境(建議)

TL;DR: 我們建議在所有平臺(tái)上都是用虛擬環(huán)境安裝Scrapy谦去。
Python包既可以使用全局安裝(系統(tǒng)范圍)也可以個(gè)人安裝。我們不建議在系統(tǒng)范圍安裝蹦哼。

反而鳄哭,我們建議你使用稱為虛擬環(huán)境(virtualenv)安裝scrapy。虛擬環(huán)境使你不會(huì)和已安裝的python系統(tǒng)包(這些可能毀壞你的一些系統(tǒng)工具和腳本)沖突纲熏,可以直接正常使用pip(不需要sudo等)妆丘。

開(kāi)始使用虛擬環(huán)境,看(虛擬環(huán)境安裝介紹)局劲。
$ [sudo] pip install virtualenv
如果你使用linux或者OSX勺拣,virtualenvwrapper 是一個(gè)方便創(chuàng)建虛擬環(huán)境的工具。
一旦你創(chuàng)建了虛擬環(huán)境容握,你就可以使用它的pip安裝scrapy宣脉,就像安裝其他的Python包一樣。(查看特定平臺(tái)規(guī)范)下非Python包的安裝依賴剔氏,你可能需要先安裝這些塑猖。

Python虛擬環(huán)境可使用Python2或者Python3創(chuàng)建。

  • 如果你想使用Python3安裝scrapy谈跛,那么使用Python3的虛擬環(huán)境安裝scrapy
  • 如果你想使用Python2安裝scrapy羊苟,那么使用Python2的虛擬環(huán)境安裝scrapy

特定平臺(tái)安裝說(shuō)明

Windows

  • 安裝Python2.7
    你需要把Python的執(zhí)行路徑和腳本添加到PATH環(huán)境變量。下面的路徑需要添加到PATH:
    C:\Python27\;C:\Python27\Scripts\;
    更新PATH感憾,打開(kāi)命令函并運(yùn)行:
    c:\python27\python.exe c:\python27\tools\scripts\win_add2path.py
    關(guān)閉命令行窗口并重新打開(kāi)運(yùn)行下面命令并檢查Python版本:
    python --version
  • 安裝pywin32
    確保你下載的架構(gòu)(win32或者amd64)匹配你的系統(tǒng)蜡励。
  • (使用Python<2.7.9的需要)安裝pip
  • 此時(shí)Python2.7和pip包管理器都可使用,安裝Scrapy:
    pip install Scrapy

Python3不在windows中支持阻桅,因?yàn)镾crapy內(nèi)核需要的Twisted在python3中不支持windows凉倚。

Ubuntu 12.04及以上版本

Scrapy已經(jīng)在最新的lxml,twisted和pyOpenSSL的幾個(gè)版本上做過(guò)測(cè)試嫂沉,并且兼容最新的Ubuntu發(fā)行版稽寒。但也支持Ubuntu的老版本,如Ubuntu 12.04趟章,雖然存在潛在的TLS連接問(wèn)題杏糙。
不要使用Ubuntu提供的python-scrapy安裝包慎王,他們太老了,趕上最新的Scrapy很慢宏侍。
在Ubuntu系統(tǒng)上安裝scrapy赖淤,你需要安裝以下依賴:
sudo apt-get install python-dev python-pip libxml2-dev libxslt1-dev zlib1g-dev libffi-dev libssl-dev

  • python-dev,zlib1g-dev,libxml2-devlibxslt-dev是由于lxml需要。
  • libssl-devlibffi-dev是由于cryptography需要谅河。

如果你想基于Python3安裝scrapy咱旱,還需要安裝Python3的開(kāi)發(fā)頭文件:
sudo apt-get install python3 python3-dev
之后在虛擬環(huán)境中,使用pip命令安裝Scrapy
pip install scrapy

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者

  • 序言:七十年代末旧蛾,一起剝皮案震驚了整個(gè)濱河市莽龟,隨后出現(xiàn)的幾起案子,更是在濱河造成了極大的恐慌锨天,老刑警劉巖毯盈,帶你破解...
    沈念sama閱讀 206,311評(píng)論 6 481
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件,死亡現(xiàn)場(chǎng)離奇詭異病袄,居然都是意外死亡搂赋,警方通過(guò)查閱死者的電腦和手機(jī),發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 88,339評(píng)論 2 382
  • 文/潘曉璐 我一進(jìn)店門(mén)益缠,熙熙樓的掌柜王于貴愁眉苦臉地迎上來(lái)脑奠,“玉大人,你說(shuō)我怎么就攤上這事幅慌∷纹郏” “怎么了?”我有些...
    開(kāi)封第一講書(shū)人閱讀 152,671評(píng)論 0 342
  • 文/不壞的土叔 我叫張陵胰伍,是天一觀的道長(zhǎng)齿诞。 經(jīng)常有香客問(wèn)我,道長(zhǎng)骂租,這世上最難降的妖魔是什么祷杈? 我笑而不...
    開(kāi)封第一講書(shū)人閱讀 55,252評(píng)論 1 279
  • 正文 為了忘掉前任,我火速辦了婚禮渗饮,結(jié)果婚禮上但汞,老公的妹妹穿的比我還像新娘。我一直安慰自己互站,他們只是感情好私蕾,可當(dāng)我...
    茶點(diǎn)故事閱讀 64,253評(píng)論 5 371
  • 文/花漫 我一把揭開(kāi)白布。 她就那樣靜靜地躺著胡桃,像睡著了一般是目。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上标捺,一...
    開(kāi)封第一講書(shū)人閱讀 49,031評(píng)論 1 285
  • 那天懊纳,我揣著相機(jī)與錄音,去河邊找鬼亡容。 笑死嗤疯,一個(gè)胖子當(dāng)著我的面吹牛,可吹牛的內(nèi)容都是我干的闺兢。 我是一名探鬼主播茂缚,決...
    沈念sama閱讀 38,340評(píng)論 3 399
  • 文/蒼蘭香墨 我猛地睜開(kāi)眼,長(zhǎng)吁一口氣:“原來(lái)是場(chǎng)噩夢(mèng)啊……” “哼屋谭!你這毒婦竟也來(lái)了脚囊?” 一聲冷哼從身側(cè)響起,我...
    開(kāi)封第一講書(shū)人閱讀 36,973評(píng)論 0 259
  • 序言:老撾萬(wàn)榮一對(duì)情侶失蹤桐磁,失蹤者是張志新(化名)和其女友劉穎悔耘,沒(méi)想到半個(gè)月后,有當(dāng)?shù)厝嗽跇?shù)林里發(fā)現(xiàn)了一具尸體我擂,經(jīng)...
    沈念sama閱讀 43,466評(píng)論 1 300
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡衬以,尸身上長(zhǎng)有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 35,937評(píng)論 2 323
  • 正文 我和宋清朗相戀三年,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了校摩。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片看峻。...
    茶點(diǎn)故事閱讀 38,039評(píng)論 1 333
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡,死狀恐怖衙吩,靈堂內(nèi)的尸體忽然破棺而出互妓,到底是詐尸還是另有隱情,我是刑警寧澤坤塞,帶...
    沈念sama閱讀 33,701評(píng)論 4 323
  • 正文 年R本政府宣布冯勉,位于F島的核電站,受9級(jí)特大地震影響尺锚,放射性物質(zhì)發(fā)生泄漏珠闰。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 39,254評(píng)論 3 307
  • 文/蒙蒙 一瘫辩、第九天 我趴在偏房一處隱蔽的房頂上張望伏嗜。 院中可真熱鬧,春花似錦伐厌、人聲如沸承绸。這莊子的主人今日做“春日...
    開(kāi)封第一講書(shū)人閱讀 30,259評(píng)論 0 19
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽(yáng)军熏。三九已至,卻和暖如春卷扮,著一層夾襖步出監(jiān)牢的瞬間荡澎,已是汗流浹背均践。 一陣腳步聲響...
    開(kāi)封第一講書(shū)人閱讀 31,485評(píng)論 1 262
  • 我被黑心中介騙來(lái)泰國(guó)打工, 沒(méi)想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留摩幔,地道東北人彤委。 一個(gè)月前我還...
    沈念sama閱讀 45,497評(píng)論 2 354
  • 正文 我出身青樓,卻偏偏與公主長(zhǎng)得像或衡,于是被迫代替她去往敵國(guó)和親焦影。 傳聞我的和親對(duì)象是個(gè)殘疾皇子,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 42,786評(píng)論 2 345

推薦閱讀更多精彩內(nèi)容

  • # Python 資源大全中文版 我想很多程序員應(yīng)該記得 GitHub 上有一個(gè) Awesome - XXX 系列...
    aimaile閱讀 26,441評(píng)論 6 428
  • linux和windows下安裝python拓展包-pycharm封断、numpy斯辰、scipy、matplotlib坡疼、...
    hzyido閱讀 81,216評(píng)論 2 10
  • GitHub 上有一個(gè) Awesome - XXX 系列的資源整理,資源非常豐富彬呻,涉及面非常廣。awesome-p...
    若與閱讀 18,615評(píng)論 4 418
  • Python為主流開(kāi)發(fā)語(yǔ)言回梧, 用python 開(kāi)發(fā)的程序越來(lái)越多废岂。 方便的是大多l(xiāng)inux系統(tǒng)里面都默認(rèn)集成了py...
    53921f46e0b9閱讀 63,700評(píng)論 3 18
  • 他不愛(ài)我小姐,熱衷戀愛(ài)狱意,更熱衷分手湖苞,分手原因,都是他不愛(ài)我详囤。 他不愛(ài)我小姐又分手了财骨。跟天蝎先生在一起38天以后。 ...
    喬細(xì)閱讀 468評(píng)論 2 0