centos下安裝scrapy遇到的問(wèn)題

環(huán)境:centos7、python2.7

最近想做爬蟲(chóng),覺(jué)得scrapy這個(gè)框架比較好伍绳,但是這個(gè)框架對(duì)ubuntu的支持很好,安裝非常便捷乍桂,不過(guò)我用的centos7冲杀,折騰了不少時(shí)間。存在的問(wèn)題跟其它人都一樣模蜡,就是包依賴(lài)性的問(wèn)題漠趁。
官方文檔說(shuō)扁凛,使用pip安裝scrapy之前需要setuptools忍疾,pip依賴(lài)于setuptools,默認(rèn)自帶谨朝,所以不必安裝卤妒。如果你不放心可以使用 pip install setuptools,會(huì)提示你已經(jīng)安裝好了字币。
官方文檔還說(shuō)则披,需要安裝lxml。lxml顧名思義洗出,是用來(lái)解析XML士复、HTML并建立DOM的庫(kù),依然使用 pip install setuptools安裝翩活。
另外還需要openssl阱洪。openssl因?yàn)槠洹靶呐K出血”漏洞,以及其后暴露出的項(xiàng)目組管理上問(wèn)題受到了開(kāi)源社區(qū)和各大操作系統(tǒng)廠家的批評(píng)菠镇,不過(guò)我們的scrapy框架依賴(lài)于openssl冗荸,所以還得安裝它。各大linux上基本都默認(rèn)安裝了openssl利耍,可以使用rpm -qa openssl查看蚌本,并使用yum -y install openssl安裝。
在做完以上前期工作之后隘梨,我使用pip install scrapy程癌,安裝了一會(huì)后出現(xiàn)提示:

Command "/usr/bin/python -c "import setuptools, tokenize;file='/tmp/pip-build-6svGBx/cffi/setup.py';exec(compile(getattr(tokenize, 'open', open)(file).read().replace('\r\n', '\n'), file, 'exec'))" install --record /tmp/pip-JJNTSq-record/install-record.txt --single-version-externally-managed --compile" failed with error code 1 in /tmp/pip-build-6svGBx/cffi

意思應(yīng)該是編譯cffi的時(shí)候出了問(wèn)題,于是嘗試pip install cffi出現(xiàn)類(lèi)似的錯(cuò)誤提示轴猎,確定是這個(gè)錯(cuò)誤了嵌莉,但是為什么導(dǎo)致了這個(gè)錯(cuò)誤以及怎樣解決不知道。于是上overstack税稼、百度烦秩、google搜垮斯,發(fā)現(xiàn)大部分人的問(wèn)題都是包依賴(lài)性的問(wèn)題,我覺(jué)得我這個(gè)也有很大可能是這個(gè)原因只祠。于是按照其他人的做法兜蠕,安裝了很多包,最后發(fā)現(xiàn)錯(cuò)誤出現(xiàn)在一個(gè)叫 libffi的庫(kù)上面抛寝,libffi是一個(gè)用于高級(jí)語(yǔ)言之間的相互調(diào)用的處理的庫(kù)熊杨。于是 pip install libffi-devel,然后pip install scrapy盗舰,成功晶府!問(wèn)題應(yīng)該是編譯cffi的時(shí)候少了libffi庫(kù)!
問(wèn)題因環(huán)境和操作而異钻趋,但是我覺(jué)得centos上安裝scrapy的絕大多數(shù)問(wèn)題都是包和庫(kù)依賴(lài)性的問(wèn)題川陆,多看看其他人的解決方法、多試試就肯定能解決的蛮位。

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末较沪,一起剝皮案震驚了整個(gè)濱河市,隨后出現(xiàn)的幾起案子失仁,更是在濱河造成了極大的恐慌尸曼,老刑警劉巖,帶你破解...
    沈念sama閱讀 206,482評(píng)論 6 481
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件萄焦,死亡現(xiàn)場(chǎng)離奇詭異控轿,居然都是意外死亡,警方通過(guò)查閱死者的電腦和手機(jī)拂封,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 88,377評(píng)論 2 382
  • 文/潘曉璐 我一進(jìn)店門(mén)茬射,熙熙樓的掌柜王于貴愁眉苦臉地迎上來(lái),“玉大人烘苹,你說(shuō)我怎么就攤上這事躲株。” “怎么了镣衡?”我有些...
    開(kāi)封第一講書(shū)人閱讀 152,762評(píng)論 0 342
  • 文/不壞的土叔 我叫張陵霜定,是天一觀的道長(zhǎng)。 經(jīng)常有香客問(wèn)我廊鸥,道長(zhǎng)望浩,這世上最難降的妖魔是什么? 我笑而不...
    開(kāi)封第一講書(shū)人閱讀 55,273評(píng)論 1 279
  • 正文 為了忘掉前任惰说,我火速辦了婚禮磨德,結(jié)果婚禮上,老公的妹妹穿的比我還像新娘。我一直安慰自己典挑,他們只是感情好酥宴,可當(dāng)我...
    茶點(diǎn)故事閱讀 64,289評(píng)論 5 373
  • 文/花漫 我一把揭開(kāi)白布。 她就那樣靜靜地躺著您觉,像睡著了一般拙寡。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上琳水,一...
    開(kāi)封第一講書(shū)人閱讀 49,046評(píng)論 1 285
  • 那天肆糕,我揣著相機(jī)與錄音,去河邊找鬼在孝。 笑死诚啃,一個(gè)胖子當(dāng)著我的面吹牛,可吹牛的內(nèi)容都是我干的私沮。 我是一名探鬼主播始赎,決...
    沈念sama閱讀 38,351評(píng)論 3 400
  • 文/蒼蘭香墨 我猛地睜開(kāi)眼,長(zhǎng)吁一口氣:“原來(lái)是場(chǎng)噩夢(mèng)啊……” “哼顾彰!你這毒婦竟也來(lái)了极阅?” 一聲冷哼從身側(cè)響起胃碾,我...
    開(kāi)封第一講書(shū)人閱讀 36,988評(píng)論 0 259
  • 序言:老撾萬(wàn)榮一對(duì)情侶失蹤涨享,失蹤者是張志新(化名)和其女友劉穎,沒(méi)想到半個(gè)月后仆百,有當(dāng)?shù)厝嗽跇?shù)林里發(fā)現(xiàn)了一具尸體厕隧,經(jīng)...
    沈念sama閱讀 43,476評(píng)論 1 300
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡,尸身上長(zhǎng)有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 35,948評(píng)論 2 324
  • 正文 我和宋清朗相戀三年俄周,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了吁讨。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片。...
    茶點(diǎn)故事閱讀 38,064評(píng)論 1 333
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡峦朗,死狀恐怖建丧,靈堂內(nèi)的尸體忽然破棺而出,到底是詐尸還是另有隱情波势,我是刑警寧澤翎朱,帶...
    沈念sama閱讀 33,712評(píng)論 4 323
  • 正文 年R本政府宣布,位于F島的核電站尺铣,受9級(jí)特大地震影響拴曲,放射性物質(zhì)發(fā)生泄漏。R本人自食惡果不足惜凛忿,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 39,261評(píng)論 3 307
  • 文/蒙蒙 一澈灼、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧,春花似錦叁熔、人聲如沸委乌。這莊子的主人今日做“春日...
    開(kāi)封第一講書(shū)人閱讀 30,264評(píng)論 0 19
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽(yáng)福澡。三九已至,卻和暖如春驹马,著一層夾襖步出監(jiān)牢的瞬間革砸,已是汗流浹背。 一陣腳步聲響...
    開(kāi)封第一講書(shū)人閱讀 31,486評(píng)論 1 262
  • 我被黑心中介騙來(lái)泰國(guó)打工糯累, 沒(méi)想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留算利,地道東北人。 一個(gè)月前我還...
    沈念sama閱讀 45,511評(píng)論 2 354
  • 正文 我出身青樓泳姐,卻偏偏與公主長(zhǎng)得像效拭,于是被迫代替她去往敵國(guó)和親。 傳聞我的和親對(duì)象是個(gè)殘疾皇子胖秒,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 42,802評(píng)論 2 345

推薦閱讀更多精彩內(nèi)容