安裝scrapy

吐個槽

在網(wǎng)上找了好多例子吊奢,自己試了很多次央勒,終于搞定了簡單的爬蟲(包括爬圖片)谎脯,這里不得不說一下印颤,Pythonnode 比起來,安裝真是費事穿肄,前者差就差在缺一個給力的“大管家”(包管理器)年局,python2和python3就像一個男人娶的兩個老婆,你以為是在說大老婆咸产,最后才發(fā)現(xiàn)矢否,原來是在說小妾,更重要的是脑溢,大老婆是中國的僵朗,小妾是國外的,她們經(jīng)常吵架屑彻,特別不和諧...

我在LiniuxMac os验庙、windows 10(看起來還差一點點就成功了)上都安裝了爬蟲,下面以 Mac os 的環(huán)境來介紹安裝過程

安裝python3

環(huán)境

__ python3(3.6.1)社牲、Mac os(10.11.6)粪薛、Conda(4.3.22)__

為啥選Python3.6

很抱歉,我不是歷史學家搏恤,也不是人類學家违寿,我只是個coder,我討厭已經(jīng)過時了的東西熟空,包括 Python2.x 藤巢,這個即將被淘汰的版本,大家也不要太過于依賴

為啥不在官網(wǎng)下載安裝包

我是通過 Conda 來安裝 Python3 的息罗,為什么不在Python官網(wǎng)上安裝呢掂咒?因為Python好裝,Scrapy的依賴卻會煩死你
龍?zhí)壮K烙谠挾啵覀冮_始吧

安裝Conda和Python3

Conda 是一個開源的軟件包管理系統(tǒng)和環(huán)境管理系統(tǒng)绍刮,用于安裝多個版本的軟件包及其依賴關系糜工,并在它們之間輕松切換。
實踐證明录淡,通過 Conda 來安裝 Scrapy 是最方便的

下載地址

需要注意的是捌木,Conda的“安裝包”骨骼驚奇,在MacLinux下嫉戚,其實是一個.sh 的文本文件刨裆,在windows下面則比較正常,是一個 exe 執(zhí)行文件

sudo bash Miniconda3-latest-MacOSX-x86_64.sh

它是一個交互式的安裝過程彬檀,其中會詢問你

  • 安裝在哪里帆啃?(我選擇的是默認值,即 ~/miniconda3/
  • 是否需要加入.bash_profile 環(huán)境(我選擇的是yes)
  • 同意法律協(xié)議(必須yes)
    安裝結束后窍帝,它會將路徑寫入到環(huán)境變量中努潘,使得你能夠在Shell中直接調用Conda中的命令,因為Conda依賴Python坤学,此時你已經(jīng)安裝好了Python疯坤,版本是比較新的3.6.1

安裝Scrapy

有了Conda后深浮,安裝Scrapy就是一件非常容易的事情了

sudo conda install scrapy

根據(jù)網(wǎng)絡情況压怠,等上幾分鐘基本就OK了,Conda會幫你安裝好各種依賴飞苇。
安裝結束后菌瘫,你可以在shell中,輸入scrapy來檢查是否安裝成功

> scrapy
Usage:
  scrapy <command> [options] [args]
  ...

這就證明成功了

使用

可以切換到工作目錄布卡,運行scrapy命令來生成爬蟲項目文件

scrapy startproject xxx

這樣雨让,就在目錄下生成了一個叫做xxx的爬蟲項目,至此忿等,你可以爬山爬樹爬電桿了栖忠!


溫馨提示

  • Linux 下安裝了Conda,你需要自己動手增加連接ln到環(huán)境變量目錄下才可以直接以命令的方式使用那些好用到爆的命令哦
  • 由于 Windows 10 下这弧,我沒有通過Conda來安裝娃闲,所以被困在了一個叫做pywin32 dll error的小島上進退不能
最后編輯于
?著作權歸作者所有,轉載或內容合作請聯(lián)系作者
  • 序言:七十年代末虚汛,一起剝皮案震驚了整個濱河市匾浪,隨后出現(xiàn)的幾起案子,更是在濱河造成了極大的恐慌卷哩,老刑警劉巖蛋辈,帶你破解...
    沈念sama閱讀 218,204評論 6 506
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件,死亡現(xiàn)場離奇詭異,居然都是意外死亡冷溶,警方通過查閱死者的電腦和手機渐白,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 93,091評論 3 395
  • 文/潘曉璐 我一進店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來逞频,“玉大人纯衍,你說我怎么就攤上這事∶缯停” “怎么了襟诸?”我有些...
    開封第一講書人閱讀 164,548評論 0 354
  • 文/不壞的土叔 我叫張陵,是天一觀的道長基协。 經(jīng)常有香客問我歌亲,道長,這世上最難降的妖魔是什么澜驮? 我笑而不...
    開封第一講書人閱讀 58,657評論 1 293
  • 正文 為了忘掉前任陷揪,我火速辦了婚禮,結果婚禮上杂穷,老公的妹妹穿的比我還像新娘悍缠。我一直安慰自己,他們只是感情好耐量,可當我...
    茶點故事閱讀 67,689評論 6 392
  • 文/花漫 我一把揭開白布扮休。 她就那樣靜靜地躺著,像睡著了一般拴鸵。 火紅的嫁衣襯著肌膚如雪玷坠。 梳的紋絲不亂的頭發(fā)上,一...
    開封第一講書人閱讀 51,554評論 1 305
  • 那天劲藐,我揣著相機與錄音八堡,去河邊找鬼。 笑死聘芜,一個胖子當著我的面吹牛兄渺,可吹牛的內容都是我干的。 我是一名探鬼主播汰现,決...
    沈念sama閱讀 40,302評論 3 418
  • 文/蒼蘭香墨 我猛地睜開眼挂谍,長吁一口氣:“原來是場噩夢啊……” “哼!你這毒婦竟也來了瞎饲?” 一聲冷哼從身側響起口叙,我...
    開封第一講書人閱讀 39,216評論 0 276
  • 序言:老撾萬榮一對情侶失蹤,失蹤者是張志新(化名)和其女友劉穎嗅战,沒想到半個月后妄田,有當?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體俺亮,經(jīng)...
    沈念sama閱讀 45,661評論 1 314
  • 正文 獨居荒郊野嶺守林人離奇死亡,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內容為張勛視角 年9月15日...
    茶點故事閱讀 37,851評論 3 336
  • 正文 我和宋清朗相戀三年疟呐,在試婚紗的時候發(fā)現(xiàn)自己被綠了脚曾。 大學時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片。...
    茶點故事閱讀 39,977評論 1 348
  • 序言:一個原本活蹦亂跳的男人離奇死亡启具,死狀恐怖本讥,靈堂內的尸體忽然破棺而出,到底是詐尸還是另有隱情鲁冯,我是刑警寧澤囤踩,帶...
    沈念sama閱讀 35,697評論 5 347
  • 正文 年R本政府宣布,位于F島的核電站晓褪,受9級特大地震影響堵漱,放射性物質發(fā)生泄漏。R本人自食惡果不足惜涣仿,卻給世界環(huán)境...
    茶點故事閱讀 41,306評論 3 330
  • 文/蒙蒙 一勤庐、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧好港,春花似錦愉镰、人聲如沸。這莊子的主人今日做“春日...
    開封第一講書人閱讀 31,898評論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽。三九已至拔莱,卻和暖如春碗降,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背塘秦。 一陣腳步聲響...
    開封第一講書人閱讀 33,019評論 1 270
  • 我被黑心中介騙來泰國打工讼渊, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留,地道東北人尊剔。 一個月前我還...
    沈念sama閱讀 48,138評論 3 370
  • 正文 我出身青樓爪幻,卻偏偏與公主長得像,于是被迫代替她去往敵國和親须误。 傳聞我的和親對象是個殘疾皇子挨稿,可洞房花燭夜當晚...
    茶點故事閱讀 44,927評論 2 355

推薦閱讀更多精彩內容