一旬渠，pyspider
pyspider的設(shè)計(jì)基礎(chǔ)是：以python腳本驅(qū)動(dòng)的抓取環(huán)模型爬蟲(chóng)
通過(guò)python腳本進(jìn)行結(jié)構(gòu)化信息的提取，follow鏈接調(diào)度抓取控制寇损，實(shí)現(xiàn)最大的靈活性
通過(guò)web化的腳本編寫(xiě)督暂、調(diào)試環(huán)境胧奔。web展現(xiàn)調(diào)度狀態(tài)
抓取環(huán)模型成熟穩(wěn)定，模塊間相互獨(dú)立较沪，通過(guò)消息隊(duì)列連接鳞绕，從單進(jìn)程到多機(jī)分布式靈活拓展
pyspider的架構(gòu)主要分為 scheduler（調(diào)度器）, fetcher（抓取器）, processor（腳本執(zhí)行）：
各個(gè)組件間使用消息隊(duì)列連接，除了scheduler是單點(diǎn)的尸曼，fetcher 和 processor 都是可以多實(shí)例分布式部署的们何。 scheduler 負(fù)責(zé)整體的調(diào)度控制
任務(wù)由 scheduler 發(fā)起調(diào)度，fetcher 抓取網(wǎng)頁(yè)內(nèi)容控轿， processor 執(zhí)行預(yù)先編寫(xiě)的python腳本冤竹，輸出結(jié)果或產(chǎn)生新的提鏈任務(wù)（發(fā)往 scheduler），形成閉環(huán)茬射。
每個(gè)腳本可以靈活使用各種python庫(kù)對(duì)頁(yè)面進(jìn)行解析鹦蠕，使用框架API控制下一步抓取動(dòng)作，通過(guò)設(shè)置回調(diào)控制解析動(dòng)作在抛。
二钟病，Scrapy
Scrapy是一個(gè)為了爬取網(wǎng)站數(shù)據(jù)，提取結(jié)構(gòu)性數(shù)據(jù)而編寫(xiě)的應(yīng)用框架刚梭。 可以應(yīng)用在包括數(shù)據(jù)挖掘肠阱，信息處理或存儲(chǔ)歷史數(shù)據(jù)等一系列的程序中。
Scrapy 使用了 Twisted?異步網(wǎng)絡(luò)庫(kù)來(lái)處理網(wǎng)絡(luò)通訊朴读。整體架構(gòu)大致如下
Scrapy主要包括了以下組件：
引擎(Scrapy): 用來(lái)處理整個(gè)系統(tǒng)的數(shù)據(jù)流處理, 觸發(fā)事務(wù)(框架核心)
調(diào)度器(Scheduler): 用來(lái)接受引擎發(fā)過(guò)來(lái)的請(qǐng)求, 壓入隊(duì)列中, 并在引擎再次請(qǐng)求的時(shí)候返回. 可以想像成一個(gè)URL（抓取網(wǎng)頁(yè)的網(wǎng)址或者說(shuō)是鏈接）的優(yōu)先隊(duì)列, 由它來(lái)決定下一個(gè)要抓取的網(wǎng)址是什么, 同時(shí)去除重復(fù)的網(wǎng)址
下載器(Downloader): 用于下載網(wǎng)頁(yè)內(nèi)容, 并將網(wǎng)頁(yè)內(nèi)容返回給蜘蛛(Scrapy下載器是建立在twisted這個(gè)高效的異步模型上的)
爬蟲(chóng)(Spiders): 爬蟲(chóng)是主要干活的, 用于從特定的網(wǎng)頁(yè)中提取自己需要的信息, 即所謂的實(shí)體(Item)屹徘。用戶也可以從中提取出鏈接,讓Scrapy繼續(xù)抓取下一個(gè)頁(yè)面
項(xiàng)目管道(Pipeline): 負(fù)責(zé)處理爬蟲(chóng)從網(wǎng)頁(yè)中抽取的實(shí)體，主要的功能是持久化實(shí)體磨德、驗(yàn)證實(shí)體的有效性缘回、清除不需要的信息吆视。當(dāng)頁(yè)面被爬蟲(chóng)解析后典挑，將被發(fā)送到項(xiàng)目管道，并經(jīng)過(guò)幾個(gè)特定的次序處理數(shù)據(jù)啦吧。
下載器中間件(Downloader Middlewares): 位于Scrapy引擎和下載器之間的框架您觉，主要是處理Scrapy引擎與下載器之間的請(qǐng)求及響應(yīng)。
爬蟲(chóng)中間件(Spider Middlewares): 介于Scrapy引擎和爬蟲(chóng)之間的框架授滓，主要工作是處理蜘蛛的響應(yīng)輸入和請(qǐng)求輸出琳水。
調(diào)度中間件(Scheduler Middewares): 介于Scrapy引擎和調(diào)度之間的中間件肆糕，從Scrapy引擎發(fā)送到調(diào)度的請(qǐng)求和響應(yīng)。
Scrapy運(yùn)行流程大概如下
首先在孝，引擎從調(diào)度器中取出一個(gè)鏈接(URL)用于接下來(lái)的抓取
引擎把URL封裝成一個(gè)請(qǐng)求(Request)傳給下載器诚啃，下載器把資源下載下來(lái)，并封裝成應(yīng)答包(Response)
然后私沮，爬蟲(chóng)解析Response
若是解析出實(shí)體（Item）,則交給實(shí)體管道進(jìn)行進(jìn)一步的處理始赎。
若是解析出的是鏈接（URL）,則把URL交給Scheduler等待抓取
pysipder環(huán)境搭建：
http://docs.pyspider.org/en/latest/
pip install pyspider
首先要安裝phantomjs
安裝好了之后命令行輸入pyspider all啟動(dòng)
支持多線程爬取、JS動(dòng)態(tài)解析仔燕，提供了可操作界面造垛、出錯(cuò)重試、定時(shí)爬取等等的功能晰搀，使用非常人性化五辽。
scrapy環(huán)境搭建：
pip installpyOpenSSL
安裝pywin32
https://sourceforge.net/projects/pywin32/files/pywin32/
import win32com驗(yàn)證
pip install lxml
pip install scrapy
