- 一直有愛看美劇的習(xí)慣召锈，一方面鍛煉一下英語聽力着帽，一方面打發(fā)一下時間携悯。之前是能在視頻網(wǎng)站上面在線看的阐虚，可是自從廣電總局的限制令之后，進口的美劇英劇等貌似就不在像以前一樣同步更新了蚌卤。但是，作為一個宅diao的我又怎甘心沒劇追呢奥秆，所以網(wǎng)上隨便查了一下就找到一個能用迅雷下載的美劇下載網(wǎng)站【天天美劇】逊彭，各種資源隨便下載，最近迷上的BBC的高清紀錄片构订，大自然美得不要不要的侮叮。
- 雖說找到了資源網(wǎng)站可以下載了，但是每次都要打開瀏覽器悼瘾，輸入網(wǎng)址囊榜，找到該美劇，然后點擊鏈接才能下載亥宿。時間長了就覺得過程好繁瑣卸勺，而且有時候網(wǎng)站鏈接還會打不開，會有點麻煩烫扼。正好一直在學(xué)習(xí)Python爬蟲曙求，所以今天就心血來潮來寫了個爬蟲，抓取該網(wǎng)站上所有美劇鏈接映企，并保存在文本文檔中悟狱，想要哪部劇就直接打開復(fù)制鏈接到迅雷就可以下載啦。
最終效果
- 其實一開始打算寫那種發(fā)現(xiàn)一個url堰氓，使用requests打開抓取下載鏈接挤渐，從主頁開始爬完全站。但是双絮，好多重復(fù)鏈接浴麻，還有其網(wǎng)站的url不是我想的那么規(guī)則，寫了半天也沒有寫出我想要的那種發(fā)散式的爬蟲掷邦，也許是自己火候還不到吧白胀，繼續(xù)努力。抚岗。或杠。
- 后來發(fā)現(xiàn)，其電視劇鏈接都是在文章里面宣蔚，然后文章url后面有個數(shù)字編號向抢，就像這樣的http://cn163.net/archives/24016/认境，所以機智的我又用了之前寫過的爬蟲經(jīng)驗，解決方法就是自動生成url挟鸠，其后面的數(shù)字不是可以變的嗎叉信，而且每部劇的都是唯一的，所以嘗試了一下大概有多少篇文章艘希，然后用range函數(shù)直接連續(xù)生成數(shù)來構(gòu)造url硼身。
- 但是很多url是不存在的，所以會直接掛掉覆享，別擔心佳遂，我們用的可是requests，其自帶的status_code就是用來判斷請求返回的狀態(tài)的撒顿，所以只要是返回的狀態(tài)碼是404的我們都把它跳過丑罪，其他的都進去爬取鏈接，這就解決了url的問題了凤壁。
- 以下就是上述步驟的實現(xiàn)代碼吩屹。
def get_urls(self):
try:
for i in range(2015,25000):
base_url='http://cn163.net/archives/'
url=base_url+str(i)+'/'
if requests.get(url).status_code == 404:
continue
else:
self.save_links(url)
except Exception,e:
pass - 其余的就進行的很順利了，網(wǎng)上找到前人寫的類似的爬蟲拧抖，但是只是爬取一篇文章的煤搜，所以借鑒了一下其正則表達式。自己用了BeautifulSoup還沒有正則效果好唧席，所以果斷棄了宅楞，學(xué)海無涯啊。但是效果也不是那么理想袱吆，有一半左右的鏈接不能正確抓取厌衙，還需繼續(xù)優(yōu)化。
# -*- coding:utf-8 -*-
import requests
import re
import sys
import threading
import time
reload(sys)
sys.setdefaultencoding('utf-8')
class Archives(object):
def save_links(self,url):
try:
data=requests.get(url,timeout=3)
content=data.text
link_pat='"(ed2k://\|file\|[^"]+?\.(S\d+)(E\d+)[^"]+?1024X\d{3}[^"]+?)"'
name_pat=re.compile(r'<h2 class="entry_title">(.*?)</h2>',re.S)
links = set(re.findall(link_pat,content))
name=re.findall(name_pat,content)
links_dict = {}
count=len(links)
except Exception,e:
pass
for i in links:
links_dict[int(i[1][1:3]) * 100 + int(i[2][1:3])] = i#把劇集按s和e提取編號
try:
with open(name[0].replace('/',' ')+'.txt','w') as f:
print name[0]
for i in sorted(list(links_dict.keys())):#按季數(shù)+集數(shù)排序順序?qū)懭? f.write(links_dict[i][0] + '\n')
print "Get links ... ", name[0], count
except Exception,e:
pass
def get_urls(self):
try:
for i in range(2015,25000):
base_url='http://cn163.net/archives/'
url=base_url+str(i)+'/'
if requests.get(url).status_code == 404:
continue
else:
self.save_links(url)
except Exception,e:
pass
def main(self):
thread1=threading.Thread(target=self.get_urls())
thread1.start()
thread1.join()
if __name__ == '__main__':
start=time.time()
a=Archives()
a.main()
end=time.time()
print end-start
- 完整版代碼绞绒，其中還用到了多線程婶希，但是感覺沒什么用，因為Python的GIL的緣故吧蓬衡，看似有兩萬多部劇喻杈，本以為要很長時間才能抓取完成，但是除去url錯誤的和沒匹配到的狰晚，總共抓取時間20分鐘不到筒饰。搞得我本來還想使用Redis在兩臺Linux上爬取，但是折騰了一番之后感覺沒必要壁晒，所以就這樣吧瓷们，后面需要更大數(shù)據(jù)的時候再去弄。
- 還有過程中遇到一個很折磨我的問題是文件名的保存，必須在此抱怨一下谬晕，txt文本格式的文件名能有空格碘裕，但是不能有斜線、反斜線攒钳、括號等帮孔。就是這個問題，一早上的時間都花在這上面的不撑，一開始我以為是抓取數(shù)據(jù)的錯誤文兢，后面查了半天才發(fā)現(xiàn)是爬取的劇名中帶有斜杠，這可把我坑苦了焕檬。
本文首發(fā)于碼農(nóng)網(wǎng)禽作，地址：http://www.codeceo.com/article/python-crawling-drama.html
