本專題以項(xiàng)目為驅(qū)動(dòng)甘邀,從基本的網(wǎng)絡(luò)請(qǐng)求和頁面解析開始,逐步深入到 scrapy爬蟲框架垮庐,在講解完庫之后,會(huì)跟上對(duì)應(yīng)的實(shí)踐項(xiàng)目坞琴,有興趣朋友的可以跟著實(shí)踐自己敲代碼或者完成我留下的 bug哨查,把代碼發(fā)到評(píng)論區(qū),我會(huì)不定時(shí)查看剧辐。
本專題假設(shè)讀者有一定的python基礎(chǔ)寒亥,所以并不會(huì)講python的基本語法邮府,遇到語法問題可以評(píng)論求助。
因?yàn)楸緦n}涉及的庫比較多溉奕,而且作者不能把時(shí)間全部用在更新上褂傀,所以本專題完成的時(shí)間可能較長(zhǎng),在本專題中會(huì)涉及到以下主題:
1加勤、requests 庫
(網(wǎng)絡(luò)請(qǐng)求)
2仙辟、lxml 庫 和 xpath 用法
(htnl頁面解析)
4、html 網(wǎng)頁的解析
5鳄梅、數(shù)據(jù)的處理和存儲(chǔ)(json叠国,csv)
6、threading 庫 (多線程)
7戴尸、asyncio 庫 (異步)
8粟焊、數(shù)據(jù)庫 以及 orm
9、scrapy 爬蟲框架
在寫這些的時(shí)候孙蒙,我也在不斷地學(xué)習(xí)项棠,如果我在學(xué)習(xí)的過程中發(fā)現(xiàn)了更好的庫,就會(huì)換一個(gè)庫講挎峦,但是上面所列的點(diǎn)是不會(huì)變的香追。
最后,如果在文章中出現(xiàn)了錯(cuò)誤浑测,歡迎在評(píng)論中指出翅阵,我會(huì)在后續(xù)的更新中修改。
謝謝