代碼 預(yù)處理部分 - 獲取頻道列表 解析各頻道列表頁面上荡，并將url入庫 從數(shù)據(jù)庫獲取url解析各詳情頁面 總結(jié) 趕集網(wǎng)的分頁，第一頁與第二頁的規(guī)...

筆記 進程與線程的關(guān)系 python中可使用multiprocessing來實現(xiàn)多進程from multiprocessing import P...

筆記 先爬取詳情頁的URL列表并入庫 再根據(jù)數(shù)據(jù)庫中的URL列表解析詳情 作業(yè) 代碼 splider1 執(zhí)行結(jié)果（局部） splider2 執(zhí)行...

筆記 連接數(shù)據(jù)庫服務(wù):client = pymongo.MongoClient('localhost', 27017) 創(chuàng)建/訪問數(shù)據(jù)庫:$db...

常用命令show dbsuse <dbsName>show collectionsdb. .find()db.createCollection(...

作業(yè) 代碼 執(zhí)行結(jié)果： 備注：詳情頁中的瀏覽量已經(jīng)改為實時加載了馒闷，所以作業(yè)中要求的js異步加載部分未涉及酪捡。

筆記 通過觀察加載動態(tài)數(shù)據(jù)時的網(wǎng)絡(luò)交互，尋找加載更多數(shù)據(jù)的Request的規(guī)律纳账，進一步構(gòu)造相應(yīng)Request來獲取Response逛薇。 作業(yè) 代碼...

筆記 網(wǎng)絡(luò)交互 = Request + Response Request的方法分為：getpostheadputoptionsconnecttr...

筆記 爬取網(wǎng)頁的基本方法： 使用BeautifulSoup解析網(wǎng)頁Soup = BeautifulSoup(html, 'lxml') 描述要爬...