爬蟲思路——Selenium下載貓眼電影top100

需求:爬取貓眼top100 movie

? ? ? ? ? ?包含內(nèi)容 ['序號(hào)'摔竿, ‘電影名稱’, ‘主演’熬苍, ‘上映日期’袁翁, ‘評(píng)分’]

? ? ? ? ? ?數(shù)據(jù)保存為csv格式文檔


步驟:


步驟一:需求拆解

爬取貓眼top movie, 此次實(shí)例為selenium方法爬取

包含內(nèi)容粱胜,設(shè)計(jì)追中輸出是一個(gè)列表嵌套字典的形式,例如:

result_lst = [ {'序號(hào)': 1, '電影名稱':XXX鸿脓,‘主演’:XXX XXX涯曲, ‘上映日期’:XXXX-XX-XX, ‘評(píng)分‘: X.X},?

? ? ? ? ? ? ? ? ? ? ?{'序號(hào)': 2, '電影名稱':XXX拨黔,‘主演’:XXX XXX绰沥, ‘上映日期’:XXXX-XX-XX徽曲, ‘評(píng)分‘: X.X},?

? ? ? ? ? ? ? ? ? ? ?{'序號(hào)': 3, '電影名稱':XXX,‘主演’:XXX XXX瞻润, ‘上映日期’:XXXX-XX-XX甜刻, ‘評(píng)分‘: X.X},?

? ? ? ? ? ? ? ? ? ? ? ...,

? ? ? ? ? ? ? ? ? ?]

使用csv.Dictwriter() 方法將最終的數(shù)據(jù)結(jié)果寫入CSV


步驟二:分析頁面

最小父級(jí)標(biāo)簽為 dl, dl標(biāo)簽下每一個(gè) dd 標(biāo)簽都是一個(gè)電影信息

右鍵查看網(wǎng)頁源代碼傻铣,Ctrl + F 查找dd 標(biāo)簽祥绞,發(fā)現(xiàn)源代碼中有所有需要的信息:

步驟三:匹配最小父級(jí)標(biāo)簽,匹配并列子集標(biāo)簽败京、定義解析公式梦染、獲取每一頁的信息

dd. text? 打印結(jié)果

dd. text 可以獲取所有dd 子集內(nèi)的文本帕识,可以將它們以換行符 ’\n‘ 拆分正列表元素

步驟四:翻頁

第二頁網(wǎng)頁的,下一頁標(biāo)簽

最后一頁網(wǎng)頁晶姊,沒有下一頁按鈕:


思路:除了最后一頁们衙,之前每一頁都有“下一頁”這個(gè)按鈕碱呼,找到并且點(diǎn)擊,進(jìn)入下一頁,實(shí)現(xiàn)翻頁

最后一頁時(shí)凝垛,繼續(xù)尋找"下一頁" 按鈕并且點(diǎn)擊梦皮,如果找不到,捕獲異常報(bào)錯(cuò)剑肯,并且退出翻頁循環(huán)


完整代碼如下:

最后輸入csv文檔為:

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末,一起剝皮案震驚了整個(gè)濱河市溃睹,隨后出現(xiàn)的幾起案子,更是在濱河造成了極大的恐慌泞辐,老刑警劉巖,帶你破解...
    沈念sama閱讀 217,185評(píng)論 6 503
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件吹缔,死亡現(xiàn)場(chǎng)離奇詭異锯茄,居然都是意外死亡,警方通過查閱死者的電腦和手機(jī)俗冻,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 92,652評(píng)論 3 393
  • 文/潘曉璐 我一進(jìn)店門迄薄,熙熙樓的掌柜王于貴愁眉苦臉地迎上來煮岁,“玉大人,你說我怎么就攤上這事冶伞〔绞希” “怎么了?”我有些...
    開封第一講書人閱讀 163,524評(píng)論 0 353
  • 文/不壞的土叔 我叫張陵芋类,是天一觀的道長(zhǎng)界阁。 經(jīng)常有香客問我,道長(zhǎng)贮竟,這世上最難降的妖魔是什么较剃? 我笑而不...
    開封第一講書人閱讀 58,339評(píng)論 1 293
  • 正文 為了忘掉前任写穴,我火速辦了婚禮,結(jié)果婚禮上确垫,老公的妹妹穿的比我還像新娘帽芽。我一直安慰自己翔冀,他們只是感情好纤子,可當(dāng)我...
    茶點(diǎn)故事閱讀 67,387評(píng)論 6 391
  • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著泽论,像睡著了一般卡乾。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上鹦赎,一...
    開封第一講書人閱讀 51,287評(píng)論 1 301
  • 那天误堡,我揣著相機(jī)與錄音,去河邊找鬼陪踩。 笑死悉抵,一個(gè)胖子當(dāng)著我的面吹牛,可吹牛的內(nèi)容都是我干的婚温。 我是一名探鬼主播媳否,決...
    沈念sama閱讀 40,130評(píng)論 3 418
  • 文/蒼蘭香墨 我猛地睜開眼篱竭,長(zhǎng)吁一口氣:“原來是場(chǎng)噩夢(mèng)啊……” “哼步绸!你這毒婦竟也來了?” 一聲冷哼從身側(cè)響起瓤介,我...
    開封第一講書人閱讀 38,985評(píng)論 0 275
  • 序言:老撾萬榮一對(duì)情侶失蹤,失蹤者是張志新(化名)和其女友劉穎募舟,沒想到半個(gè)月后闻察,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體,經(jīng)...
    沈念sama閱讀 45,420評(píng)論 1 313
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡呢灶,尸身上長(zhǎng)有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 37,617評(píng)論 3 334
  • 正文 我和宋清朗相戀三年鸯乃,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了隧期。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片。...
    茶點(diǎn)故事閱讀 39,779評(píng)論 1 348
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡宏蛉,死狀恐怖性置,靈堂內(nèi)的尸體忽然破棺而出,到底是詐尸還是另有隱情嗅义,我是刑警寧澤隐砸,帶...
    沈念sama閱讀 35,477評(píng)論 5 345
  • 正文 年R本政府宣布季希,位于F島的核電站,受9級(jí)特大地震影響式塌,放射性物質(zhì)發(fā)生泄漏。R本人自食惡果不足惜偏窝,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 41,088評(píng)論 3 328
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望伦意。 院中可真熱鬧硼补,春花似錦、人聲如沸缆八。這莊子的主人今日做“春日...
    開封第一講書人閱讀 31,716評(píng)論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽奖恰。三九已至宛裕,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間蛹屿,已是汗流浹背岩榆。 一陣腳步聲響...
    開封第一講書人閱讀 32,857評(píng)論 1 269
  • 我被黑心中介騙來泰國(guó)打工, 沒想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留犹撒,地道東北人粒褒。 一個(gè)月前我還...
    沈念sama閱讀 47,876評(píng)論 2 370
  • 正文 我出身青樓奕坟,卻偏偏與公主長(zhǎng)得像,于是被迫代替她去往敵國(guó)和親执赡。 傳聞我的和親對(duì)象是個(gè)殘疾皇子函筋,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 44,700評(píng)論 2 354

推薦閱讀更多精彩內(nèi)容