Web Scraper教程(五)爬蟲進階之微博評論的點擊「查看更多」爬取

進階知識點:

滾動到頁面底部,點擊「查看更多」才會加載新的內(nèi)容

一古徒、新浪微博評論中的輿情態(tài)勢

任何事件在微博的發(fā)酵速度絕對是各大平臺中最快的拓提,如果把微博評論爬取下來,進行處理和分析隧膘,就能對某個事件的不同立場和風(fēng)向有了全面的了解和掌握代态。
當(dāng)然寺惫,評論量大的微博在爬取時耗費時間較長,為了縮短操作時間胆数,找了老羅的一條評論不太多的微博進行演示肌蜻。

二、爬取老羅的微博評論

1. 創(chuàng)建Sitemap

Sitemap name: weibo
Start URL: https://weibo.com/1640571365/J0xeHw48Y?from=page_1035051640571365_profile&wvr=6&mod=weibotime&type=comment

2. 建立頁面「滾動至底部」和點擊「查看更多」選擇器

有些頁面變化比較細(xì)微必尼,需要仔細(xì)觀察才能發(fā)現(xiàn)蒋搜,微博評論就是這樣。
在拖動滾動條至出現(xiàn)「查看更多」的過程中判莉,頁面出現(xiàn)了輕微的卡頓豆挽,這表示頁面有一部分會隨著用戶往下瀏覽而加載。
在爬取數(shù)據(jù)時券盅,如果沒有建立「滾動至底部」的選擇器帮哈,讓卡頓的頁面也完全呈現(xiàn)出來,則會造成程序找不到「查看更多」的情況锰镀,導(dǎo)致大量的數(shù)據(jù)沒有被爬取娘侍。

建立「滾動至底部」選擇器
Id: scroll
Type: Element scroll down
Select: 點擊第1條和第2條評論最外圍的方形元素
點擊Done selecting!
勾選Multiple
點擊Save seletor完成創(chuàng)建

建立點擊「查看更多」選擇器
Id: more
Type: Element click
點擊SelectorSelect: 點擊第1條和第2條評論最外圍的方形元素
點擊Done selecting!
點擊Click selectorSelect: 點擊「查看更多」,注意點擊后對話框中的內(nèi)容是「a.WB_cardmore」
點擊Done selecting!
Click type: Click more泳炉,表示需要不斷點擊「查看更多」
Click element uniqueness: unique CSS Selector
勾選Multiple
點擊Save seletor完成創(chuàng)建

3. 建立評論爬取的選擇器

點擊剛剛創(chuàng)建的more選擇器憾筏,在此選擇器下創(chuàng)建爬取評論的選擇器
Id: comment
Type: Text
Select: 點擊黃色方形元素中的評論
點擊Done selecting!
點擊Save seletor完成創(chuàng)建

4. 執(zhí)行爬蟲程序

Request intervalPage load delay均按默認(rèn)即可

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末,一起剝皮案震驚了整個濱河市花鹅,隨后出現(xiàn)的幾起案子氧腰,更是在濱河造成了極大的恐慌,老刑警劉巖刨肃,帶你破解...
    沈念sama閱讀 222,000評論 6 515
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件古拴,死亡現(xiàn)場離奇詭異,居然都是意外死亡真友,警方通過查閱死者的電腦和手機黄痪,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 94,745評論 3 399
  • 文/潘曉璐 我一進店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來锻狗,“玉大人满力,你說我怎么就攤上這事∏峒停” “怎么了油额?”我有些...
    開封第一講書人閱讀 168,561評論 0 360
  • 文/不壞的土叔 我叫張陵,是天一觀的道長刻帚。 經(jīng)常有香客問我潦嘶,道長,這世上最難降的妖魔是什么崇众? 我笑而不...
    開封第一講書人閱讀 59,782評論 1 298
  • 正文 為了忘掉前任掂僵,我火速辦了婚禮航厚,結(jié)果婚禮上,老公的妹妹穿的比我還像新娘锰蓬。我一直安慰自己幔睬,他們只是感情好,可當(dāng)我...
    茶點故事閱讀 68,798評論 6 397
  • 文/花漫 我一把揭開白布芹扭。 她就那樣靜靜地躺著麻顶,像睡著了一般。 火紅的嫁衣襯著肌膚如雪舱卡。 梳的紋絲不亂的頭發(fā)上辅肾,一...
    開封第一講書人閱讀 52,394評論 1 310
  • 那天,我揣著相機與錄音轮锥,去河邊找鬼矫钓。 笑死,一個胖子當(dāng)著我的面吹牛舍杜,可吹牛的內(nèi)容都是我干的新娜。 我是一名探鬼主播,決...
    沈念sama閱讀 40,952評論 3 421
  • 文/蒼蘭香墨 我猛地睜開眼既绩,長吁一口氣:“原來是場噩夢啊……” “哼杯活!你這毒婦竟也來了?” 一聲冷哼從身側(cè)響起熬词,我...
    開封第一講書人閱讀 39,852評論 0 276
  • 序言:老撾萬榮一對情侶失蹤,失蹤者是張志新(化名)和其女友劉穎吸重,沒想到半個月后互拾,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體,經(jīng)...
    沈念sama閱讀 46,409評論 1 318
  • 正文 獨居荒郊野嶺守林人離奇死亡嚎幸,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點故事閱讀 38,483評論 3 341
  • 正文 我和宋清朗相戀三年毕匀,在試婚紗的時候發(fā)現(xiàn)自己被綠了垮斯。 大學(xué)時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片。...
    茶點故事閱讀 40,615評論 1 352
  • 序言:一個原本活蹦亂跳的男人離奇死亡,死狀恐怖性含,靈堂內(nèi)的尸體忽然破棺而出,到底是詐尸還是另有隱情衩辟,我是刑警寧澤绎晃,帶...
    沈念sama閱讀 36,303評論 5 350
  • 正文 年R本政府宣布,位于F島的核電站椎镣,受9級特大地震影響诈火,放射性物質(zhì)發(fā)生泄漏。R本人自食惡果不足惜状答,卻給世界環(huán)境...
    茶點故事閱讀 41,979評論 3 334
  • 文/蒙蒙 一冷守、第九天 我趴在偏房一處隱蔽的房頂上張望刀崖。 院中可真熱鬧,春花似錦拍摇、人聲如沸亮钦。這莊子的主人今日做“春日...
    開封第一講書人閱讀 32,470評論 0 24
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽蜂莉。三九已至,卻和暖如春堪唐,著一層夾襖步出監(jiān)牢的瞬間巡语,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 33,571評論 1 272
  • 我被黑心中介騙來泰國打工淮菠, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留男公,地道東北人。 一個月前我還...
    沈念sama閱讀 49,041評論 3 377
  • 正文 我出身青樓合陵,卻偏偏與公主長得像枢赔,于是被迫代替她去往敵國和親。 傳聞我的和親對象是個殘疾皇子拥知,可洞房花燭夜當(dāng)晚...
    茶點故事閱讀 45,630評論 2 359