使用WebScraper和BlueMC對(duì)微博進(jìn)行數(shù)據(jù)分析(上)

千里之行条摸,始于足下,今天是第9/1000步铸屉。

“雙微一抖”基本算是目前新媒體矩陣的標(biāo)準(zhǔn)配置钉蒲,所以我們?cè)谧龈?jìng)品調(diào)研或行業(yè)分析時(shí),免不了要去分析一下對(duì)方的微博賬號(hào)彻坛。

一顷啼、常規(guī)分析

對(duì)于微博,我們首先會(huì)對(duì)它進(jìn)行一個(gè)常規(guī)分析昌屉,主要包括:

1钙蒙、粉絲數(shù)、微博數(shù)间驮。

2躬厌、關(guān)注對(duì)方主要發(fā)哪方面的內(nèi)容,一般來(lái)說(shuō)做的好的微博都會(huì)有自己固定的話題竞帽,可以把這些話題梳理出來(lái)扛施。接下來(lái)就是分析內(nèi)容的類型,轉(zhuǎn)發(fā)占多少屹篓,原創(chuàng)內(nèi)容占多少疙渣。

3、第二個(gè)就是微博的形式抱虐,看是以圖文為主昌阿,還是視頻為主。

4、看每天發(fā)文的頻次懦冰,大致的時(shí)間點(diǎn)灶轰。

5、觀察是否建立了微博粉絲群刷钢,是否開通了微博問答(V+付費(fèi)問答)等功能笋颤。醫(yī)療行業(yè)的還可以看他是否開通了愛問診室。

二内地、數(shù)據(jù)分析

數(shù)據(jù)分析又包括兩塊:粉絲分析和博文分析伴澄。

1、粉絲分析

這個(gè)可以借助工具BlueMC來(lái)進(jìn)行阱缓,我們將在下篇文章重點(diǎn)介紹非凌。

2、博文分析

主要包括微博的閱讀數(shù)荆针、轉(zhuǎn)(發(fā))評(píng)(論)(點(diǎn))贊數(shù)敞嗡,因?yàn)殚喿x數(shù)看不到,我們可以通過轉(zhuǎn)評(píng)贊數(shù)來(lái)衡量航背。另外喉悴,還可以利用NLPIR工具對(duì)微博內(nèi)容進(jìn)行定量的詞頻和情感分析。但是在這之前玖媚,我們首先得利用爬蟲把所有微博內(nèi)容爬取下來(lái)箕肃,根據(jù)之前的文章介紹,可以使用WebScraper來(lái)實(shí)現(xiàn)這個(gè)目的今魔。

使用西瓜助手和WebScraper免費(fèi)獲取公眾號(hào)歷史文章

網(wǎng)頁(yè)數(shù)據(jù)抓取工具勺像,webscraper 最簡(jiǎn)單的數(shù)據(jù)抓取教程,人人都用得上

本文不再介紹WebScraper的基礎(chǔ)用法涡贱,如果有問題大家可以參考上面兩篇文章咏删。我將重點(diǎn)分析一下抓取微博的一些注意事項(xiàng)。

1)頁(yè)面加載

微博的數(shù)據(jù)加載邏輯稍微有點(diǎn)復(fù)雜问词,首先每個(gè)頁(yè)面默認(rèn)只顯示一部分督函,需要加載數(shù)次后才能顯示完整,然后才是分頁(yè)加載第2激挪、3...n頁(yè)辰狡。

因此,我們首先需要建立一個(gè)Type為“Element scroll down”的元素垄分,然后在它下面添加時(shí)間宛篇、內(nèi)容、轉(zhuǎn)發(fā)數(shù)薄湿、評(píng)論數(shù)和點(diǎn)贊數(shù)叫倍。

Delay記得設(shè)置得長(zhǎng)一點(diǎn)偷卧,我這里是3000ms
Selector graph

2)分頁(yè)

因?yàn)樯婕暗椒猪?yè),所以我們需要在“Start URL”中利用正則表達(dá)式來(lái)獲取多頁(yè)吆倦,但是我們注意到微博第一頁(yè)的URL和后面頁(yè)的URL不一樣听诸,導(dǎo)致我們無(wú)法一次性獲取所有頁(yè)數(shù)據(jù),因此采取一個(gè)變通的方法蚕泽,單獨(dú)為第一頁(yè)創(chuàng)建一個(gè)sitemap晌梨,然后為第2-n頁(yè)再創(chuàng)建一個(gè)sitemap,抓取兩次须妻。

以@人民日?qǐng)?bào)微博為例仔蝌,第一頁(yè)URL:

????https://weibo.com/p/1002062803301701/home?profile_ftype=1&is_all=1#_0

第二頁(yè)URL:

????https://weibo.com/p/1002062803301701/home?is_search=0&visible=0&is_all=1&is_tag=0&profile_ftype=1&page=2#feedtop

對(duì)應(yīng)的sitemap里的“Start URL”(只抓取2-10頁(yè))是:

https://weibo.com/p/1002062803301701/home?is_search=0&visible=0&is_all=1&is_tag=0&profile_ftype=1&page=[2-10]#feedtop

至此,我們就能順利把微博的數(shù)據(jù)抓取下來(lái)荒吏。下面分別是第一頁(yè)和第2-10頁(yè)對(duì)應(yīng)的sitemap敛惊,有需要的可以直接導(dǎo)入,F(xiàn)YI绰更。

{"_id":"peopledaily","startUrl":["https://weibo.com/p/1002062803301701/home?profile_ftype=1&is_all=1#_0"],"selectors":[{"id":"weibo","type":"SelectorElementScroll","selector":"div.WB_cardwrap.WB_feed_vipcover:nth-of-type(n+3)","parentSelectors":["_root"],"multiple":true,"delay":"3000"},{"id":"DATE","type":"SelectorText","selector":"div.WB_detail:nth-of-type(3) > div.WB_from a.S_txt2:nth-of-type(1)","parentSelectors":["weibo"],"multiple":false,"regex":"","delay":0},{"id":"CONTENT","type":"SelectorText","selector":"div.WB_feed_detail:nth-of-type(1) div.WB_text.W_f14","parentSelectors":["weibo"],"multiple":false,"regex":"","delay":0},{"id":"TRANS","type":"SelectorText","selector":"div.WB_feed_handle:nth-of-type(2) li:nth-of-type(2) em:nth-of-type(2)","parentSelectors":["weibo"],"multiple":false,"regex":"","delay":0},{"id":"comment","type":"SelectorText","selector":"div.WB_feed_handle:nth-of-type(2) li:nth-of-type(3) em:nth-of-type(2)","parentSelectors":["weibo"],"multiple":false,"regex":"","delay":0},{"id":"rank","type":"SelectorText","selector":"div.WB_feed_handle:nth-of-type(2) li:nth-of-type(4) em:nth-of-type(2)","parentSelectors":["weibo"],"multiple":false,"regex":"","delay":0}]}

{"_id":"peopledaily2-n","startUrl":["https://weibo.com/p/1002062803301701/home?is_search=0&visible=0&is_all=1&is_tag=0&profile_ftype=1&page=[2-10]#feedtop"],"selectors":[{"id":"weibo","type":"SelectorElementScroll","selector":"div.WB_cardwrap.WB_feed_vipcover:nth-of-type(n+2)","parentSelectors":["_root"],"multiple":true,"delay":"3000"},{"id":"DATE","type":"SelectorText","selector":"div.WB_detail:nth-of-type(3) > div.WB_from a.S_txt2:nth-of-type(1)","parentSelectors":["weibo"],"multiple":false,"regex":"","delay":0},{"id":"CONTENT","type":"SelectorText","selector":"div.WB_feed_detail:nth-of-type(1) div.WB_text.W_f14","parentSelectors":["weibo"],"multiple":false,"regex":"","delay":0},{"id":"TRANS","type":"SelectorText","selector":"div.WB_feed_handle:nth-of-type(2) li:nth-of-type(2) em:nth-of-type(2)","parentSelectors":["weibo"],"multiple":false,"regex":"","delay":0},{"id":"comment","type":"SelectorText","selector":"div.WB_feed_handle:nth-of-type(2) li:nth-of-type(3) em:nth-of-type(2)","parentSelectors":["weibo"],"multiple":false,"regex":"","delay":0},{"id":"rank","type":"SelectorText","selector":"div.WB_feed_handle:nth-of-type(2) li:nth-of-type(4) em:nth-of-type(2)","parentSelectors":["weibo"],"multiple":false,"regex":"","delay":0}]}

不積跬步豆混,無(wú)以至千里,先邁出它10步动知。


轉(zhuǎn)載說(shuō)明:本文為“三少爺?shù)囊姟痹瓌?chuàng)文章,轉(zhuǎn)載請(qǐng)務(wù)必注明出處员辩。

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末盒粮,一起剝皮案震驚了整個(gè)濱河市,隨后出現(xiàn)的幾起案子奠滑,更是在濱河造成了極大的恐慌丹皱,老刑警劉巖,帶你破解...
    沈念sama閱讀 219,110評(píng)論 6 508
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件宋税,死亡現(xiàn)場(chǎng)離奇詭異摊崭,居然都是意外死亡,警方通過查閱死者的電腦和手機(jī)杰赛,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 93,443評(píng)論 3 395
  • 文/潘曉璐 我一進(jìn)店門呢簸,熙熙樓的掌柜王于貴愁眉苦臉地迎上來(lái),“玉大人乏屯,你說(shuō)我怎么就攤上這事根时。” “怎么了辰晕?”我有些...
    開封第一講書人閱讀 165,474評(píng)論 0 356
  • 文/不壞的土叔 我叫張陵蛤迎,是天一觀的道長(zhǎng)。 經(jīng)常有香客問我含友,道長(zhǎng)替裆,這世上最難降的妖魔是什么校辩? 我笑而不...
    開封第一講書人閱讀 58,881評(píng)論 1 295
  • 正文 為了忘掉前任,我火速辦了婚禮辆童,結(jié)果婚禮上宜咒,老公的妹妹穿的比我還像新娘。我一直安慰自己胸遇,他們只是感情好荧呐,可當(dāng)我...
    茶點(diǎn)故事閱讀 67,902評(píng)論 6 392
  • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著纸镊,像睡著了一般倍阐。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上逗威,一...
    開封第一講書人閱讀 51,698評(píng)論 1 305
  • 那天峰搪,我揣著相機(jī)與錄音,去河邊找鬼凯旭。 笑死概耻,一個(gè)胖子當(dāng)著我的面吹牛,可吹牛的內(nèi)容都是我干的罐呼。 我是一名探鬼主播鞠柄,決...
    沈念sama閱讀 40,418評(píng)論 3 419
  • 文/蒼蘭香墨 我猛地睜開眼,長(zhǎng)吁一口氣:“原來(lái)是場(chǎng)噩夢(mèng)啊……” “哼嫉柴!你這毒婦竟也來(lái)了厌杜?” 一聲冷哼從身側(cè)響起,我...
    開封第一講書人閱讀 39,332評(píng)論 0 276
  • 序言:老撾萬(wàn)榮一對(duì)情侶失蹤计螺,失蹤者是張志新(化名)和其女友劉穎夯尽,沒想到半個(gè)月后,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體登馒,經(jīng)...
    沈念sama閱讀 45,796評(píng)論 1 316
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡匙握,尸身上長(zhǎng)有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 37,968評(píng)論 3 337
  • 正文 我和宋清朗相戀三年,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了陈轿。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片圈纺。...
    茶點(diǎn)故事閱讀 40,110評(píng)論 1 351
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡,死狀恐怖济欢,靈堂內(nèi)的尸體忽然破棺而出赠堵,到底是詐尸還是另有隱情,我是刑警寧澤法褥,帶...
    沈念sama閱讀 35,792評(píng)論 5 346
  • 正文 年R本政府宣布茫叭,位于F島的核電站,受9級(jí)特大地震影響半等,放射性物質(zhì)發(fā)生泄漏揍愁。R本人自食惡果不足惜呐萨,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 41,455評(píng)論 3 331
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望莽囤。 院中可真熱鬧谬擦,春花似錦、人聲如沸朽缎。這莊子的主人今日做“春日...
    開封第一講書人閱讀 32,003評(píng)論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽(yáng)话肖。三九已至北秽,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間最筒,已是汗流浹背贺氓。 一陣腳步聲響...
    開封第一講書人閱讀 33,130評(píng)論 1 272
  • 我被黑心中介騙來(lái)泰國(guó)打工, 沒想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留床蜘,地道東北人辙培。 一個(gè)月前我還...
    沈念sama閱讀 48,348評(píng)論 3 373
  • 正文 我出身青樓,卻偏偏與公主長(zhǎng)得像邢锯,于是被迫代替她去往敵國(guó)和親扬蕊。 傳聞我的和親對(duì)象是個(gè)殘疾皇子,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 45,047評(píng)論 2 355

推薦閱讀更多精彩內(nèi)容

  • 一丹擎、抓取公眾號(hào)標(biāo)題厨相、時(shí)間、內(nèi)容鏈接 {"_id":"gongzhonghao","startUrl":["http...
    明白1閱讀 2,519評(píng)論 1 6
  • rljs by sennchi Timeline of History Part One The Cognitiv...
    sennchi閱讀 7,334評(píng)論 0 10
  • "use strict";function _classCallCheck(e,t){if(!(e instanc...
    久些閱讀 2,031評(píng)論 0 2
  • 天地黑得像一幅水墨畫庶骄,雨像縫衣針?biāo)频耐侣浠偕瑢⑻斓乜椀拿懿豢煞帧M貫畫面的一片竹林就像墨畫里的背景单刁,竹林前立著一人...
    344c4e314708閱讀 191評(píng)論 0 0
  • 細(xì)節(jié)題主旨化是大方向灸异。 做細(xì)節(jié)題還是要通讀文段的。就是因?yàn)楝F(xiàn)在題目答案更加主旨化羔飞。 選項(xiàng)B是正確答案肺樟,大家可以看出...
    公考界的傳奇人物閱讀 296評(píng)論 0 0