【爬蟲+情感判定+Top10高頻詞+詞云圖】“谷愛凌”熱門彈幕python輿情分析

一馏艾、背景介紹

最近幾天,谷愛凌在冬奧會賽場上奪得一枚寶貴的金牌亭病,為中國隊貢獻了自己的榮譽鹅很!

針對此熱門事件嘶居,我用Python的爬蟲和情感分析技術(shù)罪帖,針對小破站的彈幕數(shù)據(jù),分析了眾網(wǎng)友彈幕的輿論導(dǎo)向邮屁,下面我們來看一下整袁,是如何實現(xiàn)的分析過程。

二佑吝、代碼講解-爬蟲部分

2.1 分析彈幕接口

首先分析B站彈幕接口坐昙。

經(jīng)過分析,得到的彈幕地址有兩種:

第一種:http://comment.bilibili.com/{cid}.xml
第二種:https://api.bilibili.com/x/v1/dm/list.so?oid={cid}
這兩種返回的結(jié)果一致芋忿!但都不全炸客,都是只有部分彈幕疾棵!
以視頻 https://www.bilibili.com/video/BV1YY41157dk 為例,查看網(wǎng)頁源代碼痹仙,可以找到對應(yīng)的cid為503862594是尔,所以該視頻對應(yīng)的彈幕接口地址是:http://comment.bilibili.com/503862594.xml

QQ20220214-163929@2x.png
既然這樣,就好辦了开仰,開始擼代碼拟枚!

2.2 講解爬蟲代碼

首先,導(dǎo)入需要用到的庫:

import re  # 正則表達式提取文本
import requests  # 爬蟲發(fā)送請求
from bs4 import BeautifulSoup as BS  # 爬蟲解析頁面
import time
import pandas as pd  # 存入csv文件
import os

然后众弓,向視頻地址發(fā)送請求恩溅,解析出cid號:

r1 = requests.get(url=v_url, headers=headers)
html1 = r1.text
cid = re.findall('cid=(.*?)&aid=', html1)[0]  # 獲取視頻對應(yīng)的cid號
print('該視頻的cid是:', cid)

根據(jù)cid號,拼出xml接口地址谓娃,并再次發(fā)送請求:

danmu_url = 'http://comment.bilibili.com/{}.xml'.format(cid)  # 彈幕地址
print('彈幕地址是:', danmu_url)
r2 = requests.get(danmu_url)

解析xml頁面:<d>標(biāo)簽的文本內(nèi)容為彈幕脚乡,<d>標(biāo)簽內(nèi)p屬性值(按逗號分隔)的第四個字段是時間戳:

soup = BS(html2, 'xml')
danmu_list = soup.find_all('d')
print('共爬取到{}條彈幕'.format(len(danmu_list)))
video_url_list = []  # 視頻地址
danmu_url_list = []  # 彈幕地址
time_list = []  # 彈幕時間
text_list = []  # 彈幕內(nèi)容
for d in danmu_list:
    data_split = d['p'].split(',')  # 按逗號分隔
    temp_time = time.localtime(int(data_split[4]))  # 轉(zhuǎn)換時間格式
    danmu_time = time.strftime("%Y-%m-%d %H:%M:%S", temp_time)
    video_url_list.append(v_url)
    danmu_url_list.append(danmu_url)
    time_list.append(danmu_time)
    text_list.append(d.text)
    print('{}:{}'.format(danmu_time, d.text))

保存時應(yīng)注意,為了避免多次寫入csv標(biāo)題頭滨达,像這樣:


image.png

這里每窖,我寫了一個處理邏輯,大家看注釋弦悉,應(yīng)該能明白:

if os.path.exists(v_result_file):  # 如果文件存在窒典,不需寫入字段標(biāo)題
    header = None
else:  # 如果文件不存在,說明是第一次新建文件稽莉,需寫入字段標(biāo)題
    header = ['視頻地址', '彈幕地址', '彈幕時間', '彈幕內(nèi)容']
df.to_csv(v_result_file, encoding='utf_8_sig', mode='a+', index=False, header=header)  # 數(shù)據(jù)保存到csv文件

三瀑志、代碼講解-情感分析部分

3.1 整體思路

針對情感分析需求,我主要做了三個步驟的分析工作:

  1. 用SnowNLP給彈幕內(nèi)容打標(biāo):積極污秆、消極劈猪,并統(tǒng)計占比情況
  2. 用jieba.analyse分詞,并統(tǒng)計top10高頻詞
  3. 用WordCloud繪制詞云圖

首先良拼,導(dǎo)入csv數(shù)據(jù)战得,并做數(shù)據(jù)清洗工作,不再贅述庸推。

下面常侦,正式進入情感分析代碼部分:

3.2 情感分析打標(biāo)

情感分析計算得分值、分類打標(biāo)贬媒,并統(tǒng)計積極/消極占比聋亡。

# 情感分析打標(biāo)
def sentiment_analyse(v_cmt_list):
    """
    情感分析打分
    :param v_cmt_list: 需要處理的評論列表
    :return:
    """
    score_list = []  # 情感評分值
    tag_list = []  # 打標(biāo)分類結(jié)果
    pos_count = 0  # 計數(shù)器-積極
    neg_count = 0  # 計數(shù)器-消極
    for comment in v_cmt_list:
        tag = ''
        sentiments_score = SnowNLP(comment).sentiments
        if sentiments_score < 0.3:
            tag = '消極'
            neg_count += 1
        else:
            tag = '積極'
            pos_count += 1
        score_list.append(sentiments_score)  # 得分值
        tag_list.append(tag)  # 判定結(jié)果
    print('積極評價占比:', round(pos_count / (pos_count + neg_count), 4))
    print('消極評價占比:', round(neg_count / (pos_count + neg_count), 4))
    df['情感得分'] = score_list
    df['分析結(jié)果'] = tag_list
    # 把情感分析結(jié)果保存到excel文件
    df.to_excel('谷愛凌_情感評分結(jié)果.xlsx', index=None)
    print('情感分析結(jié)果已生成:谷愛凌_情感評分結(jié)果.xlsx')

這里,我設(shè)定情感得分值小于0.3為消極际乘,否則為積極坡倔。(這個分界線,沒有統(tǒng)一標(biāo)準(zhǔn),根據(jù)數(shù)據(jù)分布情況和分析經(jīng)驗自己設(shè)定分界線即可)
占比結(jié)果:


占比.png

打標(biāo)結(jié)果:(最后兩列罪塔,分別是得分值和打標(biāo)結(jié)果)


打標(biāo)結(jié)果.png

3.3 統(tǒng)計top10高頻詞

# 2投蝉、用jieba統(tǒng)計彈幕中的top10高頻詞
keywords_top10 = jieba.analyse.extract_tags(v_cmt_str, withWeight=True, topK=10)
print('top10關(guān)鍵詞及權(quán)重:')
pprint(keywords_top10)

這里需要注意,在調(diào)用jieba.analyse.extract_tags函數(shù)時征堪,要導(dǎo)入的是import jieba.analyse 而不是 import jieba
統(tǒng)計結(jié)果為:(分為10組關(guān)鍵詞及其權(quán)重墓拜,權(quán)重按倒序排序)


top10.png

3.4 繪制詞云圖

注意別踩坑:
想要通過原始圖片的形狀生成詞云圖,原始圖片一定要白色背景(實在沒有的話请契,PS修圖修一個吧)咳榜,否則生成的是滿屏詞云!爽锥!

def make_wordcloud(v_str, v_stopwords, v_outfile):
    """
    繪制詞云圖
    :param v_str: 輸入字符串
    :param v_stopwords: 停用詞
    :param v_outfile: 輸出文件
    :return: None
    """
    print('開始生成詞云圖:{}'.format(v_outfile))
    try:
        stopwords = v_stopwords  # 停用詞
        backgroud_Image = np.array(Image.open('谷愛凌背景圖.png'))  # 讀取背景圖片
        wc = WordCloud(
            background_color="white",  # 背景顏色
            width=1500,  # 圖寬
            height=1200,  # 圖高
            max_words=1000,  # 最多字?jǐn)?shù)
            font_path='/System/Library/Fonts/SimHei.ttf',  # 字體文件路徑涌韩,根據(jù)實際情況(Mac)替換
            # font_path="C:\Windows\Fonts\simhei.ttf",  # 字體文件路徑,根據(jù)實際情況(Windows)替換
            stopwords=stopwords,  # 停用詞
            mask=backgroud_Image,  # 背景圖片
        )
        jieba_text = " ".join(jieba.lcut(v_str))  # jieba分詞
        wc.generate_from_text(jieba_text)  # 生成詞云圖
        wc.to_file(v_outfile)  # 保存圖片文件
        print('詞云文件保存成功:{}'.format(v_outfile))
    except Exception as e:
        print('make_wordcloud except: {}'.format(str(e)))

得到的詞云圖:


image.png

和原始背景圖對比:


image.png

3.5 情感分析結(jié)論

  1. 打標(biāo)結(jié)果中氯夷,積極評價占0.8871臣樱,遠遠大于消極評價!
  2. top10關(guān)鍵詞統(tǒng)計結(jié)果中腮考,"加油"雇毫、"厲害"、"天才"等好評詞匯占據(jù)多數(shù)踩蔚!
  3. 詞云圖中棚放,"中國"、"好"馅闽、"厲害"飘蚯、"臥槽"等好評詞看上去更大(詞頻高)!

綜上所述福也,經(jīng)分析"谷愛凌"相關(guān)彈幕局骤,得出結(jié)論:

眾多網(wǎng)友對谷愛凌的評價都很高,也很喜歡她暴凑,畢竟不但年輕峦甩、顏值高、有才華现喳,還能為祖國爭得寶貴的榮譽凯傲!

致敬!拿穴!

四泣洞、同步講解視頻

上集:(爬蟲采集)
https://www.zhihu.com/zvideo/1476299216318857217
下集:(情感分析)
https://www.zhihu.com/zvideo/1476300807759294464


by 馬哥python說

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末忧风,一起剝皮案震驚了整個濱河市默色,隨后出現(xiàn)的幾起案子,更是在濱河造成了極大的恐慌,老刑警劉巖腿宰,帶你破解...
    沈念sama閱讀 206,126評論 6 481
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件呕诉,死亡現(xiàn)場離奇詭異,居然都是意外死亡吃度,警方通過查閱死者的電腦和手機甩挫,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 88,254評論 2 382
  • 文/潘曉璐 我一進店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來椿每,“玉大人伊者,你說我怎么就攤上這事〖浠ぃ” “怎么了亦渗?”我有些...
    開封第一講書人閱讀 152,445評論 0 341
  • 文/不壞的土叔 我叫張陵,是天一觀的道長汁尺。 經(jīng)常有香客問我法精,道長,這世上最難降的妖魔是什么痴突? 我笑而不...
    開封第一講書人閱讀 55,185評論 1 278
  • 正文 為了忘掉前任搂蜓,我火速辦了婚禮,結(jié)果婚禮上辽装,老公的妹妹穿的比我還像新娘帮碰。我一直安慰自己,他們只是感情好拾积,可當(dāng)我...
    茶點故事閱讀 64,178評論 5 371
  • 文/花漫 我一把揭開白布收毫。 她就那樣靜靜地躺著,像睡著了一般殷勘。 火紅的嫁衣襯著肌膚如雪此再。 梳的紋絲不亂的頭發(fā)上,一...
    開封第一講書人閱讀 48,970評論 1 284
  • 那天玲销,我揣著相機與錄音输拇,去河邊找鬼。 笑死贤斜,一個胖子當(dāng)著我的面吹牛策吠,可吹牛的內(nèi)容都是我干的。 我是一名探鬼主播瘩绒,決...
    沈念sama閱讀 38,276評論 3 399
  • 文/蒼蘭香墨 我猛地睜開眼猴抹,長吁一口氣:“原來是場噩夢啊……” “哼!你這毒婦竟也來了锁荔?” 一聲冷哼從身側(cè)響起蟀给,我...
    開封第一講書人閱讀 36,927評論 0 259
  • 序言:老撾萬榮一對情侶失蹤,失蹤者是張志新(化名)和其女友劉穎,沒想到半個月后跋理,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體择克,經(jīng)...
    沈念sama閱讀 43,400評論 1 300
  • 正文 獨居荒郊野嶺守林人離奇死亡,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點故事閱讀 35,883評論 2 323
  • 正文 我和宋清朗相戀三年前普,在試婚紗的時候發(fā)現(xiàn)自己被綠了肚邢。 大學(xué)時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片。...
    茶點故事閱讀 37,997評論 1 333
  • 序言:一個原本活蹦亂跳的男人離奇死亡拭卿,死狀恐怖骡湖,靈堂內(nèi)的尸體忽然破棺而出,到底是詐尸還是另有隱情峻厚,我是刑警寧澤勺鸦,帶...
    沈念sama閱讀 33,646評論 4 322
  • 正文 年R本政府宣布,位于F島的核電站目木,受9級特大地震影響换途,放射性物質(zhì)發(fā)生泄漏。R本人自食惡果不足惜刽射,卻給世界環(huán)境...
    茶點故事閱讀 39,213評論 3 307
  • 文/蒙蒙 一军拟、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧誓禁,春花似錦懈息、人聲如沸。這莊子的主人今日做“春日...
    開封第一講書人閱讀 30,204評論 0 19
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽。三九已至俗慈,卻和暖如春姑宽,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背闺阱。 一陣腳步聲響...
    開封第一講書人閱讀 31,423評論 1 260
  • 我被黑心中介騙來泰國打工炮车, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留,地道東北人酣溃。 一個月前我還...
    沈念sama閱讀 45,423評論 2 352
  • 正文 我出身青樓瘦穆,卻偏偏與公主長得像,于是被迫代替她去往敵國和親赊豌。 傳聞我的和親對象是個殘疾皇子扛或,可洞房花燭夜當(dāng)晚...
    茶點故事閱讀 42,722評論 2 345

推薦閱讀更多精彩內(nèi)容