今天小猿圈給大家分享網(wǎng)易云音樂歌詞爬取方法。
本文的總體思路如下:
找到正確的URL赡译,獲取源碼;
利用bs4解析源碼不铆,獲取歌曲名和歌曲ID捶朵;
調用網(wǎng)易云歌曲API蜘矢,獲取歌詞;
將歌詞寫入文件综看,并存入本地品腹。
本文的目的是獲取網(wǎng)易云音樂的歌詞,并將歌詞存入到本地文件红碑。整體的效果圖如下所示:
趙雷的歌曲
本文以民謠歌神趙雷為數(shù)據(jù)采集對象舞吭,專門采集他的歌曲歌詞,其他歌手的歌詞采集方式可以類推析珊,下圖展示的是《成都》歌詞羡鸥。
趙雷歌曲---《成都》
一般來說,網(wǎng)頁上顯示的URL就可以寫在程序中忠寻,運行程序之后就可以采集到我們想要的網(wǎng)頁源碼惧浴。But在網(wǎng)易云音樂網(wǎng)站中,這條路行不通奕剃,因為網(wǎng)頁中的URL是個假URL衷旅,真實的URL中是沒有#號的。廢話不多說纵朋,直接上代碼柿顶。
獲取網(wǎng)頁源碼
本文利用requests、bs4操软、json和re模塊來采集網(wǎng)易云音樂歌詞嘁锯,記得在程序中添加headers和反盜鏈referer以模擬瀏覽器,防止被網(wǎng)站拒絕訪問聂薪。這里的get_html方法專門用于獲取源碼家乘,通常我們也要做異常處理,未雨綢繆藏澳。
獲取到網(wǎng)頁源碼之后烤低,分析源碼,發(fā)現(xiàn)歌曲的名字和ID藏的很深笆载,縱里尋她千百度扑馁,發(fā)現(xiàn)她在源碼的294行,藏在
- 標簽下凉驻,如下圖所示:
歌曲名和ID存在的位置
接下來我們利用美麗的湯來獲取目標信息腻要,直接上代碼,如下圖:
獲取歌曲名和ID
此處要注意獲取ID的時候需要對link進行切片處理涝登,得到的數(shù)字便是歌曲的ID雄家;另外,歌曲名是通過get_text()方法獲取到的胀滚,最后利用zip函數(shù)將歌曲名和ID一一對應并進行返回趟济。
得到ID之后便可以進入到內頁獲取歌詞了乱投,但是URL還是不給力,如下圖:
歌詞的URL
雖然我們可以明白的看到網(wǎng)頁上的白紙黑字呈現(xiàn)的歌詞信息顷编,但是我們在該URL下卻無法獲取到歌詞信息戚炫。小編通過抓包,找到了歌詞的URL媳纬,發(fā)現(xiàn)其是POST請求還有一大堆看不懂的data双肤,總之這個URL是不能為我們效力。那該點解呢钮惠?
莫慌茅糜,小編找到了網(wǎng)易云音樂的API,只要把歌曲的ID放在API鏈接上便可以獲取到歌詞了素挽,代碼如下:
調用網(wǎng)易云API并解析歌詞
在API中歌詞信息是以json格式加載的蔑赘,所以需要利用json將其進行序列化解析出來,并配合正則表達式進行清洗歌詞预明,如果不用正則表達式進行清洗的話缩赛,得到原始的數(shù)據(jù)如下所示(此處以趙雷的歌曲《成都》為例):
原始數(shù)據(jù)
很明顯歌詞前面有歌詞呈現(xiàn)的時間,對于我們來說其屬于雜質信息贮庞,因此需要利用正則表達式進行匹配。誠然究西,正則表達式并不是唯一的方法窗慎,小伙伴們也可以采取切片的方式或者其他方法進行數(shù)據(jù)清洗,在此就不贅述了卤材。
得到歌詞之后便將其寫入到文件中去遮斥,并存入到本地文件中,代碼如下:
寫入文件和程序主體部分
現(xiàn)在只要我們運行程序扇丛,輸入歌手的ID之后术吗,程序將自動把該歌手的所唱歌曲的歌詞抓取下來,并存到本地中帆精。如本例中趙雷的ID是6731较屿,輸入數(shù)字6731之后,趙雷的歌詞將會被抓取到卓练,如下圖所示:
程序運行結果
之后我們就可以在腳本程序的同一目錄下找到生成的歌詞文本隘蝎,歌詞就被順利的爬取下來了。
相信大家對網(wǎng)易云歌詞爬取已經(jīng)有了一定的認識了襟企,不過easier said than down嘱么,小編建議大家動手親自敲一下代碼,在實踐中你會學的更快顽悼,學的更多的曼振。
這篇文章教會大家如何采集網(wǎng)易云歌詞几迄,那網(wǎng)易云歌曲如何采集呢?且聽小編下回分解~~~