Python爬蟲實踐--爬取網(wǎng)易云音樂

前言

最近疚俱,網(wǎng)易的音樂很多聽不到了呆奕,剛好也看到很多教程,跟進學習了一下,也集大全了吧秦忿,本來想優(yōu)化一下的灯谣,但是發(fā)現(xiàn)問題還是有點復雜胎许,最后另辟捷徑辜窑,提供了簡單的方法啊所禀!

Python + 爬蟲

首先恭金,說一下準備工作:

  • Python:需要基本的python語法基礎(chǔ)
  • requests:專業(yè)用于請求處理蔚叨,requests庫學習文檔中文版
  • lxml:其實可以用python自帶的正則表達式庫re,但是為了更加簡單入門搀别,用 lxml 中的 etree 進行網(wǎng)頁數(shù)據(jù)定位爬取。
  • re:python正則表達式處理
  • json:python的json處理庫
    然后榜苫,說一下現(xiàn)在已經(jīng)知道下載鏈接是這樣的:
http://music.163.com/song/media/outer/url?id='

id 就是歌曲的id!

所以驹饺,現(xiàn)在我們爬蟲主要的工作就是找到這個id,當然為了更好的保存,也要找到這個歌名啦菩佑!

那現(xiàn)在就是要找到我們需要爬蟲的網(wǎng)站鏈接啦!我分析了一下劣光,大概是下面三種:

#歌曲清單
music_list = 'https://music.163.com/#/playlist?id=2412826586' 
#歌手排行榜
artist_list = 'https://music.163.com/#/artist?id=8325'
#搜索列表 
search_list = 'https://music.163.com/#/search/m/?order=hot&cat=全部&limit=435&offset=435&s=梁靜茹' 

如果你已經(jīng)只是想下載一首歌,比如靜茹-勇氣:https://music.163.com/#/song?id=254485雄可,那你直接就用瀏覽器打開 http://music.163.com/song/media/outer/url?id=254485 就可以了凿傅,沒必要爬蟲啊!

下載歌詞

如果還要下載歌詞虐急,那也很簡單被辑,通過接口,有歌曲的id就可以:

url = 'http://music.163.com/api/song/lyric?id={}&lv=-1&kv=-1&tv=-1'.format(song_id)

返回的json數(shù)據(jù)大概長這樣

{
    sgc: true,
    sfy: false,
    qfy: false,
    lrc:
    {
        version: 7,
        lyric: "[00:39.070]開了窗 等待天亮\n[00:46.160]看這城市 悄悄的 熄了光\n[00:51.850]聽風的方向\n[00:55.090]這一刻 是否和我一樣\n[00:58.730]孤單的飛翔\n[01:02.300]模糊了眼眶\n[01:07.760]廣播里 那首歌曲\n[01:14.830]重復當時 那條街那個你\n[01:20.410]相同的桌椅\n[01:23.740]不用言語 就會有默契\n[01:27.470]這份親密\n[01:30.560]那么熟悉\n[01:33.850]在愛里 等著你\n[01:37.480]被你疼惜 有種暖意\n[01:41.090]在夢里 全是你\n[01:43.920]不要再遲疑 把我抱緊"
    },
    klyric:
    {
        version: 0,
        lyric: null
    },
    tlyric:
    {
        version: 0,
        lyric: null
    },
    code: 200
}

坑點與進階

表面上很簡單举哟,但是需要注意的是秽褒,網(wǎng)易返回的鏈接,數(shù)據(jù)是js動態(tài)加載威兜,也就是爬蟲得到的網(wǎng)頁數(shù)據(jù)和瀏覽器得到的dom內(nèi)容和結(jié)構(gòu)不一樣销斟!

其中,搜索列表爬蟲回來的內(nèi)容笔宿,完全得不到歌曲id@缰印@庥铡!

解決

解決方法也是有的涝动!

python模擬瀏覽器

使用selenium+phantomjs無界面瀏覽器迈勋,這兩者的結(jié)合其實就是直接操作瀏覽器,可以獲取JavaScript渲染后的頁面數(shù)據(jù)醋粟。

缺點

由于是無界面瀏覽器靡菇,采用此方案效率極低,如果大批量抓取不推薦米愿。

對于異步請求并且數(shù)據(jù)在源碼中并不存在的厦凤,同時也就無法抓取到的數(shù)據(jù)。

搜索的歌曲變成歌單

比如想下載全部的某一歌手的全部音樂育苟,用手機云音樂搜索较鼓,然后全部保存到新建一個歌單,這樣就可以啦宙搬!

總結(jié)

用python笨腥,就一定要簡單,我認為復雜的東西勇垛,還是盡量少做脖母,能取巧就取巧,所以本文沒有使用selenium+phantomjs實踐闲孤。

注:本文只是技術(shù)交流谆级,請不要商業(yè)用途~ 如有違反,本人一概不負責讼积。

全部代碼
又是非常簡單的100行代碼完事7收铡!勤众!

import os
import re
import json
import requests
from lxml import etree


def download_songs(url=None):
    if url is None:
        url = 'https://music.163.com/#/playlist?id=2384642500'

    url = url.replace('/#', '').replace('https', 'http')  # 對字符串進行去空格和轉(zhuǎn)協(xié)議處理
    # 網(wǎng)易云音樂外鏈url接口:http://music.163.com/song/media/outer/url?id=xxxx
    out_link = 'http://music.163.com/song/media/outer/url?id='
    # 請求頭
    headers = {
        'User-Agent': 'Mozilla/5.0 (Macintosh; Intel Mac OS X 10_13_6) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/68.0.3440.106 Safari/537.36',
        'Referer': 'https://music.163.com/',
        'Host': 'music.163.com'
    }
    # 請求頁面的源碼
    res = requests.get(url=url, headers=headers).text

    tree = etree.HTML(res)
    # 音樂列表
    song_list = tree.xpath('//ul[@class="f-hide"]/li/a')
    # 如果是歌手頁面
    artist_name_tree = tree.xpath('//h2[@id="artist-name"]/text()')
    artist_name = str(artist_name_tree[0]) if artist_name_tree else None

    # 如果是歌單頁面:
    #song_list_tree = tree.xpath('//*[@id="m-playlist"]/div[1]/div/div/div[2]/div[2]/div/div[1]/table/tbody')
    song_list_name_tree = tree.xpath('//h2[contains(@class,"f-ff2")]/text()')
    song_list_name = str(song_list_name_tree[0]) if song_list_name_tree else None

    # 設(shè)置音樂下載的文件夾為歌手名字或歌單名
    folder = './' + artist_name if artist_name else './' + song_list_name

    if not os.path.exists(folder):
        os.mkdir(folder)

    for i, s in enumerate(song_list):
        href = str(s.xpath('./@href')[0])
        song_id = href.split('=')[-1]
        src = out_link + song_id  # 拼接獲取音樂真實的src資源值
        title = str(s.xpath('./text()')[0])  # 音樂的名字
        filename = title + '.mp3'
        filepath = folder + '/' + filename
        print('開始下載第{}首音樂:{}\n'.format(i + 1, filename))

        try:  # 下載音樂
            #下載歌詞
            #download_lyric(title, song_id)

            data = requests.get(src).content  # 音樂的二進制數(shù)據(jù)

            with open(filepath, 'wb') as f:
                f.write(data)
        except Exception as e:
            print(e)

    print('{}首全部歌曲已經(jīng)下載完畢舆绎!'.format(len(song_list)))


def download_lyric(song_name, song_id):
    url = 'http://music.163.com/api/song/lyric?id={}&lv=-1&kv=-1&tv=-1'.format(song_id)
    # 請求頭
    headers = {
        'User-Agent': 'Mozilla/5.0 (Macintosh; Intel Mac OS X 10_13_6) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/68.0.3440.106 Safari/537.36',
        'Referer': 'https://music.163.com/',
        'Host': 'music.163.com'
        # 'Origin': 'https://music.163.com'
    }
    # 請求頁面的源碼
    res = requests.get(url=url, headers=headers).text
    json_obj = json.loads(res)
    lyric = json_obj['lrc']['lyric']
    reg = re.compile(r'\[.*\]')
    lrc_text = re.sub(reg, '', lyric).strip()

    print(song_name, lrc_text)




if __name__ == '__main__':
    #music_list = 'https://music.163.com/#/playlist?id=2384642500' #歌曲清單
    music_list = 'https://music.163.com/#/artist?id=8325' #歌手排行榜
    # music_list = 'https://music.163.com/#/search/m/?order=hot&cat=全部&limit=435&offset=435&s=梁靜茹' #搜索列表
    download_songs(music_list)

如有疑問,歡迎在評論區(qū)一起討論们颜!
如有不正確的地方吕朵,歡迎指導!

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末窥突,一起剝皮案震驚了整個濱河市努溃,隨后出現(xiàn)的幾起案子,更是在濱河造成了極大的恐慌阻问,老刑警劉巖梧税,帶你破解...
    沈念sama閱讀 216,372評論 6 498
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件,死亡現(xiàn)場離奇詭異,居然都是意外死亡第队,警方通過查閱死者的電腦和手機哮塞,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 92,368評論 3 392
  • 文/潘曉璐 我一進店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來斥铺,“玉大人彻桃,你說我怎么就攤上這事×乐” “怎么了邻眷?”我有些...
    開封第一講書人閱讀 162,415評論 0 353
  • 文/不壞的土叔 我叫張陵,是天一觀的道長剔交。 經(jīng)常有香客問我肆饶,道長,這世上最難降的妖魔是什么岖常? 我笑而不...
    開封第一講書人閱讀 58,157評論 1 292
  • 正文 為了忘掉前任驯镊,我火速辦了婚禮,結(jié)果婚禮上竭鞍,老公的妹妹穿的比我還像新娘板惑。我一直安慰自己,他們只是感情好偎快,可當我...
    茶點故事閱讀 67,171評論 6 388
  • 文/花漫 我一把揭開白布冯乘。 她就那樣靜靜地躺著,像睡著了一般晒夹。 火紅的嫁衣襯著肌膚如雪裆馒。 梳的紋絲不亂的頭發(fā)上,一...
    開封第一講書人閱讀 51,125評論 1 297
  • 那天丐怯,我揣著相機與錄音喷好,去河邊找鬼。 笑死读跷,一個胖子當著我的面吹牛梗搅,可吹牛的內(nèi)容都是我干的。 我是一名探鬼主播效览,決...
    沈念sama閱讀 40,028評論 3 417
  • 文/蒼蘭香墨 我猛地睜開眼些膨,長吁一口氣:“原來是場噩夢啊……” “哼!你這毒婦竟也來了钦铺?” 一聲冷哼從身側(cè)響起,我...
    開封第一講書人閱讀 38,887評論 0 274
  • 序言:老撾萬榮一對情侶失蹤肢预,失蹤者是張志新(化名)和其女友劉穎矛洞,沒想到半個月后,有當?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體,經(jīng)...
    沈念sama閱讀 45,310評論 1 310
  • 正文 獨居荒郊野嶺守林人離奇死亡沼本,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點故事閱讀 37,533評論 2 332
  • 正文 我和宋清朗相戀三年噩峦,在試婚紗的時候發(fā)現(xiàn)自己被綠了。 大學時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片抽兆。...
    茶點故事閱讀 39,690評論 1 348
  • 序言:一個原本活蹦亂跳的男人離奇死亡识补,死狀恐怖,靈堂內(nèi)的尸體忽然破棺而出辫红,到底是詐尸還是另有隱情凭涂,我是刑警寧澤,帶...
    沈念sama閱讀 35,411評論 5 343
  • 正文 年R本政府宣布贴妻,位于F島的核電站切油,受9級特大地震影響,放射性物質(zhì)發(fā)生泄漏名惩。R本人自食惡果不足惜澎胡,卻給世界環(huán)境...
    茶點故事閱讀 41,004評論 3 325
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望娩鹉。 院中可真熱鬧攻谁,春花似錦、人聲如沸弯予。這莊子的主人今日做“春日...
    開封第一講書人閱讀 31,659評論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽熙涤。三九已至阁苞,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間祠挫,已是汗流浹背那槽。 一陣腳步聲響...
    開封第一講書人閱讀 32,812評論 1 268
  • 我被黑心中介騙來泰國打工, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留等舔,地道東北人骚灸。 一個月前我還...
    沈念sama閱讀 47,693評論 2 368
  • 正文 我出身青樓,卻偏偏與公主長得像慌植,于是被迫代替她去往敵國和親甚牲。 傳聞我的和親對象是個殘疾皇子,可洞房花燭夜當晚...
    茶點故事閱讀 44,577評論 2 353

推薦閱讀更多精彩內(nèi)容