編寫(xiě)爬蟲(chóng)之爬取淘寶上某寶貝該月的銷量

首先感謝【小甲魚(yú)】極客Python之效率革命凛辣。講的很好岸售,通俗易懂驾窟,適合入門(mén)舆床。

感興趣的朋友可以訪問(wèn)https://fishc.com.cn/forum-319-1.html來(lái)支持小甲魚(yú)檀咙。謝謝大家雅倒。
想要學(xué)習(xí)requests庫(kù)的可以查閱: https://fishc.com.cn/forum.php?mod=viewthread&tid=95893&extra=page%3D1%26filter%3Dtypeid%26typeid%3D701

1.找到目標(biāo)URL

https://s.taobao.com/search?q=XXXX寶貝的名字XXXXXX

我們先把源碼爬下來(lái)看看

# -*- coding:UTF-8 -*-
import requests

def open_url(keyword):
    payload = {'q': "零基礎(chǔ)入門(mén)學(xué)習(xí)Python", "sort": "sale-desc"}
    url = "https://s.taobao.com/search"
    headers = {
        "User-Agent": "Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/76.0.3809.87 Safari/537.36",
    }
    res = requests.get(url, params=payload, headers=headers)
    return res

def main():
    keyword = input(u"請(qǐng)輸入搜索關(guān)鍵詞:")
    res = open_url(keyword)

    with open('items.txt', 'w', encoding='utf-8') as file:
        file.write(res.text)

if __name__ == '__main__':
    main()

通過(guò)觀察發(fā)現(xiàn),我們想要的內(nèi)容好像就在這里;】伞蔑匣!然后我們就上正則,把這一塊摳出來(lái)


源碼.png

2.用正則來(lái)定位元素

# -*- coding:UTF-8 -*-
import re

def main():
    with open("items.txt", 'r', encoding="utf-8") as file1:
        # re.search(pattern, string, flags=0)
        g_page_config = re.search(r"g_page_config = (.*?);\n", file1.read())  #  .*? 表示匹配任意數(shù)量的重復(fù)棕诵,但是在能使整個(gè)匹配成功的前提下使用最少的重復(fù)
        with open("g_page_config.txt", 'w', encoding="utf-8") as file2:
            file2.write(g_page_config.group(1))

if __name__ == '__main__':
    main()
正則摳出來(lái)的內(nèi)容.png

發(fā)現(xiàn)內(nèi)容還是好多裁良,字典里面有字典,字典里面還有字典校套,頭大价脾,怎么辦?
我們就按照老辦法笛匙,把后綴名改成.json侨把,然后用火狐瀏覽器打開(kāi)。


定位.png

3.提取我們想要的數(shù)據(jù)(按銷量排序妹孙,統(tǒng)計(jì)前3頁(yè)所有的銷量)

# -*- coding:UTF-8 -*-
import re
import json
import requests

def open_url(keyword, page=1):
    # &s=0表示從第1個(gè)商品開(kāi)始顯示秋柄,由于1頁(yè)有44個(gè)商品,所以&s=44表示第二頁(yè)
    payload = {'q': keyword, 's': str((page - 1) * 44), "sort": "sale-desc"}
    url = "https://s.taobao.com/search"
    headers = {
        "User-Agent": "Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/76.0.3809.87 Safari/537.36",
    }
    res = requests.get(url, params=payload, headers=headers)
    return res


# 獲取列表頁(yè)的所有商品
def get_items(res):
    g_page_config = re.search(r"g_page_config = (.*?);\n", res.text)
    page_config_json = json.loads(g_page_config.group(1))  # 將已編碼的 JSON 字符串解碼為 Python 對(duì)象
    page_items = page_config_json['mods']['itemlist']['data']['auctions']

    results = []  # 整理出我們關(guān)注的信息
    for each_item in page_items:
        dict1 = dict.fromkeys(('nid', 'title', 'detail_url', 'view_price', 'view_sales', 'nick'))
        dict1['nid'] = each_item['nid']
        dict1['title'] = each_item['title']
        dict1['detail_url'] = each_item['detail_url']
        dict1['view_price'] = each_item['view_price']
        dict1['view_sales'] = each_item['view_sales']
        dict1['nick'] = each_item['nick']
        results.append(dict1)

    return results


# 統(tǒng)計(jì)該頁(yè)面所有商品的銷量
def count_sales(items):
    count = 0
    for each in items:
        if '小甲魚(yú)' in each['title']:
            count += int(re.search(r'\d+', each['view_sales']).group())
    return count


def main():
    keyword = input(u"請(qǐng)輸入搜索關(guān)鍵詞:")
    page = 3  # 前三頁(yè)
    total = 0
    for each in range(page):
        res = open_url(keyword, each+1)
        items = get_items(res)
        total += count_sales(items)
    print("總銷量是:", total)


if __name__ == '__main__':
    main()
輸出.png
最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末蠢正,一起剝皮案震驚了整個(gè)濱河市骇笔,隨后出現(xiàn)的幾起案子,更是在濱河造成了極大的恐慌,老刑警劉巖笨触,帶你破解...
    沈念sama閱讀 217,277評(píng)論 6 503
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件懦傍,死亡現(xiàn)場(chǎng)離奇詭異,居然都是意外死亡旭旭,警方通過(guò)查閱死者的電腦和手機(jī)谎脯,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 92,689評(píng)論 3 393
  • 文/潘曉璐 我一進(jìn)店門(mén),熙熙樓的掌柜王于貴愁眉苦臉地迎上來(lái)持寄,“玉大人源梭,你說(shuō)我怎么就攤上這事∩晕叮” “怎么了废麻?”我有些...
    開(kāi)封第一講書(shū)人閱讀 163,624評(píng)論 0 353
  • 文/不壞的土叔 我叫張陵,是天一觀的道長(zhǎng)模庐。 經(jīng)常有香客問(wèn)我烛愧,道長(zhǎng),這世上最難降的妖魔是什么掂碱? 我笑而不...
    開(kāi)封第一講書(shū)人閱讀 58,356評(píng)論 1 293
  • 正文 為了忘掉前任怜姿,我火速辦了婚禮,結(jié)果婚禮上疼燥,老公的妹妹穿的比我還像新娘沧卢。我一直安慰自己,他們只是感情好醉者,可當(dāng)我...
    茶點(diǎn)故事閱讀 67,402評(píng)論 6 392
  • 文/花漫 我一把揭開(kāi)白布但狭。 她就那樣靜靜地躺著,像睡著了一般撬即。 火紅的嫁衣襯著肌膚如雪立磁。 梳的紋絲不亂的頭發(fā)上,一...
    開(kāi)封第一講書(shū)人閱讀 51,292評(píng)論 1 301
  • 那天剥槐,我揣著相機(jī)與錄音唱歧,去河邊找鬼。 笑死粒竖,一個(gè)胖子當(dāng)著我的面吹牛迈喉,可吹牛的內(nèi)容都是我干的。 我是一名探鬼主播温圆,決...
    沈念sama閱讀 40,135評(píng)論 3 418
  • 文/蒼蘭香墨 我猛地睜開(kāi)眼挨摸,長(zhǎng)吁一口氣:“原來(lái)是場(chǎng)噩夢(mèng)啊……” “哼!你這毒婦竟也來(lái)了岁歉?” 一聲冷哼從身側(cè)響起得运,我...
    開(kāi)封第一講書(shū)人閱讀 38,992評(píng)論 0 275
  • 序言:老撾萬(wàn)榮一對(duì)情侶失蹤膝蜈,失蹤者是張志新(化名)和其女友劉穎,沒(méi)想到半個(gè)月后熔掺,有當(dāng)?shù)厝嗽跇?shù)林里發(fā)現(xiàn)了一具尸體饱搏,經(jīng)...
    沈念sama閱讀 45,429評(píng)論 1 314
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡,尸身上長(zhǎng)有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 37,636評(píng)論 3 334
  • 正文 我和宋清朗相戀三年置逻,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了推沸。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片。...
    茶點(diǎn)故事閱讀 39,785評(píng)論 1 348
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡券坞,死狀恐怖鬓催,靈堂內(nèi)的尸體忽然破棺而出,到底是詐尸還是另有隱情恨锚,我是刑警寧澤宇驾,帶...
    沈念sama閱讀 35,492評(píng)論 5 345
  • 正文 年R本政府宣布,位于F島的核電站猴伶,受9級(jí)特大地震影響课舍,放射性物質(zhì)發(fā)生泄漏。R本人自食惡果不足惜他挎,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 41,092評(píng)論 3 328
  • 文/蒙蒙 一筝尾、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧办桨,春花似錦筹淫、人聲如沸。這莊子的主人今日做“春日...
    開(kāi)封第一講書(shū)人閱讀 31,723評(píng)論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽(yáng)庵寞。三九已至狸相,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間捐川,已是汗流浹背脓鹃。 一陣腳步聲響...
    開(kāi)封第一講書(shū)人閱讀 32,858評(píng)論 1 269
  • 我被黑心中介騙來(lái)泰國(guó)打工, 沒(méi)想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留古沥,地道東北人瘸右。 一個(gè)月前我還...
    沈念sama閱讀 47,891評(píng)論 2 370
  • 正文 我出身青樓,卻偏偏與公主長(zhǎng)得像岩齿,于是被迫代替她去往敵國(guó)和親太颤。 傳聞我的和親對(duì)象是個(gè)殘疾皇子,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 44,713評(píng)論 2 354