爬m(xù).weibo站

最近需要一些拍照的指導,想爬取微博里的相冊拾积,m站比pc站好爬,先看看pc的network丰涉。
順利找到網(wǎng)址拓巧,不過pc的分頁方式讓我分方,感覺像是開始以為是時間戳一死,可能是圖片的數(shù)據(jù)庫自生成id肛度,這樣一來就只能一頁24個圖像來爬,很慢投慈。


還是看看m站承耿,要訪問m站,需要的工具伪煤,chrome加袋。
還是先在pc端用chrome開要下載的頁面,比如這次的 黃二疑的相冊
https://weibo.com/p/1005052298961991/photos?from=page_100505&mod=TAB#place
然后F12抱既,左上角防移動端圖標


頁面就會變成這樣

刷新就可以了职烧。
在XHR發(fā)現(xiàn)了數(shù)據(jù)網(wǎng)址。
https://m.weibo.cn/api/container/getSecond?containerid=1078032298961991_-_photoall&page=2&count=24&title=%25E5%259B%25BE%25E7%2589%2587%25E5%25A2%2599&luicode=10000011&lfid=1078032298961991

看了看網(wǎng)址的參數(shù)防泵,page=2&count=24蚀之,應(yīng)該是一次返回多少數(shù)據(jù)的參數(shù),其他的containerid應(yīng)該是博主的id捷泞,假如我想爬其他博主的恬总,只要有了id就能構(gòu)造url來訪問了。

試試先爬100個圖肚邢。
https://m.weibo.cn/api/container/getSecond?containerid=1078032298961991_-_photoall&page=1&count=100&title=%25E5%259B%25BE%25E7%2589%2587%25E5%25A2%2599&luicode=10000011&lfid=1078032298961991
看看結(jié)果:果然回傳100個圖的數(shù)據(jù)壹堰。


接下來的就很簡單了

import requests
import json
import re
import shutil
def mweibo():
    url ='https://m.weibo.cn/api/container/getSecond'
    headers ={
       'User-Agent': 'Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/68.0.3440.106 Safari/537.36'
    }
    params ={
        'containerid': '1078031353112775_-_photolike',
        'page': 1,
        'count': 100,
        'title': '%E8%B5%9E%E8%BF%87%E7%9A%84%E5%9B%BE%E7%89%87',
        'luicode': 10000011,
        'lfid': 1078031353112775,
        'type': 'uid',
        'value': 1353112775}

    res = requests.get(url,headers =headers,params=params)
    iurl = re.findall('"pic_middle":"(.*?)","pic_', res.text)
    
    for imgurl in iurl:
        name = imgurl.split('\\/')[-1]
        imgeurl = 'http://wx4.sinaimg.cn/mw1024/' + name
        res2 = requests.get(imgeurl, stream=True, headers=headers)
        f = open(name, 'wb')
        shutil.copyfileobj(res2.raw,f)
        f.close()
        del res2

回傳的是標準json,為啥沒有用json來解析骡湖,因為微博弄得json及其復雜贱纠,dict先套了一層list又套一層dict再來一層list才到url。這個小伙伴用的json解析
直接用re正則比較快响蕴。

m站的另一個問題是經(jīng)常刷不出數(shù)據(jù)谆焊,原以為是headers沒構(gòu)造好,但是我用手機上m站也是不行浦夷,搞不清楚為啥辖试,好像帶著登陸之后的cookies要好點辜王,就直接導致數(shù)據(jù)時有時無,有點憂傷罐孝。

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末呐馆,一起剝皮案震驚了整個濱河市,隨后出現(xiàn)的幾起案子莲兢,更是在濱河造成了極大的恐慌汹来,老刑警劉巖,帶你破解...
    沈念sama閱讀 218,941評論 6 508
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件改艇,死亡現(xiàn)場離奇詭異收班,居然都是意外死亡,警方通過查閱死者的電腦和手機谒兄,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 93,397評論 3 395
  • 文/潘曉璐 我一進店門摔桦,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人承疲,你說我怎么就攤上這事邻耕。” “怎么了纪隙?”我有些...
    開封第一講書人閱讀 165,345評論 0 356
  • 文/不壞的土叔 我叫張陵,是天一觀的道長扛或。 經(jīng)常有香客問我绵咱,道長,這世上最難降的妖魔是什么熙兔? 我笑而不...
    開封第一講書人閱讀 58,851評論 1 295
  • 正文 為了忘掉前任悲伶,我火速辦了婚禮,結(jié)果婚禮上住涉,老公的妹妹穿的比我還像新娘麸锉。我一直安慰自己,他們只是感情好舆声,可當我...
    茶點故事閱讀 67,868評論 6 392
  • 文/花漫 我一把揭開白布花沉。 她就那樣靜靜地躺著,像睡著了一般媳握。 火紅的嫁衣襯著肌膚如雪碱屁。 梳的紋絲不亂的頭發(fā)上,一...
    開封第一講書人閱讀 51,688評論 1 305
  • 那天蛾找,我揣著相機與錄音娩脾,去河邊找鬼。 笑死打毛,一個胖子當著我的面吹牛柿赊,可吹牛的內(nèi)容都是我干的俩功。 我是一名探鬼主播,決...
    沈念sama閱讀 40,414評論 3 418
  • 文/蒼蘭香墨 我猛地睜開眼碰声,長吁一口氣:“原來是場噩夢啊……” “哼诡蜓!你這毒婦竟也來了?” 一聲冷哼從身側(cè)響起奥邮,我...
    開封第一講書人閱讀 39,319評論 0 276
  • 序言:老撾萬榮一對情侶失蹤万牺,失蹤者是張志新(化名)和其女友劉穎,沒想到半個月后洽腺,有當?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體脚粟,經(jīng)...
    沈念sama閱讀 45,775評論 1 315
  • 正文 獨居荒郊野嶺守林人離奇死亡,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點故事閱讀 37,945評論 3 336
  • 正文 我和宋清朗相戀三年蘸朋,在試婚紗的時候發(fā)現(xiàn)自己被綠了核无。 大學時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片。...
    茶點故事閱讀 40,096評論 1 350
  • 序言:一個原本活蹦亂跳的男人離奇死亡藕坯,死狀恐怖团南,靈堂內(nèi)的尸體忽然破棺而出,到底是詐尸還是另有隱情炼彪,我是刑警寧澤吐根,帶...
    沈念sama閱讀 35,789評論 5 346
  • 正文 年R本政府宣布,位于F島的核電站辐马,受9級特大地震影響拷橘,放射性物質(zhì)發(fā)生泄漏。R本人自食惡果不足惜喜爷,卻給世界環(huán)境...
    茶點故事閱讀 41,437評論 3 331
  • 文/蒙蒙 一冗疮、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧檩帐,春花似錦术幔、人聲如沸。這莊子的主人今日做“春日...
    開封第一講書人閱讀 31,993評論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽。三九已至泛源,卻和暖如春揍障,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背俩由。 一陣腳步聲響...
    開封第一講書人閱讀 33,107評論 1 271
  • 我被黑心中介騙來泰國打工毒嫡, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留,地道東北人。 一個月前我還...
    沈念sama閱讀 48,308評論 3 372
  • 正文 我出身青樓兜畸,卻偏偏與公主長得像努释,于是被迫代替她去往敵國和親。 傳聞我的和親對象是個殘疾皇子咬摇,可洞房花燭夜當晚...
    茶點故事閱讀 45,037評論 2 355