Python爬蟲(chóng)模擬登錄urllib&requests方式

方式一urllib:

導(dǎo)入包

'''
from urllib import request,parse
from http import cookiejar
'''

登錄時(shí)需要POST的數(shù)據(jù)

date = {
'email':email,
'password':password
}
post_data = parse.urlencode(data).encode('utf-8')

設(shè)置請(qǐng)求頭

refer字段代表來(lái)源地

headers = {
'User-agent':'xxx',
'cookie':'xxx',
'refer':'xxx'
}

登錄時(shí)表單提交到的地址(用開(kāi)發(fā)者工具可以看到)

login_url = ' http://xxxxx'

構(gòu)造登錄請(qǐng)求

req = request.Request(login_url, headers = headers, data = post_data)

構(gòu)造cookie

cookie = cookiejar.CookieJar()

由cookie構(gòu)造opener

handler = request.HTTPCookieProcessor(cookie)
opener = request.build_opener(handler)

發(fā)送登錄請(qǐng)求盔然,此后這個(gè)opener就攜帶了cookie们童,以證明自己登錄過(guò)

resp = opener.open(req)

登錄后才能訪問(wèn)的網(wǎng)頁(yè)

url = 'xxx'

構(gòu)造訪問(wèn)請(qǐng)求

req = urllib.request.Request(url, headers = headers)

resp = opener.open(req)

print(resp.read().decode('utf-8'))

方式二requests:

import requests

登錄后才能訪問(wèn)的網(wǎng)頁(yè)

url = 'xxxx'

瀏覽器登錄后得到的cookie,也就是剛才復(fù)制的字符串

cookie_str = r'JSESSIONID=xxxxxxxxxxxxxxxxxxxxxx; iPlanetDirectoryPro=xxxxxxxxxxxxxxxxxx'

把cookie字符串處理成字典片择,以便接下來(lái)使用

cookies = {}
for line in cookie_str.split(';'):
key, value = line.split('=', 1)
cookies[key] = value

設(shè)置請(qǐng)求頭

headers = {'User-agent':'xxx'}

在發(fā)送get請(qǐng)求時(shí)帶上請(qǐng)求頭和cookies

resp = requests.get(url, headers = headers, cookies = cookies)

print(resp.content.decode('utf-8'))

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末盾计,一起剝皮案震驚了整個(gè)濱河市链患,隨后出現(xiàn)的幾起案子派敷,更是在濱河造成了極大的恐慌所刀,老刑警劉巖嫡霞,帶你破解...
    沈念sama閱讀 222,590評(píng)論 6 517
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件瓶埋,死亡現(xiàn)場(chǎng)離奇詭異,居然都是意外死亡诊沪,警方通過(guò)查閱死者的電腦和手機(jī)养筒,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 95,157評(píng)論 3 399
  • 文/潘曉璐 我一進(jìn)店門(mén)肉康,熙熙樓的掌柜王于貴愁眉苦臉地迎上來(lái)砖顷,“玉大人迂猴,你說(shuō)我怎么就攤上這事衫画。” “怎么了摊腋?”我有些...
    開(kāi)封第一講書(shū)人閱讀 169,301評(píng)論 0 362
  • 文/不壞的土叔 我叫張陵犀被,是天一觀的道長(zhǎng)厕倍。 經(jīng)常有香客問(wèn)我昏鹃,道長(zhǎng)尚氛,這世上最難降的妖魔是什么? 我笑而不...
    開(kāi)封第一講書(shū)人閱讀 60,078評(píng)論 1 300
  • 正文 為了忘掉前任洞渤,我火速辦了婚禮阅嘶,結(jié)果婚禮上,老公的妹妹穿的比我還像新娘载迄。我一直安慰自己讯柔,他們只是感情好,可當(dāng)我...
    茶點(diǎn)故事閱讀 69,082評(píng)論 6 398
  • 文/花漫 我一把揭開(kāi)白布护昧。 她就那樣靜靜地躺著魂迄,像睡著了一般。 火紅的嫁衣襯著肌膚如雪惋耙。 梳的紋絲不亂的頭發(fā)上极祸,一...
    開(kāi)封第一講書(shū)人閱讀 52,682評(píng)論 1 312
  • 那天慈格,我揣著相機(jī)與錄音怠晴,去河邊找鬼遥金。 笑死,一個(gè)胖子當(dāng)著我的面吹牛蒜田,可吹牛的內(nèi)容都是我干的稿械。 我是一名探鬼主播,決...
    沈念sama閱讀 41,155評(píng)論 3 422
  • 文/蒼蘭香墨 我猛地睜開(kāi)眼冲粤,長(zhǎng)吁一口氣:“原來(lái)是場(chǎng)噩夢(mèng)啊……” “哼美莫!你這毒婦竟也來(lái)了?” 一聲冷哼從身側(cè)響起梯捕,我...
    開(kāi)封第一講書(shū)人閱讀 40,098評(píng)論 0 277
  • 序言:老撾萬(wàn)榮一對(duì)情侶失蹤厢呵,失蹤者是張志新(化名)和其女友劉穎,沒(méi)想到半個(gè)月后傀顾,有當(dāng)?shù)厝嗽跇?shù)林里發(fā)現(xiàn)了一具尸體襟铭,經(jīng)...
    沈念sama閱讀 46,638評(píng)論 1 319
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡,尸身上長(zhǎng)有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 38,701評(píng)論 3 342
  • 正文 我和宋清朗相戀三年短曾,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了寒砖。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片。...
    茶點(diǎn)故事閱讀 40,852評(píng)論 1 353
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡嫉拐,死狀恐怖哩都,靈堂內(nèi)的尸體忽然破棺而出,到底是詐尸還是另有隱情婉徘,我是刑警寧澤漠嵌,帶...
    沈念sama閱讀 36,520評(píng)論 5 351
  • 正文 年R本政府宣布,位于F島的核電站盖呼,受9級(jí)特大地震影響儒鹿,放射性物質(zhì)發(fā)生泄漏。R本人自食惡果不足惜塌计,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 42,181評(píng)論 3 335
  • 文/蒙蒙 一挺身、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧锌仅,春花似錦章钾、人聲如沸。這莊子的主人今日做“春日...
    開(kāi)封第一講書(shū)人閱讀 32,674評(píng)論 0 25
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽(yáng)。三九已至伊脓,卻和暖如春府寒,著一層夾襖步出監(jiān)牢的瞬間魁衙,已是汗流浹背。 一陣腳步聲響...
    開(kāi)封第一講書(shū)人閱讀 33,788評(píng)論 1 274
  • 我被黑心中介騙來(lái)泰國(guó)打工株搔, 沒(méi)想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留剖淀,地道東北人。 一個(gè)月前我還...
    沈念sama閱讀 49,279評(píng)論 3 379
  • 正文 我出身青樓纤房,卻偏偏與公主長(zhǎng)得像纵隔,于是被迫代替她去往敵國(guó)和親。 傳聞我的和親對(duì)象是個(gè)殘疾皇子炮姨,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 45,851評(píng)論 2 361

推薦閱讀更多精彩內(nèi)容