爬蟲(chóng)筆記

urlopen(url, data, timeout)
第一個(gè)參數(shù)url即為URL朱浴,第二個(gè)參數(shù)data是訪(fǎng)問(wèn)URL時(shí)要傳送的數(shù)據(jù),第三個(gè)timeout是設(shè)置超時(shí)時(shí)間

import urllib2
response = urllib2.urlopen("http://www.baidu.com")
print response.read()

推薦寫(xiě)法(因?yàn)樵跇?gòu)造請(qǐng)求時(shí)還需要加入好多內(nèi)容趋距,通過(guò)構(gòu)建一個(gè)request月劈,服務(wù)器響應(yīng)請(qǐng)求得到應(yīng)答)

import urllib2
request = urllib2.Request("http://www.baidu.com")
response = urllib2.urlopen(request)
print response.read()

POST

import urlilb
import urllib2

values = {"username": "916859921@qq.com", "password":"XXX"}
data = urllib.urlencode(values)
url = "https://passport.csdn.net/account/login?from=http://my.csdn.net/my/mycsdn"
request = urllib2.Request(url, data)
response = urllib2.urlopen(request)
print response.read()

GET

import urlilb
import urllib2

values = {"username": "916859921@qq.com", "password":"XXX"}
data = urllib.urlencode(values)
url = "http://passport.csdn.net/account/login"
geturl = url + "?" + data
request = urllib2.Request(geturl, data)
response = urllib2.urlopen(request)
print response.read()

Headers

import urllib
import urllib2

url = "http://www.server.com/login"
user_agent = "Mozilla/5.0 (Macintosh; Intel Mac OS X 10_12_6) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/61.0.3163.100 Safari/537.36"
values = {"username":"916859921@qq.com", "password":"XXX"}
headers = {"User-Agent": user_agent}
data = urllib.urlencode(values)
request = urllib2.Reqeust(url, data, headers)
response = urllib2.urlopen(request)
page = response.read()

反盜鏈:對(duì)付防盜鏈呜袁,服務(wù)器會(huì)識(shí)別headers中的referer是不是它自己敌买,如果不是,有的服務(wù)器不會(huì)響應(yīng)阶界,在headers中加入referer來(lái)應(yīng)付防盜鏈

headers = {
"User-Agent":Mozilla/5.0 (Macintosh; Intel Mac OS X 10_12_6) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/61.0.3163.100 Safari/537.36,
"Referer":"http://www.zhihu.com/articles"
}

Proxy

加入一個(gè)網(wǎng)站它會(huì)檢測(cè)某一段時(shí)間某個(gè)IP的訪(fǎng)問(wèn)次數(shù)虹钮,如果訪(fǎng)問(wèn)次數(shù)過(guò)多,它會(huì)禁止你的訪(fǎng)問(wèn)膘融。解決辦法:設(shè)置一些代理服務(wù)器來(lái)每隔一段時(shí)間換一個(gè)代理芙粱。

import urllib2
enable_proxy = True
proxy_handler = urllib2.ProxyHandler({"http": "http://some-proxy.com:8080"})
null_proxy_handler = urllib2.ProxyHandler({})
if enable_proxy:
    opener = urllib2.build_opener(proxy_handler)
else:
    opener = urllib2.build_opener(null_proxy_handler)
urllib2.install_opener(opener)

Timeout

import urllib2
response = urllib2.urlopen("http://www.baidu.com", timeout = 10)

response = urllib2.urlopen("http://www.baidu.com", data, 10)

URLError

import urllib2
request = urllib2.Request("http://www.xxxxx.com")
try:
    urllib2.urlopen(request)
except urllib2.URLError, e:
    print e.reason

# [Errno 11004] getaddrinfo failed

HTTPError

HTTPError是URLError的子類(lèi)

import urllib2
request = urllib2.Request("http://blog.csdn.net/cqcre")
try:
    urllib2.urlopen(request)
except urllib2.HTTPError, e:
    print e.code
    print e.reason
import urllib2
request = urllib2.Request("http://blog.csdn.net/cqcre")
try:
    urllib2.urlopen(request)
except urllib2.HTTPError, e:
    print e.code
except urllib2.URLError, e:
    print e.reason
else:
    print "OK"
最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末,一起剝皮案震驚了整個(gè)濱河市氧映,隨后出現(xiàn)的幾起案子春畔,更是在濱河造成了極大的恐慌,老刑警劉巖岛都,帶你破解...
    沈念sama閱讀 219,039評(píng)論 6 508
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件律姨,死亡現(xiàn)場(chǎng)離奇詭異,居然都是意外死亡臼疫,警方通過(guò)查閱死者的電腦和手機(jī)择份,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 93,426評(píng)論 3 395
  • 文/潘曉璐 我一進(jìn)店門(mén),熙熙樓的掌柜王于貴愁眉苦臉地迎上來(lái)烫堤,“玉大人荣赶,你說(shuō)我怎么就攤上這事「胝澹” “怎么了拔创?”我有些...
    開(kāi)封第一講書(shū)人閱讀 165,417評(píng)論 0 356
  • 文/不壞的土叔 我叫張陵,是天一觀(guān)的道長(zhǎng)湾盗。 經(jīng)常有香客問(wèn)我伏蚊,道長(zhǎng)立轧,這世上最難降的妖魔是什么格粪? 我笑而不...
    開(kāi)封第一講書(shū)人閱讀 58,868評(píng)論 1 295
  • 正文 為了忘掉前任,我火速辦了婚禮氛改,結(jié)果婚禮上帐萎,老公的妹妹穿的比我還像新娘。我一直安慰自己胜卤,他們只是感情好疆导,可當(dāng)我...
    茶點(diǎn)故事閱讀 67,892評(píng)論 6 392
  • 文/花漫 我一把揭開(kāi)白布。 她就那樣靜靜地躺著葛躏,像睡著了一般澈段。 火紅的嫁衣襯著肌膚如雪悠菜。 梳的紋絲不亂的頭發(fā)上,一...
    開(kāi)封第一講書(shū)人閱讀 51,692評(píng)論 1 305
  • 那天败富,我揣著相機(jī)與錄音悔醋,去河邊找鬼。 笑死兽叮,一個(gè)胖子當(dāng)著我的面吹牛芬骄,可吹牛的內(nèi)容都是我干的。 我是一名探鬼主播鹦聪,決...
    沈念sama閱讀 40,416評(píng)論 3 419
  • 文/蒼蘭香墨 我猛地睜開(kāi)眼账阻,長(zhǎng)吁一口氣:“原來(lái)是場(chǎng)噩夢(mèng)啊……” “哼!你這毒婦竟也來(lái)了泽本?” 一聲冷哼從身側(cè)響起淘太,我...
    開(kāi)封第一講書(shū)人閱讀 39,326評(píng)論 0 276
  • 序言:老撾萬(wàn)榮一對(duì)情侶失蹤,失蹤者是張志新(化名)和其女友劉穎观挎,沒(méi)想到半個(gè)月后琴儿,有當(dāng)?shù)厝嗽跇?shù)林里發(fā)現(xiàn)了一具尸體,經(jīng)...
    沈念sama閱讀 45,782評(píng)論 1 316
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡嘁捷,尸身上長(zhǎng)有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 37,957評(píng)論 3 337
  • 正文 我和宋清朗相戀三年造成,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片雄嚣。...
    茶點(diǎn)故事閱讀 40,102評(píng)論 1 350
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡晒屎,死狀恐怖,靈堂內(nèi)的尸體忽然破棺而出缓升,到底是詐尸還是另有隱情鼓鲁,我是刑警寧澤,帶...
    沈念sama閱讀 35,790評(píng)論 5 346
  • 正文 年R本政府宣布港谊,位于F島的核電站骇吭,受9級(jí)特大地震影響,放射性物質(zhì)發(fā)生泄漏歧寺。R本人自食惡果不足惜燥狰,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 41,442評(píng)論 3 331
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望斜筐。 院中可真熱鬧龙致,春花似錦、人聲如沸顷链。這莊子的主人今日做“春日...
    開(kāi)封第一講書(shū)人閱讀 31,996評(píng)論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽(yáng)。三九已至榛了,卻和暖如春在讶,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背霜大。 一陣腳步聲響...
    開(kāi)封第一講書(shū)人閱讀 33,113評(píng)論 1 272
  • 我被黑心中介騙來(lái)泰國(guó)打工真朗, 沒(méi)想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留,地道東北人僧诚。 一個(gè)月前我還...
    沈念sama閱讀 48,332評(píng)論 3 373
  • 正文 我出身青樓遮婶,卻偏偏與公主長(zhǎng)得像,于是被迫代替她去往敵國(guó)和親湖笨。 傳聞我的和親對(duì)象是個(gè)殘疾皇子旗扑,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 45,044評(píng)論 2 355

推薦閱讀更多精彩內(nèi)容