urllib模塊介紹和用法

urllib常用的方法有,URLopen,parse,request.error病苗。

下面我們來簡單說一下它們的用法

urllib:就是向網(wǎng)頁發(fā)起請求,至于怎么發(fā)起我們就直接上代碼了

#首先我們導(dǎo)入我們需要的包
import urllib.urlopen
#我們定義一個url
#輸入我們要訪問的網(wǎng)址
url = 'www.badu.com'
#這里我們要設(shè)置一個UA
haer = {
      'User-Agent':'Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/63.0.3239.26 Safari/537.36 Core/1.63.6801.400 QQBrowser/10.3.2928.400'
}
#這里是吧參數(shù)傳給urlopen讓他知道我們要訪問什么網(wǎng)址,返回一個request
request = urllib.request.Request(url=url,haders=haer)
#這一步是用urlopen向我們定義的url發(fā)起請求
response = urllib.request.urlopen(request)
if response.status==200:
    #這我們用到lparse模塊的解碼
     ym = response.read().decode()
     print(ym)
#這就urlopen的用法了

下面我們簡單說一下怎么自定義opener來使用代理來發(fā)起請求

#首先我們先導(dǎo)入我們需要的包
from urllib import request,error
#構(gòu)建多個代理
proxy = {
'https':'182.111.64.7:41766',
'https':'111.194.96.166:8118',
}
 #使用我們的代理發(fā)起請求

proxy_handler = request.ProxyHandler(
proxies=proxy
)
#實例化一個opener對象
opener = request.build_opener(proxy_handler)
#定義url
url = 'http://www.baidu.com/'
#使用我們剛才我們的自定義發(fā)起請求
response = opener.open(request)
if response.status==200:

     ym = response.read().decode()
     print(ym)

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末症汹,一起剝皮案震驚了整個濱河市铅乡,隨后出現(xiàn)的幾起案子,更是在濱河造成了極大的恐慌烈菌,老刑警劉巖,帶你破解...
    沈念sama閱讀 217,734評論 6 505
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件花履,死亡現(xiàn)場離奇詭異芽世,居然都是意外死亡,警方通過查閱死者的電腦和手機诡壁,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 92,931評論 3 394
  • 文/潘曉璐 我一進(jìn)店門济瓢,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人妹卿,你說我怎么就攤上這事旺矾。” “怎么了夺克?”我有些...
    開封第一講書人閱讀 164,133評論 0 354
  • 文/不壞的土叔 我叫張陵箕宙,是天一觀的道長。 經(jīng)常有香客問我铺纽,道長柬帕,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 58,532評論 1 293
  • 正文 為了忘掉前任,我火速辦了婚禮陷寝,結(jié)果婚禮上锅很,老公的妹妹穿的比我還像新娘。我一直安慰自己凤跑,他們只是感情好爆安,可當(dāng)我...
    茶點故事閱讀 67,585評論 6 392
  • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著仔引,像睡著了一般扔仓。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上肤寝,一...
    開封第一講書人閱讀 51,462評論 1 302
  • 那天当辐,我揣著相機與錄音,去河邊找鬼鲤看。 笑死缘揪,一個胖子當(dāng)著我的面吹牛义桂,可吹牛的內(nèi)容都是我干的找筝。 我是一名探鬼主播,決...
    沈念sama閱讀 40,262評論 3 418
  • 文/蒼蘭香墨 我猛地睜開眼袖裕,長吁一口氣:“原來是場噩夢啊……” “哼!你這毒婦竟也來了急鳄?” 一聲冷哼從身側(cè)響起,我...
    開封第一講書人閱讀 39,153評論 0 276
  • 序言:老撾萬榮一對情侶失蹤堰酿,失蹤者是張志新(化名)和其女友劉穎疾宏,沒想到半個月后,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體触创,經(jīng)...
    沈念sama閱讀 45,587評論 1 314
  • 正文 獨居荒郊野嶺守林人離奇死亡,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點故事閱讀 37,792評論 3 336
  • 正文 我和宋清朗相戀三年哼绑,在試婚紗的時候發(fā)現(xiàn)自己被綠了。 大學(xué)時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片抖韩。...
    茶點故事閱讀 39,919評論 1 348
  • 序言:一個原本活蹦亂跳的男人離奇死亡蛀恩,死狀恐怖,靈堂內(nèi)的尸體忽然破棺而出茂浮,到底是詐尸還是另有隱情赦肋,我是刑警寧澤块攒,帶...
    沈念sama閱讀 35,635評論 5 345
  • 正文 年R本政府宣布,位于F島的核電站囱井,受9級特大地震影響,放射性物質(zhì)發(fā)生泄漏趣避。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點故事閱讀 41,237評論 3 329
  • 文/蒙蒙 一程帕、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧愁拭,春花似錦、人聲如沸岭埠。這莊子的主人今日做“春日...
    開封第一講書人閱讀 31,855評論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽许赃。三九已至馆类,卻和暖如春混聊,著一層夾襖步出監(jiān)牢的瞬間乾巧,已是汗流浹背句喜。 一陣腳步聲響...
    開封第一講書人閱讀 32,983評論 1 269
  • 我被黑心中介騙來泰國打工沟于, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留藤滥,地道東北人社裆。 一個月前我還...
    沈念sama閱讀 48,048評論 3 370
  • 正文 我出身青樓向图,卻偏偏與公主長得像泳秀,于是被迫代替她去往敵國和親。 傳聞我的和親對象是個殘疾皇子嗜傅,可洞房花燭夜當(dāng)晚...
    茶點故事閱讀 44,864評論 2 354