Python的編碼問題

問題:

初學Python開發(fā)谋右,今天拿簡書小試了一下網(wǎng)絡(luò)爬蟲強大的Requests庫:

import requests
r = requests.get('http://www.reibang.com/')
print(r.status_code)
print(r.headers['content-type'])
print(r.text)

在Windows 10 的命令行中執(zhí)行棺滞,沒想到結(jié)果居然報錯:

200
text/html; charset=utf-8
Traceback (most recent call last):? File "C:/Users/team/spider.py", line 8, inprint r.text
UnicodeEncodeError: 'gbk' codec can't encode character u'\xa9' in position 36179: illegal multibyte sequence

這么簡單的代碼捏顺,還碰到編碼錯誤問題窃判。挪到IDLE去檢查一下,print(r.text)居然可以正常執(zhí)行茫经。

到baidu去google了一下了嚎,原來是由于本地系統(tǒng)是Windows中的cmd,默認codepage是CP936咧七,即GBK的編碼铃辖,所以需要將接收數(shù)據(jù)先編碼為GBK,然后再在cmd中顯示出來猪叙,然后由于r.text中包含一些GBK中無法顯示的字符娇斩,導(dǎo)致此時提示“’gbk’ codec can’t encode”的錯誤的。最大的可能就是接收數(shù)據(jù)中Unicode類型的字符中穴翩,包含了一些無法轉(zhuǎn)換為GBK編碼的一些字符犬第。

在對unicode字符編碼時,添加ignore參數(shù)芒帕,忽略無法編碼的字符歉嗓,這樣就可以正常編碼為GBK格式,正確輸出了背蟆。

import requests
r = requests.get('http://www.reibang.com/')
print(r.status_code)
print(r.headers['content-type'])
print(r.text.encode('gbk','ignore'))

或者將其轉(zhuǎn)換為GBK編碼的超集GB18030 (即鉴分,GBK是GB18030的子集):

print(r.text.encode('gb18030'))

看來還是在windows下面編寫python腳本,編碼問題很嚴重带膀。

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末志珍,一起剝皮案震驚了整個濱河市,隨后出現(xiàn)的幾起案子垛叨,更是在濱河造成了極大的恐慌伦糯,老刑警劉巖,帶你破解...
    沈念sama閱讀 221,695評論 6 515
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件,死亡現(xiàn)場離奇詭異敛纲,居然都是意外死亡喂击,警方通過查閱死者的電腦和手機,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 94,569評論 3 399
  • 文/潘曉璐 我一進店門淤翔,熙熙樓的掌柜王于貴愁眉苦臉地迎上來翰绊,“玉大人,你說我怎么就攤上這事旁壮〖嗍龋” “怎么了?”我有些...
    開封第一講書人閱讀 168,130評論 0 360
  • 文/不壞的土叔 我叫張陵寡具,是天一觀的道長。 經(jīng)常有香客問我稚补,道長童叠,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 59,648評論 1 297
  • 正文 為了忘掉前任课幕,我火速辦了婚禮厦坛,結(jié)果婚禮上,老公的妹妹穿的比我還像新娘乍惊。我一直安慰自己杜秸,他們只是感情好,可當我...
    茶點故事閱讀 68,655評論 6 397
  • 文/花漫 我一把揭開白布润绎。 她就那樣靜靜地躺著撬碟,像睡著了一般。 火紅的嫁衣襯著肌膚如雪莉撇。 梳的紋絲不亂的頭發(fā)上呢蛤,一...
    開封第一講書人閱讀 52,268評論 1 309
  • 那天,我揣著相機與錄音棍郎,去河邊找鬼其障。 笑死,一個胖子當著我的面吹牛涂佃,可吹牛的內(nèi)容都是我干的励翼。 我是一名探鬼主播,決...
    沈念sama閱讀 40,835評論 3 421
  • 文/蒼蘭香墨 我猛地睜開眼辜荠,長吁一口氣:“原來是場噩夢啊……” “哼汽抚!你這毒婦竟也來了?” 一聲冷哼從身側(cè)響起伯病,我...
    開封第一講書人閱讀 39,740評論 0 276
  • 序言:老撾萬榮一對情侶失蹤殊橙,失蹤者是張志新(化名)和其女友劉穎,沒想到半個月后,有當?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體膨蛮,經(jīng)...
    沈念sama閱讀 46,286評論 1 318
  • 正文 獨居荒郊野嶺守林人離奇死亡叠纹,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點故事閱讀 38,375評論 3 340
  • 正文 我和宋清朗相戀三年,在試婚紗的時候發(fā)現(xiàn)自己被綠了敞葛。 大學時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片誉察。...
    茶點故事閱讀 40,505評論 1 352
  • 序言:一個原本活蹦亂跳的男人離奇死亡,死狀恐怖惹谐,靈堂內(nèi)的尸體忽然破棺而出持偏,到底是詐尸還是另有隱情,我是刑警寧澤氨肌,帶...
    沈念sama閱讀 36,185評論 5 350
  • 正文 年R本政府宣布鸿秆,位于F島的核電站,受9級特大地震影響怎囚,放射性物質(zhì)發(fā)生泄漏卿叽。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點故事閱讀 41,873評論 3 333
  • 文/蒙蒙 一恳守、第九天 我趴在偏房一處隱蔽的房頂上張望考婴。 院中可真熱鬧,春花似錦催烘、人聲如沸沥阱。這莊子的主人今日做“春日...
    開封第一講書人閱讀 32,357評論 0 24
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽考杉。三九已至,卻和暖如春舰始,著一層夾襖步出監(jiān)牢的瞬間奔则,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 33,466評論 1 272
  • 我被黑心中介騙來泰國打工蔽午, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留易茬,地道東北人。 一個月前我還...
    沈念sama閱讀 48,921評論 3 376
  • 正文 我出身青樓及老,卻偏偏與公主長得像抽莱,于是被迫代替她去往敵國和親。 傳聞我的和親對象是個殘疾皇子骄恶,可洞房花燭夜當晚...
    茶點故事閱讀 45,515評論 2 359

推薦閱讀更多精彩內(nèi)容

  • 字符集和編碼簡介 在編程中常呈愁恚可以見到各種字符集和編碼,包括ASCII,MBCS,Unicode等字符集僧鲁。確切的說...
    蘭山小亭閱讀 8,510評論 0 13
  • 字節(jié)字符串和字符字符串字節(jié)字符串s是在console上看著是中文虐呻,但是正在輸出的確是字節(jié)字符串象泵,而不是字符字符串。...
    大道至簡_Andy閱讀 560評論 0 1
  • Python3 最重要的一項改進之一就是解決了 Python2 中字符串與字符編碼遺留下來的這個大坑斟叼。港真偶惠,就這一...
    布拉豆閱讀 405評論 0 2
  • 在py文件開頭 使用: 永久編碼(推薦) 可以在python安裝路徑下的Lib\site-packages下新建文...
    cws閱讀 331評論 0 1
  • 昨日看到微博上某位大咖發(fā)表的言論谢床,大致的意思就是說2017年是直播年兄一,群眾們要做好準備,抓住機會云云识腿。聽了一...
    文說斌語閱讀 619評論 0 1