Python 里面的編碼和解碼也就是 unicode 和 str 這兩種形式的相互轉(zhuǎn)化.
編碼是 unicode -> str棺耍,相反的桐玻,解碼就 是 str -> unicode
剩下的問題就是確定何時需要進(jìn)行編碼或者解碼了.
關(guān)于文件開頭的"編碼指示"忧设,也就是
# -*- coding: -*-
這個語句锄开。Python 默認(rèn)腳本文件都是UTF-8
編碼的梳猪,當(dāng)文件中有非 UTF-8
編碼范圍內(nèi)的字符的時候就要使用"編碼指示"來修正. 關(guān)于sys.defaultencoding
彩扔,這個在解碼沒有明確指明解碼方式的時候使用妆档。比如我有如下代碼:
#! /usr/bin/env python
# -*- coding: utf-8 -*-
s = '中文' # 注意這里的 str 是 str 類型的,而不是 unicode
s.encode('gb18030')
這句代碼將 s 重新編碼為
gb18030
的格式虫碉,即進(jìn)行unicode -> str
的轉(zhuǎn)換贾惦。因?yàn)?s 本身就是str
類型的,因此 Python 會自動的先將 s 解碼為unicode
敦捧,然后再編碼成gb18030
须板。因?yàn)榻獯a是python自動進(jìn)行的,我們沒有指明解碼方式兢卵,python
就會使用sys.defaultencoding
指明的方式來解碼习瑰。很多情況下 sys.defaultencoding 是 ANSCII,如果 s 不是這個類型就會出錯秽荤。拿上面的情況來說甜奄,我的
sys.defaultencoding
是anscii
,而 s 的編碼方式和文件的編碼方式一致窃款,是utf8
的课兄,所以出錯了: __UnicodeDecodeError: 'ascii' codec can't decode byte 0xe4 in position 0: ordinal not in range(128) __
在解決錯誤之前,首先要了解unicode和utf-8的區(qū)別晨继。
unicode
指的是萬國碼烟阐,是一種“字碼表”。而utf-8是這種字碼表儲存的編碼方法。unicode不一定要由utf-8這種方式編成bytecode
儲存蜒茄,也可以使用utf-16,utf-7等其他方式唉擂。目前大多都以utf-8的方式來變成bytecode
。python
中字符串類型分為byte string
和unicode string
兩種扩淀。-
如果在python文件中指定編碼方式為
utf-8(#coding=utf-8)
楔敌,那么所有帶中文的字符串都會被認(rèn)為是utf-8
編碼的byte string
(例如:mystr="你好"),但是在函數(shù)中所產(chǎn)生的字符串則被認(rèn)為是unicode string
問題就出在這邊驻谆,unicode string
和byte string
是不可以混合使用的卵凑,一旦混合使用了,就會產(chǎn)生這樣的錯誤胜臊。例如:self.response.out.write("你好"+self.request.get("argu"))
其中,"你好"被認(rèn)為是
byte string
勺卢,而self.request.get("argu")
的返回值被認(rèn)為是unicode string
。由于預(yù)設(shè)的解碼器是ascii
象对,所以就不能識別中文byte string
黑忱。然后就報(bào)錯了。
以下有兩個解決方法:
-
第一種,是明確的指示出 s 的編碼方式
#! /usr/bin/env python # -*- coding: utf-8 -*- s = '中文' s.decode('utf-8').encode('gb18030')
第二種,更改
sys.defaultencoding
為文件的編碼方式
#! /usr/bin/env python
# -*- coding: utf-8 -*-
import sys #要重新載入sys勒魔。因?yàn)?Python 初始化后會刪除 sys.setdefaultencoding 這個方 法
reload(sys)
sys.setdefaultencoding('utf-8')
總結(jié)一下為什么要這么寫的原因:
1. 當(dāng)取回來的數(shù)據(jù)與你當(dāng)前腳本中聲明的編碼不一致時就要做編碼轉(zhuǎn)換
2.在編碼轉(zhuǎn)換時首先要將該數(shù)據(jù)以自身編碼的格式換成unicode碼,再將這個unicode按utf8編碼
3.為什么我的瀏覽器會傳回gb2312的編碼數(shù)據(jù)到服務(wù)器,這應(yīng)該和客戶端的系統(tǒng)編碼有關(guān)系
參考網(wǎng)址
http://blog.csdn.net/a657941877/article/details/9063883
http://wklken.me/posts/2013/08/31/python-extra-coding-intro.html