1:字符編碼
我們已經講過了籍琳,字符串也是一種數據類型蝌数,但是愕掏,字符串比較特殊的是還有一個編碼問題。
因為計算機只能處理數字顶伞,如果要處理文本饵撑,就必須先把文本轉換為數字才能處理。最早的計算機在設計時采用8個比特(bit)作為一個字節(jié)(byte)唆貌,所以滑潘,一個字節(jié)能表示的最大的整數就是255(二進制11111111=十進制255),如果要表示更大的整數锨咙,就必須用更多的字節(jié)语卤。比如兩個字節(jié)可以表示的最大整數是65535(216-1),4個字節(jié)可以表示的最大整數是4294967295(232-1)酪刀。
由于計算機是美國人發(fā)明的粹舵,因此,最早只有127個字符被編碼到計算機里骂倘,也就是大小寫英文字母眼滤、數字和一些符號,這個編碼表被稱為ASCII編碼历涝,比如大寫字母A的編碼是65(ord('A'))诅需,小寫字母z的編碼是122。
但是要處理中文顯然一個字節(jié)是不夠的荧库,至少需要兩個字節(jié)堰塌,而且還不能和ASCII編碼沖突,所以分衫,中國制定了GB2312編碼场刑,用來把中文編進去。
你可以想得到的是丐箩,全世界有上百種語言摇邦,日本把日文編到Shift_JIS里恤煞,韓國把韓文編到Euc-kr里屎勘,各國有各國的標準施籍,就會不可避免地出現沖突,結果就是概漱,在多語言混合的文本中丑慎,顯示出來會有亂碼。
因此瓤摧,Unicode應運而生竿裂。Unicode把所有語言都統一到一套編碼里,這樣就不會再有亂碼問題了照弥。
Unicode標準也在不斷發(fā)展腻异,但最常用的是用兩個字節(jié)表示一個字符(如果要用到非常偏僻的字符,就需要4個字節(jié))≌獯В現代操作系統和大多數編程語言都直接支持Unicode悔常。
ASCII編碼和Unicode編碼的區(qū)別:ASCII編碼是1個字節(jié),而Unicode編碼通常是2個字節(jié)给赞。
字母A用ASCII編碼是十進制的65机打,二進制的01000001;
字符0用ASCII編碼是十進制的48片迅,二進制的00110000残邀,注意字符'0'和整數0是不同的;
漢字中已經超出了ASCII編碼的范圍柑蛇,用Unicode編碼是十進制的20013芥挣,二進制的01001110 00101101。
你可以猜測耻台,如果把ASCII編碼的A用Unicode編碼空免,只需要在前面補0就可以,因此粘我,A的Unicode編碼是00000000 01000001鼓蜒。
新的問題又出現了:如果統一成Unicode編碼,亂碼問題從此消失了征字。但是都弹,如果你寫的文本基本上全部是英文的話,用Unicode編碼比ASCII編碼需要多一倍的存儲空間匙姜,在存儲和傳輸上就十分不劃算畅厢。
所以,本著節(jié)約的精神氮昧,又出現了把Unicode編碼轉化為“可變長編碼”的UTF-8編碼框杜。UTF-8編碼把一個Unicode字符根據不同的數字大小編碼成1-6個字節(jié)浦楣,常用的英文字母被編碼成1個字節(jié),漢字通常是3個字節(jié)咪辱,只有很生僻的字符才會被編碼成4-6個字節(jié)振劳。如果你要傳輸的文本包含大量英文字符,用UTF-8編碼就能節(jié)省空間:
從上面的表格還可以發(fā)現油狂,UTF-8編碼有一個額外的好處历恐,就是ASCII編碼實際上可以被看成是UTF-8編碼的一部分,所以专筷,大量只支持ASCII編碼的歷史遺留軟件可以在UTF-8編碼下繼續(xù)工作弱贼。
在計算機內存中,統一使用Unicode編碼磷蛹,當需要保存到硬盤或者需要傳輸的時候吮旅,就轉換為UTF-8編碼。
2:Python的字符串
在最新的Python 3版本中味咳,字符串是以Unicode編碼的庇勃,也就是說,Python的字符串支持多語言莺葫,例如:
s = '123abc包含中文的str'
print(s) # 123abc包含中文的str
對于單個字符的編碼(Unicode編碼)匪凉,Python提供了ord()函數獲取字符的整數表示,chr()函數把編碼轉換為對應的字符:
print('*'*60)
print(ord('A')) # 輸出 65
print(ord('中')) # 輸出 20013 捺檬; 字符的Unicode碼的十進制
print(hex(ord('中'))) # 輸出 0x4e2d ;字符的Unicode碼的十六進制
print(chr(65)) # 輸出 A
print(chr(20013)) # 輸出 中
print(chr(20014)) # 輸出 丮
print(chr(20015)) # 輸出 丯
如果知道字符的整數編碼(Unicode編碼)再层,還可以用十六進制這么寫str:
s = '\u4e2d\u6587' # Unicode編碼
print(s,type(s)) # 輸出 中文 <class 'str'>
由于Python的字符串類型是str,在內存中以Unicode表示堡纬,一個字符對應若干個字節(jié)聂受。如果要在網絡上傳輸,或者保存到磁盤上烤镐,就需要把str變?yōu)橐宰止?jié)為單位的bytes蛋济。
Python對bytes類型的數據用帶b前綴的單引號或雙引號表示:
x = b'ABC'
要注意區(qū)分'ABC'和b'ABC',前者是str炮叶,后者雖然內容顯示得和前者一樣碗旅,但bytes的每個字符都只占用一個字節(jié)。
以Unicode表示的str通過encode()方法可以編碼為指定的bytes镜悉,例如:
print('ABC'.encode('ascii')) # b'ABC'
print('中文'.encode('utf-8')) # b'\xe4\xb8\xad\xe6\x96\x87123abc'
print('中文'.encode('ascii')) # 報錯 'ascii' codec can't encode characters in position 0-1: ordinal not in range(128)
純英文的str可以用ASCII編碼為bytes祟辟,內容是一樣的,含有中文的str可以用UTF-8編碼為bytes侣肄。含有中文的str無法用ASCII編碼旧困,因為中文編碼的范圍超過了ASCII編碼的范圍,Python會報錯。
在bytes中吼具,無法顯示為ASCII字符的字節(jié)僚纷,用\x##顯示。
反過來拗盒,如果我們從網絡或磁盤上讀取了字節(jié)流怖竭,那么讀到的數據就是bytes。要把bytes變?yōu)閟tr锣咒,就需要用decode()方法:
print(b'abc'.decode('ascii')) # abc
print(b'abc'.decode('utf-8')) # abc
print(b'\xe4\xb8\xad\xe6\x96\x87123abc'.decode('utf-8')) # 中文123abc
如果bytes中包含無法解碼的字節(jié)侵状,decode()方法會報錯:
print(b'\xe4\xb8\xad\xff'.decode('utf-8'))
# UnicodeDecodeError: 'utf-8' codec can't decode byte 0xff in position 3: invalid start byte
如果bytes中只有一小部分無效的字節(jié)赞弥,可以傳入errors='ignore'忽略錯誤的字節(jié)
print(b'\xe4\xb8\xad\xff'.decode('utf-8',errors='ignore')) # 中
要計算str包含多少個字符毅整,可以用len()函數,len()函數計算的是str的字符數,如果換成bytes绽左,len()函數就計算字節(jié)數:
# 計算包含多少個字符
print(len('ABC')) # 3
print(len('中文')) # 2
# 計算包含多少個字節(jié)
print(len(b'ABC')) #3
print(len(b'\xe4\xb8\xad\xe6\x96\x87')) # 6
print(len('中文'.encode('utf-8'))) # 6
可見悼嫉,1個中文字符經過UTF-8編碼后通常會占用3個字節(jié),而1個英文字符只占用1個字節(jié)拼窥。
在操作字符串時戏蔑,我們經常遇到str和bytes的互相轉換。為了避免亂碼問題鲁纠,應當始終堅持使用UTF-8編碼對str和bytes進行轉換总棵。
由于Python源代碼也是一個文本文件,所以改含,當你的源代碼中包含中文的時候情龄,在保存源代碼時,就需要務必指定保存為UTF-8編碼捍壤。當Python解釋器讀取源代碼時骤视,為了讓它按UTF-8編碼讀取,我們通常在文件開頭寫上如下代碼行:
# -*- coding: utf-8 -*-
-- coding: utf-8 -- 表示在保存源代碼時按照utf-8編碼(unicode.encode('utf-8'))保存到硬盤上去鹃觉,在讀起源代碼時按照utf-8來讀(str.decode('utf-8') )
3:Python中編碼的轉換
Python3中字符串在內存中是以unicode編碼存在的专酗,
從網上下載,或者讀文件盗扇,都是字節(jié)流祷肯,需要decode進行轉換:
utf-8 -> unicode str.decode('utf-8')
gbk -> unicode str.decode('gbk')
保存文件(把內容寫到文件中)或者向網上發(fā)送數據,需要轉換為字節(jié)流,即encode一下:
unicode -> utf-8 unicode.encode('utf-8')
unicode -> gbk unicode.encode('gbk')
utf-8 -> gbk :首先把 utf-8 -> unicode 疗隶,再把unicode -> gbk:str.decode('utf-8','ignore').encode('gbk')
gbk -> utf-8 :gbk -> unicode佑笋,unicode -> utf-8 : str.decode('gbk','ignore').encode('utf-8')
def gbk2unicode(s):
return s.decode('gbk', 'ignore')
def utf82unicode(s):
return s.decode('utf-8', 'ignore')
# 帶u的字符串為unicode
def unicode2gbk(s):
return s.encode('gbk')
# 帶u的字符串為unicode
def unicode2utf8(s):
return s.encode('utf-8')
def gbk2utf8(s):
return s.decode('gbk', 'ignore').encode('utf-8')
def utf82gbk(s):
return s.decode('utf-8', 'ignore').encode('gbk')