Python3 中字符編碼解碼

1:字符編碼

我們已經講過了籍琳,字符串也是一種數據類型蝌数,但是愕掏,字符串比較特殊的是還有一個編碼問題。
  因為計算機只能處理數字顶伞,如果要處理文本饵撑,就必須先把文本轉換為數字才能處理。最早的計算機在設計時采用8個比特(bit)作為一個字節(jié)(byte)唆貌,所以滑潘,一個字節(jié)能表示的最大的整數就是255(二進制11111111=十進制255),如果要表示更大的整數锨咙,就必須用更多的字節(jié)语卤。比如兩個字節(jié)可以表示的最大整數是65535(216-1),4個字節(jié)可以表示的最大整數是4294967295(232-1)酪刀。
  由于計算機是美國人發(fā)明的粹舵,因此,最早只有127個字符被編碼到計算機里骂倘,也就是大小寫英文字母眼滤、數字和一些符號,這個編碼表被稱為ASCII編碼历涝,比如大寫字母A的編碼是65(ord('A'))诅需,小寫字母z的編碼是122。
  但是要處理中文顯然一個字節(jié)是不夠的荧库,至少需要兩個字節(jié)堰塌,而且還不能和ASCII編碼沖突,所以分衫,中國制定了GB2312編碼场刑,用來把中文編進去。
  你可以想得到的是丐箩,全世界有上百種語言摇邦,日本把日文編到Shift_JIS里恤煞,韓國把韓文編到Euc-kr里屎勘,各國有各國的標準施籍,就會不可避免地出現沖突,結果就是概漱,在多語言混合的文本中丑慎,顯示出來會有亂碼。
  因此瓤摧,Unicode應運而生竿裂。Unicode把所有語言都統一到一套編碼里,這樣就不會再有亂碼問題了照弥。
  Unicode標準也在不斷發(fā)展腻异,但最常用的是用兩個字節(jié)表示一個字符(如果要用到非常偏僻的字符,就需要4個字節(jié))≌獯В現代操作系統和大多數編程語言都直接支持Unicode悔常。
  ASCII編碼和Unicode編碼的區(qū)別:ASCII編碼是1個字節(jié),而Unicode編碼通常是2個字節(jié)给赞。
  字母A用ASCII編碼是十進制的65机打,二進制的01000001;
  字符0用ASCII編碼是十進制的48片迅,二進制的00110000残邀,注意字符'0'和整數0是不同的;
  漢字中已經超出了ASCII編碼的范圍柑蛇,用Unicode編碼是十進制的20013芥挣,二進制的01001110 00101101。
  你可以猜測耻台,如果把ASCII編碼的A用Unicode編碼空免,只需要在前面補0就可以,因此粘我,A的Unicode編碼是00000000 01000001鼓蜒。
  新的問題又出現了:如果統一成Unicode編碼,亂碼問題從此消失了征字。但是都弹,如果你寫的文本基本上全部是英文的話,用Unicode編碼比ASCII編碼需要多一倍的存儲空間匙姜,在存儲和傳輸上就十分不劃算畅厢。
  所以,本著節(jié)約的精神氮昧,又出現了把Unicode編碼轉化為“可變長編碼”的UTF-8編碼框杜。UTF-8編碼把一個Unicode字符根據不同的數字大小編碼成1-6個字節(jié)浦楣,常用的英文字母被編碼成1個字節(jié),漢字通常是3個字節(jié)咪辱,只有很生僻的字符才會被編碼成4-6個字節(jié)振劳。如果你要傳輸的文本包含大量英文字符,用UTF-8編碼就能節(jié)省空間:

image.png

從上面的表格還可以發(fā)現油狂,UTF-8編碼有一個額外的好處历恐,就是ASCII編碼實際上可以被看成是UTF-8編碼的一部分,所以专筷,大量只支持ASCII編碼的歷史遺留軟件可以在UTF-8編碼下繼續(xù)工作弱贼。
  在計算機內存中,統一使用Unicode編碼磷蛹,當需要保存到硬盤或者需要傳輸的時候吮旅,就轉換為UTF-8編碼。

2:Python的字符串

在最新的Python 3版本中味咳,字符串是以Unicode編碼的庇勃,也就是說,Python的字符串支持多語言莺葫,例如:

s = '123abc包含中文的str'
print(s) # 123abc包含中文的str

對于單個字符的編碼(Unicode編碼)匪凉,Python提供了ord()函數獲取字符的整數表示,chr()函數把編碼轉換為對應的字符:

print('*'*60)
print(ord('A'))   # 輸出 65
print(ord('中'))  # 輸出 20013 捺檬; 字符的Unicode碼的十進制
print(hex(ord('中')))  # 輸出 0x4e2d  ;字符的Unicode碼的十六進制
 
print(chr(65))  # 輸出 A
print(chr(20013)) # 輸出 中
print(chr(20014)) # 輸出 丮
print(chr(20015)) # 輸出 丯

如果知道字符的整數編碼(Unicode編碼)再层,還可以用十六進制這么寫str:

s =  '\u4e2d\u6587'  #  Unicode編碼
print(s,type(s))  # 輸出 中文  <class 'str'>

由于Python的字符串類型是str,在內存中以Unicode表示堡纬,一個字符對應若干個字節(jié)聂受。如果要在網絡上傳輸,或者保存到磁盤上烤镐,就需要把str變?yōu)橐宰止?jié)為單位的bytes蛋济。
  Python對bytes類型的數據用帶b前綴的單引號或雙引號表示:
x = b'ABC'  
要注意區(qū)分'ABC'和b'ABC',前者是str炮叶,后者雖然內容顯示得和前者一樣碗旅,但bytes的每個字符都只占用一個字節(jié)。
  以Unicode表示的str通過encode()方法可以編碼為指定的bytes镜悉,例如:

print('ABC'.encode('ascii')) # b'ABC'
print('中文'.encode('utf-8')) # b'\xe4\xb8\xad\xe6\x96\x87123abc'
print('中文'.encode('ascii')) # 報錯 'ascii' codec can't encode characters in position 0-1: ordinal not in range(128)

純英文的str可以用ASCII編碼為bytes祟辟,內容是一樣的,含有中文的str可以用UTF-8編碼為bytes侣肄。含有中文的str無法用ASCII編碼旧困,因為中文編碼的范圍超過了ASCII編碼的范圍,Python會報錯。
在bytes中吼具,無法顯示為ASCII字符的字節(jié)僚纷,用\x##顯示。
反過來拗盒,如果我們從網絡或磁盤上讀取了字節(jié)流怖竭,那么讀到的數據就是bytes。要把bytes變?yōu)閟tr锣咒,就需要用decode()方法:

print(b'abc'.decode('ascii'))  # abc
print(b'abc'.decode('utf-8'))  # abc
print(b'\xe4\xb8\xad\xe6\x96\x87123abc'.decode('utf-8')) # 中文123abc

如果bytes中包含無法解碼的字節(jié)侵状,decode()方法會報錯:

print(b'\xe4\xb8\xad\xff'.decode('utf-8'))  
# UnicodeDecodeError: 'utf-8' codec can't decode byte 0xff in position 3: invalid start byte

如果bytes中只有一小部分無效的字節(jié)赞弥,可以傳入errors='ignore'忽略錯誤的字節(jié)

print(b'\xe4\xb8\xad\xff'.decode('utf-8',errors='ignore')) # 中

要計算str包含多少個字符毅整,可以用len()函數,len()函數計算的是str的字符數,如果換成bytes绽左,len()函數就計算字節(jié)數:

# 計算包含多少個字符
print(len('ABC')) # 3
print(len('中文')) # 2
 
# 計算包含多少個字節(jié)
print(len(b'ABC')) #3
print(len(b'\xe4\xb8\xad\xe6\x96\x87'))  # 6
print(len('中文'.encode('utf-8')))        # 6

可見悼嫉,1個中文字符經過UTF-8編碼后通常會占用3個字節(jié),而1個英文字符只占用1個字節(jié)拼窥。
  在操作字符串時戏蔑,我們經常遇到str和bytes的互相轉換。為了避免亂碼問題鲁纠,應當始終堅持使用UTF-8編碼對str和bytes進行轉換总棵。
  由于Python源代碼也是一個文本文件,所以改含,當你的源代碼中包含中文的時候情龄,在保存源代碼時,就需要務必指定保存為UTF-8編碼捍壤。當Python解釋器讀取源代碼時骤视,為了讓它按UTF-8編碼讀取,我們通常在文件開頭寫上如下代碼行:

# -*- coding: utf-8 -*-

-- coding: utf-8 -- 表示在保存源代碼時按照utf-8編碼(unicode.encode('utf-8'))保存到硬盤上去鹃觉,在讀起源代碼時按照utf-8來讀(str.decode('utf-8') )

3:Python中編碼的轉換

Python3中字符串在內存中是以unicode編碼存在的专酗,
從網上下載,或者讀文件盗扇,都是字節(jié)流祷肯,需要decode進行轉換:
utf-8 -> unicode   str.decode('utf-8')
gbk -> unicode   str.decode('gbk')

保存文件(把內容寫到文件中)或者向網上發(fā)送數據,需要轉換為字節(jié)流,即encode一下:
unicode -> utf-8    unicode.encode('utf-8')
unicode -> gbk    unicode.encode('gbk')

utf-8 -> gbk :首先把 utf-8 -> unicode 疗隶,再把unicode -> gbk:str.decode('utf-8','ignore').encode('gbk')
gbk -> utf-8 :gbk -> unicode佑笋,unicode -> utf-8 : str.decode('gbk','ignore').encode('utf-8')

 
def gbk2unicode(s):
    return s.decode('gbk', 'ignore')
 
def utf82unicode(s):
    return s.decode('utf-8', 'ignore')
 
# 帶u的字符串為unicode
def unicode2gbk(s):
    return s.encode('gbk')
 
# 帶u的字符串為unicode
def unicode2utf8(s):
    return s.encode('utf-8')
 
def gbk2utf8(s):
    return s.decode('gbk', 'ignore').encode('utf-8')
 
def utf82gbk(s):
    return s.decode('utf-8', 'ignore').encode('gbk')
?著作權歸作者所有,轉載或內容合作請聯系作者
  • 序言:七十年代末,一起剝皮案震驚了整個濱河市抽减,隨后出現的幾起案子允青,更是在濱河造成了極大的恐慌,老刑警劉巖,帶你破解...
    沈念sama閱讀 218,036評論 6 506
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件颠锉,死亡現場離奇詭異法牲,居然都是意外死亡,警方通過查閱死者的電腦和手機琼掠,發(fā)現死者居然都...
    沈念sama閱讀 93,046評論 3 395
  • 文/潘曉璐 我一進店門拒垃,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人瓷蛙,你說我怎么就攤上這事悼瓮。” “怎么了艰猬?”我有些...
    開封第一講書人閱讀 164,411評論 0 354
  • 文/不壞的土叔 我叫張陵横堡,是天一觀的道長。 經常有香客問我冠桃,道長命贴,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 58,622評論 1 293
  • 正文 為了忘掉前任食听,我火速辦了婚禮胸蛛,結果婚禮上,老公的妹妹穿的比我還像新娘樱报。我一直安慰自己葬项,他們只是感情好,可當我...
    茶點故事閱讀 67,661評論 6 392
  • 文/花漫 我一把揭開白布迹蛤。 她就那樣靜靜地躺著民珍,像睡著了一般。 火紅的嫁衣襯著肌膚如雪笤受。 梳的紋絲不亂的頭發(fā)上穷缤,一...
    開封第一講書人閱讀 51,521評論 1 304
  • 那天,我揣著相機與錄音箩兽,去河邊找鬼津肛。 笑死,一個胖子當著我的面吹牛汗贫,可吹牛的內容都是我干的身坐。 我是一名探鬼主播,決...
    沈念sama閱讀 40,288評論 3 418
  • 文/蒼蘭香墨 我猛地睜開眼落包,長吁一口氣:“原來是場噩夢啊……” “哼部蛇!你這毒婦竟也來了?” 一聲冷哼從身側響起咐蝇,我...
    開封第一講書人閱讀 39,200評論 0 276
  • 序言:老撾萬榮一對情侶失蹤涯鲁,失蹤者是張志新(化名)和其女友劉穎,沒想到半個月后,有當地人在樹林里發(fā)現了一具尸體抹腿,經...
    沈念sama閱讀 45,644評論 1 314
  • 正文 獨居荒郊野嶺守林人離奇死亡岛请,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內容為張勛視角 年9月15日...
    茶點故事閱讀 37,837評論 3 336
  • 正文 我和宋清朗相戀三年,在試婚紗的時候發(fā)現自己被綠了警绩。 大學時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片崇败。...
    茶點故事閱讀 39,953評論 1 348
  • 序言:一個原本活蹦亂跳的男人離奇死亡,死狀恐怖肩祥,靈堂內的尸體忽然破棺而出后室,到底是詐尸還是另有隱情,我是刑警寧澤混狠,帶...
    沈念sama閱讀 35,673評論 5 346
  • 正文 年R本政府宣布岸霹,位于F島的核電站,受9級特大地震影響檀蹋,放射性物質發(fā)生泄漏松申。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點故事閱讀 41,281評論 3 329
  • 文/蒙蒙 一俯逾、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧舅逸,春花似錦桌肴、人聲如沸。這莊子的主人今日做“春日...
    開封第一講書人閱讀 31,889評論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽。三九已至翔始,卻和暖如春斩箫,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背蝇恶。 一陣腳步聲響...
    開封第一講書人閱讀 33,011評論 1 269
  • 我被黑心中介騙來泰國打工拳魁, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留,地道東北人撮弧。 一個月前我還...
    沈念sama閱讀 48,119評論 3 370
  • 正文 我出身青樓潘懊,卻偏偏與公主長得像,于是被迫代替她去往敵國和親贿衍。 傳聞我的和親對象是個殘疾皇子授舟,可洞房花燭夜當晚...
    茶點故事閱讀 44,901評論 2 355