編碼原理理解之「UTF-8」

一痴奏、什么是UTF-8

UTF-8(8位元蛀骇,Universal Character Set/Unicode Transformation Format)是針對(duì)Unicode的一種可變長(zhǎng)度字符編碼。它可以用來(lái)表示 Unicode 標(biāo)準(zhǔn)中的任何字符读拆,而且其編碼中的第一個(gè)字節(jié)仍與ASCII 相容擅憔,使得原來(lái)處理 ASCII 字符的軟件無(wú)須或只進(jìn)行少部份修改后,便可繼續(xù)使用檐晕。因此暑诸,它逐漸成為電子郵件、網(wǎng)頁(yè)及其他存儲(chǔ)或傳送文字的應(yīng)用中棉姐,優(yōu)先采用的編碼屠列。

總結(jié)下來(lái),UTF8 有如下特點(diǎn):
1)是 unicode 的一種實(shí)現(xiàn)方式伞矩;
2)是一種變長(zhǎng)編碼標(biāo)準(zhǔn);
3)可以與 ASCII 碼有效兼容夏志;
4)應(yīng)用超級(jí)廣泛編碼標(biāo)準(zhǔn)乃坤。

二苛让、UTF-8 的編碼規(guī)則

我們講,UTF-8unicode 的一種實(shí)現(xiàn)方式湿诊,那么狱杰,想要對(duì)一個(gè)字符進(jìn)行 UTF-8 編碼,首先我們要知道這個(gè)字符的 unicode 編碼(字符的 unicode 編碼是約定好的厅须,全球統(tǒng)一不變的)仿畸。拿 unicode 編碼的方式很簡(jiǎn)單,網(wǎng)上有很多 工具 可以做到朗和。

接下來(lái)針對(duì)不同的 unicode 符號(hào)范圍错沽,utf-8 編碼實(shí)際占用的字節(jié)數(shù)可能 1~4 字節(jié)不等??

unicode 符號(hào)范圍 | utf-8 編碼方式
00000000 ~ 0000007F | 0xxxxxxx 
00000080 ~ 000007FF | 110xxxxx 10xxxxxx 
00000800 ~ 0000FFFF | 1110xxxx 10xxxxxx 10xxxxxx 
00010000 ~ 0010FFFF | 11110xxx 10xxxxxx 10xxxxxx 10xxxxxx 

總結(jié)下來(lái),針對(duì)UTF8眶拉,編碼規(guī)則其實(shí)只有兩條:
1)單字節(jié)規(guī)則: 對(duì)于 單字節(jié) 的符號(hào)千埃,字節(jié)的第一位(最高位)設(shè)為 0,后面 7 位為這個(gè)符號(hào)的 unicode 碼忆植。
2)n字節(jié)規(guī)則: 對(duì)于 n 字節(jié)的符號(hào)(n>1)放可,第一個(gè)字節(jié)的前 n 位都設(shè)為 1,第 n+1 位設(shè)為 0朝刊,后面字節(jié)的前兩位一律設(shè)為 10耀里。剩下的沒有提及的二進(jìn)制位,全部為這個(gè)符號(hào)的 unicode 碼拾氓。

三冯挎、UTF-8 的編碼舉例

A
-- unicode --> \u0041(1000001)
-- UTF-8 --> 0x41(0 1000001)


-- unicode --> \u771f(01110111 00011111
-- UTF-8 --> 0xe79c9f(1110 0111 10 011100 10 011111


-- unicode --> \u5f00(01011111 00000000
-- UTF-8 --> 0xe5bc80(1110 0101 10 111100 10 000000


-- unicode --> \u5fc3(01011111 11000011
-- UTF-8 --> 0e5bf83(1110 0101 10 111111 10 000011

「真」 舉例,我們查到 「真」unicode 編碼是 \u771f\u 只是unicode 的編碼標(biāo)記痪枫,其后面跟的還是 16 進(jìn)制數(shù))织堂,發(fā)現(xiàn)真的編碼范圍是 0x0800 ~ 0xffff 間,故選擇 3字節(jié) 的編碼方式??

00000800 ~ 0000FFFF | 1110xxxx 10xxxxxx 10xxxxxx 

我們將 0x771f 轉(zhuǎn)化為2進(jìn)制(共16位)奶陈,并分成 4易阳、6、6 三組吃粒,填入??編碼方式的「x」 的位置潦俺,得到 1110 0111 10 011100 10 011111,至此完成「真」utf-8 編碼徐勃,轉(zhuǎn)化為 16 進(jìn)制描述即:0xe79c9f事示。

四、體驗(yàn)

那么僻肖,有mac的小伙伴可以試試小編提供的一套基于iOS的編碼理解工程肖爵。可以快速打印出一段文本編碼的數(shù)據(jù)結(jié)果(16進(jìn)制臀脏、2進(jìn)制都有)劝堪,示例如下:

/* 代碼示例 */
cytLogStringData(@"今兒個(gè)真開心冀自!", NSUTF8StringEncoding);
/* 打印結(jié)果 */
今 : 3
e4 bb 8a 
11100100 10111011 10001010 

兒 : 3
e5 84 bf 
11100101 10000100 10111111 

個(gè) : 3
e4 b8 aa 
11100100 10111000 10101010 

真 : 3
e7 9c 9f 
11100111 10011100 10011111 

開 : 3
e5 bc 80 
11100101 10111100 10000000 

心 : 3
e5 bf 83 
11100101 10111111 10000011 

! : 3
ef bc 81 
11101111 10111100 10000001 

e4 bb 8a e5 84 bf e4 b8 aa e7 9c 9f e5 bc 80 e5 bf 83 ef bc 81 
11100100 10111011 10001010 11100101 10000100 10111111 11100100 10111000 10101010 11100111 10011100 10011111 11100101 10111100 10000000 11100101 10111111 10000011 11101111 10111100 10000001 
字符數(shù):7 
字節(jié)數(shù):21 
每個(gè)字符平均占用: 3.00字節(jié)

git地址:https://github.com/chrisYooh/CYEncoding.git
對(duì)你有幫助的話記得幫小編點(diǎn)個(gè) 「Star」 哦秒啦!?????

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末熬粗,一起剝皮案震驚了整個(gè)濱河市,隨后出現(xiàn)的幾起案子余境,更是在濱河造成了極大的恐慌驻呐,老刑警劉巖,帶你破解...
    沈念sama閱讀 216,692評(píng)論 6 501
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件芳来,死亡現(xiàn)場(chǎng)離奇詭異含末,居然都是意外死亡,警方通過查閱死者的電腦和手機(jī)绣张,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 92,482評(píng)論 3 392
  • 文/潘曉璐 我一進(jìn)店門答渔,熙熙樓的掌柜王于貴愁眉苦臉地迎上來(lái),“玉大人侥涵,你說(shuō)我怎么就攤上這事沼撕。” “怎么了芜飘?”我有些...
    開封第一講書人閱讀 162,995評(píng)論 0 353
  • 文/不壞的土叔 我叫張陵务豺,是天一觀的道長(zhǎng)。 經(jīng)常有香客問我嗦明,道長(zhǎng)笼沥,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 58,223評(píng)論 1 292
  • 正文 為了忘掉前任娶牌,我火速辦了婚禮奔浅,結(jié)果婚禮上,老公的妹妹穿的比我還像新娘诗良。我一直安慰自己汹桦,他們只是感情好,可當(dāng)我...
    茶點(diǎn)故事閱讀 67,245評(píng)論 6 388
  • 文/花漫 我一把揭開白布鉴裹。 她就那樣靜靜地躺著舞骆,像睡著了一般。 火紅的嫁衣襯著肌膚如雪径荔。 梳的紋絲不亂的頭發(fā)上督禽,一...
    開封第一講書人閱讀 51,208評(píng)論 1 299
  • 那天,我揣著相機(jī)與錄音总处,去河邊找鬼狈惫。 笑死,一個(gè)胖子當(dāng)著我的面吹牛鹦马,可吹牛的內(nèi)容都是我干的虱岂。 我是一名探鬼主播玖院,決...
    沈念sama閱讀 40,091評(píng)論 3 418
  • 文/蒼蘭香墨 我猛地睜開眼菠红,長(zhǎng)吁一口氣:“原來(lái)是場(chǎng)噩夢(mèng)啊……” “哼第岖!你這毒婦竟也來(lái)了?” 一聲冷哼從身側(cè)響起试溯,我...
    開封第一講書人閱讀 38,929評(píng)論 0 274
  • 序言:老撾萬(wàn)榮一對(duì)情侶失蹤蔑滓,失蹤者是張志新(化名)和其女友劉穎,沒想到半個(gè)月后遇绞,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體键袱,經(jīng)...
    沈念sama閱讀 45,346評(píng)論 1 311
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡,尸身上長(zhǎng)有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 37,570評(píng)論 2 333
  • 正文 我和宋清朗相戀三年摹闽,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了蹄咖。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片。...
    茶點(diǎn)故事閱讀 39,739評(píng)論 1 348
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡付鹿,死狀恐怖澜汤,靈堂內(nèi)的尸體忽然破棺而出,到底是詐尸還是另有隱情舵匾,我是刑警寧澤俊抵,帶...
    沈念sama閱讀 35,437評(píng)論 5 344
  • 正文 年R本政府宣布,位于F島的核電站坐梯,受9級(jí)特大地震影響徽诲,放射性物質(zhì)發(fā)生泄漏弱卡。R本人自食惡果不足惜肋殴,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 41,037評(píng)論 3 326
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望逮栅。 院中可真熱鬧蹋辅,春花似錦钱贯、人聲如沸。這莊子的主人今日做“春日...
    開封第一講書人閱讀 31,677評(píng)論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽(yáng)。三九已至淋肾,卻和暖如春硫麻,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背樊卓。 一陣腳步聲響...
    開封第一講書人閱讀 32,833評(píng)論 1 269
  • 我被黑心中介騙來(lái)泰國(guó)打工拿愧, 沒想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留,地道東北人碌尔。 一個(gè)月前我還...
    沈念sama閱讀 47,760評(píng)論 2 369
  • 正文 我出身青樓浇辜,卻偏偏與公主長(zhǎng)得像券敌,于是被迫代替她去往敵國(guó)和親。 傳聞我的和親對(duì)象是個(gè)殘疾皇子柳洋,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 44,647評(píng)論 2 354

推薦閱讀更多精彩內(nèi)容