用MySQL的朋友們請(qǐng)不要使用"utf8"愕提,請(qǐng)使用"utf8mb4"

原文: https://medium.com/@adamhooper/in-mysql-never-use-utf8-use-utf8mb4-11761243e434

翻譯: www.reibang.com/p/ab9aa8d4df7d

用MySQL的朋友們請(qǐng)不要使用"utf8"呻惕,請(qǐng)使用"utf8mb4"

今天我試圖把UTF-8編碼的字符串插入使用“utf8”編碼的MariaDB數(shù)據(jù)庫(kù)中专酗,Rails拋出一個(gè)古怪的異常:

Incorrect string value: ‘\xF0\x9F\x98\x83 <…’ for column ‘summary’ at row 1

一切都很UTF-8:UTF-8 client鳞尔,UTF-8的服務(wù)器嬉橙,UTF-8編碼的數(shù)據(jù)庫(kù),使用UTF-8的字符集铅檩≡饕模“?? <…”是個(gè)有效的UTF-8字符串。

但是問(wèn)題的關(guān)鍵是:MySQL數(shù)據(jù)庫(kù)的 “utf8”并不是真正概念里的* UTF-8昧旨。*

MySQL中的“utf8”編碼只支持最大3字節(jié)每字符拾给。真正的大家正在使用的UTF-8編碼是應(yīng)該能支持4字節(jié)每個(gè)字符。

MySQL的開發(fā)者沒(méi)有修復(fù)這個(gè)bug兔沃。他們?cè)?010年增加了一個(gè)變通的方法:一個(gè)新的字符集“utf8mb4

當(dāng)然蒋得,他們并沒(méi)有對(duì)外公布(可能因?yàn)檫@個(gè)bug有點(diǎn)尷尬)。現(xiàn)在很多指南推薦用戶使用“utf8”其實(shí)都錯(cuò)了乒疏。

簡(jiǎn)單的說(shuō):

MySQL中的 “utf8mb4” 才是 真正意義上的“UTF-8”额衙。

MySQL的“utf8”是個(gè)“特殊的字符編碼”。這種編碼很多Unicode字符保存不了怕吴。

我強(qiáng)烈建議MySQL和MariaDB用戶使用“utf8mb4”而不是“utf8”窍侧。

編碼是什么?什么是UTF-8转绷?

Joel on Software上有一遍我最喜歡的介紹伟件,我精簡(jiǎn)描述如下:

計(jì)算機(jī)使用0和1存儲(chǔ)文字。比如第一段第一個(gè)字符存儲(chǔ)為“01000011”表示“C”议经,計(jì)算機(jī)通過(guò)以下兩個(gè)步驟選擇用“C”表示:

計(jì)算機(jī)讀取到“01000011”后計(jì)算出這是數(shù)字67斧账。

計(jì)算機(jī)通過(guò)查找Unicode字符集來(lái)確認(rèn)67代表的“C”谴返。

同樣的事情發(fā)生在我打字輸入C的時(shí)候。

計(jì)算機(jī)通過(guò)Unicode字符集將“C” 映射為67咧织。

計(jì)算機(jī)把67編碼為“01000011”發(fā)送給web服務(wù)器嗓袱。

幾乎所有的程序和互聯(lián)網(wǎng)應(yīng)用使用Unicode字符集。

Unicode字符集里有超過(guò)100萬(wàn)個(gè)字符(“C” 和 “??” 是兩種不同的字符习绢。)渠抹。UTF-32是最簡(jiǎn)單的編碼方式,它在表示每個(gè)字符的時(shí)候使用32個(gè)bits毯炮。這樣編碼簡(jiǎn)單逼肯,但是并不實(shí)用,明顯浪費(fèi)了太多的空間桃煎。

UTF-8相比UTF-32更加節(jié)約空間篮幢。在UTF-8中,像“C”這樣的字符占用8bits为迈,“??”這樣的占用32 bits三椿。其他字符占用16或者24 bits。如本篇這樣的文章用UTF-8存儲(chǔ)比用UTF-32節(jié)省4倍左右的空間葫辐。更小的空間占用也意味著加載速度會(huì)快上4倍搜锰。

而MySQL中的 “utf8”字符集則和其他應(yīng)用行為不一樣。比如根本沒(méi)法表示“??”耿战。

一點(diǎn)關(guān)于MySQL的歷史****

為什么MySQL的開發(fā)者開發(fā)了一個(gè)奇怪的“utf8”蛋叼。我們可以通過(guò)提交的日志來(lái)揣測(cè)一下。

MySQL從4.1版開始支持UTF-8剂陡。那是在比今天UTF-8 RFC 3629標(biāo)準(zhǔn)更早的2003年狈涮。

在此之前的UTF-8標(biāo)準(zhǔn),RFC 2279中規(guī)定6個(gè)bytes表示一個(gè)字符。MySQL的開發(fā)者在2002.3.28編碼實(shí)現(xiàn)了RFC 2279 鸭栖。并發(fā)布了pre-pre-release 的 MySQL 4.1

然后在9月出現(xiàn)了一個(gè)神秘的字節(jié)調(diào)整歌馍。“UTF8 now works with up to3 byte sequences only.”

是誰(shuí)提交了這次更新晕鹊?為什么松却?我無(wú)法解答。MySQL的源碼移到Git后丟失了舊的作者信息(MySQL 曾經(jīng)和linux內(nèi)核一樣使用BitKeeper)

但是我大概能猜出來(lái)原因溅话。

回到2002年晓锻,如果用戶可以保證表中的每一行具有相同的字節(jié)數(shù),MySQL就可以提高用戶的速度飞几。為了得到這個(gè)提升带射,用戶就需要定義保存文字的列為“CHAR”。一個(gè)“CHAR”列總是擁有相同的字符數(shù)循狰。如果存入的字符較少則會(huì)在最后補(bǔ)齊空白窟社。如果存入的數(shù)據(jù)過(guò)多則會(huì)被拋棄多余的字符。

當(dāng)MySQL的開發(fā)者第一次嘗試以6字節(jié)每字符實(shí)現(xiàn)UTF-8時(shí)绪钥,他們意識(shí)到CHAR(1)的列會(huì)占用6字節(jié)灿里,CHAR(2)會(huì)占用12字節(jié),以此類推程腹。

顯而易見的是匣吊,這個(gè)沒(méi)有被使用的實(shí)現(xiàn)方式是正確的,任何一個(gè)理解UTF-8的開發(fā)者將會(huì)認(rèn)同這一點(diǎn)寸潦。

我的猜測(cè)是:MySQL的開發(fā)者違背了“utf8”編碼去幫助那些1)試圖去優(yōu)化空間和速度的人色鸳,2)嘗試優(yōu)化空間和速度失敗的人。

這是個(gè)無(wú)人獲益的改動(dòng)见转。那些想要更快性能命雀,更小空間的得到的依然是比他們?cè)?jīng)使用版本更大更慢的實(shí)現(xiàn),而那些想要正確的“utf8”的人得到的是個(gè)“??”都存儲(chǔ)不了的實(shí)現(xiàn)斩箫。

MySQL發(fā)布了這個(gè)錯(cuò)誤的版本后吏砂,在也沒(méi)有修復(fù)它:因?yàn)槟菢雍芏嗍褂谜邔⒈黄戎亟ㄋ麄兊臄?shù)據(jù)庫(kù)。MySQL最終在2010年更新了一個(gè)以“utf8mb4”命名的UTF-8實(shí)現(xiàn)乘客。

Why it’s so frustrating

為什么這么操蛋

這周我過(guò)得很操蛋狐血。我遇到一個(gè)很難發(fā)現(xiàn)的bug,就因?yàn)槲冶弧皍tf8”這個(gè)名字給愚弄了易核。而且我也不是個(gè)案匈织,我發(fā)現(xiàn)幾乎每篇推薦使用“utf8”的文章都錯(cuò)了。

“utf8”的命名在mysql依然是錯(cuò)的牡直。這是個(gè)專有的實(shí)現(xiàn)缀匕。這造成了新的問(wèn)題,而且沒(méi)有解決他應(yīng)該解決的問(wèn)題井氢。

如果你使用MySQL或者 MariaDB,不要使用“utf8”弦追,應(yīng)該總是使用“utf8mb4”,否則總有一天會(huì)遇到頭疼的事情花竞。

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末劲件,一起剝皮案震驚了整個(gè)濱河市,隨后出現(xiàn)的幾起案子约急,更是在濱河造成了極大的恐慌零远,老刑警劉巖,帶你破解...
    沈念sama閱讀 221,635評(píng)論 6 515
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件厌蔽,死亡現(xiàn)場(chǎng)離奇詭異牵辣,居然都是意外死亡,警方通過(guò)查閱死者的電腦和手機(jī)奴饮,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 94,543評(píng)論 3 399
  • 文/潘曉璐 我一進(jìn)店門纬向,熙熙樓的掌柜王于貴愁眉苦臉地迎上來(lái)择浊,“玉大人,你說(shuō)我怎么就攤上這事逾条∽裂遥” “怎么了?”我有些...
    開封第一講書人閱讀 168,083評(píng)論 0 360
  • 文/不壞的土叔 我叫張陵师脂,是天一觀的道長(zhǎng)担孔。 經(jīng)常有香客問(wèn)我,道長(zhǎng)吃警,這世上最難降的妖魔是什么糕篇? 我笑而不...
    開封第一講書人閱讀 59,640評(píng)論 1 296
  • 正文 為了忘掉前任,我火速辦了婚禮酌心,結(jié)果婚禮上拌消,老公的妹妹穿的比我還像新娘。我一直安慰自己谒府,他們只是感情好拼坎,可當(dāng)我...
    茶點(diǎn)故事閱讀 68,640評(píng)論 6 397
  • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著完疫,像睡著了一般泰鸡。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上壳鹤,一...
    開封第一講書人閱讀 52,262評(píng)論 1 308
  • 那天盛龄,我揣著相機(jī)與錄音,去河邊找鬼芳誓。 笑死余舶,一個(gè)胖子當(dāng)著我的面吹牛,可吹牛的內(nèi)容都是我干的锹淌。 我是一名探鬼主播匿值,決...
    沈念sama閱讀 40,833評(píng)論 3 421
  • 文/蒼蘭香墨 我猛地睜開眼,長(zhǎng)吁一口氣:“原來(lái)是場(chǎng)噩夢(mèng)啊……” “哼赂摆!你這毒婦竟也來(lái)了挟憔?” 一聲冷哼從身側(cè)響起,我...
    開封第一講書人閱讀 39,736評(píng)論 0 276
  • 序言:老撾萬(wàn)榮一對(duì)情侶失蹤烟号,失蹤者是張志新(化名)和其女友劉穎绊谭,沒(méi)想到半個(gè)月后,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體汪拥,經(jīng)...
    沈念sama閱讀 46,280評(píng)論 1 319
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡达传,尸身上長(zhǎng)有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 38,369評(píng)論 3 340
  • 正文 我和宋清朗相戀三年,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片宪赶。...
    茶點(diǎn)故事閱讀 40,503評(píng)論 1 352
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡宗弯,死狀恐怖,靈堂內(nèi)的尸體忽然破棺而出逊朽,到底是詐尸還是另有隱情罕伯,我是刑警寧澤,帶...
    沈念sama閱讀 36,185評(píng)論 5 350
  • 正文 年R本政府宣布叽讳,位于F島的核電站,受9級(jí)特大地震影響坟募,放射性物質(zhì)發(fā)生泄漏岛蚤。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 41,870評(píng)論 3 333
  • 文/蒙蒙 一懈糯、第九天 我趴在偏房一處隱蔽的房頂上張望涤妒。 院中可真熱鬧,春花似錦赚哗、人聲如沸她紫。這莊子的主人今日做“春日...
    開封第一講書人閱讀 32,340評(píng)論 0 24
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽(yáng)贿讹。三九已至,卻和暖如春够掠,著一層夾襖步出監(jiān)牢的瞬間民褂,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 33,460評(píng)論 1 272
  • 我被黑心中介騙來(lái)泰國(guó)打工疯潭, 沒(méi)想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留赊堪,地道東北人。 一個(gè)月前我還...
    沈念sama閱讀 48,909評(píng)論 3 376
  • 正文 我出身青樓竖哩,卻偏偏與公主長(zhǎng)得像哭廉,于是被迫代替她去往敵國(guó)和親。 傳聞我的和親對(duì)象是個(gè)殘疾皇子相叁,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 45,512評(píng)論 2 359

推薦閱讀更多精彩內(nèi)容