深入Mysql字符集設(shè)置

轉(zhuǎn)自: http://www.laruence.com/2008/01/05/12.html

略有修改

基本概念

  • 字符(Character)是指人類語(yǔ)言中最小的表義符號(hào)取劫。例如'A'祈争、'B'等饺汹;
  • 給定一系列字符端仰,對(duì)每個(gè)字符賦予一個(gè)數(shù)值逗物,用數(shù)值來(lái)代表對(duì)應(yīng)的字符跌前,這一數(shù)值就是字符的編碼(Encoding)钮糖。例如雀瓢,我們給字符'A'賦予數(shù)值0枢析,給字符'B'賦予數(shù)值1,則0就是字符'A'的編碼刃麸;
  • 給定一系列字符并賦予對(duì)應(yīng)的編碼后醒叁,所有這些字符和編碼對(duì)組成的集合就是字符集(Character Set)。例如泊业,給定字符列表為{'A','B'}時(shí)把沼,{'A'=>0, 'B'=>1}就是一個(gè)字符集;
  • 字符序(Collation)是指在同一字符集內(nèi)字符之間的比較規(guī)則吁伺;
  • 確定字符序后饮睬,才能在一個(gè)字符集上定義什么是等價(jià)的字符,以及字符之間的大小關(guān)系篮奄;
  • 每個(gè)字符序唯一對(duì)應(yīng)一種字符集捆愁,但一個(gè)字符集可以對(duì)應(yīng)多種字符序,其中有一個(gè)是默認(rèn)字符序(Default Collation)窟却;
  • MySQL中的字符序名稱遵從這樣的命名慣例:以字符序?qū)?yīng)的字符集名稱開(kāi)頭昼丑;以_ci(表示大小寫(xiě)不敏感)、_cs(表示大小寫(xiě)敏感)或_bin(表示按編碼值比較)結(jié)尾夸赫。例如:在字符序utf8_general_ci 下矾克,字符aA是等價(jià)的;

MySQL字符集設(shè)置

  • 系統(tǒng)變量:
    • character_set_server:默認(rèn)的內(nèi)部操作字符集
    • character_set_client:客戶端來(lái)源數(shù)據(jù)使用的字符集
    • character_set_connection:連接層字符集
    • character_set_results:查詢結(jié)果字符集
    • character_set_database:當(dāng)前選中數(shù)據(jù)庫(kù)的默認(rèn)字符集
    • character_set_system:系統(tǒng)元數(shù)據(jù)(字段名等)字符集
    • 還有以collation_開(kāi)頭的同上面對(duì)應(yīng)的變量,用來(lái)描述字符序胁附。
    // 查詢字符集
    SHOW VARIABLES LIKE 'character_set_%'; 
    
    // 查詢字符序
    SHOW VARIABLES LIKE 'collation_%';
    
  • 用==introducer==指定文本字符串的字符集:
    • 格式為:[_charset] 'string' [COLLATE collation]
    • ==例如==:
    SELECT _latin1 'string';
    SELECT _utf8 '你好' COLLATE utf8_general_ci;
    
    • introducer修飾的文本字符串在請(qǐng)求過(guò)程中不經(jīng)過(guò)多余的轉(zhuǎn)碼(是指connection吧)酒繁,直接轉(zhuǎn)換為內(nèi)部字符集處理。

客戶端發(fā)起請(qǐng)求時(shí)控妻,MySQL 中的字符集轉(zhuǎn)換過(guò)程

  1. MySQL Server收到請(qǐng)求時(shí)將請(qǐng)求數(shù)據(jù)從character_set_client轉(zhuǎn)換為character_set_connection州袒;
  2. 進(jìn)行內(nèi)部操作前將請(qǐng)求數(shù)據(jù)從character_set_connection轉(zhuǎn)換為character_set_server,其確定方法如下:
    • 使用每個(gè)數(shù)據(jù)字段的CHARACTER SET設(shè)定值弓候;
    • 若上述值不存在郎哭,則使用對(duì)應(yīng)數(shù)據(jù)表的DEFAULT CHARACTER SET設(shè)定值(MySQL擴(kuò)展,非SQL標(biāo)準(zhǔn))菇存;
    • 若上述值不存在夸研,則使用對(duì)應(yīng)數(shù)據(jù)庫(kù)的DEFAULT CHARACTER SET設(shè)定值;
    • 若上述值不存在依鸥,則使用character_set_server設(shè)定值亥至。
  3. 將操作結(jié)果從內(nèi)部操作字符集轉(zhuǎn)換為character_set_results。


常見(jiàn)問(wèn)題解析

我遇到過(guò)的

其他據(jù)說(shuō)常見(jiàn)的問(wèn)題

個(gè)人覺(jué)得如果只是偶爾用 mysql贱迟,就遇到問(wèn)題再說(shuō)吧姐扮。

  • 向默認(rèn)字符集為utf8的數(shù)據(jù)表插入utf8編碼的數(shù)據(jù)前沒(méi)有設(shè)置連接字符集,查詢時(shí)設(shè)置連接字符集為utf8
    • 插入時(shí)根據(jù)MySQL服務(wù)器的默認(rèn)設(shè)置衣吠,character_set_client茶敏、character_set_connectioncharacter_set_results均為latin1
    • 插入操作的數(shù)據(jù)將經(jīng)過(guò) latin1=>latin1=>utf8 的字符集轉(zhuǎn)換過(guò)程缚俏,這一過(guò)程中每個(gè)插入的漢字都會(huì)從原始的3個(gè)字節(jié)變成6個(gè)字節(jié)保存惊搏;
    • 查詢時(shí)的結(jié)果將經(jīng)過(guò)utf8=>utf8的字符集轉(zhuǎn)換過(guò)程,將保存的6個(gè)字節(jié)原封不動(dòng)返回忧换,產(chǎn)生亂碼……



      向默認(rèn)字符集為latin1的數(shù)據(jù)表插入utf8編碼的數(shù)據(jù)前設(shè)置了連接字符集為utf8

? 插入時(shí)根據(jù)連接字符集設(shè)置恬惯,character_set_client包雀、character_set_connection和character_set_results均為utf8宿崭;

? 插入數(shù)據(jù)將經(jīng)過(guò)utf8=>utf8=>latin1的字符集轉(zhuǎn)換亲铡,若原始數(shù)據(jù)中含有/u0000~/u00ff范圍以外的Unicode字符才写,會(huì)因?yàn)闊o(wú)法在latin1字符集中表示而被轉(zhuǎn)換為“?”(0x3F)符號(hào),以后查詢時(shí)不管連接字符集設(shè)置如何都無(wú)法恢復(fù)其內(nèi)容了奖蔓。


檢測(cè)字符集問(wèn)題的一些手段
? SHOW CHARACTER SET;

? SHOW COLLATION;

? SHOW VARIABLES LIKE 'character%';

? SHOW VARIABLES LIKE 'collation%';

? SQL函數(shù)HEX赞草、LENGTH、CHAR_LENGTH

? SQL函數(shù)CHARSET吆鹤、COLLATION

使用MySQL字符集時(shí)的建議
? 建立數(shù)據(jù)庫(kù)/表和進(jìn)行數(shù)據(jù)庫(kù)操作時(shí)盡量顯式指出使用的字符集厨疙,而不是依賴于MySQL的默認(rèn)設(shè)置,否則MySQL升級(jí)時(shí)可能帶來(lái)很大困擾疑务;

? 數(shù)據(jù)庫(kù)和連接字符集都使用latin1時(shí)雖然大部分情況下都可以解決亂碼問(wèn)題沾凄,但缺點(diǎn)是無(wú)法以字符為單位來(lái)進(jìn)行SQL操作梗醇,一般情況下將數(shù)據(jù)庫(kù)和連接字符集都置為utf8是較好的選擇;

? 使用mysql C API時(shí)撒蟀,初始化數(shù)據(jù)庫(kù)句柄后馬上用mysql_options設(shè)定MYSQL_SET_CHARSET_NAME屬性為utf8叙谨,這樣就不用顯式地用SET NAMES語(yǔ)句指定連接字符集,且用mysql_ping重連斷開(kāi)的長(zhǎng)連接時(shí)也會(huì)把連接字符集重置為utf8保屯;

? 對(duì)于mysql PHP API手负,一般頁(yè)面級(jí)的PHP程序總運(yùn)行時(shí)間較短,在連接到數(shù)據(jù)庫(kù)以后顯式用SET NAMES語(yǔ)句設(shè)置一次連接字符集即可姑尺;但當(dāng)使用長(zhǎng)連接時(shí)竟终,請(qǐng)注意保持連接通暢并在斷開(kāi)重連后用SET NAMES語(yǔ)句顯式重置連接字符集。

其他注意事項(xiàng)
? my.cnf中的default_character_set設(shè)置只影響mysql命令連接服務(wù)器時(shí)的連接字符集切蟋,不會(huì)對(duì)使用libmysqlclient庫(kù)的應(yīng)用程序產(chǎn)生任何作用统捶!

? 對(duì)字段進(jìn)行的SQL函數(shù)操作通常都是以內(nèi)部操作字符集進(jìn)行的,不受連接字符集設(shè)置的影響敦姻。

? SQL語(yǔ)句中的裸字符串會(huì)受到連接字符集或introducer設(shè)置的影響瘾境,對(duì)于比較之類的操作可能產(chǎn)生完全不同的結(jié)果,需要小心镰惦!/P>


在mysql客戶端與mysql服務(wù)端之間迷守,存在著一個(gè)字符集轉(zhuǎn)換器。

character_set_client =>gbk:轉(zhuǎn)換器就知道客戶端發(fā)送過(guò)來(lái)的是gbk格式的編碼

character_set_connection=>gbk:將客戶端傳送過(guò)來(lái)的數(shù)據(jù)轉(zhuǎn)換成gbk格式

character_set_results =>gbk:

注:以上三個(gè)字符集可以使用set names gbk來(lái)統(tǒng)一進(jìn)行設(shè)置

例子:

create table test(

name varchar(64) NOT NULL

)charset utf8;#這里的utf8表示服務(wù)器端的字符編碼

首先旺入,往數(shù)據(jù)表test中插入一條數(shù)據(jù)

inert into test values('測(cè)試');

則兑凿,數(shù)據(jù)“測(cè)試”在數(shù)據(jù)庫(kù)中是以“utf8”格式保存的

過(guò)程:

首先,通過(guò)mysql客戶端茵瘾,將數(shù)據(jù)發(fā)送給Mysql服務(wù)器礼华,經(jīng)過(guò)字符集轉(zhuǎn)換器的時(shí)候,由于character_set_connection 值為gbk拗秘,所以會(huì)將客戶端發(fā)送過(guò)來(lái)的數(shù)據(jù)轉(zhuǎn)為gbk格式圣絮,緊接著,字符集轉(zhuǎn)換器將數(shù)據(jù)要傳送給服務(wù)器的時(shí)候雕旨,發(fā)現(xiàn)服務(wù)器是以u(píng)tf8保存數(shù)據(jù)的扮匠,所以,在其內(nèi)部會(huì)自動(dòng)將數(shù)據(jù)由gbk轉(zhuǎn)換成utf8格式

什么時(shí)候會(huì)出現(xiàn)亂碼凡涩?

客戶端的數(shù)據(jù)格式與聲明的 character_set_client不符

通過(guò) header('Content-type:text/html;charset=utf8');將客戶端的數(shù)據(jù)轉(zhuǎn)成utf8格式的棒搜,在數(shù)據(jù)經(jīng)過(guò)“字符集轉(zhuǎn)換器”的時(shí)候,由于character_set_client=gbk活箕,而character_set_connection也等于gbk力麸,所以從客戶端傳送過(guò)來(lái)的數(shù)據(jù)(其實(shí)是utf8格式)并不會(huì)被轉(zhuǎn)換格式。

但是,字符集轉(zhuǎn)換器在講數(shù)據(jù)發(fā)送給服務(wù)器的時(shí)候克蚂,發(fā)現(xiàn)服務(wù)器要的格式是utf8闺鲸,所以會(huì)將當(dāng)前數(shù) 據(jù)當(dāng)做gbk格式來(lái)處理,從而轉(zhuǎn)成utf8(但是埃叭,這一步其實(shí)已經(jīng)錯(cuò)了翠拣。)。

  1. result與客戶端頁(yè)面不符合的時(shí)候

將返回結(jié)果的格式設(shè)置為utf8游盲,但是客戶端接受的格式為gbk误墓,因此會(huì)出現(xiàn)亂碼

通過(guò)show character set 語(yǔ)法,可以顯示所有可用的字符集

latin字符集

注意:Maxlen列顯示用于存儲(chǔ)一個(gè)字符的最大的字節(jié)數(shù)目益缎。

utf8字符集

gbk字符集

什么時(shí)候會(huì)丟失數(shù)據(jù)谜慌?

對(duì)比以上三幅圖可以知道,每種字符集中莺奔,用于存儲(chǔ)一個(gè)字符的最大的字節(jié)數(shù)目都不同欣范,utf8最大,latin最小令哟。所以在經(jīng)過(guò)字符集轉(zhuǎn)換器的時(shí)候恼琼,如果處理不當(dāng),會(huì)造成數(shù)據(jù)丟失屏富,而且是無(wú)法挽回的晴竞。

比如:

將character_set_connection的值改為lantin的時(shí)候

從客戶端發(fā)送過(guò)來(lái)的gbk數(shù)據(jù),會(huì)被轉(zhuǎn)成lantin1格式狠半,因?yàn)間bk格式的數(shù)據(jù)占用的字符數(shù)較多噩死,從而會(huì)造成數(shù)據(jù)丟失


總結(jié):

character_set_client和character_set_results 一般情況下要一致,因?yàn)橐粋€(gè)表示客戶端發(fā)送的數(shù)據(jù)格式神年,另一個(gè)表示客戶端接受的數(shù)據(jù)格式為了避免造成數(shù)據(jù)丟失已维,需讓 character_set_connection的字符編碼 大于 character_set_client的字符編碼

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末,一起剝皮案震驚了整個(gè)濱河市已日,隨后出現(xiàn)的幾起案子垛耳,更是在濱河造成了極大的恐慌,老刑警劉巖飘千,帶你破解...
    沈念sama閱讀 218,755評(píng)論 6 507
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件堂鲜,死亡現(xiàn)場(chǎng)離奇詭異,居然都是意外死亡占婉,警方通過(guò)查閱死者的電腦和手機(jī)泡嘴,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 93,305評(píng)論 3 395
  • 文/潘曉璐 我一進(jìn)店門(mén)甫恩,熙熙樓的掌柜王于貴愁眉苦臉地迎上來(lái)逆济,“玉大人,你說(shuō)我怎么就攤上這事〗被牛” “怎么了抛虫?”我有些...
    開(kāi)封第一講書(shū)人閱讀 165,138評(píng)論 0 355
  • 文/不壞的土叔 我叫張陵,是天一觀的道長(zhǎng)简僧。 經(jīng)常有香客問(wèn)我建椰,道長(zhǎng),這世上最難降的妖魔是什么岛马? 我笑而不...
    開(kāi)封第一講書(shū)人閱讀 58,791評(píng)論 1 295
  • 正文 為了忘掉前任棉姐,我火速辦了婚禮,結(jié)果婚禮上啦逆,老公的妹妹穿的比我還像新娘。我一直安慰自己,他們只是感情好畅蹂,可當(dāng)我...
    茶點(diǎn)故事閱讀 67,794評(píng)論 6 392
  • 文/花漫 我一把揭開(kāi)白布童漩。 她就那樣靜靜地躺著,像睡著了一般沟蔑。 火紅的嫁衣襯著肌膚如雪湿诊。 梳的紋絲不亂的頭發(fā)上,一...
    開(kāi)封第一講書(shū)人閱讀 51,631評(píng)論 1 305
  • 那天瘦材,我揣著相機(jī)與錄音厅须,去河邊找鬼。 笑死食棕,一個(gè)胖子當(dāng)著我的面吹牛九杂,可吹牛的內(nèi)容都是我干的。 我是一名探鬼主播宣蠕,決...
    沈念sama閱讀 40,362評(píng)論 3 418
  • 文/蒼蘭香墨 我猛地睜開(kāi)眼例隆,長(zhǎng)吁一口氣:“原來(lái)是場(chǎng)噩夢(mèng)啊……” “哼!你這毒婦竟也來(lái)了抢蚀?” 一聲冷哼從身側(cè)響起镀层,我...
    開(kāi)封第一講書(shū)人閱讀 39,264評(píng)論 0 276
  • 序言:老撾萬(wàn)榮一對(duì)情侶失蹤,失蹤者是張志新(化名)和其女友劉穎皿曲,沒(méi)想到半個(gè)月后唱逢,有當(dāng)?shù)厝嗽跇?shù)林里發(fā)現(xiàn)了一具尸體,經(jīng)...
    沈念sama閱讀 45,724評(píng)論 1 315
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡屋休,尸身上長(zhǎng)有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 37,900評(píng)論 3 336
  • 正文 我和宋清朗相戀三年坞古,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片劫樟。...
    茶點(diǎn)故事閱讀 40,040評(píng)論 1 350
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡痪枫,死狀恐怖织堂,靈堂內(nèi)的尸體忽然破棺而出,到底是詐尸還是另有隱情奶陈,我是刑警寧澤易阳,帶...
    沈念sama閱讀 35,742評(píng)論 5 346
  • 正文 年R本政府宣布,位于F島的核電站吃粒,受9級(jí)特大地震影響潦俺,放射性物質(zhì)發(fā)生泄漏。R本人自食惡果不足惜徐勃,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 41,364評(píng)論 3 330
  • 文/蒙蒙 一事示、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧僻肖,春花似錦很魂、人聲如沸。這莊子的主人今日做“春日...
    開(kāi)封第一講書(shū)人閱讀 31,944評(píng)論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽(yáng)。三九已至谁榜,卻和暖如春幅聘,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背窃植。 一陣腳步聲響...
    開(kāi)封第一講書(shū)人閱讀 33,060評(píng)論 1 270
  • 我被黑心中介騙來(lái)泰國(guó)打工帝蒿, 沒(méi)想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留,地道東北人巷怜。 一個(gè)月前我還...
    沈念sama閱讀 48,247評(píng)論 3 371
  • 正文 我出身青樓葛超,卻偏偏與公主長(zhǎng)得像,于是被迫代替她去往敵國(guó)和親延塑。 傳聞我的和親對(duì)象是個(gè)殘疾皇子绣张,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 44,979評(píng)論 2 355

推薦閱讀更多精彩內(nèi)容

  • 前段時(shí)間公司內(nèi)部博客上凱哥分享了一篇關(guān)于mysql字符集編碼的文章,之前我對(duì)mysql字符集一塊基本沒(méi)有深究過(guò),看...
    __七把刀__閱讀 6,441評(píng)論 14 18
  • From: 博客園 Johney最近,在項(xiàng)目組使用的mysql數(shù)據(jù)庫(kù)中关带,插入數(shù)據(jù)出現(xiàn)亂碼侥涵,關(guān)于這個(gè)問(wèn)題做了下總結(jié)...
    zheng7閱讀 959評(píng)論 1 2
  • MySQL字符集 1、基本概念 字符(Character): 是指人類語(yǔ)言中最小的表義符號(hào)宋雏。例如'A'芜飘、'B...
    Jesper2357閱讀 1,263評(píng)論 0 0
  • 基本概念 字符(Character)是指人類語(yǔ)言中最小的表義符號(hào)。例如'A'磨总、'B'等嗦明; 給定一系列字符,對(duì)每個(gè)字...
    Leo_Yi閱讀 378評(píng)論 0 0
  • 『星際牛仔』——每個(gè)人都從中識(shí)別出自己想看的東西蚪燕,這大概就是它被冠以“神作”這一頭銜的原因吧娶牌。 有人認(rèn)為奔浅,這是一部...
    MJ_喵醬閱讀 201評(píng)論 0 0