轉(zhuǎn)自: http://www.laruence.com/2008/01/05/12.html
略有修改
基本概念
- 字符(Character)是指人類語(yǔ)言中最小的表義符號(hào)取劫。例如'A'祈争、'B'等饺汹;
- 給定一系列字符端仰,對(duì)每個(gè)字符賦予一個(gè)數(shù)值逗物,用數(shù)值來(lái)代表對(duì)應(yīng)的字符跌前,這一數(shù)值就是字符的編碼(Encoding)钮糖。例如雀瓢,我們給字符'A'賦予數(shù)值0枢析,給字符'B'賦予數(shù)值1,則0就是字符'A'的編碼刃麸;
- 給定一系列字符并賦予對(duì)應(yīng)的編碼后醒叁,所有這些字符和編碼對(duì)組成的集合就是字符集(Character Set)。例如泊业,給定字符列表為{'A','B'}時(shí)把沼,{'A'=>0, 'B'=>1}就是一個(gè)字符集;
- 字符序(Collation)是指在同一字符集內(nèi)字符之間的比較規(guī)則吁伺;
- 確定字符序后饮睬,才能在一個(gè)字符集上定義什么是等價(jià)的字符,以及字符之間的大小關(guān)系篮奄;
- 每個(gè)字符序唯一對(duì)應(yīng)一種字符集捆愁,但一個(gè)字符集可以對(duì)應(yīng)多種字符序,其中有一個(gè)是默認(rèn)字符序(Default Collation)窟却;
- MySQL中的字符序名稱遵從這樣的命名慣例:以字符序?qū)?yīng)的字符集名稱開(kāi)頭昼丑;以_ci(表示大小寫(xiě)不敏感)、_cs(表示大小寫(xiě)敏感)或_bin(表示按編碼值比較)結(jié)尾夸赫。例如:在字符序
utf8_general_ci
下矾克,字符a
和A
是等價(jià)的;
MySQL字符集設(shè)置
- 系統(tǒng)變量:
-
character_set_server
:默認(rèn)的內(nèi)部操作字符集 -
character_set_client
:客戶端來(lái)源數(shù)據(jù)使用的字符集 -
character_set_connection
:連接層字符集 -
character_set_results
:查詢結(jié)果字符集 -
character_set_database
:當(dāng)前選中數(shù)據(jù)庫(kù)的默認(rèn)字符集 -
character_set_system
:系統(tǒng)元數(shù)據(jù)(字段名等)字符集 - 還有以
collation_
開(kāi)頭的同上面對(duì)應(yīng)的變量,用來(lái)描述字符序胁附。
// 查詢字符集 SHOW VARIABLES LIKE 'character_set_%';
// 查詢字符序 SHOW VARIABLES LIKE 'collation_%';
-
- 用==introducer==指定文本字符串的字符集:
- 格式為:[_charset] 'string' [COLLATE collation]
- ==例如==:
SELECT _latin1 'string'; SELECT _utf8 '你好' COLLATE utf8_general_ci;
- 由
introducer
修飾的文本字符串在請(qǐng)求過(guò)程中不經(jīng)過(guò)多余的轉(zhuǎn)碼(是指connection吧)酒繁,直接轉(zhuǎn)換為內(nèi)部字符集處理。
客戶端發(fā)起請(qǐng)求時(shí)控妻,MySQL 中的字符集轉(zhuǎn)換過(guò)程
- MySQL Server收到請(qǐng)求時(shí)將請(qǐng)求數(shù)據(jù)從
character_set_client
轉(zhuǎn)換為character_set_connection
州袒; - 進(jìn)行內(nèi)部操作前將請(qǐng)求數(shù)據(jù)從
character_set_connection
轉(zhuǎn)換為character_set_server
,其確定方法如下:- 使用每個(gè)數(shù)據(jù)字段的CHARACTER SET設(shè)定值弓候;
- 若上述值不存在郎哭,則使用對(duì)應(yīng)數(shù)據(jù)表的DEFAULT CHARACTER SET設(shè)定值(MySQL擴(kuò)展,非SQL標(biāo)準(zhǔn))菇存;
- 若上述值不存在夸研,則使用對(duì)應(yīng)數(shù)據(jù)庫(kù)的DEFAULT CHARACTER SET設(shè)定值;
- 若上述值不存在依鸥,則使用character_set_server設(shè)定值亥至。
-
將操作結(jié)果從內(nèi)部操作字符集轉(zhuǎn)換為character_set_results。
常見(jiàn)問(wèn)題解析
我遇到過(guò)的
- 字符序出錯(cuò)
1276 Illegal mix of collations MySQL Error 和 另一個(gè)解決方案
其他據(jù)說(shuō)常見(jiàn)的問(wèn)題
個(gè)人覺(jué)得如果只是偶爾用 mysql贱迟,就遇到問(wèn)題再說(shuō)吧姐扮。
- 向默認(rèn)字符集為
utf8
的數(shù)據(jù)表插入utf8
編碼的數(shù)據(jù)前沒(méi)有設(shè)置連接字符集,查詢時(shí)設(shè)置連接字符集為utf8
- 插入時(shí)根據(jù)MySQL服務(wù)器的默認(rèn)設(shè)置衣吠,
character_set_client
茶敏、character_set_connection
和character_set_results
均為latin1
; - 插入操作的數(shù)據(jù)將經(jīng)過(guò) latin1=>latin1=>utf8 的字符集轉(zhuǎn)換過(guò)程缚俏,這一過(guò)程中每個(gè)插入的漢字都會(huì)從原始的3個(gè)字節(jié)變成6個(gè)字節(jié)保存惊搏;
-
查詢時(shí)的結(jié)果將經(jīng)過(guò)utf8=>utf8的字符集轉(zhuǎn)換過(guò)程,將保存的6個(gè)字節(jié)原封不動(dòng)返回忧换,產(chǎn)生亂碼……
向默認(rèn)字符集為latin1的數(shù)據(jù)表插入utf8編碼的數(shù)據(jù)前設(shè)置了連接字符集為utf8
- 插入時(shí)根據(jù)MySQL服務(wù)器的默認(rèn)設(shè)置衣吠,
? 插入時(shí)根據(jù)連接字符集設(shè)置恬惯,character_set_client包雀、character_set_connection和character_set_results均為utf8宿崭;
? 插入數(shù)據(jù)將經(jīng)過(guò)utf8=>utf8=>latin1的字符集轉(zhuǎn)換亲铡,若原始數(shù)據(jù)中含有/u0000~/u00ff范圍以外的Unicode字符才写,會(huì)因?yàn)闊o(wú)法在latin1字符集中表示而被轉(zhuǎn)換為“?”(0x3F)符號(hào),以后查詢時(shí)不管連接字符集設(shè)置如何都無(wú)法恢復(fù)其內(nèi)容了奖蔓。
檢測(cè)字符集問(wèn)題的一些手段
? SHOW CHARACTER SET;
? SHOW COLLATION;
? SHOW VARIABLES LIKE 'character%';
? SHOW VARIABLES LIKE 'collation%';
? SQL函數(shù)HEX赞草、LENGTH、CHAR_LENGTH
? SQL函數(shù)CHARSET吆鹤、COLLATION
使用MySQL字符集時(shí)的建議
? 建立數(shù)據(jù)庫(kù)/表和進(jìn)行數(shù)據(jù)庫(kù)操作時(shí)盡量顯式指出使用的字符集厨疙,而不是依賴于MySQL的默認(rèn)設(shè)置,否則MySQL升級(jí)時(shí)可能帶來(lái)很大困擾疑务;
? 數(shù)據(jù)庫(kù)和連接字符集都使用latin1時(shí)雖然大部分情況下都可以解決亂碼問(wèn)題沾凄,但缺點(diǎn)是無(wú)法以字符為單位來(lái)進(jìn)行SQL操作梗醇,一般情況下將數(shù)據(jù)庫(kù)和連接字符集都置為utf8是較好的選擇;
? 使用mysql C API時(shí)撒蟀,初始化數(shù)據(jù)庫(kù)句柄后馬上用mysql_options設(shè)定MYSQL_SET_CHARSET_NAME屬性為utf8叙谨,這樣就不用顯式地用SET NAMES語(yǔ)句指定連接字符集,且用mysql_ping重連斷開(kāi)的長(zhǎng)連接時(shí)也會(huì)把連接字符集重置為utf8保屯;
? 對(duì)于mysql PHP API手负,一般頁(yè)面級(jí)的PHP程序總運(yùn)行時(shí)間較短,在連接到數(shù)據(jù)庫(kù)以后顯式用SET NAMES語(yǔ)句設(shè)置一次連接字符集即可姑尺;但當(dāng)使用長(zhǎng)連接時(shí)竟终,請(qǐng)注意保持連接通暢并在斷開(kāi)重連后用SET NAMES語(yǔ)句顯式重置連接字符集。
其他注意事項(xiàng)
? my.cnf中的default_character_set設(shè)置只影響mysql命令連接服務(wù)器時(shí)的連接字符集切蟋,不會(huì)對(duì)使用libmysqlclient庫(kù)的應(yīng)用程序產(chǎn)生任何作用统捶!
? 對(duì)字段進(jìn)行的SQL函數(shù)操作通常都是以內(nèi)部操作字符集進(jìn)行的,不受連接字符集設(shè)置的影響敦姻。
? SQL語(yǔ)句中的裸字符串會(huì)受到連接字符集或introducer設(shè)置的影響瘾境,對(duì)于比較之類的操作可能產(chǎn)生完全不同的結(jié)果,需要小心镰惦!/P>
在mysql客戶端與mysql服務(wù)端之間迷守,存在著一個(gè)字符集轉(zhuǎn)換器。
character_set_client =>gbk:轉(zhuǎn)換器就知道客戶端發(fā)送過(guò)來(lái)的是gbk格式的編碼
character_set_connection=>gbk:將客戶端傳送過(guò)來(lái)的數(shù)據(jù)轉(zhuǎn)換成gbk格式
character_set_results =>gbk:
注:以上三個(gè)字符集可以使用set names gbk來(lái)統(tǒng)一進(jìn)行設(shè)置
例子:
create table test(
name varchar(64) NOT NULL
)charset utf8;#這里的utf8表示服務(wù)器端的字符編碼
首先旺入,往數(shù)據(jù)表test中插入一條數(shù)據(jù)
inert into test values('測(cè)試');
則兑凿,數(shù)據(jù)“測(cè)試”在數(shù)據(jù)庫(kù)中是以“utf8”格式保存的
過(guò)程:
首先,通過(guò)mysql客戶端茵瘾,將數(shù)據(jù)發(fā)送給Mysql服務(wù)器礼华,經(jīng)過(guò)字符集轉(zhuǎn)換器的時(shí)候,由于character_set_connection 值為gbk拗秘,所以會(huì)將客戶端發(fā)送過(guò)來(lái)的數(shù)據(jù)轉(zhuǎn)為gbk格式圣絮,緊接著,字符集轉(zhuǎn)換器將數(shù)據(jù)要傳送給服務(wù)器的時(shí)候雕旨,發(fā)現(xiàn)服務(wù)器是以u(píng)tf8保存數(shù)據(jù)的扮匠,所以,在其內(nèi)部會(huì)自動(dòng)將數(shù)據(jù)由gbk轉(zhuǎn)換成utf8格式
什么時(shí)候會(huì)出現(xiàn)亂碼凡涩?
客戶端的數(shù)據(jù)格式與聲明的 character_set_client不符
通過(guò) header('Content-type:text/html;charset=utf8');將客戶端的數(shù)據(jù)轉(zhuǎn)成utf8格式的棒搜,在數(shù)據(jù)經(jīng)過(guò)“字符集轉(zhuǎn)換器”的時(shí)候,由于character_set_client=gbk活箕,而character_set_connection也等于gbk力麸,所以從客戶端傳送過(guò)來(lái)的數(shù)據(jù)(其實(shí)是utf8格式)并不會(huì)被轉(zhuǎn)換格式。
但是,字符集轉(zhuǎn)換器在講數(shù)據(jù)發(fā)送給服務(wù)器的時(shí)候克蚂,發(fā)現(xiàn)服務(wù)器要的格式是utf8闺鲸,所以會(huì)將當(dāng)前數(shù) 據(jù)當(dāng)做gbk格式來(lái)處理,從而轉(zhuǎn)成utf8(但是埃叭,這一步其實(shí)已經(jīng)錯(cuò)了翠拣。)。
- result與客戶端頁(yè)面不符合的時(shí)候
將返回結(jié)果的格式設(shè)置為utf8游盲,但是客戶端接受的格式為gbk误墓,因此會(huì)出現(xiàn)亂碼
通過(guò)show character set 語(yǔ)法,可以顯示所有可用的字符集
latin字符集
注意:Maxlen列顯示用于存儲(chǔ)一個(gè)字符的最大的字節(jié)數(shù)目益缎。
utf8字符集
gbk字符集
什么時(shí)候會(huì)丟失數(shù)據(jù)谜慌?
對(duì)比以上三幅圖可以知道,每種字符集中莺奔,用于存儲(chǔ)一個(gè)字符的最大的字節(jié)數(shù)目都不同欣范,utf8最大,latin最小令哟。所以在經(jīng)過(guò)字符集轉(zhuǎn)換器的時(shí)候恼琼,如果處理不當(dāng),會(huì)造成數(shù)據(jù)丟失屏富,而且是無(wú)法挽回的晴竞。
比如:
將character_set_connection的值改為lantin的時(shí)候
從客戶端發(fā)送過(guò)來(lái)的gbk數(shù)據(jù),會(huì)被轉(zhuǎn)成lantin1格式狠半,因?yàn)間bk格式的數(shù)據(jù)占用的字符數(shù)較多噩死,從而會(huì)造成數(shù)據(jù)丟失
總結(jié):
character_set_client和character_set_results 一般情況下要一致,因?yàn)橐粋€(gè)表示客戶端發(fā)送的數(shù)據(jù)格式神年,另一個(gè)表示客戶端接受的數(shù)據(jù)格式為了避免造成數(shù)據(jù)丟失已维,需讓 character_set_connection的字符編碼 大于 character_set_client的字符編碼