基本概念
? 字符(Character)是指人類語言中最小的表義符號。例如’A'缰趋、’B'等财忽;
? 給定一系列字符倘核,對每個字符賦予一個數(shù)值,用數(shù)值來代表對應的字符即彪,這一數(shù)值就是字符的編碼(Encoding)紧唱。例如,我們給字符’A'賦予數(shù)值0隶校,給字符’B'賦予數(shù)值1漏益,則0就是字符’A'的編碼;
? 給定一系列字符并賦予對應的編碼后深胳,所有這些字符和編碼對組成的集合就是字符集(Character Set)绰疤。例如,給定字符列表為{‘A’,'B’}時舞终,{‘A’=>0, ‘B’=>1}就是一個字符集轻庆;
? 字符序(Collation)是指在同一字符集內(nèi)字符之間的比較規(guī)則;
? 確定字符序后权埠,才能在一個字符集上定義什么是等價的字符榨了,以及字符之間的大小關系;
? 每個字符序唯一對應一種字符集攘蔽,但一個字符集可以對應多種字符序龙屉,其中有一個是默認字符序(Default Collation);
? MySQL中的字符序名稱遵從命名慣例:以字符序?qū)淖址Q開頭满俗;以_ci(表示大小寫不敏感)转捕、_cs(表示大小寫敏感)或_bin(表示按編碼值比較)結(jié)尾。例如:在字符序“utf8_general_ci”下唆垃,字符“a”和“A”是等價的五芝;
MySQL字符集設置
? 系統(tǒng)變量:
– character_set_server:默認的內(nèi)部操作字符集
– character_set_client:客戶端來源數(shù)據(jù)使用的字符集
– character_set_connection:連接層字符集
– character_set_results:查詢結(jié)果字符集
– character_set_database:當前選中數(shù)據(jù)庫的默認字符集
– character_set_system:系統(tǒng)元數(shù)據(jù)(字段名等)字符集
– 還有以collation_開頭的同上面對應的變量,用來描述字符序辕万。
? 用introducer指定文本字符串的字符集:
– 格式為:[_charset] ‘string’ [COLLATE collation]
– 例如:
? SELECT _latin1 ‘string’;
? SELECT _utf8 ‘你好’ COLLATE utf8_general_ci;
– 由introducer修飾的文本字符串在請求過程中不經(jīng)過多余的轉(zhuǎn)碼枢步,直接轉(zhuǎn)換為內(nèi)部字符集處理。
MySQL中的字符集轉(zhuǎn)換過程
MySQL Server收到請求時將請求數(shù)據(jù)從character_set_client轉(zhuǎn)換為character_set_connection渐尿;
進行內(nèi)部操作前將請求數(shù)據(jù)從character_set_connection轉(zhuǎn)換為內(nèi)部操作字符集醉途,其確定方法如下:
? 使用每個數(shù)據(jù)字段的CHARACTER SET設定值;
? 若上述值不存在砖茸,則使用對應數(shù)據(jù)表的DEFAULT CHARACTER SET設定值(MySQL擴展隘擎,非SQL標準);
? 若上述值不存在凉夯,則使用對應數(shù)據(jù)庫的DEFAULT CHARACTER SET設定值货葬;
? 若上述值不存在采幌,則使用character_set_server設定值。
- 將操作結(jié)果從內(nèi)部操作字符集轉(zhuǎn)換為character_set_results震桶。
常見問題解析
? 向默認字符集為utf8的數(shù)據(jù)表插入utf8編碼的數(shù)據(jù)前沒有設置連接字符集休傍,查詢時設置連接字符集為utf8
– 插入時根據(jù)MySQL服務器的默認設置,character_set_client尼夺、character_set_connection和character_set_results均為latin1尊残;
– 插入操作的數(shù)據(jù)將經(jīng)過latin1=>latin1=>utf8的字符集轉(zhuǎn)換過程,這一過程中每個插入的漢字都會從原始的3個字節(jié)變成6個字節(jié)保存淤堵;
– 查詢時的結(jié)果將經(jīng)過utf8=>utf8的字符集轉(zhuǎn)換過程寝衫,將保存的6個字節(jié)原封不動返回,產(chǎn)生亂碼……
? 向默認字符集為latin1的數(shù)據(jù)表插入utf8編碼的數(shù)據(jù)前設置了連接字符集為utf8
– 插入時根據(jù)連接字符集設置拐邪,character_set_client慰毅、character_set_connection和character_set_results均為utf8;
– 插入數(shù)據(jù)將經(jīng)過utf8=>utf8=>latin1的字符集轉(zhuǎn)換扎阶,若原始數(shù)據(jù)中含有\(zhòng)u0000~\u00ff范圍以外的Unicode字 符汹胃,會因為無法在latin1字符集中表示而被轉(zhuǎn)換為“?”(0x3F)符號,以后查詢時不管連接字符集設置如何都無法恢復其內(nèi)容了东臀。
檢測字符集問題的一些手段
? SHOW CHARACTER SET;
? SHOW COLLATION;
? SHOW VARIABLES LIKE ‘character%’;
? SHOW VARIABLES LIKE ‘collation%’;
? SQL函數(shù)HEX着饥、LENGTH、CHAR_LENGTH
? SQL函數(shù)CHARSET惰赋、COLLATION
使用MySQL字符集時的建議
? 建立數(shù)據(jù)庫/表和進行數(shù)據(jù)庫操作時盡量顯式指出使用的字符集宰掉,而不是依賴于MySQL的默認設置,否則MySQL升級時可能帶來很大困擾赁濒;
? 數(shù)據(jù)庫和連接字符集都使用latin1時雖然大部分情況下都可以解決亂碼問題轨奄,但缺點是無法以字符為單位來進行SQL操作,一般情況下將數(shù)據(jù)庫和連接字符集都置為utf8是較好的選擇拒炎;
? 使用mysql C API時挪拟,初始化數(shù)據(jù)庫句柄后馬上用mysql_options設定MYSQL_SET_CHARSET_NAME屬性為utf8,這樣就不用顯式地用 SET NAMES語句指定連接字符集击你,且用mysql_ping重連斷開的長連接時也會把連接字符集重置為utf8玉组;
? 對于mysql PHP API,一般頁面級的PHP程序總運行時間較短丁侄,在連接到數(shù)據(jù)庫以后顯式用SET NAMES語句設置一次連接字符集即可球切;但當使用長連接時,請注意保持連接通暢并在斷開重連后用SET NAMES語句顯式重置連接字符集绒障。
其他注意事項
? my.cnf中的default_character_set設置只影響mysql命令連接服務器時的連接字符集,不會對使用libmysqlclient庫的應用程序產(chǎn)生任何作用捍歪!
? 對字段進行的SQL函數(shù)操作通常都是以內(nèi)部操作字符集進行的户辱,不受連接字符集設置的影響鸵钝。
? SQL語句中的裸字符串會受到連接字符集或introducer設置的影響,對于比較之類的操作可能產(chǎn)生完全不同的結(jié)果庐镐,需要小心恩商!
從實戰(zhàn)說起:
<?php
if ($username === 'admin')
{
if ($_SERVER['REMOTE_ADDR'] !== '127.0.0.1')
{
die('Permission denied!');
}
}
?>
數(shù)據(jù)庫表是這樣的:
CREATE TABLE `table1` (
`id` int(10) unsigned NOT NULL AUTO_INCREMENT,
`username` varchar(255) COLLATE latin1_general_ci NOT NULL,
`password` varchar(255) COLLATE latin1_general_ci NOT NULL,
PRIMARY KEY (`id`)
) ENGINE=MyISAM AUTO_INCREMENT=1 DEFAULT CHARSET=latin1 COLLATE=latin1_general_ci;
將字符集設置為latin1,其實默認情況下必逆,Mysql的字符集就是latin1怠堪。
訪問http://******.php?username=admin%c2,即可發(fā)現(xiàn)%c2被忽略名眉,Mysql查出了username=admin的結(jié)果
如果將table1表的字符集換成utf8粟矿,就得不到結(jié)果了
造成這個Trick的根本原因是,Mysql字段的字符集和php mysqli客戶端設置的字符集不相同损拢。
set names utf8 的意思是將客戶端的字符集設置為utf8陌粹。
我們打開mysql控制臺,依次執(zhí)行
SHOW VARIABLES LIKE 'character_set_%';福压、set names utf8;
SHOW VARIABLES LIKE 'character_set_%';掏秩,
即可得到如下結(jié)果:
如上圖,在默認情況下荆姆,mysql字符集為latin1蒙幻,而執(zhí)行了set names utf8;以后,character_set_client胆筒、character_set_connection邮破、character_set_results等與客戶端相關的配置字符集都變成了utf8,但character_set_database腐泻、character_set_server等服務端相關的字符集還是latin1决乎。
這就是該Trick的核心,因為這一條語句派桩,導致客戶端构诚、服務端的字符集出現(xiàn)了差別。既然有差別铆惑,Mysql在執(zhí)行查詢的時候范嘱,就涉及到字符集的轉(zhuǎn)換:
MySQL Server收到請求時將請求數(shù)據(jù)從character_set_client轉(zhuǎn)換為character_set_connection;
進行內(nèi)部操作前將請求數(shù)據(jù)從character_set_connection轉(zhuǎn)換為內(nèi)部操作字符集
這個案例中员魏,character_set_client和character_set_connection被設置成了utf8丑蛤,而內(nèi)部操作字符集其實也就是username字段的字符集還是默認的latin1。于是撕阎,整個操作就有如下字符串轉(zhuǎn)換過程:
utf8 --> utf8 --> latin1
最后執(zhí)行比較username='admin'的時候受裹,'admin'是一個latin1字符串。
在轉(zhuǎn)化的過程中,把不完整字符忽略了棉饶。
latin1并不支持漢字厦章,所以utf8漢字轉(zhuǎn)換成latin1時就拋出了錯誤。
但是不完整的漢字字符就會被忽略照藻。
1袜啃、UTF-8編碼是變長編碼,可能有1~4個字節(jié)表示
2幸缕、根據(jù)RFC 3629規(guī)范群发,又有一些字節(jié)值是不允許出現(xiàn)在UTF-8編碼中
3、Mysql中的utf8字符集最長只支持三個字節(jié)
最終发乔,UTF-8第一字節(jié)的取值范圍是:00-7F熟妓、C2-F0。
所以說了那么多列疗,以后這類字符集的問題滑蚯,直接:username=admin%c2
參考了:
https://www.leavesongs.com/PENETRATION/mysql-charset-trick.html
http://www.laruence.com/2008/01/05/12.html
兩位前輩的博客