字符集問題

基本概念

? 字符(Character)是指人類語言中最小的表義符號。例如’A'缰趋、’B'等财忽;

? 給定一系列字符倘核,對每個字符賦予一個數(shù)值,用數(shù)值來代表對應的字符即彪,這一數(shù)值就是字符的編碼(Encoding)紧唱。例如,我們給字符’A'賦予數(shù)值0隶校,給字符’B'賦予數(shù)值1漏益,則0就是字符’A'的編碼;

? 給定一系列字符并賦予對應的編碼后深胳,所有這些字符和編碼對組成的集合就是字符集(Character Set)绰疤。例如,給定字符列表為{‘A’,'B’}時舞终,{‘A’=>0, ‘B’=>1}就是一個字符集轻庆;

? 字符序(Collation)是指在同一字符集內(nèi)字符之間的比較規(guī)則;

? 確定字符序后权埠,才能在一個字符集上定義什么是等價的字符榨了,以及字符之間的大小關系;

? 每個字符序唯一對應一種字符集攘蔽,但一個字符集可以對應多種字符序龙屉,其中有一個是默認字符序(Default Collation);

? MySQL中的字符序名稱遵從命名慣例:以字符序?qū)淖址Q開頭满俗;以_ci(表示大小寫不敏感)转捕、_cs(表示大小寫敏感)或_bin(表示按編碼值比較)結(jié)尾。例如:在字符序“utf8_general_ci”下唆垃,字符“a”和“A”是等價的五芝;
MySQL字符集設置

? 系統(tǒng)變量:


– character_set_server:默認的內(nèi)部操作字符集

– character_set_client:客戶端來源數(shù)據(jù)使用的字符集

– character_set_connection:連接層字符集

– character_set_results:查詢結(jié)果字符集

– character_set_database:當前選中數(shù)據(jù)庫的默認字符集

– character_set_system:系統(tǒng)元數(shù)據(jù)(字段名等)字符集

– 還有以collation_開頭的同上面對應的變量,用來描述字符序辕万。

? 用introducer指定文本字符串的字符集:

– 格式為:[_charset] ‘string’ [COLLATE collation]

– 例如:

? SELECT _latin1 ‘string’;

? SELECT _utf8 ‘你好’ COLLATE utf8_general_ci;

– 由introducer修飾的文本字符串在請求過程中不經(jīng)過多余的轉(zhuǎn)碼枢步,直接轉(zhuǎn)換為內(nèi)部字符集處理。
MySQL中的字符集轉(zhuǎn)換過程

  1. MySQL Server收到請求時將請求數(shù)據(jù)從character_set_client轉(zhuǎn)換為character_set_connection渐尿;

  2. 進行內(nèi)部操作前將請求數(shù)據(jù)從character_set_connection轉(zhuǎn)換為內(nèi)部操作字符集醉途,其確定方法如下:

? 使用每個數(shù)據(jù)字段的CHARACTER SET設定值;

? 若上述值不存在砖茸,則使用對應數(shù)據(jù)表的DEFAULT CHARACTER SET設定值(MySQL擴展隘擎,非SQL標準);

? 若上述值不存在凉夯,則使用對應數(shù)據(jù)庫的DEFAULT CHARACTER SET設定值货葬;

? 若上述值不存在采幌,則使用character_set_server設定值。

  1. 將操作結(jié)果從內(nèi)部操作字符集轉(zhuǎn)換為character_set_results震桶。
常見問題解析

? 向默認字符集為utf8的數(shù)據(jù)表插入utf8編碼的數(shù)據(jù)前沒有設置連接字符集休傍,查詢時設置連接字符集為utf8

– 插入時根據(jù)MySQL服務器的默認設置,character_set_client尼夺、character_set_connection和character_set_results均為latin1尊残;

– 插入操作的數(shù)據(jù)將經(jīng)過latin1=>latin1=>utf8的字符集轉(zhuǎn)換過程,這一過程中每個插入的漢字都會從原始的3個字節(jié)變成6個字節(jié)保存淤堵;

– 查詢時的結(jié)果將經(jīng)過utf8=>utf8的字符集轉(zhuǎn)換過程寝衫,將保存的6個字節(jié)原封不動返回,產(chǎn)生亂碼……

? 向默認字符集為latin1的數(shù)據(jù)表插入utf8編碼的數(shù)據(jù)前設置了連接字符集為utf8

– 插入時根據(jù)連接字符集設置拐邪,character_set_client慰毅、character_set_connection和character_set_results均為utf8;

– 插入數(shù)據(jù)將經(jīng)過utf8=>utf8=>latin1的字符集轉(zhuǎn)換扎阶,若原始數(shù)據(jù)中含有\(zhòng)u0000~\u00ff范圍以外的Unicode字 符汹胃,會因為無法在latin1字符集中表示而被轉(zhuǎn)換為“?”(0x3F)符號,以后查詢時不管連接字符集設置如何都無法恢復其內(nèi)容了东臀。

檢測字符集問題的一些手段

? SHOW CHARACTER SET;

? SHOW COLLATION;

? SHOW VARIABLES LIKE ‘character%’;

? SHOW VARIABLES LIKE ‘collation%’;

? SQL函數(shù)HEX着饥、LENGTH、CHAR_LENGTH

? SQL函數(shù)CHARSET惰赋、COLLATION
使用MySQL字符集時的建議

? 建立數(shù)據(jù)庫/表和進行數(shù)據(jù)庫操作時盡量顯式指出使用的字符集宰掉,而不是依賴于MySQL的默認設置,否則MySQL升級時可能帶來很大困擾赁濒;

? 數(shù)據(jù)庫和連接字符集都使用latin1時雖然大部分情況下都可以解決亂碼問題轨奄,但缺點是無法以字符為單位來進行SQL操作,一般情況下將數(shù)據(jù)庫和連接字符集都置為utf8是較好的選擇拒炎;

? 使用mysql C API時挪拟,初始化數(shù)據(jù)庫句柄后馬上用mysql_options設定MYSQL_SET_CHARSET_NAME屬性為utf8,這樣就不用顯式地用 SET NAMES語句指定連接字符集击你,且用mysql_ping重連斷開的長連接時也會把連接字符集重置為utf8玉组;

? 對于mysql PHP API,一般頁面級的PHP程序總運行時間較短丁侄,在連接到數(shù)據(jù)庫以后顯式用SET NAMES語句設置一次連接字符集即可球切;但當使用長連接時,請注意保持連接通暢并在斷開重連后用SET NAMES語句顯式重置連接字符集绒障。
其他注意事項

? my.cnf中的default_character_set設置只影響mysql命令連接服務器時的連接字符集,不會對使用libmysqlclient庫的應用程序產(chǎn)生任何作用捍歪!

? 對字段進行的SQL函數(shù)操作通常都是以內(nèi)部操作字符集進行的户辱,不受連接字符集設置的影響鸵钝。

? SQL語句中的裸字符串會受到連接字符集或introducer設置的影響,對于比較之類的操作可能產(chǎn)生完全不同的結(jié)果庐镐,需要小心恩商!

從實戰(zhàn)說起:
<?php

if ($username === 'admin') 
{
    if ($_SERVER['REMOTE_ADDR'] !== '127.0.0.1') 
    {
        die('Permission denied!');
    }
}
?>

數(shù)據(jù)庫表是這樣的:

CREATE TABLE `table1` (
  `id` int(10) unsigned NOT NULL AUTO_INCREMENT,
  `username` varchar(255) COLLATE latin1_general_ci NOT NULL,
  `password` varchar(255) COLLATE latin1_general_ci NOT NULL,
  PRIMARY KEY (`id`)
) ENGINE=MyISAM AUTO_INCREMENT=1 DEFAULT CHARSET=latin1 COLLATE=latin1_general_ci;

將字符集設置為latin1,其實默認情況下必逆,Mysql的字符集就是latin1怠堪。

訪問http://******.php?username=admin%c2,即可發(fā)現(xiàn)%c2被忽略名眉,Mysql查出了username=admin的結(jié)果

如果將table1表的字符集換成utf8粟矿,就得不到結(jié)果了

造成這個Trick的根本原因是,Mysql字段的字符集和php mysqli客戶端設置的字符集不相同损拢。

set names utf8 的意思是將客戶端的字符集設置為utf8陌粹。
我們打開mysql控制臺,依次執(zhí)行

SHOW VARIABLES LIKE 'character_set_%';福压、set names utf8;
SHOW VARIABLES LIKE 'character_set_%';掏秩,

即可得到如下結(jié)果:

字符集變化

如上圖,在默認情況下荆姆,mysql字符集為latin1蒙幻,而執(zhí)行了set names utf8;以后,character_set_client胆筒、character_set_connection邮破、character_set_results等與客戶端相關的配置字符集都變成了utf8,但character_set_database腐泻、character_set_server等服務端相關的字符集還是latin1决乎。
這就是該Trick的核心,因為這一條語句派桩,導致客戶端构诚、服務端的字符集出現(xiàn)了差別。既然有差別铆惑,Mysql在執(zhí)行查詢的時候范嘱,就涉及到字符集的轉(zhuǎn)換:

    MySQL Server收到請求時將請求數(shù)據(jù)從character_set_client轉(zhuǎn)換為character_set_connection;
    進行內(nèi)部操作前將請求數(shù)據(jù)從character_set_connection轉(zhuǎn)換為內(nèi)部操作字符集

這個案例中员魏,character_set_client和character_set_connection被設置成了utf8丑蛤,而內(nèi)部操作字符集其實也就是username字段的字符集還是默認的latin1。于是撕阎,整個操作就有如下字符串轉(zhuǎn)換過程:

utf8 --> utf8 --> latin1

最后執(zhí)行比較username='admin'的時候受裹,'admin'是一個latin1字符串。

在轉(zhuǎn)化的過程中,把不完整字符忽略了棉饶。
latin1并不支持漢字厦章,所以utf8漢字轉(zhuǎn)換成latin1時就拋出了錯誤。
但是不完整的漢字字符就會被忽略照藻。

1袜啃、UTF-8編碼是變長編碼,可能有1~4個字節(jié)表示
2幸缕、根據(jù)RFC 3629規(guī)范群发,又有一些字節(jié)值是不允許出現(xiàn)在UTF-8編碼中
3、Mysql中的utf8字符集最長只支持三個字節(jié)
最終发乔,UTF-8第一字節(jié)的取值范圍是:00-7F熟妓、C2-F0。

所以說了那么多列疗,以后這類字符集的問題滑蚯,直接:username=admin%c2

參考了:
https://www.leavesongs.com/PENETRATION/mysql-charset-trick.html
http://www.laruence.com/2008/01/05/12.html
兩位前輩的博客

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末,一起剝皮案震驚了整個濱河市抵栈,隨后出現(xiàn)的幾起案子告材,更是在濱河造成了極大的恐慌,老刑警劉巖古劲,帶你破解...
    沈念sama閱讀 218,755評論 6 507
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件斥赋,死亡現(xiàn)場離奇詭異,居然都是意外死亡产艾,警方通過查閱死者的電腦和手機疤剑,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 93,305評論 3 395
  • 文/潘曉璐 我一進店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來闷堡,“玉大人隘膘,你說我怎么就攤上這事「芾溃” “怎么了弯菊?”我有些...
    開封第一講書人閱讀 165,138評論 0 355
  • 文/不壞的土叔 我叫張陵,是天一觀的道長踱阿。 經(jīng)常有香客問我管钳,道長,這世上最難降的妖魔是什么软舌? 我笑而不...
    開封第一講書人閱讀 58,791評論 1 295
  • 正文 為了忘掉前任才漆,我火速辦了婚禮,結(jié)果婚禮上佛点,老公的妹妹穿的比我還像新娘醇滥。我一直安慰自己,他們只是感情好,可當我...
    茶點故事閱讀 67,794評論 6 392
  • 文/花漫 我一把揭開白布腺办。 她就那樣靜靜地躺著焰手,像睡著了一般。 火紅的嫁衣襯著肌膚如雪怀喉。 梳的紋絲不亂的頭發(fā)上,一...
    開封第一講書人閱讀 51,631評論 1 305
  • 那天船响,我揣著相機與錄音躬拢,去河邊找鬼。 笑死见间,一個胖子當著我的面吹牛聊闯,可吹牛的內(nèi)容都是我干的。 我是一名探鬼主播米诉,決...
    沈念sama閱讀 40,362評論 3 418
  • 文/蒼蘭香墨 我猛地睜開眼菱蔬,長吁一口氣:“原來是場噩夢啊……” “哼!你這毒婦竟也來了史侣?” 一聲冷哼從身側(cè)響起拴泌,我...
    開封第一講書人閱讀 39,264評論 0 276
  • 序言:老撾萬榮一對情侶失蹤,失蹤者是張志新(化名)和其女友劉穎惊橱,沒想到半個月后蚪腐,有當?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體,經(jīng)...
    沈念sama閱讀 45,724評論 1 315
  • 正文 獨居荒郊野嶺守林人離奇死亡税朴,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點故事閱讀 37,900評論 3 336
  • 正文 我和宋清朗相戀三年回季,在試婚紗的時候發(fā)現(xiàn)自己被綠了。 大學時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片正林。...
    茶點故事閱讀 40,040評論 1 350
  • 序言:一個原本活蹦亂跳的男人離奇死亡泡一,死狀恐怖,靈堂內(nèi)的尸體忽然破棺而出觅廓,到底是詐尸還是另有隱情鼻忠,我是刑警寧澤,帶...
    沈念sama閱讀 35,742評論 5 346
  • 正文 年R本政府宣布哪亿,位于F島的核電站粥烁,受9級特大地震影響,放射性物質(zhì)發(fā)生泄漏蝇棉。R本人自食惡果不足惜讨阻,卻給世界環(huán)境...
    茶點故事閱讀 41,364評論 3 330
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望篡殷。 院中可真熱鬧钝吮,春花似錦、人聲如沸。這莊子的主人今日做“春日...
    開封第一講書人閱讀 31,944評論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽。三九已至耳标,卻和暖如春醇坝,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背次坡。 一陣腳步聲響...
    開封第一講書人閱讀 33,060評論 1 270
  • 我被黑心中介騙來泰國打工呼猪, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留,地道東北人砸琅。 一個月前我還...
    沈念sama閱讀 48,247評論 3 371
  • 正文 我出身青樓宋距,卻偏偏與公主長得像,于是被迫代替她去往敵國和親症脂。 傳聞我的和親對象是個殘疾皇子谚赎,可洞房花燭夜當晚...
    茶點故事閱讀 44,979評論 2 355

推薦閱讀更多精彩內(nèi)容