最近,在項目組使用的mysql數(shù)據(jù)庫中亡问,插入數(shù)據(jù)出現(xiàn)亂碼官紫,關(guān)于這個問題做了下總結(jié),我們從最基本的地方說起州藕,到錯誤產(chǎn)生的深層次原因和解決辦法束世。
基本概念
? 字符(Character)是指人類語言中最小的表義符號。例如’A'床玻、’B'等毁涉;
? 給定一系列字符,對每個字符賦予一個數(shù)值锈死,用數(shù)值來代表對應(yīng)的字符贫堰,這一數(shù)值就是字符的編碼(Encoding)。例如待牵,我們給字符’A'賦予數(shù)值0其屏,給字符’B'賦予數(shù)值1,則0就是字符’A'的編碼缨该;
? 給定一系列字符并賦予對應(yīng)的編碼后漫玄,所有這些字符和編碼對組成的集合就是字符集(Character Set)。例如压彭,給定字符列表為{’A',’B'}時睦优,{’A'=>0, ‘B’=>1}就是一個字符集;
? 字符序(Collation)是指在同一字符集內(nèi)字符之間的比較規(guī)則壮不;
? 確定字符序后汗盘,才能在一個字符集上定義什么是等價的字符,以及字符之間的大小關(guān)系询一;
? 每個字符序唯一對應(yīng)一種字符集隐孽,但一個字符集可以對應(yīng)多種字符序癌椿,其中有一個是默認字符序(Default Collation);
? MySQL中的字符序名稱遵從命名慣例:以字符序?qū)?yīng)的字符集名稱開頭菱阵;以_ci(表示大小寫不敏感)踢俄、_cs(表示大小寫敏感)或_bin(表示按編碼值比較)結(jié)尾。例如:在字符序“utf8_general_ci”下晴及,字符“a”和“A”是等價的都办;
MySQL字符集設(shè)置
? 系統(tǒng)變量:
– character_set_server:默認的內(nèi)部操作字符集
– character_set_client:客戶端來源數(shù)據(jù)使用的字符集
– character_set_connection:連接層字符集
– character_set_results:查詢結(jié)果字符集
– character_set_database:當前選中數(shù)據(jù)庫的默認字符集
– character_set_system:系統(tǒng)元數(shù)據(jù)(字段名等)字符集
– 還有以collation_開頭的同上面對應(yīng)的變量,用來描述字符序虑稼。
? 用introducer指定文本字符串的字符集:
– 格式為:[_charset] ’string’ [COLLATE collation]
– 例如:
SELECT _latin1 ’string’;
SELECT _utf8 ‘你好’ COLLATE utf8_general_ci;
– 由introducer修飾的文本字符串在請求過程中不經(jīng)過多余的轉(zhuǎn)碼琳钉,直接轉(zhuǎn)換為內(nèi)部字符集處理。
MySQL中的字符集轉(zhuǎn)換過程
1. MySQL Server收到請求時將請求數(shù)據(jù)從character_set_client轉(zhuǎn)換為character_set_connection蛛倦;
2. 進行內(nèi)部操作前將請求數(shù)據(jù)從character_set_connection轉(zhuǎn)換為內(nèi)部操作字符集歌懒,其確定方法如下:
- 使用每個數(shù)據(jù)字段的CHARACTER SET設(shè)定值;
- 若上述值不存在溯壶,則使用對應(yīng)數(shù)據(jù)表的DEFAULT CHARACTER SET設(shè)定值(MySQL擴展及皂,非SQL標準);
- 若上述值不存在且改,則使用對應(yīng)數(shù)據(jù)庫的DEFAULT CHARACTER SET設(shè)定值验烧;
- 若上述值不存在,則使用character_set_server設(shè)定值钾虐。
3. 將操作結(jié)果從內(nèi)部操作字符集轉(zhuǎn)換為character_set_results。
??我們現(xiàn)在回過頭來分析下我們產(chǎn)生的亂碼問題:
????????? a 我們的字段沒有設(shè)置字符集笋庄,因此使用表的數(shù)據(jù)集
????????? b 我們的表沒有指定字符集效扫,默認使用數(shù)據(jù)庫存的字符集
????????? c 我們的數(shù)據(jù)庫在創(chuàng)建的時候沒有指定字符集,因此使用character_set_server設(shè)定值
????????? d 我們沒有特意去修改character_set_server的指定字符集直砂,因此使用mysql默認
????????? e mysql默認的字符集是latin1菌仁,因此,我們使用了latin1字符集静暂,而我們character_set_connection的字符集是UTF-8济丘,插入中文亂碼也再所難免了。
常見問題解析
? FAQ-1 向默認字符集為utf8的數(shù)據(jù)表插入utf8編碼的數(shù)據(jù)前沒有設(shè)置連接字符集洽蛀,查詢時設(shè)置連接字符集為utf8
– 插入時根據(jù)MySQL服務(wù)器的默認設(shè)置摹迷,character_set_client、character_set_connection和character_set_results均為latin1郊供;
– 插入操作的數(shù)據(jù)將經(jīng)過latin1=>latin1=>utf8的字符集轉(zhuǎn)換過程峡碉,這一過程中每個插入的漢字都會從原始的3個字節(jié)變成6個字節(jié)保存;
– 查詢時的結(jié)果將經(jīng)過utf8=>utf8的字符集轉(zhuǎn)換過程驮审,將保存的6個字節(jié)原封不動返回鲫寄,產(chǎn)生亂碼吉执。參考下圖:?
? 向默認字符集為latin1的數(shù)據(jù)表插入utf8編碼的數(shù)據(jù)前設(shè)置了連接字符集為utf8(我們遇到的錯誤就是屬于這一種)
– 插入時根據(jù)連接字符集設(shè)置,character_set_client地来、character_set_connection和character_set_results均為utf8戳玫;
--插入數(shù)據(jù)將經(jīng)過utf8=>utf8=>latin1的字符集轉(zhuǎn)換,若原始數(shù)據(jù)中含有\(zhòng)u0000~\u00ff范圍以外的Unicode字符未斑,會因為無法在latin1字符集中表示而被轉(zhuǎn)換為“?”(0×3F)符號咕宿,以后查詢時不管連接字符集設(shè)置如何都無法恢復(fù)其內(nèi)容了。轉(zhuǎn)換過程如下圖:?
檢測字符集問題的一些手段
?? SHOW CHARACTER SET;
? SHOW COLLATION;
? SHOW VARIABLES LIKE ‘character%’;
? SHOW VARIABLES LIKE ‘collation%’;
? SQL函數(shù)HEX颂碧、LENGTH荠列、CHAR_LENGTH
? SQL函數(shù)CHARSET、COLLATION
使用MySQL字符集時的建議
? 建立數(shù)據(jù)庫/表和進行數(shù)據(jù)庫操作時盡量顯式指出使用的字符集载城,而不是依賴于MySQL的默認設(shè)置肌似,否則MySQL升級時可能帶來很大困擾;
? 數(shù)據(jù)庫和連接字符集都使用latin1時诉瓦,雖然大部分情況下都可以解決亂碼問題川队,但缺點是無法以字符為單位來進行SQL操作,一般情況下將數(shù)據(jù)庫和連接字符集都置為utf8是較好的選擇睬澡;
? 使用mysql CAPI(mysql提供C語言操作的API)時固额,初始化數(shù)據(jù)庫句柄后馬上用mysql_options設(shè)定MYSQL_SET_CHARSET_NAME屬性為utf8,這樣就不用顯式地用SET NAMES語句指定連接字符集煞聪,且用mysql_ping重連斷開的長連接時也會把連接字符集重置為utf8斗躏;
? 對于mysql PHP API,一般頁面級的PHP程序總運行時間較短昔脯,在連接到數(shù)據(jù)庫以后顯式用SET NAMES語句設(shè)置一次連接字符集即可啄糙;但當使用長連接時,請注意保持連接通暢并在斷開重連后用SET NAMES語句顯式重置連接字符集云稚。
其他注意事項
? my.cnf中的default_character_set設(shè)置只影響mysql命令連接服務(wù)器時的連接字符集隧饼,不會對使用libmysqlclient庫的應(yīng)用程序產(chǎn)生任何作用!
? 對字段進行的SQL函數(shù)操作通常都是以內(nèi)部操作字符集進行的静陈,不受連接字符集設(shè)置的影響燕雁。
? SQL語句中的裸字符串會受到連接字符集或introducer設(shè)置的影響,對于比較之類的操作可能產(chǎn)生完全不同的結(jié)果鲸拥,需要小心拐格!
總結(jié)
????根據(jù)上面的分析和建議,我們解決我們遇到問題應(yīng)該使用什么方法大家心里應(yīng)該比較清楚了刑赶。對禁荒,就是在創(chuàng)建database的時候指定字符集,不要去通過修改默認配置來達到目的角撞,當然你也可以采用指定表的字符集的形式呛伴,但很容易出現(xiàn)遺漏勃痴,特別是在很多人都參與設(shè)計的時候,更容易紕漏热康。
??? 雖然不提倡通過修改mysql的默認字符集來解決沛申,但對于如何去修改默認字符集,我這里還是給出一些方法姐军,僅供大家參考铁材。
MySQL默認字符集
MySQL對于字符集的指定可以細化到一個數(shù)據(jù)庫,一張表奕锌,一列.傳統(tǒng)的程序在創(chuàng)建數(shù)據(jù)庫和數(shù)據(jù)表時并沒有使用那么復(fù)雜的配置著觉,它們用的是默認的配置.
??? (1)編譯MySQL 時,指定了一個默認的字符集惊暴,這個字符集是 latin1饼丘;
??? (2)安裝MySQL 時,可以在配置文件 (my.ini) 中指定一個默認的的字符集辽话,如果沒指定肄鸽,這個值繼承自編譯時指定的;
??? (3)啟動mysqld 時油啤,可以在命令行參數(shù)中指定一個默認的的字符集典徘,如果沒指定,這個值繼承自配置文件中的配置,此時 character_set_server 被設(shè)定為這個默認的字符集益咬;
??? (4)安裝 MySQL選擇多語言支持逮诲,安裝程序會自動在配置文件中把default_character_set 設(shè)置為 UTF-8,保證缺省情況下所有的數(shù)據(jù)庫所有表的所有列的都用 UTF-8 存儲幽告。
查看默認字符集
????(默認情況下梅鹦,mysql的字符集是latin1(ISO_8859_1),如何查看在上面我們已經(jīng)給出了相關(guān)命令
修改默認字符集
(1) 最簡單的修改方法评腺,就是修改mysql的my.ini文件中的字符集鍵值帘瞭,
?????如 ?? default-character-set = utf8
????? character_set_server =? utf8
??? ?修改完后淑掌,重啟mysql的服務(wù)
(2) 還有一種修改字符集的方法蒿讥,就是使用mysql的命令
?? ? mysql> SET character_set_client = utf8 ;
???? mysql> SET character_set_connection = utf8 ;
???? mysql> SET character_set_database = utf8 ;
???? mysql> SET character_set_results = utf8 ;
???? mysql> SET character_set_server = utf8 ;
???? mysql> SET collation_connection = utf8 ;
???? mysql> SET collation_database = utf8 ;
???? mysql> SET collation_server = utf8 ;
??? 設(shè)置了表的默認字符集為utf8并且通過UTF-8編碼發(fā)送查詢,存入數(shù)據(jù)庫的仍然是亂碼抛腕。那connection連接層上可能出了問題芋绸。解決方法是在發(fā)送查詢前執(zhí)行一下下面這句: SET NAMES 'utf8';它相當于下面的三句指令:
SET character_set_client = utf8;
SET character_set_results = utf8;
SET character_set_connection = utf8;