來源 : 聽風(fēng)?架構(gòu)文摘?
由博客園博主聽風(fēng)(ID:huchong)撰寫的《MySQL高性能優(yōu)化系列》已完結(jié)假消,目錄如下:
Mysql高性能優(yōu)化規(guī)范建議
電商數(shù)據(jù)庫表設(shè)計
MySQL分區(qū)表使用方法
MySQL中EXPLAIN執(zhí)行計劃分析
電商場景下的常見業(yè)務(wù)SQL處理
MySQL慢查詢?nèi)罩镜氖褂?/p>
MySQL數(shù)據(jù)庫備份詳解
MySQL主從復(fù)制架構(gòu)使用方法
MySQL主主復(fù)制架構(gòu)使用方法
如何MySQL讀壓力大的問題
次系列地址在文末,下面選取了該系列第一篇以饗讀者:
數(shù)據(jù)庫命令規(guī)范
所有數(shù)據(jù)庫對象名稱必須使用小寫字母并用下劃線分割
所有數(shù)據(jù)庫對象名稱禁止使用mysql保留關(guān)鍵字(如果表名中包含關(guān)鍵字查詢時岭接,需要將其用單引號括起來)
數(shù)據(jù)庫對象的命名要能做到見名識意富拗,并且最后不要超過32個字符
臨時庫表必須以tmp_為前綴并以日期為后綴,備份表必須以bak_為前綴并以日期(時間戳)為后綴
所有存儲相同數(shù)據(jù)的列名和列類型必須一致(一般作為關(guān)聯(lián)列鸣戴,如果查詢時關(guān)聯(lián)列類型不一致會自動進行數(shù)據(jù)類型隱式轉(zhuǎn)換啃沪,會造成列上的索引失效,導(dǎo)致查詢效率降低)
數(shù)據(jù)庫基本設(shè)計規(guī)范
1. 所有表必須使用Innodb存儲引擎
沒有特殊要求(即Innodb無法滿足的功能如:列存儲窄锅,存儲空間數(shù)據(jù)等)的情況下谅阿,所有表必須使用Innodb存儲引擎(mysql5.5之前默認(rèn)使用Myisam,5.6以后默認(rèn)的為Innodb)
Innodb 支持事務(wù)酬滤,支持行級鎖,更好的恢復(fù)性寓涨,高并發(fā)下性能更好
2. 數(shù)據(jù)庫和表的字符集統(tǒng)一使用UTF8
兼容性更好盯串,統(tǒng)一字符集可以避免由于字符集轉(zhuǎn)換產(chǎn)生的亂碼,不同的字符集進行比較前需要進行轉(zhuǎn)換會造成索引失效戒良,如果數(shù)據(jù)庫中有存儲emoji表情的需要体捏,字符集需要采用utf8mb4字符集
3. 所有表和字段都需要添加注釋
使用comment從句添加表和列的備注
從一開始就進行數(shù)據(jù)字典的維護
4. 盡量控制單表數(shù)據(jù)量的大小,建議控制在500萬以內(nèi)
500萬并不是Mysql數(shù)據(jù)庫的限制糯崎,過大會造成修改表結(jié)構(gòu)几缭,備份,恢復(fù)都會有很大的問題
可以用歷史數(shù)據(jù)歸檔(應(yīng)用于日志數(shù)據(jù))沃呢,分庫分表(應(yīng)用于業(yè)務(wù)數(shù)據(jù))等手段來控制數(shù)據(jù)量大小
5. 謹(jǐn)慎使用Mysql分區(qū)表
分區(qū)表在物理上表現(xiàn)為多個文件年栓,在邏輯上表現(xiàn)為一個表
謹(jǐn)慎選擇分區(qū)鍵,跨分區(qū)查詢效率可能更低
建議采用物理分表的方式管理大數(shù)據(jù)
6. 盡量做到冷熱數(shù)據(jù)分離薄霜,減小表的寬度
Mysql限制每個表最多存儲4096列某抓,并且每一行數(shù)據(jù)的大小不能超過65535字節(jié)
減少磁盤IO,保證熱數(shù)據(jù)的內(nèi)存緩存命中率(表越寬纸兔,把表裝載進內(nèi)存緩沖池時所占用的內(nèi)存也就越大,也會消耗更多的IO)
更有效的利用緩存,避免讀入無用的冷數(shù)據(jù)
經(jīng)常一起使用的列放到一個表中(避免更多的關(guān)聯(lián)操作)
7. 禁止在表中建立預(yù)留字段
預(yù)留字段的命名很難做到見名識義
預(yù)留字段無法確認(rèn)存儲的數(shù)據(jù)類型否副,所以無法選擇合適的類型
對預(yù)留字段類型的修改汉矿,會對表進行鎖定
8. 禁止在數(shù)據(jù)庫中存儲圖片,文件等大的二進制數(shù)據(jù)
通常文件很大备禀,會短時間內(nèi)造成數(shù)據(jù)量快速增長洲拇,數(shù)據(jù)庫進行數(shù)據(jù)庫讀取時,通常會進行大量的隨機IO操作曲尸,文件很大時赋续,IO操作很耗時
通常存儲于文件服務(wù)器,數(shù)據(jù)庫只存儲文件地址信息
9. 禁止在線上做數(shù)據(jù)庫壓力測試
10. 禁止從開發(fā)環(huán)境队腐,測試環(huán)境直接連接生成環(huán)境數(shù)據(jù)庫
數(shù)據(jù)庫字段設(shè)計規(guī)范
1. 優(yōu)先選擇符合存儲需要的最小的數(shù)據(jù)類型
原因是:列的字段越大蚕捉,建立索引時所需要的空間也就越大,這樣一頁中所能存儲的索引節(jié)點的數(shù)量也就越少也越少柴淘,在遍歷時所需要的IO次數(shù)也就越多迫淹,
索引的性能也就越差
方法:
將字符串轉(zhuǎn)換成數(shù)字類型存儲,如:將IP地址轉(zhuǎn)換成整形數(shù)據(jù)
mysql提供了兩個方法來處理ip地址
inet_aton 把ip轉(zhuǎn)為無符號整型(4-8位)
inet_ntoa 把整型的ip轉(zhuǎn)為地址
插入數(shù)據(jù)前为严,先用inet_aton把ip地址轉(zhuǎn)為整型敛熬,可以節(jié)省空間
顯示數(shù)據(jù)時,使用inet_ntoa把整型的ip地址轉(zhuǎn)為地址顯示即可第股。
對于非負(fù)型的數(shù)據(jù)(如自增ID应民、整型IP)來說,要優(yōu)先使用無符號整型來存儲
因為:無符號相對于有符號可以多出一倍的存儲空間
SIGNED INT -2147483648~2147483647
UNSIGNED INT 0~4294967295
VARCHAR(N)中的N代表的是字符數(shù)夕吻,而不是字節(jié)數(shù)
使用UTF8存儲255個漢字 Varchar(255)=765個字節(jié)
過大的長度會消耗更多的內(nèi)存
2. 避免使用TEXT诲锹、BLOB數(shù)據(jù)類型,最常見的TEXT類型可以存儲64k的數(shù)據(jù)
建議把BLOB或是TEXT列分離到單獨的擴展表中
Mysql內(nèi)存臨時表不支持TEXT涉馅、BLOB這樣的大數(shù)據(jù)類型归园,如果查詢中包含這樣的數(shù)據(jù),在排序等操作時稚矿,就不能使用內(nèi)存臨時表庸诱,必須使用磁盤臨時表進行,而且對于這種數(shù)據(jù)晤揣,Mysql還是要進行二次查詢桥爽,會使sql性能變得很差,但是不是說一定不能使用這樣的數(shù)據(jù)類型
如果一定要使用昧识,建議把BLOB或是TEXT列分離到單獨的擴展表中钠四,查詢時一定不要使用select * 而只需要取出必要的列,不需要TEXT列的數(shù)據(jù)時不要對該列進行查詢
TEXT或BLOB類型只能使用前綴索引
因為MySQL對索引字段長度是有限制的跪楞,所以TEXT類型只能使用前綴索引形导,并且TEXT列上是不能有默認(rèn)值的
3. 避免使用ENUM類型
修改ENUM值需要使用ALTER語句
ENUM類型的ORDER BY操作效率低环疼,需要額外操作
禁止使用數(shù)值作為ENUM的枚舉值
4. 盡可能把所有列定義為NOT NULL
原因:索引NULL列需要額外的空間來保存,所以要占用更多的空間
進行比較和計算時要對NULL值做特別的處理
5. 使用TIMESTAMP(4個字節(jié))或DATETIME類型(8個字節(jié))存儲時間
TIMESTAMP?存儲的時間范圍?1970-01-01?00:00:01?~?2038-01-19-03:14:07
TIMESTAMP 占用4字節(jié)和INT相同朵耕,但比INT可讀性高
超出TIMESTAMP取值范圍的使用DATETIME類型存儲
經(jīng)常會有人用字符串存儲日期型的數(shù)據(jù)(不正確的做法)
缺點1:無法用日期函數(shù)進行計算和比較
缺點2:用字符串存儲日期要占用更多的空間
6. 同財務(wù)相關(guān)的金額類數(shù)據(jù)必須使用decimal類型
非精準(zhǔn)浮點:float,double
精準(zhǔn)浮點:decimal
Decimal類型為精準(zhǔn)浮點數(shù)炫隶,在計算時不會丟失精度
占用空間由定義的寬度決定,每4個字節(jié)可以存儲9位數(shù)字阎曹,并且小數(shù)點要占用一個字節(jié)
可用于存儲比bigint更大的整型數(shù)據(jù)
索引設(shè)計規(guī)范
1. 限制每張表上的索引數(shù)量伪阶,建議單張表索引不超過5個
索引并不是越多越好!索引可以提高效率同樣可以降低效率
索引可以增加查詢效率处嫌,但同樣也會降低插入和更新的效率栅贴,甚至有些情況下會降低查詢效率
因為mysql優(yōu)化器在選擇如何優(yōu)化查詢時,會根據(jù)統(tǒng)一信息熏迹,對每一個可以用到的索引來進行評估檐薯,以生成出一個最好的執(zhí)行計劃,如果同時有很多個
索引都可以用于查詢注暗,就會增加mysql優(yōu)化器生成執(zhí)行計劃的時間坛缕,同樣會降低查詢性能?
2. 禁止給表中的每一列都建立單獨的索引
5.6版本之前,一個sql只能使用到一個表中的一個索引捆昏,5.6以后赚楚,雖然有了合并索引的優(yōu)化方式,但是還是遠遠沒有使用一個聯(lián)合索引的查詢方式好
3. 每個Innodb表必須有個主鍵
Innodb是一種索引組織表:數(shù)據(jù)的存儲的邏輯順序和索引的順序是相同的
每個表都可以有多個索引骗卜,但是表的存儲順序只能有一種
Innodb是按照主鍵索引的順序來組織表的
不要使用更新頻繁的列作為主鍵宠页,不適用多列主鍵(相當(dāng)于聯(lián)合索引)
不要使用UUID,MD5,HASH,字符串列作為主鍵(無法保證數(shù)據(jù)的順序增長)
主鍵建議使用自增ID值
常見索引列建議
出現(xiàn)在SELECT、UPDATE寇仓、DELETE語句的WHERE從句中的列
包含在ORDER BY举户、GROUP BY、DISTINCT中的字段遍烦,并不要將符合1和2中的字段的列都建立一個索引俭嘁, 通常將1、2中的字段建立聯(lián)合索引效果更好
多表join的關(guān)聯(lián)列
如何選擇索引列的順序
建立索引的目的是:希望通過索引進行數(shù)據(jù)查找乳愉,減少隨機IO,增加查詢性能?屯远,索引能過濾出越少的數(shù)據(jù)蔓姚,則從磁盤中讀入的數(shù)據(jù)也就越少
區(qū)分度最高的放在聯(lián)合索引的最左側(cè)(區(qū)分度=列中不同值的數(shù)量/列的總行數(shù))
盡量把字段長度小的列放在聯(lián)合索引的最左側(cè)(因為字段長度越小,一頁能存儲的數(shù)據(jù)量越大慨丐,IO性能也就越好)
使用最頻繁的列放到聯(lián)合索引的左側(cè)(這樣可以比較少的建立一些索引)
避免建立冗余索引和重復(fù)索引(增加了查詢優(yōu)化器生成執(zhí)行計劃的時間)
重復(fù)索引示例:primary?key(id)坡脐、index(id)、unique?index(id)
冗余索引示例:index(a,b,c)房揭、index(a,b)备闲、index(a)
對于頻繁的查詢優(yōu)先考慮使用覆蓋索引
覆蓋索引:就是包含了所有查詢字段(where,select,ordery?by,group?by包含的字段)的索引
覆蓋索引的好處:
避免Innodb表進行索引的二次查詢
Innodb是以聚集索引的順序來存儲的晌端,對于Innodb來說,二級索引在葉子節(jié)點中所保存的是行的主鍵信息恬砂,
如果是用二級索引查詢數(shù)據(jù)的話咧纠,在查找到相應(yīng)的鍵值后,還要通過主鍵進行二次查詢才能獲取我們真實所需要的數(shù)據(jù)
而在覆蓋索引中泻骤,二級索引的鍵值中可以獲取所有的數(shù)據(jù)漆羔,避免了對主鍵的二次查詢 ,減少了IO操作狱掂,提升了查詢效率
可以把隨機IO變成順序IO加快查詢效率
由于覆蓋索引是按鍵值的順序存儲的演痒,對于IO密集型的范圍查找來說,對比隨機從磁盤讀取每一行的數(shù)據(jù)IO要少的多趋惨,
因此利用覆蓋索引在訪問時也可以把磁盤的隨機讀取的IO轉(zhuǎn)變成索引查找的順序IO
索引SET規(guī)范
盡量避免使用外鍵約束
不建議使用外鍵約束(foreign key)鸟顺,但一定要在表與表之間的關(guān)聯(lián)鍵上建立索引
外鍵可用于保證數(shù)據(jù)的參照完整性,但建議在業(yè)務(wù)端實現(xiàn)
外鍵會影響父表和子表的寫操作從而降低性能
數(shù)據(jù)庫SQL開發(fā)規(guī)范
1. 建議使用預(yù)編譯語句進行數(shù)據(jù)庫操作
預(yù)編譯語句可以重復(fù)使用這些計劃器虾,減少SQL編譯所需要的時間讯嫂,還可以解決動態(tài)SQL所帶來的SQL注入的問題
只傳參數(shù),比傳遞SQL語句更高效
相同語句可以一次解析曾撤,多次使用端姚,提高處理效率
2. 避免數(shù)據(jù)類型的隱式轉(zhuǎn)換
隱式轉(zhuǎn)換會導(dǎo)致索引失效
如:??select?name,phone?from?customer?where?id?=?'111';
3. 充分利用表上已經(jīng)存在的索引
避免使用雙%號的查詢條件。
如 a like '%123%'挤悉,(如果無前置%,只有后置%渐裸,是可以用到列上的索引的)
一個SQL只能利用到復(fù)合索引中的一列進行范圍查詢
如 有 a,b,c列的聯(lián)合索引,在查詢條件中有a列的范圍查詢装悲,則在b,c列上的索引將不會被用到昏鹃,
在定義聯(lián)合索引時,如果a列要用到范圍查找的話诀诊,就要把a列放到聯(lián)合索引的右側(cè)
使用left join 或 not exists 來優(yōu)化not in 操作
因為not in 也通常會使用索引失效
4. 數(shù)據(jù)庫設(shè)計時洞渤,應(yīng)該要對以后擴展進行考慮
5. 程序連接不同的數(shù)據(jù)庫使用不同的賬號,進制跨庫查詢
為數(shù)據(jù)庫遷移和分庫分表留出余地
降低業(yè)務(wù)耦合度
避免權(quán)限過大而產(chǎn)生的安全風(fēng)險
6. 禁止使用SELECT * 必須使用SELECT <字段列表> 查詢
原因:
消耗更多的CPU和IO以網(wǎng)絡(luò)帶寬資源
無法使用覆蓋索引
可減少表結(jié)構(gòu)變更帶來的影響
7. 禁止使用不含字段列表的INSERT語句
如:?insert?into?values?('a','b','c');
應(yīng)使用 insert into t(c1,c2,c3) values ('a','b','c');
8. 避免使用子查詢属瓣,可以把子查詢優(yōu)化為join操作
通常子查詢在in子句中载迄,且子查詢中為簡單SQL(不包含union、group by抡蛙、order by护昧、limit從句)時,才可以把子查詢轉(zhuǎn)化為關(guān)聯(lián)查詢進行優(yōu)化
子查詢性能差的原因:
子查詢的結(jié)果集無法使用索引,通常子查詢的結(jié)果集會被存儲到臨時表中粗截,不論是內(nèi)存臨時表還是磁盤臨時表都不會存在索引惋耙,所以查詢性能會受到一定的影響
特別是對于返回結(jié)果集比較大的子查詢,其對查詢性能的影響也就越大
由于子查詢會產(chǎn)生大量的臨時表也沒有索引,所以會消耗過多的CPU和IO資源绽榛,產(chǎn)生大量的慢查詢
9. 避免使用JOIN關(guān)聯(lián)太多的表
對于Mysql來說湿酸,是存在關(guān)聯(lián)緩存的,緩存的大小可以由join_buffer_size參數(shù)進行設(shè)置
在Mysql中灭美,對于同一個SQL多關(guān)聯(lián)(join)一個表推溃,就會多分配一個關(guān)聯(lián)緩存,如果在一個SQL中關(guān)聯(lián)的表越多冲粤,
所占用的內(nèi)存也就越大
如果程序中大量的使用了多表關(guān)聯(lián)的操作美莫,同時join_buffer_size設(shè)置的也不合理的情況下,就容易造成服務(wù)器內(nèi)存溢出的情況梯捕,
就會影響到服務(wù)器數(shù)據(jù)庫性能的穩(wěn)定性
同時對于關(guān)聯(lián)操作來說厢呵,會產(chǎn)生臨時表操作,影響查詢效率
Mysql最多允許關(guān)聯(lián)61個表傀顾,建議不超過5個
10. 減少同數(shù)據(jù)庫的交互次數(shù)
數(shù)據(jù)庫更適合處理批量操作
合并多個相同的操作到一起襟铭,可以提高處理效率
11. 對應(yīng)同一列進行or判斷時,使用in代替or
in 的值不要超過500個
in 操作可以更有效的利用索引短曾,or大多數(shù)情況下很少能利用到索引
12. 禁止使用order by rand() 進行隨機排序
會把表中所有符合條件的數(shù)據(jù)裝載到內(nèi)存中寒砖,然后在內(nèi)存中對所有數(shù)據(jù)根據(jù)隨機生成的值進行排序,并且可能會對每一行都生成一個隨機值嫉拐,如果滿足條件的數(shù)據(jù)集非常大哩都,
就會消耗大量的CPU和IO及內(nèi)存資源
推薦在程序中獲取一個隨機值,然后從數(shù)據(jù)庫中獲取數(shù)據(jù)的方式
13. WHERE從句中禁止對列進行函數(shù)轉(zhuǎn)換和計算
對列進行函數(shù)轉(zhuǎn)換或計算時會導(dǎo)致無法使用索引
不推薦:
wheredate(create_time)='20190101'
推薦:
wherecreate_time >='20190101'and create_time <'20190102'
14. 在明顯不會有重復(fù)值時使用UNION ALL 而不是UNION
UNION 會把兩個結(jié)果集的所有數(shù)據(jù)放到臨時表中后再進行去重操作
UNION ALL 不會再對結(jié)果集進行去重操作
15. 拆分復(fù)雜的大SQL為多個小SQL
大SQL:邏輯上比較復(fù)雜婉徘,需要占用大量CPU進行計算的SQL
MySQL 一個SQL只能使用一個CPU進行計算
SQL拆分后可以通過并行執(zhí)行來提高處理效率
數(shù)據(jù)庫操作行為規(guī)范
1. 超100萬行的批量寫(UPDATE晒喷、DELETE逮光、INSERT)操作细层,要分批多次進行操作
大批量操作可能會造成嚴(yán)重的主從延遲
主從環(huán)境中,大批量操作可能會造成嚴(yán)重的主從延遲弧岳,大批量的寫操作一般都需要執(zhí)行一定長的時間,
而只有當(dāng)主庫上執(zhí)行完成后几晤,才會在其他從庫上執(zhí)行约炎,所以會造成主庫與從庫長時間的延遲情況
binlog日志為row格式時會產(chǎn)生大量的日志
大批量寫操作會產(chǎn)生大量日志,特別是對于row格式二進制數(shù)據(jù)而言蟹瘾,由于在row格式中會記錄每一行數(shù)據(jù)的修改圾浅,我們一次修改的數(shù)據(jù)越多,
產(chǎn)生的日志量也就會越多憾朴,日志的傳輸和恢復(fù)所需要的時間也就越長狸捕,這也是造成主從延遲的一個原因
避免產(chǎn)生大事務(wù)操作
大批量修改數(shù)據(jù),一定是在一個事務(wù)中進行的伊脓,這就會造成表中大批量數(shù)據(jù)進行鎖定府寒,從而導(dǎo)致大量的阻塞,阻塞會對MySQL的性能產(chǎn)生非常大的影響
特別是長時間的阻塞會占滿所有數(shù)據(jù)庫的可用連接报腔,這會使生產(chǎn)環(huán)境中的其他應(yīng)用無法連接到數(shù)據(jù)庫株搔,因此一定要注意大批量寫操作要進行分批
2. 對于大表使用pt-online-schema-change修改表結(jié)構(gòu)
避免大表修改產(chǎn)生的主從延遲
避免在對表字段進行修改時進行鎖表
對大表數(shù)據(jù)結(jié)構(gòu)的修改一定要謹(jǐn)慎,會造成嚴(yán)重的鎖表操作纯蛾,尤其是生產(chǎn)環(huán)境纤房,是不能容忍的
pt-online-schema-change它會首先建立一個與原表結(jié)構(gòu)相同的新表,并且在新表上進行表結(jié)構(gòu)的修改翻诉,然后再把原表中的數(shù)據(jù)復(fù)制到新表中炮姨,并在原表中增加一些觸發(fā)器
把原表中新增的數(shù)據(jù)也復(fù)制到新表中,在行所有數(shù)據(jù)復(fù)制完成之后碰煌,把新表命名成原表舒岸,并把原來的表刪除掉
把原來一個DDL操作,分解成多個小的批次進行
3. 禁止為程序使用的賬號賦予super權(quán)限
當(dāng)達到最大連接數(shù)限制時芦圾,還運行1個有super權(quán)限的用戶連接
super權(quán)限只能留給DBA處理問題的賬號使用
4. 對于程序連接數(shù)據(jù)庫賬號蛾派,遵循權(quán)限最小原則
程序使用數(shù)據(jù)庫賬號只能在一個DB下使用,不準(zhǔn)跨庫
程序使用的賬號原則上不準(zhǔn)有drop權(quán)限
<完>