前言
本文將結(jié)合實(shí)例demo男应,闡述30條有關(guān)于優(yōu)化SQL的建議搞疗,多數(shù)是實(shí)際開發(fā)中總結(jié)出來的,希望對大家有幫助剥懒。
1内舟、查詢SQL盡量不要使用select *,而是select具體字段初橘。
反例子:
select * from employee;
正例子:
select id谒获,name from employee;
理由:
- 只取需要的字段,節(jié)省資源壁却、減少網(wǎng)絡(luò)開銷批狱。
select * 進(jìn)行查詢時,很可能就不會使用到覆蓋索引了展东,就會造成回表查詢赔硫。
2、如果知道查詢結(jié)果只有一條或者只要最大/最小一條記錄盐肃,建議用limit 1
假設(shè)現(xiàn)在有employee員工表爪膊,要找出一個名字叫jay的人.
CREATE TABLE `employee` (
`id` int (11) NOT NULL, `name` varchar(255) DEFAULT NULL,
`age` int (11) DEFAULT NULL,
`date` datetime DEFAULT NULL,
`sex` int(1) DEFAULT NULL,
PRIMARY KEY (`id`)
) ENGINE = InnoDB DEFAULT CHARSET = utf8;
反例:
select id,name from employee where name = 'jay'
正例
select id砸王,name from employee where name = 'jay' limit 1;
理由:
- 加上limit 1后,只要找到了對應(yīng)的一條記錄,就不會繼續(xù)向下掃描了,效率將會大大提高推盛。
- 當(dāng)然,如果name是唯一索引的話谦铃,是不必要加上limit 1了耘成,因?yàn)閘imit的存在主要就是為了防止全表掃描,從而提高性能,如果一個語句本身可以預(yù)知不用全表掃描,有沒有l(wèi)imit 瘪菌,性能的差別并不大撒会。
3、應(yīng)盡量避免在where子句中使用or來連接條件
新建一個user表师妙,它有一個普通索引userId诵肛,表結(jié)構(gòu)如下:
CREATE TABLE `user` (
`id` int(11) NOT NULL AUTO_INCREMENT,
`userId` int(11) NOT NULL,
`age` int(11) NOT NULL,
`name` varchar(255) NOT NULL,
PRIMARY KEY (`id`),
KEY `idx_userId`(`userId`)
) ENGINE = InnoDBDEFAULT CHARSET = utf8;
假設(shè)現(xiàn)在需要查詢userid為1或者年齡為18歲的用戶,很容易有以下SQL
反例:
select * from user where userid = 1 or age = 18
正例:
//使用union all
select * from user where userid = 1
union all
select * from user where age = 18
//或者分開兩條sql寫:
select * from user where userid = 1
select * from user where age = 18
理由:
- 使用or可能會使索引失效默穴,從而全表掃描怔檩。
對于or+沒有索引的age這種情況,假設(shè)它走了userId的索引蓄诽,但是走到age查詢條件時薛训,它還得全表掃描,也就是需要三步過程:全表掃描+索引掃描+合并 如果它一開始就走全表掃描若专,直接一遍掃描就完事许蓖。mysql是有優(yōu)化器的,處于效率與成本考慮调衰,遇到or條件膊爪,索引可能失效,看起來也合情合理嚎莉。
4米酬、優(yōu)化limit分頁
我們?nèi)粘W龇猪撔枨髸r,一般會用 limit 實(shí)現(xiàn)趋箩,但是當(dāng)偏移量特別大的時候赃额,查詢效率就變得低下。
反例:
select id,name,age from employee limit 10000,10
正例:
//方案一 :返回上次查詢的最大記錄(偏移量)
select id叫确,name from employee where id>10000 limit 10.
//方案二:order by + 索引
select id跳芳,name from employee order by id limit 10000,10
//方案三:在業(yè)務(wù)允許的情況下限制頁數(shù):
理由:
- 當(dāng)偏移量最大的時候竹勉,查詢效率就會越低飞盆,因?yàn)镸ysql并非是跳過偏移量直接去取后面的數(shù)據(jù),而是先把偏移量+要取的條數(shù)次乓,然后再把前面偏移量這一段的數(shù)據(jù)拋棄掉再返回的吓歇。
- 如果使用優(yōu)化方案一,返回上次最大查詢記錄(偏移量)票腰,這樣可以跳過偏移量城看,效率提升不少。
- 方案二使用order by+索引杏慰,也是可以提高查詢效率的测柠。
- 方案三的話炼鞠,建議跟業(yè)務(wù)討論,有沒有必要查這么后的分頁啦鹃愤。因?yàn)榻^大多數(shù)用戶都不會往后翻太多頁簇搅。
5完域、優(yōu)化你的like語句
日常開發(fā)中软吐,如果用到模糊關(guān)鍵字查詢,很容易想到like吟税,但是like很可能讓你的索引失效凹耙。
反例:
select userId,name from user where userId like '%123';
正例:
select userId肠仪,name from user where userId like '123%';
理由:
-
把%放前面肖抱,并不走索引,如下:
-
把% 放關(guān)鍵字后面异旧,還是會走索引的意述。如下:
6、使用where條件限定要查詢的數(shù)據(jù)吮蛹,避免返回多余的行
假設(shè)業(yè)務(wù)場景是這樣:查詢某個用戶是否是會員荤崇。曾經(jīng)看過老的實(shí)現(xiàn)代碼是這樣。潮针。术荤。
反例:
List<Long> userIds = sqlMap.queryList("select userId from user where isVip=1");
boolean isVip = userIds.contains(userId);
正例:
Long userId = sqlMap.queryObject("select userId from user where userId='userId' and isVip='1' ")
boolean isVip = userId != null;
理由:
- 需要什么數(shù)據(jù),就去查什么數(shù)據(jù)每篷,避免返回不必要的數(shù)據(jù)瓣戚,節(jié)省開銷。
7焦读、盡量避免在索引列上使用mysql的內(nèi)置函數(shù)
業(yè)務(wù)需求:查詢最近七天內(nèi)登陸過的用戶(假設(shè)loginTime加了索引)
反例:
select userId,loginTime from loginuser where Date_ADD(loginTime,Interval 7 DAY) >= now();
正例:
explain select userId,loginTime from loginuser where loginTime >= Date_ADD(NOW(),INTERVAL - 7 DAY
理由:
-
索引列上使用mysql的內(nèi)置函數(shù)子库,索引失效
-
如果索引列不加內(nèi)置函數(shù),索引還是會走的矗晃。
8仑嗅、應(yīng)盡量避免在where子句中對字段進(jìn)行表達(dá)式操作,這將導(dǎo)致系統(tǒng)放棄使用索引而進(jìn)行全表掃
反例:
select * from user where age -1 =10
正例:
select * from user where age = 11
理由:
-
雖然age加了索引喧兄,但是因?yàn)閷λM(jìn)行運(yùn)算无畔,索引直接迷路了。吠冤。浑彰。
9、Inner join 拯辙、left join郭变、right join颜价,優(yōu)先使用Inner join,如果是left join诉濒,左邊表結(jié)果盡量小
- Inner join 內(nèi)連接周伦,在兩張表進(jìn)行連接查詢時,只保留兩張表中完全匹配的結(jié)果集
- left join 在兩張表進(jìn)行連接查詢時未荒,會返回左表所有的行专挪,即使在右表中沒有匹配的記錄。
- right join 在兩張表進(jìn)行連接查詢時片排,會返回右表所有的行寨腔,即使在左表中沒有匹配的記錄。
都滿足SQL需求的前提下率寡,推薦優(yōu)先使用Inner join(內(nèi)連接)迫卢,如果要使用left join,左邊表數(shù)據(jù)結(jié)果盡量小冶共,如果有條件的盡量放到左邊處理乾蛤。
反例:
select * from tab1 t1 left join tab2 t2 on t1.size = t2.size where t1.id > 2
正例:
select * from (select * from tab1 where id > 2) t1 left join tab2 t2 on t1.size = t2.size;
理由:
- 如果inner join是等值連接,或許返回的行數(shù)比較少捅僵,所以性能相對會好一點(diǎn)家卖。
- 同理,使用了左連接命咐,左邊表數(shù)據(jù)結(jié)果盡量小篡九,條件盡量放到左邊處理,意味著返回的行數(shù)可能比較少醋奠。
10榛臼、應(yīng)盡量避免在where子句中使用!=或<>操作符,否則將引擎放棄使用索引而進(jìn)行全表掃描窜司。
反例:
select age,name from user where age <> 18
正例:
//可以考慮分開兩條sql寫
select age,name from user where age < 18;
select age,name from user where age > 18;
理由:
-
使用!=和<>很可能會讓索引失效
11沛善、使用聯(lián)合索引時,注意索引列的順序塞祈,一般遵循最左匹配原則金刁。
表結(jié)構(gòu):(有一個聯(lián)合索引idxuseridage,userId在前议薪,age在后)
CREATE TABLE `user` (
`id` int(11) NOT NULL AUTO_INCREMENT,
`userId` int(11) NOT NULL,
`age` int(11) DEFAULT NULL,
`name` varchar(255) NOT NULL,
PRIMARY KEY (`id`),
KEY `idx_userid_age` (`userId`,`age`) USING BTREE
) ENGINE = InnoDB AUTO_INCREMENT = 2 DEFAULT CHARSET = utf8;
反例:
select * from user where age = 10;
正例:
//符合最左匹配原則
select * from user where userid=10 and age = 10尤蛮;
//符合最左匹配原則
select * from user where userid = 10;
理由:
- 當(dāng)我們創(chuàng)建一個聯(lián)合索引的時候,如(k1,k2,k3)斯议,相當(dāng)于創(chuàng)建了(k1)产捞、(k1,k2)和(k1,k2,k3)三個索引,這就是最左匹配原則哼御。
- 聯(lián)合索引不滿足最左原則坯临,索引一般會失效焊唬,但是這個還跟Mysql優(yōu)化器有關(guān)的烁竭。
12贬芥、對查詢進(jìn)行優(yōu)化,應(yīng)考慮在where及order by涉及的列上建立索引慨菱,盡量避免全表掃描挟炬。
反例:
select * from user where address = '深圳' order by age
正例:
添加索引
alter table user add index idx_address_age (address,age)
13鸥滨、如果插入數(shù)據(jù)過多,考慮批量插入辟宗。
反例:
for(User u :list){
INSERT into user(name,age) values(#name#,#age#)
}
正例:
//一次500批量插入爵赵,分批進(jìn)行
insert into user(name,age) values
<foreach collection="list" item="item" index="index" separator=",">
(#{item.name},#{item.age})
</foreach>
理由:
- 批量插入性能好吝秕,更加省時間
打個比喻:假如你需要搬一萬塊磚到樓頂,你有一個電梯,電梯一次可以放適量的磚(最多放500),你可以選擇一次運(yùn)送一塊磚,也可以一次運(yùn)送500塊磚,你覺得哪個時間消耗大?
14泊脐、在適當(dāng)?shù)臅r候,使用覆蓋索引烁峭。
覆蓋索引能夠使得你的SQL語句不需要回表容客,僅僅訪問索引就能夠得到所有需要的數(shù)據(jù),大大提高了查詢效率约郁。
反例:
// like模糊查詢缩挑,不走索引了
select * from user where userid like '%123%'
正例:
//id為主鍵,那么為普通索引鬓梅,即覆蓋索引登場了供置。
select id,name fromm user where userid like '%123%';
15、慎用distinct關(guān)鍵字
distinct 關(guān)鍵字一般用來過濾重復(fù)記錄绽快,以返回不重復(fù)的記錄芥丧。在查詢一個字段或者很少字段的情況下使用時,給查詢帶來優(yōu)化效果坊罢。但是在字段很多的時候使用续担,卻會大大降低查詢效率。
反例:
SELECT DISTINCT * from user;
正例:
select DISTINCT name from user
理由:
- 帶distinct的語句cpu時間和占用時間都高于不帶distinct的語句活孩。因?yàn)楫?dāng)查詢很多字段時物遇,如果使用distinct,數(shù)據(jù)庫引擎就會對數(shù)據(jù)進(jìn)行比較憾儒,過濾掉重復(fù)數(shù)據(jù)询兴,然而這個比較、過濾的過程會占用系統(tǒng)資源起趾,cpu時間诗舰。
16、刪除冗余和重復(fù)索引
反例:
KEY `idx_userId` (`userId`)
KEY `idx_userId_age` (`userId`,`age`)
正例:
//刪除userId索引阳掐,因?yàn)榻M合索引(A始衅,B)相當(dāng)于創(chuàng)建了(A)和(A冷蚂,B)索引
KEY `idx_userId_age` (`userId`,`age`)
理由:
- 重復(fù)的索引需要維護(hù),并且優(yōu)化器在優(yōu)化查詢的時候也需要逐個地進(jìn)行考慮汛闸,這會影響性能的蝙茶。
17、如果數(shù)據(jù)量較大诸老,優(yōu)化你的修改/刪除語句隆夯。
避免同時修改或刪除過多數(shù)據(jù),因?yàn)闀斐蒫pu利用率過高别伏,從而影響別人對數(shù)據(jù)庫的訪問蹄衷。
反例:
//一次刪除10萬或者100萬+?
delete from user where id <100000;
//或者采用單一循環(huán)操作厘肮,效率低愧口,時間漫長
for(User user:list){
delete from user;
}
正例:
//分批進(jìn)行刪除,如每次500
delete user where id < 500
delete product where id >= 500and id < 1000类茂;
理由:
- 一次性刪除太多數(shù)據(jù)耍属,可能會有l(wèi)ock wait timeout exceed的錯誤,所以建議分批操作巩检。
18厚骗、where子句中考慮使用默認(rèn)值代替null。
反例:
select * from user where age is not null;
正例:
//設(shè)置0為默認(rèn)值
select * from user where age > 0;
理由:
- 并不是說使用了is null 或者 is not null 就會不走索引了兢哭,這個跟mysql版本以及查詢成本都有關(guān)领舰。
如果mysql優(yōu)化器發(fā)現(xiàn),走索引比不走索引成本還要高迟螺,肯定會放棄索引冲秽,這些條件 !=煮仇,>isnull劳跃,isnotnull經(jīng)常被認(rèn)為讓索引失效,其實(shí)是因?yàn)橐话闱闆r下浙垫,查詢的成本高刨仑,優(yōu)化器自動放棄索引的。
- 如果把null值夹姥,換成默認(rèn)值杉武,很多時候讓走索引成為可能,同時辙售,表達(dá)意思會相對清晰一點(diǎn)轻抱。
19、不要有超過5個以上的表連接
- 連表越多旦部,編譯的時間和開銷也就越大祈搜。
- 把連接表拆開成較小的幾個執(zhí)行较店,可讀性更高。
- 如果一定需要連接很多表才能得到數(shù)據(jù)容燕,那么意味著糟糕的設(shè)計了梁呈。
20、exist&in的合理利用
假設(shè)表A表示某企業(yè)的員工表蘸秘,表B表示部門表官卡,查詢所有部門的所有員工,很容易有以下SQL:
select * from A where deptId in (select deptId from B);
這樣寫等價于:
先查詢部門表B
select deptId from B
再由部門deptId醋虏,查詢A的員工
select * from A where A.deptId = B.deptId
可以抽象成這樣的一個循環(huán):
List<> resultSet ;
for(int i=0;i<B.length;i++) {
for(int j=0;j<A.length;j++) {
if(A[i].id==B[j].id) {
resultSet.add(A[i]);
break;
}
}
}
顯然寻咒,除了使用in,我們也可以用exists實(shí)現(xiàn)一樣的查詢功能颈嚼,如下:
select * from A where exists (select 1 from B where A.deptId = B.deptId);
因?yàn)閑xists查詢的理解就是毛秘,先執(zhí)行主查詢,獲得數(shù)據(jù)后粘舟,再放到子查詢中做條件驗(yàn)證熔脂,根據(jù)驗(yàn)證結(jié)果(true或者false),來決定主查詢的數(shù)據(jù)結(jié)果是否得意保留柑肴。
那么,這樣寫就等價于:
select * from A,先從A表做循環(huán)
select * from B where A.deptId = B.deptId,再從B表做循環(huán).
同理旬薯,可以抽象成這樣一個循環(huán):
List<> resultSet ;
for(int i=0;i<A.length;i++) {
for(int j=0;j<B.length;j++) {
if(A[i].deptId==B[j].deptId) {
resultSet.add(A[i]);
break;
}
}
}
數(shù)據(jù)庫最費(fèi)勁的就是跟程序鏈接釋放晰骑。假設(shè)鏈接了兩次,每次做上百萬次的數(shù)據(jù)集查詢绊序,查完就走硕舆,這樣就只做了兩次;相反建立了上百萬次鏈接骤公,申請鏈接釋放反復(fù)重復(fù)抚官,這樣系統(tǒng)就受不了了。即mysql優(yōu)化原則阶捆,就是小表驅(qū)動大表凌节,小的數(shù)據(jù)集驅(qū)動大的數(shù)據(jù)集,從而讓性能更優(yōu)洒试。
因此倍奢,我們要選擇最外層循環(huán)小的,也就是垒棋,如果B的數(shù)據(jù)量小于A卒煞,適合使用in,如果B的數(shù)據(jù)量大于A叼架,即適合選擇exist畔裕。
21衣撬、盡量用union all替換 union
如果檢索結(jié)果中不會有重復(fù)的記錄,推薦union all 替換 union扮饶。
反例:
select * from user where userid = 1
union
select * from user where age = 10
正例:
select * from user where userid = 1
union all
select * from user where age = 10
理由:
- 如果使用union淮韭,不管檢索結(jié)果有沒有重復(fù),都會嘗試進(jìn)行合并贴届,然后在輸出最終結(jié)果前進(jìn)行排序靠粪。如果已知檢索結(jié)果沒有重復(fù)記錄,使用union all 代替union毫蚓,這樣會提高效率占键。
22、索引不宜太多元潘,一般5個以內(nèi)畔乙。
- 索引并不是越多越好,索引雖然提高了查詢的效率翩概,但是也降低了插入和更新的效率牲距。
- insert或update時有可能會重建索引,所以建索引需要慎重考慮钥庇,視具體情況來定牍鞠。
- 一個表的索引數(shù)最好不要超過5個,若太多需要考慮一些索引是否沒有存在的必要评姨。
23难述、盡量使用數(shù)字型字段,若只含數(shù)值信息的字段盡量不要設(shè)計為字符型
反例:
`king_id` varchar(20) NOT NULL COMMENT '守護(hù)者Id'
正例:
`king_id` int(11) NOT NULL COMMENT '守護(hù)者Id'
理由:
- 相對于數(shù)字型字段吐句,字符型會降低查詢和連接的性能胁后,并會增加存儲開銷。
24嗦枢、索引不適合建在有大量重復(fù)數(shù)據(jù)的字段上攀芯,如性別這類型數(shù)據(jù)庫字段。
因?yàn)镾QL優(yōu)化器是根據(jù)表中數(shù)據(jù)量來進(jìn)行查詢優(yōu)化的文虏,如果索引列有大量重復(fù)數(shù)據(jù)侣诺,Mysql查詢優(yōu)化器推算發(fā)現(xiàn)不走索引的成本更低,很可能就放棄索引了择葡。
25紧武、盡量避免向客戶端返回過多數(shù)據(jù)量。
假設(shè)業(yè)務(wù)需求是敏储,用戶請求查看自己最近一年觀看過的直播數(shù)據(jù)阻星。
反例:
//一次性查詢所有數(shù)據(jù)回來
select * from LivingInfo where watchId =useId and watchTime >= Date_sub(now(),Interval 1 Y)
正例:
//分頁查詢
select * from LivingInfo where watchId = useId and watchTime >= Date_sub(now(),Interval 1 Y) limit offset,pageSize
//如果是前端分頁,可以先查詢前兩百條記錄,因?yàn)橐话阌脩魬?yīng)該也不會往下翻太多頁妥箕,
select * from LivingInfo where watchId = useId and watchTime >= Date_sub(now(),Interval 1 Y) limit 200
26滥酥、當(dāng)在SQL語句中連接多個表時,請使用表的別名,并把別名前綴于每一列上畦幢,這樣語義更加清晰坎吻。
反例:
select * from A inner
join B on A.deptId = B.deptId;
正例:
select memeber.name,deptment.deptName from A member inner
join B deptment on member.deptId = deptment.deptId;
27、盡可能使用varchar/nvarchar 代替 char/nchar宇葱。
反例:
`deptName` char(100) DEFAULT NULL COMMENT '部門名稱'
正例:
`deptName` varchar(100) DEFAULT NULL COMMENT '部門名稱'
理由:
- 因?yàn)槭紫茸冮L字段存儲空間小瘦真,可以節(jié)省存儲空間。
- 其次對于查詢來說黍瞧,在一個相對較小的字段內(nèi)搜索诸尽,效率更高。
28印颤、為了提高group by 語句的效率您机,可以在執(zhí)行到該語句前,把不需要的記錄過濾掉年局。
反例:
select job际看,avg(salary) from employee group by job having job = 'president'
or job = 'managent'
正例:
select job,avg(salary) from employee where job ='president'
or job = 'managent' group by job矢否;
29仲闽、如果字段類型是字符串,where時一定用引號括起來兴喂,否則索引失效
反例:
select * from user where userid =123
正例:
select * from user where userid = '123'
理由:
- 為什么第一條語句未加單引號就不走索引了呢蔼囊?這是因?yàn)椴患訂我枙r,是字符串跟數(shù)字的比較衣迷,它們類型不匹配,MySQL會做隱式的類型轉(zhuǎn)換酱酬,把它們轉(zhuǎn)換為浮點(diǎn)數(shù)再做比較壶谒。
30、使用explain 分析你SQL的計劃
日常開發(fā)寫SQL的時候膳沽,盡量養(yǎng)成一個習(xí)慣吧汗菜。用explain分析一下你寫的SQL,尤其是走不走索引這一塊挑社。
explain select * from user where userid = 10086 or age = 18
文章來源于撿田螺的小男孩公眾號 陨界,作者撿田螺的小男孩