MySQL 處理海量數(shù)據(jù)時(shí)的一些優(yōu)化查詢的方法

在參與實(shí)際項(xiàng)目中宋列,當(dāng) MySQL 表的數(shù)據(jù)量達(dá)到百萬級(jí)時(shí),普通的 SQL 查詢效率呈直線下降瞬矩,而且如果 where 中的查詢條件較多時(shí)茶鉴,其查詢速度無法容忍。想想可知景用,假如我們查詢淘寶的一個(gè)訂單詳情涵叮,如果查詢時(shí)間高達(dá)幾十秒,這么高的查詢延時(shí)伞插,任何用戶都會(huì)抓狂割粮。因此如何提高 SQL 語句查詢效率,顯得十分重要媚污。

查詢速度慢的原因

1舀瓢、沒有索引或者沒有用到索引(這是查詢慢最常見的問題,是程序設(shè)計(jì)的缺陷)

2耗美、I/O 吞吐量小京髓,形成了瓶頸效應(yīng)。

3堰怨、沒有創(chuàng)建計(jì)算列導(dǎo)致查詢不優(yōu)化。

4蛇摸、內(nèi)存不足

5备图、網(wǎng)絡(luò)速度慢

6、查詢出的數(shù)據(jù)量過大(可采用多次查詢赶袄,其他的方法降低數(shù)據(jù)量)

7揽涮、鎖或者死鎖(這是查詢慢最常見的問題,是程序設(shè)計(jì)的缺陷)

8弃鸦、sp_lock,sp_who,活動(dòng)的用戶查看,原因是讀寫競爭資源绞吁。

9、返回了不必要的行和列

10唬格、查詢語句不好家破,沒有優(yōu)化


30 種 SQL 查詢語句的優(yōu)化方法:

1颜说、應(yīng)盡量避免在 where 子句中使用 != 或者 <> 操作符,否則將引擎放棄使用索引而進(jìn)行全表掃描汰聋。

2门粪、應(yīng)盡量避免在 where 子句中對(duì)字段進(jìn)行 null 值判斷,否則將導(dǎo)致引擎放棄使用索引而進(jìn)行全表掃描烹困,如:

select id from t where num is null;

可以在 num 上設(shè)置默認(rèn)值 0 玄妈,確保表中 num 列沒有 null 值,然后這樣查詢:

select id from t where num = 0;

3髓梅、對(duì)查詢進(jìn)行優(yōu)化拟蜻,應(yīng)盡量避免全表掃描,首先應(yīng)考慮在 where 及 order by 涉及的列上建立索引枯饿。

4酝锅、盡量避免在 where 子句中使用 or 來連接條件,否則將導(dǎo)致引擎放棄使用索引而進(jìn)行全表掃描奢方,如:

select id from t where num = 10 or num = 20;

可以這樣查詢:

select id from t where num = 10union allselect id from t where num = 20;

5搔扁、下面的查詢也將導(dǎo)致全表掃描:(不能前置百分號(hào))

select id from t where name like '%abc%';

若要提高效率,可以考慮全文檢索蟋字。

6稿蹲、in 和 not in 也要慎用,否則會(huì)導(dǎo)致全表掃描鹊奖,如:

select id from t where num in(1, 2, 3);

對(duì)于連續(xù)的數(shù)值苛聘,能用 between 就不要用 in 了:

select id from t where num between 1 and 3;
select xx,phone FROM send  a JOIN (
 select '13891030091' phone  union select '13992085916' …………  UNION  SELECT '13619100234' ) b
  on  a.Phone=b.phone
--替代下面  很多數(shù)據(jù)隔開的時(shí)候
in('13891030091','13992085916','13619100234'…………)

7、如果在 where 子句中使用參數(shù)嫉入,也會(huì)導(dǎo)致全表掃描焰盗。因?yàn)?SQL 只有在運(yùn)行時(shí)才會(huì)解析局部變量,但優(yōu)化程序不能將訪問計(jì)劃的選擇到運(yùn)行時(shí)咒林;它必須在編譯時(shí)進(jìn)行選擇熬拒。然而,如果在編譯時(shí)簡歷訪問計(jì)劃垫竞,變量的值還是未知的澎粟,因而無法作為索引選擇的輸入項(xiàng)。如下面語句將進(jìn)行全表掃描:

select id from t where num = @num;

可以改為強(qiáng)制查詢使用索引:

select id from t with(index(索引名)) where num = @num;

8欢瞪、應(yīng)盡量避免在 where 子句中對(duì)字段進(jìn)行表達(dá)式操作活烙,這將導(dǎo)致引擎放棄使用索引而進(jìn)行全表掃描。如:

select id from t where num/2 = 100;

應(yīng)改為:

select id from t where num = 100 * 2;

9遣鼓、應(yīng)盡量避免在 where 子句中對(duì)字段進(jìn)行函數(shù)操作啸盏,這將導(dǎo)致引擎放棄使用索引而進(jìn)行全表掃描。如:

select id from t where substring(name, 1, 3) = ’abc’–name;  //以abc開頭的id
select id from t where datediff(day,createdate,’2005-11-30′) = 0–’2005-11-30′;  //生成的id

應(yīng)改為:

select id from t where name like ‘a(chǎn)bc%’
select id from t where createdate >= ’2005-11-30′ and createdate < ’2005-12-1′;

10骑祟、不要在 where 子句中的 “=” 左邊進(jìn)行函數(shù)回懦,算術(shù)運(yùn)算或者其他表達(dá)式運(yùn)算气笙,否則系統(tǒng)將可能無法正確使用索引。

11怯晕、在使用索引字段作為條件時(shí)潜圃,如果該索引是復(fù)合索引,那么必須使用到該索引的第一個(gè)字段作為條件時(shí)才能保證系統(tǒng)使用該索引舟茶,否則該索引將不會(huì)被使用谭期,并且應(yīng)盡可能的讓字段順序與索引順序相一致。

12吧凉、不要些一些沒有意義的查詢隧出,如需要生成一個(gè)空表結(jié)構(gòu):

select col1,col2 into #t from t where 1=0;

這類代碼不會(huì)返回任何結(jié)果集,但是會(huì)消耗系統(tǒng)資源的客燕,應(yīng)改成這樣:

create table #t(…)

13鸳劳、很多時(shí)候用 exists 代替 in 是一個(gè)好的選擇:

select num from a where num in(select num from b);

用下面的語句替換:

select num from a where exists(select 1 from b where num=a.num);

14、并不是所有索引對(duì)查詢都有效也搓,SQL是根據(jù)表中數(shù)據(jù)來進(jìn)行查詢優(yōu)化的,當(dāng)索引列有大量數(shù)據(jù)重復(fù)時(shí)涵紊,SQL查詢可能不會(huì)去利用索引傍妒,如一表中有字段 sex,male摸柄、female幾乎各一半颤练,那么即使在sex上建了索引也對(duì)查詢效率起不了作用。

15驱负、索引并不是越多越好嗦玖,索引固然可以提高相應(yīng)的 select 的效率,但同時(shí)也降低了 insert 及 update 的效率跃脊,因?yàn)?insert 或 update 時(shí)有可能會(huì)重建索引宇挫,所以怎樣建索引需要慎重考慮,視具體情況而定酪术。一個(gè)表的索引數(shù)最好不要超過6個(gè)器瘪,若太多則應(yīng)考慮一些不常使用到的列上建的索引是否有必要。

16绘雁、應(yīng)盡可能的避免更新 clustered 索引數(shù)據(jù)列橡疼,因?yàn)?clustered 索引數(shù)據(jù)列的順序就是表記錄的物理存儲(chǔ)順序,一旦該列值改變將導(dǎo)致整個(gè)表記錄的順序的調(diào)整庐舟,會(huì)耗費(fèi)相當(dāng)大的資源欣除。若應(yīng)用系統(tǒng)需要頻繁更新 clustered 索引數(shù)據(jù)列,那么需要考慮是否應(yīng)將該索引建為 clustered 索引挪略。

17历帚、盡量使用數(shù)字型字段废酷,若只含數(shù)值信息的字段盡量不要設(shè)計(jì)為字符型,這會(huì)降低查詢和連接的性能抹缕,并會(huì)增加存儲(chǔ)開銷澈蟆。這是因?yàn)橐嬖谔幚聿樵兒瓦B接時(shí)會(huì) 逐個(gè)比較字符串中每一個(gè)字符,而對(duì)于數(shù)字型而言只需要比較一次就夠了卓研。

18趴俘、盡可能的使用 varchar/nvarchar 代替 char/nchar ,因?yàn)槭紫茸冮L字段存儲(chǔ)空間小奏赘,可以節(jié)省存儲(chǔ)空間寥闪,其次對(duì)于查詢來說,在一個(gè)相對(duì)較小的字段內(nèi)搜索效率顯然要高些磨淌。

19疲憋、任何地方都不要使用 select * from t ,用具體的字段列表代替 *梁只,不要返回用不到的任何字段缚柳。

20、盡量使用表變量來代替臨時(shí)表搪锣。如果表變量包含大量數(shù)據(jù)秋忙,請(qǐng)注意索引非常有限(只有主鍵索引)。

21构舟、避免頻繁創(chuàng)建和刪除臨時(shí)表灰追,以減少系統(tǒng)表資源的消耗。

22狗超、臨時(shí)表并不是不可使用弹澎,適當(dāng)?shù)厥褂盟鼈兛梢允鼓承├谈行В缗溃?dāng)需要重復(fù)引用大型表或常用表中的某個(gè)數(shù)據(jù)集時(shí)苦蒿。但是,對(duì)于一次性事件麦撵,最好使用導(dǎo)出表刽肠。

23、在新建臨時(shí)表時(shí)免胃,如果一次性插入數(shù)據(jù)量很大音五,那么可以使用 select into 代替 create table,避免造成大量 log 羔沙,以提高速度躺涝;如果數(shù)據(jù)量不大,為了緩和系統(tǒng)表的資源,應(yīng)先 create table坚嗜,然后 insert夯膀。

24、如果使用到了臨時(shí)表苍蔬,在存儲(chǔ)過程的最后務(wù)必將所有的臨時(shí)表顯式刪除诱建,先 truncate table ,然后 drop table 碟绑,這樣可以避免系統(tǒng)表的較長時(shí)間鎖定俺猿。

25、盡量避免使用游標(biāo)格仲,因?yàn)橛螛?biāo)的效率較差押袍,如果游標(biāo)操作的數(shù)據(jù)超過1萬行,那么就應(yīng)該考慮改寫凯肋。

26谊惭、使用基于游標(biāo)的方法或臨時(shí)表方法之前,應(yīng)先尋找基于集的解決方案來解決問題侮东,基于集的方法通常更有效圈盔。

27、與臨時(shí)表一樣苗桂,游標(biāo)并不是不可使用药磺。對(duì)小型數(shù)據(jù)集使用 FAST_FORWARD 游標(biāo)通常要優(yōu)于其他逐行處理方法,尤其是在必須引用幾個(gè)表才能獲得所需的數(shù)據(jù)時(shí)煤伟。在結(jié)果集中包括“合計(jì)”的例程通常要比使用游標(biāo)執(zhí)行的速度快。如果開發(fā)時(shí) 間允許木缝,基于游標(biāo)的方法和基于集的方法都可以嘗試一下便锨,看哪一種方法的效果更好。

28我碟、在所有的存儲(chǔ)過程和觸發(fā)器的開始處設(shè)置 SET NOCOUNT ON 放案,在結(jié)束時(shí)設(shè)置 SET NOCOUNT OFF 。無需在執(zhí)行存儲(chǔ)過程和觸發(fā)器的每個(gè)語句后向客戶端發(fā)送 DONE_IN_PROC 消息矫俺。

29吱殉、盡量避免向客戶端返回大數(shù)據(jù)量,若數(shù)據(jù)量過大厘托,應(yīng)該考慮相應(yīng)需求是否合理友雳。

30、盡量避免大事務(wù)操作铅匹,提高系統(tǒng)并發(fā)能力押赊。

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末,一起剝皮案震驚了整個(gè)濱河市包斑,隨后出現(xiàn)的幾起案子流礁,更是在濱河造成了極大的恐慌涕俗,老刑警劉巖,帶你破解...
    沈念sama閱讀 217,185評(píng)論 6 503
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件神帅,死亡現(xiàn)場離奇詭異再姑,居然都是意外死亡,警方通過查閱死者的電腦和手機(jī)找御,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 92,652評(píng)論 3 393
  • 文/潘曉璐 我一進(jìn)店門元镀,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人萎坷,你說我怎么就攤上這事凹联。” “怎么了哆档?”我有些...
    開封第一講書人閱讀 163,524評(píng)論 0 353
  • 文/不壞的土叔 我叫張陵蔽挠,是天一觀的道長。 經(jīng)常有香客問我瓜浸,道長澳淑,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 58,339評(píng)論 1 293
  • 正文 為了忘掉前任插佛,我火速辦了婚禮杠巡,結(jié)果婚禮上,老公的妹妹穿的比我還像新娘雇寇。我一直安慰自己氢拥,他們只是感情好,可當(dāng)我...
    茶點(diǎn)故事閱讀 67,387評(píng)論 6 391
  • 文/花漫 我一把揭開白布锨侯。 她就那樣靜靜地躺著嫩海,像睡著了一般。 火紅的嫁衣襯著肌膚如雪囚痴。 梳的紋絲不亂的頭發(fā)上叁怪,一...
    開封第一講書人閱讀 51,287評(píng)論 1 301
  • 那天,我揣著相機(jī)與錄音深滚,去河邊找鬼奕谭。 笑死,一個(gè)胖子當(dāng)著我的面吹牛痴荐,可吹牛的內(nèi)容都是我干的血柳。 我是一名探鬼主播,決...
    沈念sama閱讀 40,130評(píng)論 3 418
  • 文/蒼蘭香墨 我猛地睜開眼蹬昌,長吁一口氣:“原來是場噩夢啊……” “哼混驰!你這毒婦竟也來了?” 一聲冷哼從身側(cè)響起,我...
    開封第一講書人閱讀 38,985評(píng)論 0 275
  • 序言:老撾萬榮一對(duì)情侶失蹤栖榨,失蹤者是張志新(化名)和其女友劉穎昆汹,沒想到半個(gè)月后,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體婴栽,經(jīng)...
    沈念sama閱讀 45,420評(píng)論 1 313
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡满粗,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 37,617評(píng)論 3 334
  • 正文 我和宋清朗相戀三年,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了愚争。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片映皆。...
    茶點(diǎn)故事閱讀 39,779評(píng)論 1 348
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡,死狀恐怖轰枝,靈堂內(nèi)的尸體忽然破棺而出捅彻,到底是詐尸還是另有隱情,我是刑警寧澤鞍陨,帶...
    沈念sama閱讀 35,477評(píng)論 5 345
  • 正文 年R本政府宣布步淹,位于F島的核電站,受9級(jí)特大地震影響诚撵,放射性物質(zhì)發(fā)生泄漏缭裆。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 41,088評(píng)論 3 328
  • 文/蒙蒙 一寿烟、第九天 我趴在偏房一處隱蔽的房頂上張望澈驼。 院中可真熱鬧,春花似錦筛武、人聲如沸缝其。這莊子的主人今日做“春日...
    開封第一講書人閱讀 31,716評(píng)論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽氏淑。三九已至,卻和暖如春硕噩,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背缭贡。 一陣腳步聲響...
    開封第一講書人閱讀 32,857評(píng)論 1 269
  • 我被黑心中介騙來泰國打工炉擅, 沒想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留,地道東北人阳惹。 一個(gè)月前我還...
    沈念sama閱讀 47,876評(píng)論 2 370
  • 正文 我出身青樓谍失,卻偏偏與公主長得像,于是被迫代替她去往敵國和親莹汤。 傳聞我的和親對(duì)象是個(gè)殘疾皇子快鱼,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 44,700評(píng)論 2 354