☆MySQL order by limit 分頁數(shù)據(jù)重復(fù)問題

0 問題描述

在MySQL中我們通常會采用limit來進(jìn)行翻頁查詢颁独,比如limit(0,10)表示列出第一頁的10條數(shù)據(jù)奖磁,limit(10,10)表示列出第二頁渐裂。但是矮锈,當(dāng)limit遇到order by的時候霉翔,可能會出現(xiàn)翻到第二頁的時候,竟然又出現(xiàn)了第一頁的記錄苞笨。

具體如下:

SELECT `post_title`,`post_date` FROM post WHERE `post_status`='publish' ORDER BY view_count desc LIMIT 5,5

使用上述SQL查詢的時候债朵,很有可能出現(xiàn)和LIMIT 0,5相同的某條記錄。而如果使用如下方式瀑凝,則不會出現(xiàn)重復(fù)的情況:

SELECT * FROM post WHERE post_status='publish' ORDER BY view_count desc LIMIT 5,5

但是序芦,由于post表的字段很多,僅僅希望用這兩個字段粤咪,不想把post_content也查出來谚中。為了解決這個情況,在ORDER BY后面使用了兩個排序條件來解決這個問題,如下:

SELECT `post_title`,`post_date` FROM post WHERE `post_status`='publish' ORDER BY view_count desc,ID asc LIMIT 5,5

按理來說藏杖,MySQL的排序默認(rèn)情況下是以主鍵ID作為排序條件的将塑,也就是說,如果在view_count相等的情況下蝌麸,主鍵ID作為默認(rèn)的排序條件点寥,不需要我們多此一舉加ID asc。但是事實就是来吩,MySQL再order by和limit混用的時候敢辩,出現(xiàn)了排序的混亂情況

1 分析問題

在MySQL 5.6的版本上弟疆,優(yōu)化器在遇到order by limit語句的時候戚长,做了一個優(yōu)化,即使用了priority queue怠苔。

使用 priority queue 的目的同廉,就是在不能使用索引有序性的時候,如果要排序柑司,并且使用了limit n迫肖,那么只需要在排序的過程中,保留n條記錄即可攒驰,這樣雖然不能解決所有記錄都需要排序的開銷蟆湖,但是只需要 sort buffer 少量的內(nèi)存就可以完成排序

之所以MySQL 5.6出現(xiàn)了第二頁數(shù)據(jù)重復(fù)的問題玻粪,是因為 priority queue 使用了堆排序的排序方法隅津,而堆排序是一個不穩(wěn)定的排序方法,也就是相同的值可能排序出來的結(jié)果和讀出來的數(shù)據(jù)順序不一致劲室。

MySQL 5.5 沒有這個優(yōu)化伦仍,所以也就不會出現(xiàn)這個問題。

也就是說痹籍,MySQL 5.5是不存在本文提到的問題的呢铆,5.6版本之后才出現(xiàn)了這種情況晦鞋。

再看下MySQL解釋sql語言時的執(zhí)行順序:

(1)     SELECT 
(2)     DISTINCT <select_list>
(3)     FROM <left_table>
(4)     <join_type> JOIN <right_table>
(5)     ON <join_condition>
(6)     WHERE <where_condition>
(7)     GROUP BY <group_by_list>
(8)     HAVING <having_condition>
(9)     ORDER BY <order_by_condition>
(10)    LIMIT <limit_number>

執(zhí)行順序依次為 form… where… select… order by… limit…蹲缠,由于上述priority queue的原因,在完成select之后悠垛,所有記錄是以堆排序的方法排列的线定,在進(jìn)行order by時,僅把view_count值大的往前移動确买。但由于limit的因素斤讥,排序過程中只需要保留到5條記錄即可,view_count并不具備索引有序性,所以當(dāng)?shù)诙摂?shù)據(jù)要展示時芭商,mysql見到哪一條就拿哪一條派草,因此,當(dāng)排序值相同的時候铛楣,第一次排序是隨意排的近迁,第二次再執(zhí)行該sql的時候,其結(jié)果應(yīng)該和第一次結(jié)果一樣簸州。

2 解決方法

  1. 索引排序字段

    如果在字段添加上索引鉴竭,就直接按照索引的有序性進(jìn)行讀取并分頁,從而可以規(guī)避遇到的這個問題岸浑。

  2. 正確理解分頁

    分頁是建立在排序的基礎(chǔ)上搏存,進(jìn)行了數(shù)量范圍分割。排序是數(shù)據(jù)庫提供的功能矢洲,而分頁卻是衍生的出來的應(yīng)用需求璧眠。

    在MySQL和Oracle的官方文檔中提供了limit n和rownum < n的方法,但卻沒有明確的定義分頁這個概念读虏。還有重要的一點(diǎn)蛆橡,雖然上面的解決方法可以緩解用戶的這個問題,但按照用戶的理解掘譬,依然還有問題:比如泰演,這個表插入比較頻繁,用戶查詢的時候葱轩,在read-committed的隔離級別下睦焕,第一頁和第二頁仍然會有重合。

    所以靴拱,分頁一直都有這個問題垃喊,不同場景對數(shù)據(jù)分頁都沒有非常高的準(zhǔn)確性要求

  3. 一些常見的數(shù)據(jù)庫排序問題

    不加order by的時候的排序問題

    用戶在使用Oracle或MySQL的時候袜炕,發(fā)現(xiàn)MySQL總是有序的本谜,Oracle卻很混亂,這個主要是因為Oracle是堆表偎窘,MySQL是索引聚簇表的原因乌助。所以沒有order by的時候,數(shù)據(jù)庫并不保證記錄返回的順序性陌知,并且不保證每次返回都一致的他托。

    分頁問題 分頁重復(fù)的問題

    如前面所描述的,分頁是在數(shù)據(jù)庫提供的排序功能的基礎(chǔ)上仆葡,衍生出來的應(yīng)用需求赏参,數(shù)據(jù)庫并不保證分頁的重復(fù)問題

    NULL值和空串問題

    不同的數(shù)據(jù)庫對于NULL值和空串的理解和處理是不一樣的,比如Oracle NULL和NULL值是無法比較的把篓,既不是相等也不是不相等纫溃,是未知的。而對于空串韧掩,在插入的時候皇耗,MySQL是一個字符串長度為0的空串,而Oracle則直接進(jìn)行NULL值處理揍很。

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末郎楼,一起剝皮案震驚了整個濱河市,隨后出現(xiàn)的幾起案子窒悔,更是在濱河造成了極大的恐慌呜袁,老刑警劉巖,帶你破解...
    沈念sama閱讀 207,248評論 6 481
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件简珠,死亡現(xiàn)場離奇詭異阶界,居然都是意外死亡,警方通過查閱死者的電腦和手機(jī)聋庵,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 88,681評論 2 381
  • 文/潘曉璐 我一進(jìn)店門膘融,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人祭玉,你說我怎么就攤上這事氧映。” “怎么了脱货?”我有些...
    開封第一講書人閱讀 153,443評論 0 344
  • 文/不壞的土叔 我叫張陵岛都,是天一觀的道長。 經(jīng)常有香客問我振峻,道長臼疫,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 55,475評論 1 279
  • 正文 為了忘掉前任扣孟,我火速辦了婚禮烫堤,結(jié)果婚禮上,老公的妹妹穿的比我還像新娘凤价。我一直安慰自己鸽斟,他們只是感情好,可當(dāng)我...
    茶點(diǎn)故事閱讀 64,458評論 5 374
  • 文/花漫 我一把揭開白布料仗。 她就那樣靜靜地躺著湾盗,像睡著了一般伏蚊。 火紅的嫁衣襯著肌膚如雪立轧。 梳的紋絲不亂的頭發(fā)上,一...
    開封第一講書人閱讀 49,185評論 1 284
  • 那天,我揣著相機(jī)與錄音氛改,去河邊找鬼帐萎。 笑死,一個胖子當(dāng)著我的面吹牛胜卤,可吹牛的內(nèi)容都是我干的疆导。 我是一名探鬼主播,決...
    沈念sama閱讀 38,451評論 3 401
  • 文/蒼蘭香墨 我猛地睜開眼葛躏,長吁一口氣:“原來是場噩夢啊……” “哼澈段!你這毒婦竟也來了?” 一聲冷哼從身側(cè)響起舰攒,我...
    開封第一講書人閱讀 37,112評論 0 261
  • 序言:老撾萬榮一對情侶失蹤败富,失蹤者是張志新(化名)和其女友劉穎,沒想到半個月后摩窃,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體兽叮,經(jīng)...
    沈念sama閱讀 43,609評論 1 300
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 36,083評論 2 325
  • 正文 我和宋清朗相戀三年猾愿,在試婚紗的時候發(fā)現(xiàn)自己被綠了鹦聪。 大學(xué)時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片。...
    茶點(diǎn)故事閱讀 38,163評論 1 334
  • 序言:一個原本活蹦亂跳的男人離奇死亡蒂秘,死狀恐怖泽本,靈堂內(nèi)的尸體忽然破棺而出,到底是詐尸還是另有隱情姻僧,我是刑警寧澤观挎,帶...
    沈念sama閱讀 33,803評論 4 323
  • 正文 年R本政府宣布,位于F島的核電站段化,受9級特大地震影響嘁捷,放射性物質(zhì)發(fā)生泄漏。R本人自食惡果不足惜显熏,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 39,357評論 3 307
  • 文/蒙蒙 一雄嚣、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧喘蟆,春花似錦缓升、人聲如沸。這莊子的主人今日做“春日...
    開封第一講書人閱讀 30,357評論 0 19
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽。三九已至橙弱,卻和暖如春歧寺,著一層夾襖步出監(jiān)牢的瞬間燥狰,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 31,590評論 1 261
  • 我被黑心中介騙來泰國打工斜筐, 沒想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留龙致,地道東北人。 一個月前我還...
    沈念sama閱讀 45,636評論 2 355
  • 正文 我出身青樓顷链,卻偏偏與公主長得像目代,于是被迫代替她去往敵國和親。 傳聞我的和親對象是個殘疾皇子嗤练,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 42,925評論 2 344

推薦閱讀更多精彩內(nèi)容