排序算法可以分為內(nèi)部排序和外部排序速和,內(nèi)部排序是數(shù)據(jù)記錄在內(nèi)存中進行排序歹垫,而外部排序是因排序的數(shù)據(jù)很大,一次不能容納全部的排序記錄颠放,在排序過程中需要訪問外存排惨。常見的內(nèi)部排序算法有:插入排序、希爾排序碰凶、選擇排序暮芭、冒泡排序、歸并排序欲低、快速排序辕宏、堆排序、基數(shù)排序等砾莱。用一張圖概括:
關(guān)于時間復(fù)雜度:
- 平方階 (O(n2)) 排序 各類簡單排序:直接插入、直接選擇和冒泡排序腊瑟。
- 線性對數(shù)階 (O(nlog2n)) 排序 快速排序聚假、堆排序和歸并排序。
- O(n1+§)) 排序闰非,§ 是介于 0 和 1 之間的常數(shù)魔策。 希爾排序。
- 線性階 (O(n)) 排序 基數(shù)排序河胎,此外還有桶闯袒、箱排序。
關(guān)于穩(wěn)定性:
穩(wěn)定的排序算法:冒泡排序游岳、插入排序政敢、歸并排序和基數(shù)排序。
不是穩(wěn)定的排序算法:選擇排序胚迫、快速排序喷户、希爾排序、堆排序访锻。
名詞解釋:
n:數(shù)據(jù)規(guī)模
k:“桶”的個數(shù)
In-place:占用常數(shù)內(nèi)存褪尝,不占用額外內(nèi)存
Out-place:占用額外內(nèi)存
穩(wěn)定性:排序后 2 個相等鍵值的順序和排序之前它們的順序相同
冒泡排序
冒泡排序(Bubble Sort)也是一種簡單直觀的排序算法。它重復(fù)地走訪過要排序的數(shù)列期犬,一次比較兩個元素河哑,如果他們的順序錯誤就把他們交換過來。走訪數(shù)列的工作是重復(fù)地進行直到?jīng)]有再需要交換龟虎,也就是說該數(shù)列已經(jīng)排序完成璃谨。這個算法的名字由來是因為越小的元素會經(jīng)由交換慢慢“浮”到數(shù)列的頂端。
作為最簡單的排序算法之一,冒泡排序給我的感覺就像 Abandon 在單詞書里出現(xiàn)的感覺一樣佳吞,每次都在第一頁第一位拱雏,所以最熟悉。冒泡排序還有一種優(yōu)化算法底扳,就是立一個 flag铸抑,當(dāng)在一趟序列遍歷中元素沒有發(fā)生交換,則證明該序列已經(jīng)有序衷模。但這種改進對于提升性能來說并沒有什么太大作用鹊汛。
1. 算法步驟
- 比較相鄰的元素。如果第一個比第二個大算芯,就交換他們兩個。
- 對每一對相鄰元素作同樣的工作凳宙,從開始第一對到結(jié)尾的最后一對熙揍。這步做完后,最后的元素會是最大的數(shù)氏涩。
- 針對所有的元素重復(fù)以上的步驟届囚,除了最后一個。
- 持續(xù)每次對越來越少的元素重復(fù)上面的步驟是尖,直到?jīng)]有任何一對數(shù)字需要比較意系。
2. 動圖演示
3. 什么時候最快
當(dāng)輸入的數(shù)據(jù)已經(jīng)是正序時(都已經(jīng)是正序了饺汹,我還要你冒泡排序有何用盎滋怼)。
4. 什么時候最慢
當(dāng)輸入的數(shù)據(jù)是反序時(寫一個 for 循環(huán)反序輸出數(shù)據(jù)不就行了兜辞,干嘛要用你冒泡排序呢迎瞧,我是閑的嗎)。
5. Java 代碼實現(xiàn)
選擇排序
選擇排序是一種簡單直觀的排序算法凶硅,無論什么數(shù)據(jù)進去都是 O(n2) 的時間復(fù)雜度。所以用到它的時候扫皱,數(shù)據(jù)規(guī)模越小越好足绅。唯一的好處可能就是不占用額外的內(nèi)存空間了吧。
1. 算法步驟
- 首先在未排序序列中找到最泻浴(大)元素氢妈,存放到排序序列的起始位置
- 再從剩余未排序元素中繼續(xù)尋找最小(大)元素段多,然后放到已排序序列的末尾允懂。
- 重復(fù)第二步,直到所有元素均排序完畢衩匣。
2. 動圖演示
3. Java 代碼實現(xiàn)
插入排序
插入排序的代碼實現(xiàn)雖然沒有冒泡排序和選擇排序那么簡單粗暴,但它的原理應(yīng)該是最容易理解的了生百,因為只要打過撲克牌的人都應(yīng)該能夠秒懂递雀。插入排序是一種最簡單直觀的排序算法,它的工作原理是通過構(gòu)建有序序列蚀浆,對于未排序數(shù)據(jù)缀程,在已排序序列中從后向前掃描,找到相應(yīng)位置并插入市俊。
插入排序和冒泡排序一樣杨凑,也有一種優(yōu)化算法,叫做拆半插入摆昧。
1. 算法步驟
- 將第一待排序序列第一個元素看做一個有序序列撩满,把第二個元素到最后一個元素當(dāng)成是未排序序列。
- 從頭到尾依次掃描未排序序列绅你,將掃描到的每個元素插入有序序列的適當(dāng)位置伺帘。(如果待插入的元素與有序序列中的某個元素相等,則將待插入元素插入到相等元素的后面忌锯。)
2. 動圖演示
3. Java 代碼實現(xiàn)
希爾排序
希爾排序偶垮,也稱遞減增量排序算法张咳,是插入排序的一種更高效的改進版本。但希爾排序是非穩(wěn)定排序算法似舵。
希爾排序是基于插入排序的以下兩點性質(zhì)而提出改進方法的:
- 插入排序在對幾乎已經(jīng)排好序的數(shù)據(jù)操作時晶伦,效率高,即可以達到線性排序的效率啄枕;
- 但插入排序一般來說是低效的婚陪,因為插入排序每次只能將數(shù)據(jù)移動一位;
希爾排序的基本思想是:先將整個待排序的記錄序列分割成為若干子序列分別進行直接插入排序频祝,待整個序列中的記錄“基本有序”時泌参,再對全體記錄進行依次直接插入排序。
1. 算法步驟
- 選擇一個增量序列 t1常空,t2沽一,……,tk漓糙,其中 ti > tj, tk = 1铣缠;
- 按增量序列個數(shù) k,對序列進行 k 趟排序;
- 每趟排序蝗蛙,根據(jù)對應(yīng)的增量 ti蝇庭,將待排序列分割成若干長度為 m 的子序列,分別對各子表進行直接插入排序捡硅。僅增量因子為 1 時哮内,整個序列作為一個表來處理,表長度即為整個序列的長度壮韭。
2. Java 代碼實現(xiàn)
歸并排序
歸并排序(Merge sort)是建立在歸并操作上的一種有效的排序算法。該算法是采用分治法(Divide and Conquer)的一個非常典型的應(yīng)用喷屋。
作為一種典型的分而治之思想的算法應(yīng)用琳拨,歸并排序的實現(xiàn)由兩種方法:
- 自上而下的遞歸(所有遞歸的方法都可以用迭代重寫,所以就有了第 2 種方法)屯曹;
- 自下而上的迭代狱庇;
在《數(shù)據(jù)結(jié)構(gòu)與算法 JavaScript 描述》中,作者給出了自下而上的迭代方法是牢。但是對于遞歸法僵井,作者卻認為:
However, it is not possible to do so in JavaScript, as the recursion goes too deep for the language to handle.
然而陕截,在 JavaScript 中這種方式不太可行驳棱,因為這個算法的遞歸深度對它來講太深了。
說實話农曲,我不太理解這句話社搅。意思是 JavaScript 編譯器內(nèi)存太小,遞歸太深容易造成內(nèi)存溢出嗎乳规?還望有大神能夠指教形葬。
和選擇排序一樣,歸并排序的性能不受輸入數(shù)據(jù)的影響暮的,但表現(xiàn)比選擇排序好的多笙以,因為始終都是 O(nlogn) 的時間復(fù)雜度。代價是需要額外的內(nèi)存空間冻辩。
1. 算法步驟
- 申請空間猖腕,使其大小為兩個已經(jīng)排序序列之和,該空間用來存放合并后的序列恨闪;
- 設(shè)定兩個指針倘感,最初位置分別為兩個已經(jīng)排序序列的起始位置;
- 比較兩個指針?biāo)赶虻脑亓剩x擇相對小的元素放入到合并空間老玛,并移動指針到下一位置;
- 重復(fù)步驟 3 直到某一指針達到序列尾;
- 將另一序列剩下的所有元素直接復(fù)制到合并序列尾蜡豹。
2. 動圖演示
3. Java 代碼實現(xiàn)
快速排序
快速排序是由東尼·霍爾所發(fā)展的一種排序算法余素。在平均狀況下豹休,排序 n 個項目要 Ο(nlogn) 次比較。在最壞狀況下則需要 Ο(n2) 次比較桨吊,但這種狀況并不常見威根。事實上,快速排序通常明顯比其他 Ο(nlogn) 算法更快视乐,因為它的內(nèi)部循環(huán)(inner loop)可以在大部分的架構(gòu)上很有效率地被實現(xiàn)出來洛搀。
快速排序使用分治法(Divide and conquer)策略來把一個串行(list)分為兩個子串行(sub-lists)。
快速排序又是一種分而治之思想在排序算法上的典型應(yīng)用佑淀。本質(zhì)上來看留美,快速排序應(yīng)該算是在冒泡排序基礎(chǔ)上的遞歸分治法。
快速排序的名字起的是簡單粗暴伸刃,因為一聽到這個名字你就知道它存在的意義谎砾,就是快,而且效率高捧颅!它是處理大數(shù)據(jù)最快的排序算法之一了景图。雖然 Worst Case 的時間復(fù)雜度達到了 O(n2),但是人家就是優(yōu)秀碉哑,在大多數(shù)情況下都比平均時間復(fù)雜度為 O(n logn) 的排序算法表現(xiàn)要更好挚币,可是這是為什么呢,我也不知道扣典。好在我的強迫癥又犯了妆毕,查了 N 多資料終于在《算法藝術(shù)與信息學(xué)競賽》上找到了滿意的答案:
快速排序的最壞運行情況是 O(n2),比如說順序數(shù)列的快排贮尖。但它的平攤期望時間是 O(nlogn)笛粘,且 O(nlogn) 記號中隱含的常數(shù)因子很小,比復(fù)雜度穩(wěn)定等于 O(nlogn) 的歸并排序要小很多湿硝。所以薪前,對絕大多數(shù)順序性較弱的隨機數(shù)列而言,快速排序總是優(yōu)于歸并排序图柏。
1. 算法步驟
- 從數(shù)列中挑出一個元素序六,稱為 “基準(zhǔn)”(pivot);
- 重新排序數(shù)列,所有元素比基準(zhǔn)值小的擺放在基準(zhǔn)前面蚤吹,所有元素比基準(zhǔn)值大的擺在基準(zhǔn)的后面(相同的數(shù)可以到任一邊)例诀。在這個分區(qū)退出之后随抠,該基準(zhǔn)就處于數(shù)列的中間位置。這個稱為分區(qū)(partition)操作繁涂;
- 遞歸地(recursive)把小于基準(zhǔn)值元素的子數(shù)列和大于基準(zhǔn)值元素的子數(shù)列排序拱她;
遞歸的最底部情形,是數(shù)列的大小是零或一扔罪,也就是永遠都已經(jīng)被排序好了秉沼。雖然一直遞歸下去,但是這個算法總會退出矿酵,因為在每次的迭代(iteration)中唬复,它至少會把一個元素擺到它最后的位置去。
2. 動圖演示
3. Java 代碼實現(xiàn)
堆排序
堆排序(Heapsort)是指利用堆這種數(shù)據(jù)結(jié)構(gòu)所設(shè)計的一種排序算法。堆積是一個近似完全二叉樹的結(jié)構(gòu)辜腺,并同時滿足堆積的性質(zhì):即子結(jié)點的鍵值或索引總是小于(或者大于)它的父節(jié)點休建。堆排序可以說是一種利用堆的概念來排序的選擇排序。分為兩種方法:
- 大頂堆:每個節(jié)點的值都大于或等于其子節(jié)點的值评疗,在堆排序算法中用于升序排列测砂;
- 小頂堆:每個節(jié)點的值都小于或等于其子節(jié)點的值,在堆排序算法中用于降序排列百匆;
堆排序的平均時間復(fù)雜度為 Ο(nlogn)砌些。
1. 算法步驟
- 創(chuàng)建一個堆 H[0……n-1];
- 把堆首(最大值)和堆尾互換胧华;
- 把堆的尺寸縮小 1寄症,并調(diào)用 shift_down(0)宙彪,目的是把新的數(shù)組頂端數(shù)據(jù)調(diào)整到相應(yīng)位置矩动;
- 重復(fù)步驟 2,直到堆的尺寸為 1释漆。
2. 動圖演示
3. Java 代碼實現(xiàn)
計數(shù)排序
計數(shù)排序的核心在于將輸入的數(shù)據(jù)值轉(zhuǎn)化為鍵存儲在額外開辟的數(shù)組空間中示姿。作為一種線性時間復(fù)雜度的排序,計數(shù)排序要求輸入的數(shù)據(jù)必須是有確定范圍的整數(shù)逊笆。
1. 動圖演示
2. Java 代碼實現(xiàn)
桶排序
桶排序是計數(shù)排序的升級版难裆。它利用了函數(shù)的映射關(guān)系子檀,高效與否的關(guān)鍵就在于這個映射函數(shù)的確定镊掖。為了使桶排序更加高效,我們需要做到這兩點:
- 在額外空間充足的情況下褂痰,盡量增大桶的數(shù)量
- 使用的映射函數(shù)能夠?qū)⑤斎氲?N 個數(shù)據(jù)均勻的分配到 K 個桶中
同時亩进,對于桶中元素的排序,選擇何種比較排序算法對于性能的影響至關(guān)重要缩歪。
1. 什么時候最快
當(dāng)輸入的數(shù)據(jù)可以均勻的分配到每一個桶中归薛。
2. 什么時候最慢
當(dāng)輸入的數(shù)據(jù)被分配到了同一個桶中。
3. Java 代碼實現(xiàn)
基數(shù)排序
基數(shù)排序是一種非比較型整數(shù)排序算法,其原理是將整數(shù)按位數(shù)切割成不同的數(shù)字逛球,然后按每個位數(shù)分別比較崇猫。由于整數(shù)也可以表達字符串(比如名字或日期)和特定格式的浮點數(shù),所以基數(shù)排序也不是只能使用于整數(shù)需忿。
1. 基數(shù)排序 vs 計數(shù)排序 vs 桶排序
基數(shù)排序有兩種方法:
這三種排序算法都利用了桶的概念诅炉,但對桶的使用方法上有明顯差異:
- 基數(shù)排序:根據(jù)鍵值的每位數(shù)字來分配桶;
- 計數(shù)排序:每個桶只存儲單一鍵值屋厘;
- 桶排序:每個桶存儲一定范圍的數(shù)值涕烧;
2. LSD 基數(shù)排序動圖演示
3. Java 代碼實現(xiàn)