算法一:快速排序算法
快速排序是由東尼·霍爾所發(fā)展的一種排序算法。在平均狀況下囱井,排序?n?個項目要Ο(n?log?n)次比較驹尼。在最壞狀況下則需要Ο(n2)次比較,但這種狀況并不常見庞呕。事實上新翎,快速排序通常明顯比其他Ο(n?log?n)?算法更快程帕,因為它的內部循環(huán)(inner?loop)可以在大部分的架構上很有效率地被實現(xiàn)出來。
快速排序使用分治法(Divide?and?conquer)策略來把一個串行(list)分為兩個子串行(sub-lists)地啰。
算法步驟:
1?從數(shù)列中挑出一個元素愁拭,稱為?“基準”(pivot),
2?重新排序數(shù)列亏吝,所有元素比基準值小的擺放在基準前面岭埠,所有元素比基準值大的擺在基準的后面(相同的數(shù)可以到任一邊)。在這個分區(qū)退出之后蔚鸥,該基準就處于數(shù)列的中間位置惜论。這個稱為分區(qū)(partition)操作纸镊。
3?遞歸地(recursive)把小于基準值元素的子數(shù)列和大于基準值元素的子數(shù)列排序季惯。
遞歸的最底部情形娜汁,是數(shù)列的大小是零或一拟淮,也就是永遠都已經(jīng)被排序好了鞠柄。雖然一直遞歸下去漾稀,但是這個算法總會退出躲庄,因為在每次的迭代(iteration)中涧郊,它至少會把一個元素擺到它最后的位置去僵闯。
算法二:堆排序算法
堆排序(Heapsort)是指利用堆這種數(shù)據(jù)結構所設計的一種排序算法卧抗。堆積是一個近似完全二叉樹的結構,并同時滿足堆積的性質:即子結點的鍵值或索引總是小于(或者大于)它的父節(jié)點鳖粟。
堆排序的平均時間復雜度為Ο(nlogn)?社裆。
算法步驟:
創(chuàng)建一個堆H[0..n-1]
把堆首(最大值)和堆尾互換
3.?把堆的尺寸縮小1,并調用shift_down(0),目的是把新的數(shù)組頂端數(shù)據(jù)調整到相應位置
4.?重復步驟2向图,直到堆的尺寸為1
算法三:歸并排序
歸并排序(Merge?sort泳秀,臺灣譯作:合并排序)是建立在歸并操作上的一種有效的排序算法。該算法是采用分治法(Divide?and?Conquer)的一個非常典型的應用榄攀。
算法步驟:
1.?申請空間嗜傅,使其大小為兩個已經(jīng)排序序列之和,該空間用來存放合并后的序列
2.?設定兩個指針檩赢,最初位置分別為兩個已經(jīng)排序序列的起始位置
3.?比較兩個指針所指向的元素吕嘀,選擇相對小的元素放入到合并空間,并移動指針到下一位置
4.?重復步驟3直到某一指針達到序列尾
5.?將另一序列剩下的所有元素直接復制到合并序列尾
算法四:二分查找算法
二分查找算法是一種在有序數(shù)組中查找某一特定元素的搜索算法贞瞒。搜素過程從數(shù)組的中間元素開始偶房,如果中間元素正好是要查找的元素,則搜?素過程結束军浆;如果某一特定元素大于或者小于中間元素棕洋,則在數(shù)組大于或小于中間元素的那一半中查找,而且跟開始一樣從中間元素開始比較乒融。如果在某一步驟數(shù)組?為空掰盘,則代表找不到摄悯。這種搜索算法每一次比較都使搜索范圍縮小一半。折半搜索每次把搜索區(qū)域減少一半愧捕,時間復雜度為Ο(logn)?奢驯。
算法五:BFPRT(線性查找算法)
BFPRT算法解決的問題十分經(jīng)典,即從某n個元素的序列中選出第k大(第k写位妗)的元素叨橱,通過巧妙的分?析,BFPRT可以保證在最壞情況下仍為線性時間復雜度断盛。該算法的思想與快速排序思想相似罗洗,當然,為使得算法在最壞情況下钢猛,依然能達到o(n)的時間復雜?度伙菜,五位算法作者做了精妙的處理。
算法步驟:
1.?將n個元素每5個一組命迈,分成n/5(上界)組贩绕。
2.?取出每一組的中位數(shù),任意排序方法壶愤,比如插入排序淑倾。
3.?遞歸的調用selection算法查找上一步中所有中位數(shù)的中位數(shù),設為x征椒,偶數(shù)個中位數(shù)的情況下設定為選取中間小的一個娇哆。
4.?用x來分割數(shù)組,設小于等于x的個數(shù)為k勃救,大于x的個數(shù)即為n-k碍讨。
5.?若i==k,返回x蒙秒;若ik勃黍,在大于x的元素中遞歸查找第i-k小的元素。
終止條件:n=1時晕讲,返回的即是i小元素覆获。
算法六:DFS(深度優(yōu)先搜索)
深度優(yōu)先搜索算法(Depth-First-Search),是搜索算法的一種瓢省。它沿著樹的深度遍歷樹的節(jié)點弄息,盡可能深的搜索樹的分?支。當節(jié)點v的所有邊都己被探尋過净捅,搜索將回溯到發(fā)現(xiàn)節(jié)點v的那條邊的起始節(jié)點疑枯。這一過程一直進行到已發(fā)現(xiàn)從源節(jié)點可達的所有節(jié)點為止辩块。如果還存在未被發(fā)?現(xiàn)的節(jié)點蛔六,則選擇其中一個作為源節(jié)點并重復以上過程荆永,整個進程反復進行直到所有節(jié)點都被訪問為止。DFS屬于盲目搜索国章。
深度優(yōu)先搜索是圖論中的經(jīng)典算法具钥,利用深度優(yōu)先搜索算法可以產(chǎn)生目標圖的相應拓撲排序表,利用拓撲排序表可以方便的解決很多相關的圖論問題液兽,如最大路徑問題等等骂删。一般用堆數(shù)據(jù)結構來輔助實現(xiàn)DFS算法。
深度優(yōu)先遍歷圖算法步驟:
1.?訪問頂點v四啰;
2.?依次從v的未被訪問的鄰接點出發(fā)宁玫,對圖進行深度優(yōu)先遍歷;直至圖中和v有路徑相通的頂點都被訪問柑晒;
3.?若此時圖中尚有頂點未被訪問欧瘪,則從一個未被訪問的頂點出發(fā),重新進行深度優(yōu)先遍歷匙赞,直到圖中所有頂點均被訪問過為止佛掖。
上述描述可能比較抽象,舉個實例:
DFS?在訪問圖中某一起始頂點?v?后涌庭,由?v?出發(fā)芥被,訪問它的任一鄰接頂點?w1;再從?w1?出發(fā)坐榆,訪問與?w1鄰?接但還沒有訪問過的頂點?w2拴魄;然后再從?w2?出發(fā),進行類似的訪問席镀,…?如此進行下去羹铅,直至到達所有的鄰接頂點都被訪問過的頂點?u?為止。
接著愉昆,退回一步职员,退到前一次剛訪問過的頂點,看是否還有其它沒有被訪問的鄰接頂點跛溉。如果有焊切,則訪問此頂點,之后再從此頂點出發(fā)芳室,進行與前述類似的訪問专肪;如果沒有,就再退回一步進行搜索堪侯。重復上述過程嚎尤,直到連通圖中所有頂點都被訪問過為止。
算法七:BFS(廣度優(yōu)先搜索)
廣度優(yōu)先搜索算法(Breadth-First-Search)伍宦,是一種圖形搜索算法芽死。簡單的說乏梁,BFS是從根節(jié)點開始,沿著樹(圖)的寬度遍歷樹(圖)的節(jié)點关贵。如果所有節(jié)點均被訪問遇骑,則算法中止。BFS同樣屬于盲目搜索揖曾。一般用隊列數(shù)據(jù)結構來輔助實現(xiàn)BFS算法落萎。
算法步驟:
1.?首先將根節(jié)點放入隊列中。
2.?從隊列中取出第一個節(jié)點炭剪,并檢驗它是否為目標练链。
如果找到目標,則結束搜尋并回傳結果奴拦。
否則將它所有尚未檢驗過的直接子節(jié)點加入隊列中兑宇。
3.?若隊列為空,表示整張圖都檢查過了——亦即圖中沒有欲搜尋的目標粱坤。結束搜尋并回傳“找不到目標”隶糕。
4.?重復步驟2。
算法八:Dijkstra算法
戴克斯特拉算法(Dijkstra’s?algorithm)是由荷蘭計算機科學家艾茲赫爾·戴克斯特拉提出站玄。迪科斯徹算法使用了廣度優(yōu)先搜索解決非負權有向圖的單源最短路徑問題枚驻,算法最終得到一個最短路徑樹。該算法常用于路由算法或者作為其他圖算法的一個子模塊株旷。
該算法的輸入包含了一個有權重的有向圖?G再登,以及G中的一個來源頂點?S。我們以?V?表示?G?中所有頂點的集合晾剖。每一個圖中的邊锉矢,都是兩個頂點所形成的有序元素對。(u,?v)?表示從頂點?u?到?v?有路徑相連齿尽。我們以?E?表示G中所有邊的集合沽损,而邊的權重則由權重函數(shù)?w:?E?→?[0,?∞]?定義。因此循头,w(u,?v)?就是從頂點?u?到頂點?v?的非負權重(weight)绵估。邊的權重可以想像成兩個頂點之間的距離。任兩點間路徑的權重卡骂,就是該路徑上所有邊的權重總和国裳。已知有?V?中有頂點?s?及?t,Dijkstra?算法可以找到?s?到?t的最低權重路徑(例如全跨,最短路徑)缝左。這個算法也可以在一個圖中,找到從一個頂點?s?到任何其他頂點的最短路徑。對于不含負權的有向圖渺杉,Dijkstra算法是目前已知的最快的單源最短路徑算法蛇数。
算法步驟:
1.?初始時令?S={V0},T={其余頂點},T中頂點對應的距離值
若存在少办,d(V0,Vi)為弧上的權值
若不存在,d(V0,Vi)為∞
2.?從T中選取一個其距離值為最小的頂點W且不在S中诵原,加入S
3.?對其余T中頂點的距離值進行修改:若加進W作中間頂點英妓,從V0到Vi的距離值縮短,則修改此距離值
重復上述步驟2绍赛、3蔓纠,直到S中包含所有頂點,即W=Vi為止
算法九:動態(tài)規(guī)劃算法
動態(tài)規(guī)劃(Dynamic?programming)是一種在數(shù)學吗蚌、計算機科學和經(jīng)濟學中使用的腿倚,通過把原問題分解為相對簡單的子問題的方式求解復雜問題的方法。?動態(tài)規(guī)劃常常適用于有重疊子問題和最優(yōu)子結構性質的問題蚯妇,動態(tài)規(guī)劃方法所耗時間往往遠少于樸素解法敷燎。
動態(tài)規(guī)劃背后的基本思想非常簡單。大致上箩言,若要解一個給定問題硬贯,我們需要解其不同部分(即子問題),再合并子問題的解以得出原問題的解陨收。?通常許多?子問題非常相似饭豹,為此動態(tài)規(guī)劃法試圖僅僅解決每個子問題一次,從而減少計算量:?一旦某個給定子問題的解已經(jīng)算出务漩,則將其記憶化存儲拄衰,以便下次需要同一個?子問題解之時直接查表。?這種做法在重復子問題的數(shù)目關于輸入的規(guī)模呈指數(shù)增長時特別有用饵骨。
關于動態(tài)規(guī)劃最經(jīng)典的問題當屬背包問題翘悉。
算法步驟:
1.?最優(yōu)子結構性質。如果問題的最優(yōu)解所包含的子問題的解也是最優(yōu)的居触,我們就稱該問題具有最優(yōu)子結構性質(即滿足最優(yōu)化原理)镐确。最優(yōu)子結構性質為動態(tài)規(guī)劃算法解決問題提供了重要線索。
2.?子問題重疊性質饼煞。子問題重疊性質是指在用遞歸算法自頂向下對問題進行求解時源葫,每次產(chǎn)生的子問題并不總是新問題,有些子問題會被重復計算多次砖瞧。?動態(tài)規(guī)劃算法正是利用了這種子問題的重疊性質息堂,對每一個子問題只計算一次,然后將其計算結果保存在一個表格中,當再次需要計算已經(jīng)計算過的子問題時荣堰,只是?在表格中簡單地查看一下結果床未,從而獲得較高的效率。
算法十:樸素貝葉斯分類算法
樸素貝葉斯分類算法是一種基于貝葉斯定理的簡單概率分類算法振坚。貝葉斯分類的基礎是概率推理薇搁,就是在各種條件的存在不確定,僅知其出現(xiàn)概率的情況下渡八,?如何完成推理和決策任務啃洋。概率推理是與確定性推理相對應的。而樸素貝葉斯分類器是基于獨立假設的屎鳍,即假設樣本每個特征與其他特征都不相關宏娄。
樸素貝葉斯分類器依靠精確的自然概率模型,在有監(jiān)督學習的樣本集中能獲取得非常好的分類效果逮壁。在許多實際應用中孵坚,樸素貝葉斯模型參數(shù)估計使用最大似然估計方法,換言之樸素貝葉斯模型能工作并沒有用到貝葉斯概率或者任何貝葉斯模型窥淆。
本文最初發(fā)表在www.evget.com卖宠,文章內容屬作者個人觀點,不代表本站立場忧饭。