程序員必須知道的十大基礎(chǔ)實用算法

算法一:快速排序算法

快速排序是由東尼·霍爾所發(fā)展的一種排序算法蹂风。在平均狀況下辽俗,排序 n 個項目要Ο(n log n)次比較陌凳。在最壞狀況下則需要Ο(n2)次比較娱仔,但這種狀況并不常見配椭。事實上虫溜,快速排序通常明顯比其他Ο(n log n) 算法更快,因為它的內(nèi)部循環(huán)(inner loop)可以在大部分的架構(gòu)上很有效率地被實現(xiàn)出來股缸。

快速排序使用分治法(Divide and conquer)策略來把一個串行(list)分為兩個子串行(sub-lists)衡楞。

算法步驟:

1 從數(shù)列中挑出一個元素,稱為 “基準(zhǔn)”(pivot)敦姻,

2 重新排序數(shù)列瘾境,所有元素比基準(zhǔn)值小的擺放在基準(zhǔn)前面,所有元素比基準(zhǔn)值大的擺在基準(zhǔn)的后面(相同的數(shù)可以到任一邊)镰惦。在這個分區(qū)退出之后迷守,該基準(zhǔn)就處于數(shù)列的中間位置。這個稱為分區(qū)(partition)操作旺入。

3 遞歸地(recursive)把小于基準(zhǔn)值元素的子數(shù)列和大于基準(zhǔn)值元素的子數(shù)列排序兑凿。

遞歸的最底部情形凯力,是數(shù)列的大小是零或一,也就是永遠都已經(jīng)被排序好了礼华。雖然一直遞歸下去咐鹤,但是這個算法總會退出,因為在每次的迭代(iteration)中圣絮,它至少會把一個元素擺到它最后的位置去祈惶。

算法二:堆排序算法

堆排序(Heapsort)是指利用堆這種數(shù)據(jù)結(jié)構(gòu)所設(shè)計的一種排序算法。堆積是一個近似完全二叉樹的結(jié)構(gòu)扮匠,并同時滿足堆積的性質(zhì):即子結(jié)點的鍵值或索引總是小于(或者大于)它的父節(jié)點捧请。

堆排序的平均時間復(fù)雜度為Ο(nlogn) 。

算法步驟:

創(chuàng)建一個堆H[0..n-1]

把堆首(最大值)和堆尾互換

3. 把堆的尺寸縮小1棒搜,并調(diào)用shift_down(0),目的是把新的數(shù)組頂端數(shù)據(jù)調(diào)整到相應(yīng)位置

4. 重復(fù)步驟2疹蛉,直到堆的尺寸為1

算法三:歸并排序

歸并排序(Merge sort,臺灣譯作:合并排序)是建立在歸并操作上的一種有效的排序算法帮非。該算法是采用分治法(Divide and Conquer)的一個非常典型的應(yīng)用氧吐。

算法步驟:

1. 申請空間讹蘑,使其大小為兩個已經(jīng)排序序列之和末盔,該空間用來存放合并后的序列

2. 設(shè)定兩個指針,最初位置分別為兩個已經(jīng)排序序列的起始位置

3. 比較兩個指針?biāo)赶虻脑刈浚x擇相對小的元素放入到合并空間陨舱,并移動指針到下一位置

4. 重復(fù)步驟3直到某一指針達到序列尾

5. 將另一序列剩下的所有元素直接復(fù)制到合并序列尾

算法四:二分查找算法

二分查找算法是一種在有序數(shù)組中查找某一特定元素的搜索算法。搜素過程從數(shù)組的中間元素開始版仔,如果中間元素正好是要查找的元素游盲,則搜素過程結(jié)束;如果某一特定元素大于或者小于中間元素蛮粮,則在數(shù)組大于或小于中間元素的那一半中查找益缎,而且跟開始一樣從中間元素開始比較。如果在某一步驟數(shù)組為空然想,則代表找不到莺奔。這種搜索算法每一次比較都使搜索范圍縮小一半。折半搜索每次把搜索區(qū)域減少一半变泄,時間復(fù)雜度為Ο(logn) 令哟。

算法五:BFPRT(線性查找算法)

BFPRT算法解決的問題十分經(jīng)典,即從某n個元素的序列中選出第k大(第k蟹劣肌)的元素屏富,通過巧妙的分析,BFPRT可以保證在最壞情況下仍為線性時間復(fù)雜度蛙卤。該算法的思想與快速排序思想相似狠半,當(dāng)然噩死,為使得算法在最壞情況下,依然能達到o(n)的時間復(fù)雜度典予,五位算法作者做了精妙的處理甜滨。

算法步驟:

1. 將n個元素每5個一組,分成n/5(上界)組瘤袖。

2. 取出每一組的中位數(shù)衣摩,任意排序方法,比如插入排序捂敌。

3. 遞歸的調(diào)用selection算法查找上一步中所有中位數(shù)的中位數(shù)艾扮,設(shè)為x,偶數(shù)個中位數(shù)的情況下設(shè)定為選取中間小的一個占婉。

4. 用x來分割數(shù)組泡嘴,設(shè)小于等于x的個數(shù)為k,大于x的個數(shù)即為n-k逆济。

5. 若i==k酌予,返回x;若ik奖慌,在大于x的元素中遞歸查找第i-k小的元素抛虫。

終止條件:n=1時,返回的即是i小元素简僧。

算法六:DFS(深度優(yōu)先搜索)

深度優(yōu)先搜索算法(Depth-First-Search)建椰,是搜索算法的一種。它沿著樹的深度遍歷樹的節(jié)點岛马,盡可能深的搜索樹的分支棉姐。當(dāng)節(jié)點v的所有邊都己被探尋過,搜索將回溯到發(fā)現(xiàn)節(jié)點v的那條邊的起始節(jié)點啦逆。這一過程一直進行到已發(fā)現(xiàn)從源節(jié)點可達的所有節(jié)點為止伞矩。如果還存在未被發(fā)現(xiàn)的節(jié)點扁藕,則選擇其中一個作為源節(jié)點并重復(fù)以上過程烟具,整個進程反復(fù)進行直到所有節(jié)點都被訪問為止劈伴。DFS屬于盲目搜索瞧毙。

深度優(yōu)先搜索是圖論中的經(jīng)典算法赦拘,利用深度優(yōu)先搜索算法可以產(chǎn)生目標(biāo)圖的相應(yīng)拓?fù)渑判虮砜勰纾猛負(fù)渑判虮砜梢苑奖愕慕鉀Q很多相關(guān)的圖論問題舱权,如最大路徑問題等等挎春。一般用堆數(shù)據(jù)結(jié)構(gòu)來輔助實現(xiàn)DFS算法溉贿。

深度優(yōu)先遍歷圖算法步驟:

1. 訪問頂點v枫吧;

2. 依次從v的未被訪問的鄰接點出發(fā),對圖進行深度優(yōu)先遍歷宇色;直至圖中和v有路徑相通的頂點都被訪問九杂;

3. 若此時圖中尚有頂點未被訪問颁湖,則從一個未被訪問的頂點出發(fā),重新進行深度優(yōu)先遍歷例隆,直到圖中所有頂點均被訪問過為止甥捺。

上述描述可能比較抽象,舉個實例:

DFS 在訪問圖中某一起始頂點 v 后镀层,由 v 出發(fā)镰禾,訪問它的任一鄰接頂點 w1;再從 w1 出發(fā)唱逢,訪問與 w1鄰 接但還沒有訪問過的頂點 w2吴侦;然后再從 w2 出發(fā),進行類似的訪問坞古,… 如此進行下去备韧,直至到達所有的鄰接頂點都被訪問過的頂點 u 為止。

接著痪枫,退回一步织堂,退到前一次剛訪問過的頂點,看是否還有其它沒有被訪問的鄰接頂點奶陈。如果有易阳,則訪問此頂點,之后再從此頂點出發(fā)尿瞭,進行與前述類似的訪問闽烙;如果沒有翅睛,就再退回一步進行搜索声搁。重復(fù)上述過程,直到連通圖中所有頂點都被訪問過為止捕发。

算法七:BFS(廣度優(yōu)先搜索)

廣度優(yōu)先搜索算法(Breadth-First-Search)疏旨,是一種圖形搜索算法。簡單的說扎酷,BFS是從根節(jié)點開始檐涝,沿著樹(圖)的寬度遍歷樹(圖)的節(jié)點。如果所有節(jié)點均被訪問法挨,則算法中止谁榜。BFS同樣屬于盲目搜索。一般用隊列數(shù)據(jù)結(jié)構(gòu)來輔助實現(xiàn)BFS算法凡纳。

算法步驟:

1. 首先將根節(jié)點放入隊列中窃植。

2. 從隊列中取出第一個節(jié)點,并檢驗它是否為目標(biāo)荐糜。

如果找到目標(biāo)巷怜,則結(jié)束搜尋并回傳結(jié)果葛超。

否則將它所有尚未檢驗過的直接子節(jié)點加入隊列中。

3. 若隊列為空延塑,表示整張圖都檢查過了——亦即圖中沒有欲搜尋的目標(biāo)绣张。結(jié)束搜尋并回傳“找不到目標(biāo)”。

4. 重復(fù)步驟2关带。

算法八:Dijkstra算法

戴克斯特拉算法(Dijkstra’s algorithm)是由荷蘭計算機科學(xué)家艾茲赫爾·戴克斯特拉提出侥涵。迪科斯徹算法使用了廣度優(yōu)先搜索解決非負(fù)權(quán)有向圖的單源最短路徑問題,算法最終得到一個最短路徑樹宋雏。該算法常用于路由算法或者作為其他圖算法的一個子模塊独令。

該算法的輸入包含了一個有權(quán)重的有向圖 G,以及G中的一個來源頂點 S好芭。我們以 V 表示 G 中所有頂點的集合燃箭。每一個圖中的邊,都是兩個頂點所形成的有序元素對舍败。(u, v) 表示從頂點 u 到 v 有路徑相連招狸。我們以 E 表示G中所有邊的集合,而邊的權(quán)重則由權(quán)重函數(shù) w: E → [0, ∞] 定義邻薯。因此裙戏,w(u, v) 就是從頂點 u 到頂點 v 的非負(fù)權(quán)重(weight)。邊的權(quán)重可以想像成兩個頂點之間的距離厕诡。任兩點間路徑的權(quán)重累榜,就是該路徑上所有邊的權(quán)重總和。已知有 V 中有頂點 s 及 t灵嫌,Dijkstra 算法可以找到 s 到 t的最低權(quán)重路徑(例如壹罚,最短路徑)。這個算法也可以在一個圖中寿羞,找到從一個頂點 s 到任何其他頂點的最短路徑猖凛。對于不含負(fù)權(quán)的有向圖,Dijkstra算法是目前已知的最快的單源最短路徑算法绪穆。

算法步驟:

1. 初始時令 S={V0},T={其余頂點}辨泳,T中頂點對應(yīng)的距離值

若存在,d(V0,Vi)為弧上的權(quán)值

若不存在玖院,d(V0,Vi)為∞

2. 從T中選取一個其距離值為最小的頂點W且不在S中菠红,加入S

3. 對其余T中頂點的距離值進行修改:若加進W作中間頂點,從V0到Vi的距離值縮短难菌,則修改此距離值

重復(fù)上述步驟2试溯、3,直到S中包含所有頂點扔傅,即W=Vi為止

算法九:動態(tài)規(guī)劃算法

動態(tài)規(guī)劃(Dynamic programming)是一種在數(shù)學(xué)耍共、計算機科學(xué)和經(jīng)濟學(xué)中使用的烫饼,通過把原問題分解為相對簡單的子問題的方式求解復(fù)雜問題的方法。 動態(tài)規(guī)劃常常適用于有重疊子問題和最優(yōu)子結(jié)構(gòu)性質(zhì)的問題试读,動態(tài)規(guī)劃方法所耗時間往往遠少于樸素解法杠纵。

動態(tài)規(guī)劃背后的基本思想非常簡單。大致上钩骇,若要解一個給定問題比藻,我們需要解其不同部分(即子問題),再合并子問題的解以得出原問題的解倘屹。 通常許多子問題非常相似银亲,為此動態(tài)規(guī)劃法試圖僅僅解決每個子問題一次,從而減少計算量: 一旦某個給定子問題的解已經(jīng)算出纽匙,則將其記憶化存儲务蝠,以便下次需要同一個子問題解之時直接查表。 這種做法在重復(fù)子問題的數(shù)目關(guān)于輸入的規(guī)模呈指數(shù)增長時特別有用烛缔。

關(guān)于動態(tài)規(guī)劃最經(jīng)典的問題當(dāng)屬背包問題馏段。

算法步驟:

1. 最優(yōu)子結(jié)構(gòu)性質(zhì)。如果問題的最優(yōu)解所包含的子問題的解也是最優(yōu)的践瓷,我們就稱該問題具有最優(yōu)子結(jié)構(gòu)性質(zhì)(即滿足最優(yōu)化原理)院喜。最優(yōu)子結(jié)構(gòu)性質(zhì)為動態(tài)規(guī)劃算法解決問題提供了重要線索。

2. 子問題重疊性質(zhì)晕翠。子問題重疊性質(zhì)是指在用遞歸算法自頂向下對問題進行求解時喷舀,每次產(chǎn)生的子問題并不總是新問題,有些子問題會被重復(fù)計算多次淋肾。動態(tài)規(guī)劃算法正是利用了這種子問題的重疊性質(zhì)硫麻,對每一個子問題只計算一次,然后將其計算結(jié)果保存在一個表格中巫员,當(dāng)再次需要計算已經(jīng)計算過的子問題時庶香,只是在表格中簡單地查看一下結(jié)果甲棍,從而獲得較高的效率简识。

算法十:樸素貝葉斯分類算法

樸素貝葉斯分類算法是一種基于貝葉斯定理的簡單概率分類算法。貝葉斯分類的基礎(chǔ)是概率推理感猛,就是在各種條件的存在不確定七扰,僅知其出現(xiàn)概率的情況下,如何完成推理和決策任務(wù)陪白。概率推理是與確定性推理相對應(yīng)的颈走。而樸素貝葉斯分類器是基于獨立假設(shè)的,即假設(shè)樣本每個特征與其他特征都不相關(guān)咱士。

樸素貝葉斯分類器依靠精確的自然概率模型立由,在有監(jiān)督學(xué)習(xí)的樣本集中能獲取得非常好的分類效果轧钓。在許多實際應(yīng)用中,樸素貝葉斯模型參數(shù)估計使用最大似然估計方法锐膜,換言之樸素貝葉斯模型能工作并沒有用到貝葉斯概率或者任何貝葉斯模型毕箍。

盡管是帶著這些樸素思想和過于簡單化的假設(shè),但樸素貝葉斯分類器在很多復(fù)雜的現(xiàn)實情形中仍能夠取得相當(dāng)好的效果道盏。

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末而柑,一起剝皮案震驚了整個濱河市,隨后出現(xiàn)的幾起案子荷逞,更是在濱河造成了極大的恐慌媒咳,老刑警劉巖,帶你破解...
    沈念sama閱讀 206,602評論 6 481
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件种远,死亡現(xiàn)場離奇詭異涩澡,居然都是意外死亡,警方通過查閱死者的電腦和手機坠敷,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 88,442評論 2 382
  • 文/潘曉璐 我一進店門筏养,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人常拓,你說我怎么就攤上這事渐溶。” “怎么了弄抬?”我有些...
    開封第一講書人閱讀 152,878評論 0 344
  • 文/不壞的土叔 我叫張陵茎辐,是天一觀的道長。 經(jīng)常有香客問我掂恕,道長拖陆,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 55,306評論 1 279
  • 正文 為了忘掉前任懊亡,我火速辦了婚禮依啰,結(jié)果婚禮上,老公的妹妹穿的比我還像新娘店枣。我一直安慰自己速警,他們只是感情好,可當(dāng)我...
    茶點故事閱讀 64,330評論 5 373
  • 文/花漫 我一把揭開白布鸯两。 她就那樣靜靜地躺著闷旧,像睡著了一般。 火紅的嫁衣襯著肌膚如雪钧唐。 梳的紋絲不亂的頭發(fā)上忙灼,一...
    開封第一講書人閱讀 49,071評論 1 285
  • 那天,我揣著相機與錄音,去河邊找鬼该园。 笑死酸舍,一個胖子當(dāng)著我的面吹牛,可吹牛的內(nèi)容都是我干的里初。 我是一名探鬼主播父腕,決...
    沈念sama閱讀 38,382評論 3 400
  • 文/蒼蘭香墨 我猛地睜開眼,長吁一口氣:“原來是場噩夢啊……” “哼青瀑!你這毒婦竟也來了璧亮?” 一聲冷哼從身側(cè)響起,我...
    開封第一講書人閱讀 37,006評論 0 259
  • 序言:老撾萬榮一對情侶失蹤斥难,失蹤者是張志新(化名)和其女友劉穎枝嘶,沒想到半個月后,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體哑诊,經(jīng)...
    沈念sama閱讀 43,512評論 1 300
  • 正文 獨居荒郊野嶺守林人離奇死亡群扶,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點故事閱讀 35,965評論 2 325
  • 正文 我和宋清朗相戀三年,在試婚紗的時候發(fā)現(xiàn)自己被綠了镀裤。 大學(xué)時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片竞阐。...
    茶點故事閱讀 38,094評論 1 333
  • 序言:一個原本活蹦亂跳的男人離奇死亡,死狀恐怖暑劝,靈堂內(nèi)的尸體忽然破棺而出骆莹,到底是詐尸還是另有隱情,我是刑警寧澤担猛,帶...
    沈念sama閱讀 33,732評論 4 323
  • 正文 年R本政府宣布幕垦,位于F島的核電站,受9級特大地震影響傅联,放射性物質(zhì)發(fā)生泄漏先改。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點故事閱讀 39,283評論 3 307
  • 文/蒙蒙 一蒸走、第九天 我趴在偏房一處隱蔽的房頂上張望仇奶。 院中可真熱鬧,春花似錦比驻、人聲如沸该溯。這莊子的主人今日做“春日...
    開封第一講書人閱讀 30,286評論 0 19
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽朗伶。三九已至,卻和暖如春步咪,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背益楼。 一陣腳步聲響...
    開封第一講書人閱讀 31,512評論 1 262
  • 我被黑心中介騙來泰國打工猾漫, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留点晴,地道東北人。 一個月前我還...
    沈念sama閱讀 45,536評論 2 354
  • 正文 我出身青樓悯周,卻偏偏與公主長得像粒督,于是被迫代替她去往敵國和親。 傳聞我的和親對象是個殘疾皇子禽翼,可洞房花燭夜當(dāng)晚...
    茶點故事閱讀 42,828評論 2 345

推薦閱讀更多精彩內(nèi)容