奧卡姆剃刀

奧卡姆剃刀(Occam's Razor)，是由14世紀(jì)邏輯學(xué)家垃喊、圣方濟(jì)各會(huì)修士奧卡姆的威廉（William of Occam)提出的一個(gè)解決問(wèn)題的法則。這個(gè)法則的表述很多颈将，其中最流行的莫過(guò)于：

如非必需驹针，勿增實(shí)體
(More things should not be used than are necessary)

換句話說(shuō)殖告，如果關(guān)于一個(gè)或多個(gè)現(xiàn)象阿蝶，有許多種理論都能作出同樣準(zhǔn)確的解釋，那么應(yīng)該挑選其中使用假定最少的黄绩。

其實(shí)羡洁，除了這位奧卡姆之外，有很多名人爽丹，包括我們的老子筑煮，也都說(shuō)過(guò)類似的話：

• 老子：大道至簡(jiǎn)；為學(xué)日益粤蝎，為道日損咆瘟。
• 亞里士多德： 自然界選擇最短的道路。(Nature operates in the shortest way possible)
• 托勒密：我們認(rèn)為一個(gè)很好的原則是通過(guò)最簡(jiǎn)單的假設(shè)來(lái)解釋現(xiàn)象(We consider it a good principle to explain the phenomena by the simplest hypothesis possible)
• 伽利略：大自然不會(huì)無(wú)緣無(wú)故的增加事物诽里；她善于利用最簡(jiǎn)單和最容易的手段來(lái)達(dá)到目的；她從來(lái)不做徒勞無(wú)功的事情(Nature does not multiply things unnecessarily; that she makes use of the easiest and simplest means for producing her effects)
• 牛頓：解釋自然界的一切飞蛹，應(yīng)該追求使用最少的原理谤狡。如果很少的理由就能解釋自然，那么再列舉更多的理由就是多余的了(We are to admit no more causes of natural things than such as are both true and sufficient to explain their appearances. Nature does nothing in vain, and more is in vain when less will serve.)
• 愛因斯坦：凡事盡可能簡(jiǎn)潔卧檐，但不能太過(guò)簡(jiǎn)單（Everything should be made as simple as possible, but no simpler)

關(guān)于如何用奧卡姆剃刀幫我們找到現(xiàn)象背后的真理墓懂，維基百科上有兩個(gè)例子

例子1: 樹吹倒了

在一個(gè)有風(fēng)的夜晚，有兩棵樹連根倒下了霉囚，除此之外沒有任何別的痕跡捕仔。這是我們觀察到的現(xiàn)象。

可以解釋這兩棵樹倒掉的兩個(gè)可能的解釋為(1)風(fēng)把他們吹倒了 (2)有兩顆隕石從天而降盈罐，每顆隕石撞到了一棵樹榜跌，并且最后兩顆相互相撞，除去了自己的痕跡盅粪。

盡管這兩個(gè)解釋都可以很好的解釋觀察到的現(xiàn)象钓葫，但是后者一看就需要更多的假設(shè)：首先需要兩顆隕石掉下來(lái)，正好砸到兩個(gè)樹上票顾，這本身就相當(dāng)罕見础浮。此外，還需要隕石相互撞上而抹去他們自己的痕跡奠骄，這個(gè)也很罕見豆同。因此，盡管第二個(gè)假設(shè)也可以解釋樹倒了這個(gè)現(xiàn)象，由于這第二個(gè)解釋需要更多的且相當(dāng)罕見的假設(shè)，我們?nèi)匀粦?yīng)該堅(jiān)定不移的選擇第一個(gè)解釋烈拒，這就是用奧卡姆剃刀得到的結(jié)果横蜒。

例子2: 醫(yī)生診斷

奧卡姆的剃刀也經(jīng)常用于醫(yī)生診斷中扣孟。當(dāng)一個(gè)癥狀可以有多種病癥對(duì)應(yīng)時(shí)钓丰，醫(yī)生應(yīng)該首先懷疑的是最普遍的病癥疹蛉。例如磺平，如果發(fā)現(xiàn)一個(gè)小孩流鼻涕靴姿，那么醫(yī)生應(yīng)該首先懷疑這個(gè)小孩是否患有感冒沃但，而不是某一種罕見的先天性疾病。醫(yī)學(xué)院的學(xué)生經(jīng)常被老師告誡佛吓，“當(dāng)你聽到馬蹄聲的時(shí)候宵晚，要想到馬，而不是斑馬(When you hear hoofbeats, think horses, not zebras)维雇。

例子3: 誰(shuí)把花盆砸了

假設(shè)你一天晚上到家淤刃，看到你擺在客廳里的一盆花被砸在地板上，除了這盆花之外吱型，家里沒有任何其他的變化逸贾。你腦子里立刻列出幾個(gè)可能的原因(1)花盆被一個(gè)鬼魂撞倒了，(2)花盆被一個(gè)偷偷闖入你家里的人碰倒了津滞，并且他沒有拿任何東西铝侵。(3)花盆被你家養(yǎng)的貓弄砸了。

首先触徐，這三個(gè)原因都可以很好的解釋這個(gè)現(xiàn)象咪鲜。在這個(gè)前提下，用奧卡姆剃刀就可以很好的幫我們找到真相撞鹉。首先疟丙，花盆被鬼魂碰倒了這個(gè)原因，需要非常多的很強(qiáng)的假設(shè)鸟雏。因?yàn)槭紫刃枰砘甏嬖谙斫肌＿@個(gè)假設(shè)非常強(qiáng)，因?yàn)榈浆F(xiàn)在為止沒有證據(jù)證明有鬼魂存在孝鹊。并且拂蝎，這個(gè)鬼魂還跑到你家里，專門把你家里的花給碰倒了惶室。第二個(gè)原因的假設(shè)也很多温自。首先，需要假設(shè)有一個(gè)人闖入你家里皇钞，并且該人就是專門為了把你的花盆給砸了(除了花盆之外悼泌，家里沒有任何損失)。在此夹界，這個(gè)闖入你家里的人馆里，要么有你們家的門鑰匙，要么知道如何開鎖以不留下任何痕跡。

而相比于這兩個(gè)原因鸠踪，第三個(gè)原因需要的假設(shè)并不強(qiáng)丙者，你家里本來(lái)就有一只貓，并且貓碰到花盆营密，也不是一個(gè)特別小的概率械媒。因此用奧卡姆剃刀來(lái)判斷的話，一定會(huì)保留第三個(gè)评汰。

例子4: 地心說(shuō)和日心說(shuō)

給我留下最深印象的纷捞，就是這個(gè)地心說(shuō)和日心說(shuō)。吳軍老師在他的《數(shù)學(xué)之美》的第19章《談?wù)剶?shù)學(xué)模型的重要性》中被去，提到了這個(gè)例子主儡。數(shù)學(xué)家和天文學(xué)家的托勒密的地心說(shuō)中，由于從地球上看惨缆，行星的運(yùn)動(dòng)軌跡是不規(guī)則的糜值，因此托勒密用了40-60個(gè)小圓套大圓的方法，精確地計(jì)算出了所有行星運(yùn)動(dòng)的軌跡坯墨，如下圖所示臀玄。托勒密模型的精度之高，讓后來(lái)所有的科學(xué)家都驚嘆不已畅蹂。即使今天，我們?cè)谟?jì)算機(jī)的幫助下荣恐，也很難解出40個(gè)套在一起的圓的方程液斜。

地心說(shuō)

而后，波蘭天文學(xué)家哥白尼發(fā)現(xiàn)叠穆，如果以太陽(yáng)為中心來(lái)描述星體的運(yùn)行少漆，只需要8-10個(gè)圓，就能計(jì)算出一個(gè)行星的運(yùn)動(dòng)軌跡硼被，他因此提出了日心說(shuō)示损。然而，很遺憾的是嚷硫，哥白尼的模型的誤差比托勒密模型的誤差要大不少检访。所以日心說(shuō)要想讓人心服口服地接受，就得更準(zhǔn)確地描述行星運(yùn)動(dòng)仔掸。

完成這一使命的是約翰內(nèi)斯·開普勒脆贵。開普勒很幸運(yùn)地發(fā)現(xiàn)了行星圍繞太陽(yáng)運(yùn)轉(zhuǎn)的軌道實(shí)際上是橢圓形的，這樣不需要用多個(gè)小圓套大圓起暮，而只要用一個(gè)橢圓就能將星體運(yùn)動(dòng)規(guī)律描述清楚了卖氨。只是開普勒的知識(shí)水平不足以解釋為什么行星的軌跡是橢圓形的。解釋行星運(yùn)動(dòng)的軌道為什么是橢圓形這個(gè)光榮而艱巨的任務(wù)，最后由偉大的科學(xué)家牛頓用萬(wàn)有引力定律解釋得清清楚楚筒捺。

總結(jié)一下柏腻，拿到的觀測(cè)是太陽(yáng)系的某個(gè)星體的軌跡，有三個(gè)模型可以較好的解釋上述的觀測(cè)

1. 托勒密的以地球?yàn)橹行模?0-60個(gè)小圓套大圓
2. 哥白尼的以太陽(yáng)為中心系吭，8-10個(gè)圓
3. 開普勒的以太陽(yáng)為中心五嫂，一個(gè)橢圓。

我們可以看出村斟，上述的模型一個(gè)比一個(gè)簡(jiǎn)單贫导，由于它們都可以較好的解釋觀測(cè)到的軌跡，因此當(dāng)然應(yīng)該選最后一個(gè)蟆盹。

用貝葉斯定理來(lái)解釋奧卡姆剃刀

我們來(lái)回顧一下貝葉斯定理孩灯。當(dāng)我們觀察到某一個(gè)現(xiàn)象，或者拿到某一個(gè)證據(jù)的時(shí)候逾滥，我們總想找到現(xiàn)象背后的原因峰档。與很多人的思考方式不同，貝葉斯并不是只選擇一個(gè)寨昙，而是對(duì)所有的可能的原因讥巡，都找到一個(gè)概率，這個(gè)概率就是在觀察到這個(gè)現(xiàn)象后舔哪，每個(gè)原因的概率欢顷。這個(gè)概率P(原因i|當(dāng)前的觀測(cè))，通常
被稱為后驗(yàn)概率(Posterior probability)捉蚤。后驗(yàn)概率中的`后'抬驴，就是拿到觀測(cè)/證據(jù)以后，再判斷該原因的概率的含義缆巧。

貝葉斯定理給出了后驗(yàn)概率的表達(dá)式：

P(原因i)這個(gè)概率是我們?cè)谀玫浆F(xiàn)象/觀測(cè)之前布持，我們對(duì)于原因i本身成立的概率的評(píng)估。這個(gè)通常稱為先驗(yàn)概率(Prior probability)陕悬。先驗(yàn)概率中的`先'题暖，就是拿到觀測(cè)之前的意思。先驗(yàn)概率依賴于原因i發(fā)生的概率捉超，也就是這個(gè)原因是否常見胧卤。

P(當(dāng)前的觀測(cè)|原因i)是在原因i成立時(shí)，我們能夠觀察到該現(xiàn)象出現(xiàn)的概率拼岳，通常我們把這個(gè)叫做似然概率(Likelihood probability)灌侣。這個(gè)似然概率描述了原因i能夠用來(lái)解釋當(dāng)前拿到的現(xiàn)象或觀測(cè)的程度(解釋力度)。解釋的越好裂问，那么似然概率就越大侧啼。

最后一個(gè)牛柒，P(當(dāng)前的觀測(cè))這個(gè)概率描述了該觀測(cè)到的現(xiàn)象發(fā)生的概率。注意不同的原因i對(duì)應(yīng)的該概率都一樣痊乾。這意味著皮壁，貝葉斯定理最后選擇哪個(gè)原因，只取決于

P(原因 i)＊P(當(dāng)前的觀測(cè)|原因 i)

這說(shuō)明哪审，貝葉斯定理選出的原因蛾魄，是似然概率P(現(xiàn)象|原因)和先驗(yàn)概率P(原因)的乘積最大的。前者表示了該原因解釋當(dāng)前的現(xiàn)象的力度(解釋的好不好)湿滓，而后者表示了該原因發(fā)生的概率(常不常見)滴须。通俗的來(lái)說(shuō)，在一定程度上解釋該現(xiàn)象(似然概率較高)叽奥，并且本身也常見(先驗(yàn)概率較大)的原因最容易勝出扔水。

現(xiàn)在我們用貝葉斯定理來(lái)解釋奧卡姆剃刀。 首先朝氓，奧卡姆剃刀`如非必需魔市，勿增實(shí)體'可以表示為，如果兩個(gè)原因赵哲，原因A和原因B都可以很好的解釋觀測(cè)待德，并且原因A比原因B更簡(jiǎn)單的話，那么應(yīng)該選擇原因A枫夺。

`原因A和原因B都可以很好的解釋觀測(cè)'這句話用貝葉斯定理來(lái)解釋将宪，就是這兩個(gè)原因的似然概率都比較大，即

`原因A比原因B更簡(jiǎn)單'這句話用貝葉斯定理來(lái)解釋橡庞，就是原因A的先驗(yàn)概率比原因B要大较坛，即

在這種情況下，奧卡姆剃刀選擇了第一個(gè)原因毙死。這個(gè)完全符合貝葉斯定理，因?yàn)樨惾~斯定理選出的原因喻鳄，就是先驗(yàn)概率和似然概率乘積最大的原因扼倘。

有人會(huì)問(wèn)，為什么奧卡姆剃刀中的簡(jiǎn)單的原因除呵，其先驗(yàn)概率比較大再菊？因?yàn)楹?jiǎn)單的原因不需要那么多強(qiáng)假設(shè)就可以成立；而如果一個(gè)原因需要的假設(shè)越多颜曾，假設(shè)越強(qiáng)纠拔，那么它發(fā)生的概率就越低。例如泛豪，如果原因A需要2個(gè)假設(shè)成立才成立稠诲，每個(gè)假設(shè)自身的概率為10%侦鹏，那么原因A的先驗(yàn)概率為
P(原因A)=1%，而如果原因B需要4個(gè)假設(shè)臀叙，每個(gè)假設(shè)成立的概率為10%略水，那么那么原因B的先驗(yàn)概率為P(原因B)=0.01%。

如果我們現(xiàn)在再看愛因斯坦說(shuō)的那句話劝萤，

Everything should be made as simple as possible, but not simpler渊涝，

你就會(huì)認(rèn)識(shí)到，as simple as possible床嫌，就是先驗(yàn)概率越大的原因越好跨释；而 not simpler，就是說(shuō)這個(gè)原因仍然需要能夠解釋當(dāng)前的觀測(cè)厌处。這句話翻譯成貝葉斯定理的語(yǔ)言鳖谈，就是說(shuō)，你最終找到的原因是在能夠解釋當(dāng)前的觀測(cè)的前提下嘱蛋，先驗(yàn)概率最大的那個(gè)原因蚯姆。

所以我們可以說(shuō)，奧卡姆剃刀洒敏，是貝葉斯定理的一種特殊情況龄恋。奧卡姆剃刀告訴我們，在多個(gè)有相同的解釋力的原因中要選出一個(gè)簡(jiǎn)單的凶伙；而貝葉斯定理告訴我們更一般的情況郭毕，即在解釋力和復(fù)雜性中找到最好的平衡。

在這種情況下函荣，奧卡姆剃刀選擇了第一個(gè)原因显押。這個(gè)完全符合貝葉斯定理，因?yàn)樨惾~斯定理選出的原因傻挂，就是先驗(yàn)概率和似然概率乘積最大的原因乘碑。

所以我們可以說(shuō)，奧卡姆剃刀金拒，是貝葉斯定理的一種特殊情況兽肤。奧卡姆剃刀告訴我們，在多個(gè)有相同的解釋力的原因中要選出一個(gè)簡(jiǎn)單的绪抛；而貝葉斯定理告訴我們更一般的情況资铡，即在解釋力和復(fù)雜性中找到最好的平衡。

我們?cè)賮?lái)看幾個(gè)例子幢码。

例子5: 樹后面的箱子

這是一個(gè)被廣泛用來(lái)解釋奧卡姆剃刀的例子笤休，原文出自MacKay D J C. Information theory, inference and learning algorithms[M]. Cambridge university press, 2003.。下圖中有多少個(gè)箱子症副？特別地店雅，那棵書后面是一個(gè)箱子政基？還是兩個(gè)箱子？絕大多數(shù)人一眼看去底洗，都會(huì)覺得樹后面肯定是一個(gè)箱子而不是兩個(gè)腋么。我們來(lái)解釋一下后面的道理。

那棵樹后面是一個(gè)箱子(h1)亥揖？還是兩個(gè)箱子(h2)珊擂？

首先我們來(lái)梳理一下這個(gè)問(wèn)題中的觀測(cè)和待定的原因。 首先费变，觀測(cè)就是上面的圖摧扇。 我們有兩個(gè)備選原因需要考慮。

• h1：正好有一個(gè)箱子擺在如圖所示的樹的后面(見圖\ref{fig:Occam_razor}下方的第一個(gè)小圖)挚歧。
• h2: 正好有兩個(gè)箱子擺在如圖所示的樹的后面(見圖\ref{fig:Occam_razor}下方的第二個(gè)小圖)扛稽。

我們來(lái)分析一下為什么選h1。

首先滑负，h1和h2都可以完美的解釋上面的圖在张。其次，h1比h2要更簡(jiǎn)單矮慕，或者等價(jià)的帮匾，h1發(fā)生的可能性比h2要大。很容易看出痴鳄，h2需要多個(gè)條件同時(shí)滿足才能發(fā)生瘟斜，包括(1)兩個(gè)箱子的位置要正好在圖中的位置，(2)兩個(gè)箱子的高度要一致痪寻，(3)兩個(gè)箱子的長(zhǎng)度也要正好匹配螺句，并且(4)兩個(gè)箱子的顏色也要相同。 只要有一個(gè)條件不滿足橡类，那么就得不到上面的圖了蛇尚。簡(jiǎn)單的說(shuō)就是，哪有這么巧的兩個(gè)高度相同顾画，長(zhǎng)短合適取劫、顏色相同的兩個(gè)箱子正好擺在樹后面？

相比于h2亲雪，h1所需要的假設(shè)就少得多勇凭，只需要一個(gè)箱子擺在圖中的位置可以了疚膊。因此根據(jù)奧卡姆剃刀原理(或者貝葉斯定理)义辕，我們應(yīng)選擇h1，而不是h2寓盗。

例子6: 找規(guī)律填數(shù)字

很小的孩子灌砖，都會(huì)做下面的填下一個(gè)數(shù)字的題目璧函。例如，給出下面這個(gè)序列的后兩個(gè)數(shù)字：

-1基显，3蘸吓，7，11

我想絕大部分人撩幽，都會(huì)立刻從前面4個(gè)數(shù)字看出一個(gè)規(guī)律：后面一個(gè)比前面一個(gè)增加4库继。 就是說(shuō)，把前一個(gè)數(shù)字作為x窜醉，下一個(gè)數(shù)字x'滿足

模型1

因此宪萄，11后面的兩個(gè)數(shù)字應(yīng)該為 15和19。

可是有沒有想過(guò)榨惰，還有一個(gè)規(guī)律可以完全解釋上面的4個(gè)數(shù)拜英，即

模型2

用這么個(gè)模型來(lái)預(yù)測(cè)，那么后面的兩個(gè)數(shù)就是-19.9和1043.8琅催。

為什么這個(gè)模型能夠同樣完美的解釋這4個(gè)數(shù)字居凶，但是大家都不會(huì)采用它呢？主要原因在于藤抡，后面一個(gè)模型比前面一個(gè)模型要復(fù)雜的多侠碧。

同樣兩個(gè)模型，一個(gè)簡(jiǎn)單杰捂，一個(gè)復(fù)雜舆床，都可以完美的解釋這4個(gè)數(shù)，根據(jù)奧卡姆剃刀嫁佳，選擇前一個(gè)嘍挨队。

如果我們用貝葉斯定理來(lái)分析，就是這兩個(gè)模型(原因)蒿往，都可以完美的解釋給出的4個(gè)數(shù)盛垦，但是第一個(gè)模型的先驗(yàn)概率要高于第二個(gè)模型，因此我們選擇第一個(gè)模型瓤漏。

我們來(lái)具體說(shuō)明為什么簡(jiǎn)單的模型對(duì)應(yīng)的先驗(yàn)概率比較高腾夯。 我們可以這么想，我們假設(shè)通過(guò)擲骰子來(lái)產(chǎn)生上面兩個(gè)模型的所有的系數(shù)蔬充。為了能找到系數(shù)蝶俱，我們假設(shè)擲的骰子是類似于下圖中的多面骰子。我們這里的骰子有101面饥漫，每一個(gè)面上是一個(gè)整數(shù)榨呆，依次從-50到50。此外庸队，每個(gè)系數(shù)积蜻，都從擲的兩顆骰子A和B的數(shù)字的比值來(lái)決定闯割。例如擲出的兩顆骰子的數(shù)字為－10和1，那么就得到了一個(gè)系數(shù)-10竿拆。

用多面骰子來(lái)決定系數(shù)

模型1包括兩個(gè)系數(shù)宙拉，一次項(xiàng)系數(shù)1和常數(shù)項(xiàng)系數(shù)4。因此我們每次擲4顆骰子丙笋，骰子A,B,C,D谢澈，并且把A和B的比值作為一次項(xiàng)系數(shù)，C和D的比值作為常數(shù)項(xiàng)系數(shù)御板。

而模型2包括三個(gè)系數(shù)澳化，三次項(xiàng)系數(shù)-1/11，二次項(xiàng)系數(shù)9/11稳吮，和常數(shù)項(xiàng)系數(shù)23/11缎谷。因此我們一次性擲出6顆骰子，骰子A,B,C,D,E,F并且把A和B的比值作為三次項(xiàng)系數(shù)灶似，C和D的比值作為二次項(xiàng)系數(shù)列林，E和F的比值作為常數(shù)項(xiàng)系數(shù)。

好了酪惭，交代完畢希痴，現(xiàn)在終于可以擲骰子了。你把這些骰子丟給造物主春感，讓它來(lái)擲砌创，我們來(lái)看下，它分別擲出模型1和模型2概率是多少鲫懒。

對(duì)于模型1嫩实，擲出的A,B骰子的比值為1的概率為 1/101，同樣窥岩，產(chǎn)生常數(shù)項(xiàng)系數(shù)4的概率甲献，為 24／101^2(有24種可能的組合可以產(chǎn)生4的比值)。由于這兩個(gè)系數(shù)獨(dú)立颂翼，因此晃洒，隨機(jī)產(chǎn)生一個(gè)可以符合h1的模型的概率為

對(duì)于模型2，擲出的A,B骰子的比值為三次項(xiàng)系數(shù)-1/11的概率為 8/101^2朦乏。 擲出的C,D骰子的比值為二次項(xiàng)系數(shù)9/11的概率也是8/101^2球及。擲出的E,F骰子的比值為常數(shù)項(xiàng)系數(shù)23/11的概率 4/101^2。因此呻疹，你擲出6顆骰子一次性可以產(chǎn)生
h2的模型的概率為

因此 P(h1)遠(yuǎn)遠(yuǎn)大于P(h2)吃引。換句話說(shuō)，如果按照上述的方法，造物主通過(guò)擲骰子產(chǎn)生模型h1的概率要遠(yuǎn)遠(yuǎn)大于h2际歼。這就是為什么我們要選擇簡(jiǎn)單的模型的原因。因?yàn)楹?jiǎn)單的模型姑蓝，在現(xiàn)實(shí)中不常出現(xiàn)鹅心。

奧卡姆剃刀要求原因可以較好的解釋當(dāng)前的現(xiàn)象。但如果某個(gè)原因不能夠解釋當(dāng)前的現(xiàn)象時(shí)纺荧，或者某個(gè)原因可以解釋過(guò)去的現(xiàn)象旭愧，但是新的現(xiàn)象無(wú)法解釋，那我們應(yīng)該怎么辦呢宙暇？很簡(jiǎn)單输枯，我們需要去調(diào)整原因，使其同樣能夠解釋當(dāng)前的現(xiàn)象占贫。同樣桃熄，在多個(gè)可能解釋新的現(xiàn)象的原因中，我們找到一個(gè)最簡(jiǎn)單的型奥，作為最后的結(jié)果瞳收。

我在維基百科上找到了這樣一個(gè)例子作為本章的結(jié)束(見下圖)，這個(gè)例子也在松鼠同學(xué)會(huì)上被引用過(guò)厢汹。

不斷用新的證據(jù)來(lái)更新理論解釋

總結(jié)

• 奧卡姆剃刀：如非必需螟深，勿增實(shí)體。
• 奧卡姆剃刀可以用貝葉斯定理來(lái)解釋：Keep it simple 意味著先驗(yàn)概率大; Not simpler烫葬，意味著這 個(gè)原因仍然需要能夠解釋當(dāng)前的觀測(cè)界弧。
• 奧卡姆剃刀，是貝葉斯定理的一種特殊情況搭综。奧卡姆剃刀告訴我們垢箕，在多個(gè)有相同的解釋力的原因中要選出一個(gè)簡(jiǎn)單的；而貝葉斯定理不僅僅可以解釋奧卡姆剃刀兑巾，而且告訴我們更一般的情況舰讹，即在解釋力和復(fù)雜性中找到最好的平衡。