貝葉斯公式的理解

能把P(城市|省份)和P(省份|城市)聯(lián)系起來的公式叫貝葉斯公式焕梅。我們來看貝葉斯公式長什么樣子值漫。

用A表示省份,B表示城市椭蹄,套入公式,即能把P(城市|C)和P(C|城市)聯(lián)系起來净赴∩兀看到能夠聯(lián)系起來,上級工作人員很高興玖翅,但是這公式有什么意義嗎翼馆,是不是隨便編造的一個公式,為何叫貝葉斯公式而不是叫陳佩斯公式金度?

貝葉斯公式以托馬斯·貝葉斯(Thomas Bayes应媚,1701-1761)命名的,貝葉斯是和牛頓同時代的牧師猜极,同時也是一位業(yè)余數(shù)學(xué)家珍特,和牛頓不同的是,貝葉斯的理論當(dāng)時并未被重視魔吐,原因在于貝葉斯在統(tǒng)計當(dāng)中引入了主觀因素扎筒,即所謂的先驗概率,這對于數(shù)學(xué)來說是大忌酬姆,數(shù)學(xué)應(yīng)該是客觀的嗜桌,怎么能加入主觀因素。因此辞色,直到1950年左右骨宠,人們發(fā)現(xiàn)加入先驗概率效果更好,貝葉斯的理論才被廣泛接受相满。



????一個理論能被廣泛接受层亿,一定是因為能夠解決很多問題,那貝葉斯理論又解決了什么問題立美,為什么一個數(shù)學(xué)理論能夠加入主觀因素匿又?

? 如果問拋硬幣正面朝上的概率,很多人會肯定回答說概率是1/2建蹄,但這是想當(dāng)然了碌更,對于理想的硬幣,正反面概率是均勻的洞慎,但是如果硬幣動了手腳痛单,那就不一定了,這個時候劲腿,要怎么去確定概率是多少旭绒?有人想到通過做拋硬幣的試驗來確定,例如拋5次硬幣焦人,統(tǒng)計正面和反面出現(xiàn)的次數(shù)挥吵,如果拋5次都是正面向上,我們能說正面向上的概率是100%嗎垃瞧?有人說蔫劣,5次太少,那拋5000次以上總能計算概率大小吧个从,答案是可以脉幢,只是這種估計概率的方式成本太高了。事實上嗦锐,現(xiàn)實生活中嫌松,有很多類似的例子是不能通過做試驗來確定概率的,例如小明預(yù)測明天下雨的概率是30%,他無法重復(fù)過上明天100次渐逃,統(tǒng)計下雨的次數(shù)來計算下雨的概率抵恋。而貝葉斯理論钱慢,可以解決這種在有限信息條件下對概率的一個預(yù)估贾陷,貝葉斯理論的思路是缘眶,在主觀判斷的基礎(chǔ)上,先估計一個值(先驗概率)髓废,然后根據(jù)觀察的新信息不斷修正(可能性函數(shù))巷懈。

我們繼續(xù)來看貝葉斯公式,我們再用省份和城市來理解這個公式有點不太好理解慌洪,因為那個例子看起來我們所有的信息都知道了顶燕。這里再舉另外一個例子來理解。

曾經(jīng)有一個大神給我傳授表白理論冈爹,他說如果女神從來沒有單獨出去逛街吃飯涌攻,這說明女神根本不喜歡你,表白的成功概率很低的频伤,反之亦然恳谎。

我們以這個理論作為概率的例子,首先剂买,分析給定的已知信息和未知信息:

1)要求解的問題:女神喜歡你惠爽,記為A事件

2)已知條件:經(jīng)常和女神單獨出門吃過飯,記為B事件

那么瞬哼,P(A|B)就是女神經(jīng)常和你單獨出門吃飯這個事件(B)發(fā)生后婚肆,女神喜歡你的概率。把這個套入貝葉斯公式來理解一下坐慰。


貝葉斯可以分為三個部分较性,先驗概率、可能性函數(shù)和后驗概率结胀。

1)先驗概率

我們把P(A)稱為"先驗概率"(Prior probability)赞咙,先驗概率是根據(jù)以往經(jīng)驗和分析得到的概率。這個例子里就是在不知道女神經(jīng)常和你單獨出門逛街的前提下糟港,來主觀判斷出女神喜歡你的概率攀操。因為是主觀判斷,我們可以給任何值秸抚,例如高富帥可以把這個概率設(shè)定得很高速和,為80%,也可以設(shè)定低一點剥汤,例如50%颠放,這完全是根據(jù)個人經(jīng)驗做出的判斷。這也是前面說的貝葉斯公式的主觀因素部分吭敢。

2)可能性函數(shù)

P(B|A)/P(B)稱為"似然函數(shù)"(Likelyhood)碰凶,這是一個調(diào)整因子,即新信息B帶來的調(diào)整,作用是使得先驗概率更接近真實概率欲低。至于新信息帶來的調(diào)整作用大不大辕宏,還得看因子的值大不大。

如果"可能性函數(shù)"P(B|A)/P(B)>1伸头,意味著"先驗概率"被增強匾效,事件A的發(fā)生的可能性變大,例如女神平時很少和別人出門逛街吃飯恤磷,那么這個調(diào)整因子特別有用,肯定是大于1的野宜。

如果"可能性函數(shù)"=1扫步,意味著B事件無助于判斷事件A的可能性,例如女神偶爾也和他人出門逛街吃飯匈子,那么和女神出門吃飯沒有我們帶來任何信息河胎,對判斷女神是否喜歡你沒有重大意義;

如果"可能性函數(shù)"<1虎敦,意味著"先驗概率"被削弱游岳,事件A的可能性變小,例如知道女神實際上有喜歡的人了其徙,那該信息直接使得女神喜歡你的概率下降很厲害胚迫。

至于為什么似然函數(shù)的公式長這樣的,這個留在以后再解釋唾那。

3)后驗概率

P(A|B)稱為"后驗概率"(Posterior probability)访锻,即在B事件發(fā)生之后,我們對A事件概率的重新評估闹获。這個例子里就是在女神跟你出門逛街吃飯這個事件發(fā)生后期犬,對女神喜歡你的概率重新預(yù)測。

通過這個例子避诽,我們理解了貝葉斯公式龟虎,也知道了貝葉斯公式能夠通過似然函數(shù)不斷調(diào)整主觀概率得到后驗概率,使得預(yù)測更加準(zhǔn)確沙庐,這也是為什么帶有主觀因素還能在數(shù)學(xué)界呆著的原因鲤妥。也正因為這樣,貝葉斯可以出現(xiàn)在所有需要作出概率預(yù)測的地方轨功,例如垃圾郵件過濾旭斥,中文分詞,疾病檢查等古涧。特別是在機器學(xué)習(xí)領(lǐng)域垂券,貝葉斯理論更是一個繞不過去的門檻。

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末,一起剝皮案震驚了整個濱河市菇爪,隨后出現(xiàn)的幾起案子算芯,更是在濱河造成了極大的恐慌,老刑警劉巖凳宙,帶你破解...
    沈念sama閱讀 216,544評論 6 501
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件熙揍,死亡現(xiàn)場離奇詭異,居然都是意外死亡氏涩,警方通過查閱死者的電腦和手機届囚,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 92,430評論 3 392
  • 文/潘曉璐 我一進(jìn)店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來是尖,“玉大人意系,你說我怎么就攤上這事〗刃冢” “怎么了蛔添?”我有些...
    開封第一講書人閱讀 162,764評論 0 353
  • 文/不壞的土叔 我叫張陵,是天一觀的道長兜辞。 經(jīng)常有香客問我迎瞧,道長,這世上最難降的妖魔是什么逸吵? 我笑而不...
    開封第一講書人閱讀 58,193評論 1 292
  • 正文 為了忘掉前任凶硅,我火速辦了婚禮,結(jié)果婚禮上胁塞,老公的妹妹穿的比我還像新娘咏尝。我一直安慰自己,他們只是感情好啸罢,可當(dāng)我...
    茶點故事閱讀 67,216評論 6 388
  • 文/花漫 我一把揭開白布编检。 她就那樣靜靜地躺著,像睡著了一般扰才。 火紅的嫁衣襯著肌膚如雪允懂。 梳的紋絲不亂的頭發(fā)上,一...
    開封第一講書人閱讀 51,182評論 1 299
  • 那天衩匣,我揣著相機與錄音蕾总,去河邊找鬼。 笑死琅捏,一個胖子當(dāng)著我的面吹牛生百,可吹牛的內(nèi)容都是我干的。 我是一名探鬼主播柄延,決...
    沈念sama閱讀 40,063評論 3 418
  • 文/蒼蘭香墨 我猛地睜開眼蚀浆,長吁一口氣:“原來是場噩夢啊……” “哼!你這毒婦竟也來了?” 一聲冷哼從身側(cè)響起市俊,我...
    開封第一講書人閱讀 38,917評論 0 274
  • 序言:老撾萬榮一對情侶失蹤杨凑,失蹤者是張志新(化名)和其女友劉穎,沒想到半個月后摆昧,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體撩满,經(jīng)...
    沈念sama閱讀 45,329評論 1 310
  • 正文 獨居荒郊野嶺守林人離奇死亡,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點故事閱讀 37,543評論 2 332
  • 正文 我和宋清朗相戀三年绅你,在試婚紗的時候發(fā)現(xiàn)自己被綠了伺帘。 大學(xué)時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片。...
    茶點故事閱讀 39,722評論 1 348
  • 序言:一個原本活蹦亂跳的男人離奇死亡忌锯,死狀恐怖曼追,靈堂內(nèi)的尸體忽然破棺而出,到底是詐尸還是另有隱情汉规,我是刑警寧澤,帶...
    沈念sama閱讀 35,425評論 5 343
  • 正文 年R本政府宣布驹吮,位于F島的核電站针史,受9級特大地震影響,放射性物質(zhì)發(fā)生泄漏碟狞。R本人自食惡果不足惜啄枕,卻給世界環(huán)境...
    茶點故事閱讀 41,019評論 3 326
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望族沃。 院中可真熱鬧频祝,春花似錦、人聲如沸脆淹。這莊子的主人今日做“春日...
    開封第一講書人閱讀 31,671評論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽盖溺。三九已至漓糙,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間烘嘱,已是汗流浹背昆禽。 一陣腳步聲響...
    開封第一講書人閱讀 32,825評論 1 269
  • 我被黑心中介騙來泰國打工, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留蝇庭,地道東北人醉鳖。 一個月前我還...
    沈念sama閱讀 47,729評論 2 368
  • 正文 我出身青樓,卻偏偏與公主長得像哮内,于是被迫代替她去往敵國和親盗棵。 傳聞我的和親對象是個殘疾皇子,可洞房花燭夜當(dāng)晚...
    茶點故事閱讀 44,614評論 2 353

推薦閱讀更多精彩內(nèi)容