條件概率
首先,理解這兩個(gè)公式的前提是理解條件概率,因此先復(fù)習(xí)條件概率。
P(A|B)=P(AB)P(B)
理解這個(gè)可以從兩個(gè)角度來(lái)看帝簇。
第一個(gè)角度:在B發(fā)生的基礎(chǔ)上,A發(fā)生的概率靠益。那么B發(fā)生這件事已經(jīng)是個(gè)基礎(chǔ)的條件了丧肴,現(xiàn)在進(jìn)入B已經(jīng)發(fā)生的世界,看看A發(fā)生的概率是多少胧后。那么分子就是B發(fā)生A也發(fā)生芋浮,分母就是B這個(gè)世界發(fā)生的概率了。分母如果是1壳快,那么成了什么意思呢纸巷?
另一個(gè)角度是看韋恩圖。這里A在B發(fā)生的基礎(chǔ)上發(fā)生的概率是A和B交集的陰影部分面積占用B的比例眶痰。
那么由條件概率出發(fā)瘤旨,看一下變形出來(lái)的乘法公式:
P(AB)=P(A)?P(B|A)=P(B)?P(A|B)
也可以提供上面的兩個(gè)角度來(lái)理解這個(gè)公式,雖然可以由上面的直接推導(dǎo)凛驮,但是我們認(rèn)為這是問(wèn)題的思考的不同角度裆站,不僅僅是公式之間的運(yùn)算条辟。
一:AB同時(shí)發(fā)生的概率是在A基礎(chǔ)上發(fā)生B的概率乘以A本身在外部發(fā)生的概率黔夭,也是B基礎(chǔ)上發(fā)生A的概率乘以B本身在外部發(fā)生的概率.
二:AB表示的是陰影部分的面積占用A或者B的比例關(guān)系宏胯。
僅僅從形式上說(shuō),豎線后面的要在前面多乘以一個(gè)以達(dá)到平衡本姥。
全概率
然后再看全概率公式肩袍。
一個(gè)別人舉的例子:
一個(gè)村子與三個(gè)小偷,小偷偷村子的事件兩兩互斥婚惫,求村子被偷的概率氛赐。
解釋:假設(shè)這三個(gè)小偷編號(hào)為A1,A2,A3;
偷東西的事件標(biāo)記為B,不偷的話標(biāo)記為:B^
那么被偷的概率就是:要么是A1,要么是A2先舷,要么是A3艰管,
如果是A1, 概率是什么呢?首先得是A1,其次是村子被偷蒋川,也即是兩個(gè)事件都滿足牲芋,所以是P(A1B)
同理,可以得到P(A2B),P(A3B)
又因這三個(gè)小偷兩兩互斥捺球,表示不會(huì)同時(shí)去偷缸浦。所以被偷的概率是:
P(B)=P(A1B)+P(A2B)+P(A3B)
當(dāng)然按照條件概率或者乘法公式展開(kāi):
P(B)=P(A1)P(B|A1)+P(A2)P(B|A2)+P(A3)P(B|A3) (*)
PS: P(Ai),P(B|Ai)是已知的
問(wèn):是不是有想展開(kāi)為:
P(B)=P(B)P(A1|B)+P(B)P(A1|B)+P(B)P(A1|B)的沖動(dòng)?
當(dāng)然這個(gè)式子是沒(méi)錯(cuò)的氮兵,但是體現(xiàn)不了這個(gè)問(wèn)題的解法:分階段裂逐。
(*)式子體現(xiàn)的是問(wèn)題分為兩個(gè)階段:
1)選人,分割問(wèn)題
2)計(jì)算分割的子問(wèn)題的條件概率
對(duì)應(yīng)的這里來(lái)便是:
1)選小偷泣栈,誰(shuí)去偷
2)選定的小偷作為條件卜高,那么他去偷的條件概率是什么
所以將問(wèn)題拆解為階段的問(wèn)題便是全概率公式針對(duì)的問(wèn)題。
貝葉斯公式
貝葉斯公式有意思極了南片,簡(jiǎn)單說(shuō)就是逆全概公式篙悯。
前面是問(wèn)總體看來(lái)被偷的概率是多少,現(xiàn)在是知道了總體被偷了這件事铃绒,概率并不知道鸽照,問(wèn)你個(gè)更有意思的問(wèn)題,像是偵探斷案:是哪個(gè)小偷的偷的颠悬,計(jì)算每個(gè)小偷偷的概率矮燎。
這個(gè)特性用在機(jī)器學(xué)習(xí),人工智能領(lǐng)域相當(dāng)好用赔癌。
也就是求:P(Ai|B)=P(AiB)P(B)
Ai:小偷i干的诞外;B:村子被偷了
首先是一個(gè)淳樸的條件概率的展開(kāi)。
分母里出現(xiàn)了P(B),剛剛討論的全概公式拿來(lái)用一用灾票!
而P(AiB)=P(Ai)?P(B|Ai)
對(duì)應(yīng)到上面的例子就鮮活一些:村子被偷了峡谊,求Ai偷的概率。
自然現(xiàn)在條件是P(B),分子變形為P(AiB)=P(Ai)?P(B|Ai)既们,是因?yàn)榧俣ň褪茿i偷的濒析,這是一個(gè)已知的概率。
分母P(B)=∑ni=1P(Ai)P(B|Ai)
除了上面的思路外啥纸,通常需要注意的是分階段意味著時(shí)間的先后号杏。在先進(jìn)行的事件的基礎(chǔ)上進(jìn)行后面的事件,就很容易計(jì)算概率:P(AB)=P(A)P(B|A)這種斯棒。
所以當(dāng)我們需要計(jì)算先驗(yàn)概率盾致,即先發(fā)生的時(shí)間的概率時(shí),總是想著用上面的這個(gè)類型來(lái)計(jì)算荣暮,且是通過(guò)條件概率進(jìn)行過(guò)渡庭惜。