貝葉斯分類器(1)——概率論知識(shí)

帶你3分鐘理解貝葉斯分類器的概率論知識(shí)

貝葉斯分類

?????? 貝葉斯分類是統(tǒng)計(jì)學(xué)分類方法盟猖,可預(yù)測(cè)類別所屬的概率讨衣,如:一個(gè)數(shù)據(jù)對(duì)象屬于某個(gè)類別的概率。

?????? 貝葉斯分類的基礎(chǔ)是貝葉斯定理式镐。

?????? 貝葉斯定理(Bayes theorem):是概率論中的一個(gè)結(jié)果反镇,跟隨機(jī)變量的條件概率以及邊緣(條件)概率分布有關(guān)。

?????? 在實(shí)際中娘汞,人們常會(huì)根據(jù)不確定性信息作出推理和決策歹茶,此時(shí)往往需要對(duì)各種結(jié)論出現(xiàn)的概率進(jìn)行估計(jì),這類推理?? 稱為概率推理你弦。貝葉斯推理的問(wèn)題是條件概率推理問(wèn)題惊豺。

貝葉斯分類概率論知識(shí)

??? ?? 概率論是研究隨機(jī)性或不確定性等現(xiàn)象的數(shù)學(xué)。更精確的說(shuō)禽作,是用來(lái)模擬實(shí)驗(yàn)在同一環(huán)境下會(huì)產(chǎn)生不同結(jié)果的情狀尸昧。

?? ? ? 隨機(jī)事件;

?? ?? 事件間的關(guān)系旷偿;

? ? ? 條件概率烹俗。

隨機(jī)事件

???? 隨機(jī)實(shí)驗(yàn):隨機(jī)實(shí)驗(yàn)是一個(gè)可觀察結(jié)果的人工或自然的過(guò)程,其產(chǎn)生的結(jié)果可能不止一個(gè)萍程,且不能事先確定會(huì)產(chǎn)生什 么結(jié)果幢妄。

???? 樣本空間:樣本空間是一個(gè)隨機(jī)實(shí)驗(yàn)的全部可能出現(xiàn)的結(jié)果的集合,通常記作Ω茫负,Ω中的點(diǎn)(即一個(gè)可能出現(xiàn)的實(shí)驗(yàn) 結(jié)果)稱為樣本點(diǎn)蕉鸳,通常記作ω。

???? 隨機(jī)事件:隨機(jī)事件是一個(gè)隨機(jī)實(shí)驗(yàn)的一些可能結(jié)果的集合忍法,是樣本空間的一個(gè)子集置吓。常用大寫字母A,B,C,…表示。

事件間的關(guān)系


事件關(guān)系圖

條件概率

???? 條件概率:設(shè)A缔赠、B是兩個(gè)隨機(jī)事件衍锚,且P(B)>0,則在事件B已經(jīng)發(fā)生的條件夏嗤堰,事件A發(fā)生的條件概率:

??? 聯(lián)合概率:若對(duì)任意兩件事A戴质、B都有P(A)>0度宦,P(B)>0,則:

??? 邊際概率:若A1告匠、A2構(gòu)成互斥和完整的兩個(gè)事件戈抄,A1和A2中的一個(gè)出現(xiàn)的事件B發(fā)生的必要條件,則事件B的邊際概率公式為(全概率公式):


貝葉斯定理

???? 貝葉斯定理是關(guān)于隨機(jī)事件A和B的條件概率和邊緣概 率的一則定理后专。

???? 通常划鸽,事件A在事件B發(fā)生的條件下的概率,與事件B在事件A發(fā)生的條件下的概率是不一樣的戚哎,然而裸诽,這兩者是 有確定的關(guān)系的,貝葉斯定理就是這種關(guān)系的陳述型凳。

由前面的3個(gè)概率論公式可以得到貝葉斯公式:


兩個(gè)事件的貝葉斯公式:


事件B發(fā)生的條件下事件A1發(fā)生的概率
事件B發(fā)生的條件下事件A2發(fā)生的概率

n個(gè)事件兩個(gè)事件的貝葉斯公式:

假定存在一個(gè)互斥和完整的事件A1,A2,…,An丈冬, Ai中的某一個(gè)出現(xiàn)是事件B發(fā)生的必要條件,則n個(gè)事件的貝葉斯公式:


在貝葉斯定理中甘畅,每個(gè)名詞都有約定俗成的名稱:

?????????? P(A):事件A的先驗(yàn)概率或邊緣概率埂蕊。“先驗(yàn)”指其不考慮任何B方面的因素疏唾。

?????????? P(A|B):事件A的后驗(yàn)概率蓄氧,即已知B發(fā)生后A的條件概率。

?????????? P(B|A):事件B的后驗(yàn)概率槐脏,即已知A發(fā)生后B的條件概率喉童。

?????????? P(B):是事件B的先驗(yàn)概率或邊緣概率。

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末准给,一起剝皮案震驚了整個(gè)濱河市泄朴,隨后出現(xiàn)的幾起案子,更是在濱河造成了極大的恐慌露氮,老刑警劉巖祖灰,帶你破解...
    沈念sama閱讀 212,816評(píng)論 6 492
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件,死亡現(xiàn)場(chǎng)離奇詭異畔规,居然都是意外死亡局扶,警方通過(guò)查閱死者的電腦和手機(jī),發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 90,729評(píng)論 3 385
  • 文/潘曉璐 我一進(jìn)店門叁扫,熙熙樓的掌柜王于貴愁眉苦臉地迎上來(lái)三妈,“玉大人,你說(shuō)我怎么就攤上這事莫绣〕肫眩” “怎么了?”我有些...
    開(kāi)封第一講書(shū)人閱讀 158,300評(píng)論 0 348
  • 文/不壞的土叔 我叫張陵对室,是天一觀的道長(zhǎng)模燥。 經(jīng)常有香客問(wèn)我咖祭,道長(zhǎng),這世上最難降的妖魔是什么蔫骂? 我笑而不...
    開(kāi)封第一講書(shū)人閱讀 56,780評(píng)論 1 285
  • 正文 為了忘掉前任么翰,我火速辦了婚禮,結(jié)果婚禮上辽旋,老公的妹妹穿的比我還像新娘浩嫌。我一直安慰自己,他們只是感情好补胚,可當(dāng)我...
    茶點(diǎn)故事閱讀 65,890評(píng)論 6 385
  • 文/花漫 我一把揭開(kāi)白布码耐。 她就那樣靜靜地躺著,像睡著了一般糖儡。 火紅的嫁衣襯著肌膚如雪伐坏。 梳的紋絲不亂的頭發(fā)上怔匣,一...
    開(kāi)封第一講書(shū)人閱讀 50,084評(píng)論 1 291
  • 那天握联,我揣著相機(jī)與錄音,去河邊找鬼每瞒。 笑死金闽,一個(gè)胖子當(dāng)著我的面吹牛,可吹牛的內(nèi)容都是我干的剿骨。 我是一名探鬼主播代芜,決...
    沈念sama閱讀 39,151評(píng)論 3 410
  • 文/蒼蘭香墨 我猛地睜開(kāi)眼,長(zhǎng)吁一口氣:“原來(lái)是場(chǎng)噩夢(mèng)啊……” “哼浓利!你這毒婦竟也來(lái)了挤庇?” 一聲冷哼從身側(cè)響起,我...
    開(kāi)封第一講書(shū)人閱讀 37,912評(píng)論 0 268
  • 序言:老撾萬(wàn)榮一對(duì)情侶失蹤贷掖,失蹤者是張志新(化名)和其女友劉穎嫡秕,沒(méi)想到半個(gè)月后,有當(dāng)?shù)厝嗽跇?shù)林里發(fā)現(xiàn)了一具尸體苹威,經(jīng)...
    沈念sama閱讀 44,355評(píng)論 1 303
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡昆咽,尸身上長(zhǎng)有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 36,666評(píng)論 2 327
  • 正文 我和宋清朗相戀三年,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了牙甫。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片掷酗。...
    茶點(diǎn)故事閱讀 38,809評(píng)論 1 341
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡,死狀恐怖窟哺,靈堂內(nèi)的尸體忽然破棺而出泻轰,到底是詐尸還是另有隱情,我是刑警寧澤且轨,帶...
    沈念sama閱讀 34,504評(píng)論 4 334
  • 正文 年R本政府宣布浮声,位于F島的核電站亩鬼,受9級(jí)特大地震影響,放射性物質(zhì)發(fā)生泄漏阿蝶。R本人自食惡果不足惜雳锋,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 40,150評(píng)論 3 317
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望羡洁。 院中可真熱鬧玷过,春花似錦、人聲如沸筑煮。這莊子的主人今日做“春日...
    開(kāi)封第一講書(shū)人閱讀 30,882評(píng)論 0 21
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽(yáng)真仲。三九已至袋马,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間秸应,已是汗流浹背虑凛。 一陣腳步聲響...
    開(kāi)封第一講書(shū)人閱讀 32,121評(píng)論 1 267
  • 我被黑心中介騙來(lái)泰國(guó)打工, 沒(méi)想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留软啼,地道東北人桑谍。 一個(gè)月前我還...
    沈念sama閱讀 46,628評(píng)論 2 362
  • 正文 我出身青樓,卻偏偏與公主長(zhǎng)得像祸挪,于是被迫代替她去往敵國(guó)和親锣披。 傳聞我的和親對(duì)象是個(gè)殘疾皇子,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 43,724評(píng)論 2 351