燒腦的貝葉斯

機(jī)器學(xué)習(xí)基礎(chǔ)

概率派和樸素貝葉斯派

概率

推動(dòng)概率論

概率相比大家都學(xué)習(xí)過壳炎,但是大家可能還不知道概率背后是可重復(fù)性蔓榄。我們還是拿最簡單最經(jīng)典的示例,也就是投硬幣大家都知道只要我們做足夠多一次然后進(jìn)行統(tǒng)計(jì)就會(huì)發(fā)現(xiàn)出現(xiàn)正面和背面概率分別都是 50%
我好那么什么是可重復(fù)性,合適因?yàn)槿绻覀冞M(jìn)行多輪投幣測試,每輪測試 1000 次,發(fā)現(xiàn)每一輪下來正面和反面出現(xiàn)次數(shù)比例1比1局嘁,這就是概率的可重復(fù)性溉箕。如果沒有可重復(fù)性概率也就是沒有意義。
所以我們發(fā)現(xiàn)一些事物背后是一定穩(wěn)定性的東西(也就是模式)悦昵,這是我們機(jī)器學(xué)習(xí)基礎(chǔ)肴茄。

下面介紹一些概率出現(xiàn)術(shù)語和一些基本計(jì)算公式來幫助我們更好理解要機(jī)器學(xué)習(xí)。我們補(bǔ)充一些基礎(chǔ)知識(shí)都是為了機(jī)器學(xué)習(xí)

術(shù)語

  • 實(shí)驗(yàn): 我們要研究內(nèi)容但指,例如投硬幣
  • 事件: 試驗(yàn)的結(jié)果就是事件寡痰,也就是投硬幣后正面就是事件抗楔,用于 A B 大寫字母表示。事件是可以組合
  • 概率空間:就是所有事件集合表示

概率運(yùn)算

  1. A \bigcup B : P(A+B)
  2. A \bigcap B : P(A,B) 這里兩個(gè)事件是獨(dú)立 P(A,B) = P(A)P(B)
  3. \overline{A}:P(\overline{A}) = 1 - P(A)
  4. P(A|B): P(A|B) = P(A,B)/P(B)
  5. P(A) = P(A|B)P(B) + P(A| \overline B)P(\overline B)

推導(dǎo)貝葉斯公式

P(A,B) = P(B,A) \Rightarrow P(A|B)P(B) = P(B|A)P(A)
P(A|B) = \frac{P(B|A)P(A)}{P(B)}
P(A|B) = \frac{P(B|A)P(A)}{P(A)P(B|A) + P(\overline A)P(B|\overline A)}

  • P(A) 先驗(yàn)概率
  • P(A|B) 后驗(yàn)概率
  • B 證據(jù)
  • A 事件

P(A) 什么都不知道我們對 A 事件發(fā)生概率估計(jì)拦坠,隨后得到 B 證據(jù)连躏,這樣有了證據(jù)就增加對 A 發(fā)生推斷后驗(yàn)概率 P(A|B)

貝葉斯公式的內(nèi)容(根據(jù)數(shù)據(jù)(證據(jù))更新對事件可能性的估計(jì))這就就是大數(shù)據(jù)被后支撐理論。

練習(xí)

monty_hall_problem

三門問題(Monty Hall problem)亦稱為蒙提霍爾問題贞滨、蒙特霍問題或蒙提霍爾悖論入热,大致出自美國的電視游戲節(jié)目Let’s Make a Deal。
問題名字來自該節(jié)目的主持人蒙提·霍爾(Monty Hall)晓铆。參賽者會(huì)看見三扇關(guān)閉了的門勺良,其中一扇的后面有一輛汽車,選中后面有車的那扇門可贏得該汽車骄噪。當(dāng)參賽者選定了一扇門尚困,但未去開啟它的時(shí)候,節(jié)目主持人開啟剩下兩扇門的其中一扇链蕊,里面當(dāng)然沒有汽車事甜。主持人其后會(huì)問參賽者要不要換另一扇仍然關(guān)上的門。問題是:換另一扇門會(huì)否增加參賽者贏得汽車的機(jī)會(huì)示弓?

錯(cuò)誤答案

根據(jù)常識(shí)我們會(huì)認(rèn)為概率是 1/2

答案

那么答案是會(huì)讳侨。不換門的話,贏得汽車的幾率是1/3奏属。換門的話跨跨,贏得汽車的幾率是2/3。

推導(dǎo)

我們看一看本質(zhì)就是主持開門這個(gè)事件是不是影響到之前我們認(rèn)為 1/2 概率的事件囱皿。也就是我們之前提到證據(jù)勇婴。


monty_hall_problem_solution

我們用 A_1,A_2,A_3 三個(gè)事件分別表示 1 號(hào) 2 號(hào)和 3 號(hào)門有車事件概率,那么我們每一個(gè)事件概率都是 A_n = \frac{1}{3}

  • 參加者選擇 1 號(hào)門
  • 開門前的先驗(yàn)概率A_1 = 1/3
  • 然后主持人開 3 號(hào)門嘱腥,主持人開門事件就是證據(jù), 用事件 B 來表示
    • 如果 1 號(hào)門有車主持打開 3 號(hào)門概率是 1/2
    • 如果 2 號(hào)門有車主持人打開 3 號(hào)門概率 1
    • 如果 3 號(hào)門有車主持人打開 3 號(hào)門概率為 0
      P(A_1|B) = P\frac{P(B|A_1)P(A_1)}{P(B)} \Rightarrow \frac{P(B|A_1)P(A_1)}{P(B|A_1)P(A_1) + P(B|A_2)P(A_2) + P(B|A_3)P(A_3)}

\frac{(\frac{1}{2} * \frac{1}{3})}{ 1 * \frac{1}{3} + \frac{1}{2} * \frac{1}{3} + 0 * \frac{1}{3} } = \frac{2}{3}

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末耕渴,一起剝皮案震驚了整個(gè)濱河市,隨后出現(xiàn)的幾起案子齿兔,更是在濱河造成了極大的恐慌橱脸,老刑警劉巖,帶你破解...
    沈念sama閱讀 218,546評論 6 507
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件分苇,死亡現(xiàn)場離奇詭異添诉,居然都是意外死亡,警方通過查閱死者的電腦和手機(jī)医寿,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 93,224評論 3 395
  • 文/潘曉璐 我一進(jìn)店門栏赴,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人靖秩,你說我怎么就攤上這事须眷∈” “怎么了?”我有些...
    開封第一講書人閱讀 164,911評論 0 354
  • 文/不壞的土叔 我叫張陵花颗,是天一觀的道長捕传。 經(jīng)常有香客問我,道長捎稚,這世上最難降的妖魔是什么乐横? 我笑而不...
    開封第一講書人閱讀 58,737評論 1 294
  • 正文 為了忘掉前任,我火速辦了婚禮今野,結(jié)果婚禮上葡公,老公的妹妹穿的比我還像新娘。我一直安慰自己条霜,他們只是感情好催什,可當(dāng)我...
    茶點(diǎn)故事閱讀 67,753評論 6 392
  • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著宰睡,像睡著了一般蒲凶。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上拆内,一...
    開封第一講書人閱讀 51,598評論 1 305
  • 那天旋圆,我揣著相機(jī)與錄音,去河邊找鬼麸恍。 笑死灵巧,一個(gè)胖子當(dāng)著我的面吹牛,可吹牛的內(nèi)容都是我干的抹沪。 我是一名探鬼主播刻肄,決...
    沈念sama閱讀 40,338評論 3 418
  • 文/蒼蘭香墨 我猛地睜開眼,長吁一口氣:“原來是場噩夢啊……” “哼融欧!你這毒婦竟也來了敏弃?” 一聲冷哼從身側(cè)響起,我...
    開封第一講書人閱讀 39,249評論 0 276
  • 序言:老撾萬榮一對情侶失蹤噪馏,失蹤者是張志新(化名)和其女友劉穎麦到,沒想到半個(gè)月后,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體欠肾,經(jīng)...
    沈念sama閱讀 45,696評論 1 314
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡瓶颠,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 37,888評論 3 336
  • 正文 我和宋清朗相戀三年,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了董济。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片步清。...
    茶點(diǎn)故事閱讀 40,013評論 1 348
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡要门,死狀恐怖虏肾,靈堂內(nèi)的尸體忽然破棺而出廓啊,到底是詐尸還是另有隱情,我是刑警寧澤封豪,帶...
    沈念sama閱讀 35,731評論 5 346
  • 正文 年R本政府宣布谴轮,位于F島的核電站,受9級特大地震影響吹埠,放射性物質(zhì)發(fā)生泄漏第步。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 41,348評論 3 330
  • 文/蒙蒙 一缘琅、第九天 我趴在偏房一處隱蔽的房頂上張望粘都。 院中可真熱鬧,春花似錦刷袍、人聲如沸翩隧。這莊子的主人今日做“春日...
    開封第一講書人閱讀 31,929評論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽堆生。三九已至,卻和暖如春雷酪,著一層夾襖步出監(jiān)牢的瞬間淑仆,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 33,048評論 1 270
  • 我被黑心中介騙來泰國打工哥力, 沒想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留蔗怠,地道東北人。 一個(gè)月前我還...
    沈念sama閱讀 48,203評論 3 370
  • 正文 我出身青樓省骂,卻偏偏與公主長得像蟀淮,于是被迫代替她去往敵國和親。 傳聞我的和親對象是個(gè)殘疾皇子钞澳,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 44,960評論 2 355

推薦閱讀更多精彩內(nèi)容

  • 統(tǒng)計(jì)學(xué)研究方向 什么是統(tǒng)計(jì)是關(guān)于數(shù)據(jù)的學(xué)科怠惶,我們想要增加對大自然了解。搜集數(shù)據(jù)然后對自然進(jìn)行推斷轧粟。我們?nèi)粘S?jì)算均值...
    zidea閱讀 327評論 0 4
  • 貝葉斯定理 貝葉斯定理是以條件概率為基礎(chǔ)的策治,所以我們要首先復(fù)習(xí)下條件概率。所謂"條件概率"(Conditional...
    帝都De霧霾閱讀 1,336評論 0 1
  • 專業(yè)考題類型管理運(yùn)行工作負(fù)責(zé)人一般作業(yè)考題內(nèi)容選項(xiàng)A選項(xiàng)B選項(xiàng)C選項(xiàng)D選項(xiàng)E選項(xiàng)F正確答案 變電單選GYSZ本規(guī)程...
    小白兔去釣魚閱讀 8,994評論 0 13
  • 可能公式太長兰吟,在手機(jī)上瀏覽這個(gè)網(wǎng)頁很多公式都顯示不出來通惫,在瀏覽器上就很正常了!* 首先在學(xué)習(xí)貝葉斯概率前我們先弄清...
    王阿根閱讀 848評論 3 4
  • 你正參加一個(gè)節(jié)目混蔼,一共有三扇門履腋,只有一扇門后面有汽車,其余兩扇門是空,選到汽車算贏遵湖。你選了一扇悔政,然后主持人會(huì)在剩下...
    哈啊啊啊啊啊啊閱讀 26,402評論 20 5