機器學習之旅二:概率論

以下文章作為個人學習的知識總結(jié)

機器學習也叫做統(tǒng)計學習堆生,因為大部分機器學習算法建立在概率統(tǒng)計理論基礎(chǔ)之上井氢,掌握概率統(tǒng)計理論基礎(chǔ)就變得非常重要

個人認為腾务,數(shù)學的學習要從基本的定義出發(fā)虹脯,然后基于定義驴娃,通過演繹推理得到一系列公式。 概率論也不例外归形。 所以托慨,入手概率論之前鼻由, 第一個問題就是 什么是概率暇榴? 這個問題可以轉(zhuǎn)化成: 概率的定義是什么?

概率的基本定義

概率的定義是整個概率論的基礎(chǔ)蕉世, 理解它的定義就顯得格外重要蔼紧。

在引出概率的定義之前, 要清楚的明白概率論中的三個概念狠轻,實驗奸例、樣本空間和事件。因為這三個概念的直接引出了概率的定義向楼。

條件概率

在機器學習算法中查吊,不少算法是以P(Y|X)作為目標函數(shù)的。貝葉斯學習算法也是以條件概率為基礎(chǔ)的湖蜕。?

理解條件概率要從最基本的定義入手逻卖, 才能理解更加深刻。概率的定義是基于樣本空間昭抒, 可以借助樣本空間去理解條件概率评也。

弄清楚條件概率的定義之后, 得掌握條件概率和聯(lián)合概率之間的推導(dǎo)公式灭返。更進一步盗迟, 得掌握貝葉斯公式,以及貝葉斯公式的不同表現(xiàn)形式熙含。

隨機變量

得充分理解隨機變量的定義罚缕, 隨機變量不是變量, 其實就是一個函數(shù)怎静。

基于隨機變量引出了期望邮弹、方差喂饥、概率分布這些概念。

需要掌握常見的概率分布:

高斯分布肠鲫、伯努利分布员帮、二項分布、泊松分布等导饲。

進一步捞高,理解條件概率分布和聯(lián)合概率分布。因為統(tǒng)計學習方法基本上都是學習 這兩種分布渣锦, 如:樸素貝葉斯學習的就是聯(lián)合概率分布硝岗;極大似然估計學習的就是條件概率分布。

獨立性

理解獨立性的定義袋毙。 部分機器學習算法為了降低計算復(fù)雜度型檀, 就把隨機變量的獨立性作為假設(shè), 可顯著降低計算復(fù)雜度听盖, 如:樸素貝葉斯模型胀溺,極大似然估計。?

總結(jié)

重要的事情強調(diào)三遍皆看, 深刻理解定義非常重要仓坞!非常重要!非常重要腰吟!?了解基本定義之后无埃, 由點及面的展開基本知識的學習, 如條件概率毛雇、聯(lián)合概率嫉称、邊緣概率,這些概率的公式推導(dǎo)和關(guān)系(最重要的是貝葉斯)灵疮。

所有的基本知識學完之后织阅,需要在腦海形成一條知識的主干, 從基本定義出發(fā)始藕, 由點到線再到面的鋪開蒲稳,進行知識點的聯(lián)結(jié)!

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末伍派,一起剝皮案震驚了整個濱河市江耀,隨后出現(xiàn)的幾起案子,更是在濱河造成了極大的恐慌诉植,老刑警劉巖祥国,帶你破解...
    沈念sama閱讀 217,826評論 6 506
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件,死亡現(xiàn)場離奇詭異,居然都是意外死亡舌稀,警方通過查閱死者的電腦和手機啊犬,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 92,968評論 3 395
  • 文/潘曉璐 我一進店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來壁查,“玉大人觉至,你說我怎么就攤上這事∷龋” “怎么了语御?”我有些...
    開封第一講書人閱讀 164,234評論 0 354
  • 文/不壞的土叔 我叫張陵,是天一觀的道長席怪。 經(jīng)常有香客問我应闯,道長,這世上最難降的妖魔是什么挂捻? 我笑而不...
    開封第一講書人閱讀 58,562評論 1 293
  • 正文 為了忘掉前任碉纺,我火速辦了婚禮,結(jié)果婚禮上刻撒,老公的妹妹穿的比我還像新娘骨田。我一直安慰自己,他們只是感情好疫赎,可當我...
    茶點故事閱讀 67,611評論 6 392
  • 文/花漫 我一把揭開白布盛撑。 她就那樣靜靜地躺著,像睡著了一般捧搞。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上狮荔,一...
    開封第一講書人閱讀 51,482評論 1 302
  • 那天胎撇,我揣著相機與錄音,去河邊找鬼殖氏。 笑死晚树,一個胖子當著我的面吹牛,可吹牛的內(nèi)容都是我干的雅采。 我是一名探鬼主播爵憎,決...
    沈念sama閱讀 40,271評論 3 418
  • 文/蒼蘭香墨 我猛地睜開眼,長吁一口氣:“原來是場噩夢啊……” “哼婚瓜!你這毒婦竟也來了宝鼓?” 一聲冷哼從身側(cè)響起,我...
    開封第一講書人閱讀 39,166評論 0 276
  • 序言:老撾萬榮一對情侶失蹤巴刻,失蹤者是張志新(化名)和其女友劉穎愚铡,沒想到半個月后,有當?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體,經(jīng)...
    沈念sama閱讀 45,608評論 1 314
  • 正文 獨居荒郊野嶺守林人離奇死亡沥寥,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點故事閱讀 37,814評論 3 336
  • 正文 我和宋清朗相戀三年碍舍,在試婚紗的時候發(fā)現(xiàn)自己被綠了。 大學時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片邑雅。...
    茶點故事閱讀 39,926評論 1 348
  • 序言:一個原本活蹦亂跳的男人離奇死亡片橡,死狀恐怖,靈堂內(nèi)的尸體忽然破棺而出淮野,到底是詐尸還是另有隱情锻全,我是刑警寧澤,帶...
    沈念sama閱讀 35,644評論 5 346
  • 正文 年R本政府宣布录煤,位于F島的核電站鳄厌,受9級特大地震影響,放射性物質(zhì)發(fā)生泄漏妈踊。R本人自食惡果不足惜了嚎,卻給世界環(huán)境...
    茶點故事閱讀 41,249評論 3 329
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望廊营。 院中可真熱鬧歪泳,春花似錦、人聲如沸露筒。這莊子的主人今日做“春日...
    開封第一講書人閱讀 31,866評論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽慎式。三九已至伶氢,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間瘪吏,已是汗流浹背癣防。 一陣腳步聲響...
    開封第一講書人閱讀 32,991評論 1 269
  • 我被黑心中介騙來泰國打工, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留掌眠,地道東北人蕾盯。 一個月前我還...
    沈念sama閱讀 48,063評論 3 370
  • 正文 我出身青樓,卻偏偏與公主長得像蓝丙,于是被迫代替她去往敵國和親级遭。 傳聞我的和親對象是個殘疾皇子,可洞房花燭夜當晚...
    茶點故事閱讀 44,871評論 2 354

推薦閱讀更多精彩內(nèi)容