概率論與數(shù)理統(tǒng)計 筆記(Update: 2021/9/20)

概率論是一門研究可能性的學(xué)科谆棱。概率論最大的作用在于快压,幫助人類從宏觀上認識復(fù)雜事物中的客觀規(guī)律圆仔,并且利用這種規(guī)律來指導(dǎo)人類社會的生產(chǎn)、決策蔫劣、行為坪郭。因此,概率論在大學(xué)課程的重要性便由此凸顯脉幢。

概率論是一門建立在嚴謹邏輯基礎(chǔ)上的一門學(xué)科歪沃,因此,它不同于以往初高中對概率的定性認識鸵隧。概率論最重要的邏輯基礎(chǔ)是概率論的公理化定義绸罗,通過引出一系列基本定義,從而推導(dǎo)出概率論整個的學(xué)科圖景豆瘫,這是概率論的精髓珊蟀。

下面引出概率論的公理化定義

概率論的公理化定義

1. 相關(guān)基本概念:

我們首先定義以下概念:

  • 隨機實驗:對于一個隨機現(xiàn)象的觀察或者試驗,如果滿足三個條件(相同條件下可重復(fù)外驱、結(jié)果預(yù)知育灸、結(jié)果不確定性),則稱該試驗為「隨機試驗」昵宇。記為E磅崭。
  • 樣本點與樣本空間:樣本點即試驗的每一個結(jié)果,樣本空間即為所有樣本點構(gòu)成的集合瓦哎。樣本點是集合的元素砸喻,而樣本空間是集合。
  • 隨機事件:在一個隨機試驗中可能發(fā)生或者可能不發(fā)生的事件蒋譬「畹海可以理解為樣本空間的子集。(空集也是一種子集犯助,即對應(yīng)為不可能事件)
  • 基本事件:由一個樣本點所對應(yīng)的事件成為「基本事件」癣漆。

至此,我們將試驗剂买、事件等概念與集合的概念相聯(lián)系惠爽,顯然,我們會有以下的運算性質(zhì):

2. 事件之間的關(guān)系以及運算(本質(zhì)為集合運算)
  • 包含:若事件A發(fā)生瞬哼,則事件B必然發(fā)生婚肆。記作A \subset B
  • 相等:若A \subset BB \subset A倒槐,則為相等旬痹。記作A = B
  • 并: A \cup B
  • 交: A \cap B两残,或者記作AB(AB的積)永毅。
  • 補: 又稱對立(complementary)事件,或者逆事件人弓。記作
  • 互不相容:事件A與事件B不能同時發(fā)生沼死,即稱互不相容。
  • 差:記作A - B崔赌,表示事件A發(fā)生而事件B不發(fā)生的事件意蛀。

經(jīng)過簡單的推導(dǎo)可以得出以下運算性質(zhì):

3. 事件的運算性質(zhì)
  • 交換律 A \cup B=B \cup A, AB=BA
  • 結(jié)合律 (A \cup B) \cup C = A \cup (B \cup C)
  • 分配律 (A \cup B) \cap C = (AC) \cup (BC), (A \cap B) \cup C = (A \cup C) \cap (B \cup C)
  • 對偶律 \overline{A \cup B} = \overline{A} \cap \overline{B},\overline{A \cap B} = \overline{A} \cup \overline{B}

經(jīng)過以上鋪墊健芭,我們可以引出頻率县钥、概率的定義:

4. 頻率 (frequency)

定義:設(shè)隨機事件A在n次重復(fù)試驗中發(fā)生了m次,則稱比值
f_n(A) = \frac{m}{n}
為事件A在n次重復(fù)試驗中發(fā)生的「頻率」慈迈。

頻率越大若贮,事件A發(fā)生就越頻繁,可以用頻率來預(yù)測事件A的發(fā)生的可能性大小痒留。
當重復(fù)試驗次數(shù)越多谴麦,n越大時,頻率越逐漸趨于穩(wěn)定于某個常數(shù)伸头。

5. 概率的公理化定義(前蘇聯(lián) 柯爾莫哥洛夫 首次提出)

設(shè)\O是隨機試驗E的樣本空間匾效,對于每個事件A,賦予一個實數(shù)恤磷,記為P(A)面哼,稱為事件A的「概率」,如果集合函數(shù)P(\cdot )滿足一下三個條件:

  • 非負性扫步,任意事件A都有P(A) >= 0
  • 規(guī)范性精绎,P(\O) = 1
  • 可列可加性,兩兩互不相容的(無限個)事件锌妻,都有
    P(A_1 \cup A_2 \cup \cdots \cup A_n) = P(A_1) + P(A_2) + ...+ P(A_n)

理解:概率的本質(zhì)一種映射,是一種將每個事件映射給一個實數(shù)的映射旬牲。并且滿足以上三個性質(zhì)仿粹。
另外,注意一個常記的技巧:A \cap \overline{B} = A - B = A - A \cap B

由以上概率的公理化定義推導(dǎo)出的性質(zhì):

  1. 不可能事件的概率為0
  2. 有限可加性
  3. 逆事件有 P(\overline{A}) = 1 - P(A)
  4. 減法公式
  5. 單調(diào)性
  6. 容斥原理 P(A \cup B) = P(A) + P(B) - P(AB)原茅,可推廣至多個事件



古典概型與幾何概型

古典概型是概率論的經(jīng)典研究內(nèi)容吭历。

古典概型是指,如果一個隨機試驗擂橘,其中包含有限個樣本點晌区,并且所有樣本點的概率都相等,那么我們就稱該隨機試驗為古典概型。而幾何概型與以上定義基本相同朗若,只不過包含了無限個樣本點(對于幾何圖形來說恼五,一塊區(qū)域也包含了無窮個點)

我們很容易就能夠得到古典概型的計算公式(由可列可加性)
P(A) = \frac{事件A中樣本點的個數(shù)}{樣本空間中樣本點總數(shù)} = \frac{k}{n}

關(guān)于古典概型的具體例題與技巧在此不再贅述。
如何定性認識古典概型的概率哭懈?我們可以認為灾馒,這種概率代表了一個試驗中事件發(fā)生的可能性,可以認為是“ 進行無窮次試驗之后事件發(fā)生頻率的趨近值 ”遣总。利用這種可能性睬罗,我們可以最優(yōu)化實際的決策。


條件概率與乘法公式

條件概率的引入旭斥,是為了解決在某事件已經(jīng)發(fā)生(或者指定某條件)的情況下具體事件的概率容达。顯然地,計算條件概率垂券,可以認為是縮小了樣本空間后的概率計算花盐。為了滿足某指定條件,我們需要排除掉不符合條件的樣本點圆米,之后再根據(jù)符合條件的樣本點卒暂,再在條件事件下的樣本集合進行古典概型的計算。這一過程娄帖,實質(zhì)上就是條件概率的本質(zhì)也祠。但是我們?yōu)榱朔奖悖瑒t利用了結(jié)論進行定義近速。注意:這只是為了方便诈嘿。

我們定義條件概率,就是指在樣本空間中的事件A,B削葱,則P(A|B)=\frac{P(AB)}{P(B)}就是事件A在事件B條件下的「條件概率」奖亚。在該定義下,要求了條件的概率不為0析砸。

條件概率是一種「概率」嗎昔字?答案是肯定的,因為顯然首繁,條件概率滿足了概率的三條基本公理作郭,即非負性、規(guī)范性弦疮、可加性夹攒。因此條件概率也是一種概率,概率的所有性質(zhì)都適用于條件概率胁塞。

由條件概率公式可以直接得到乘法公式:若P(A)>0咏尝,則有P(AB) = P(A)P(B|A)乘法概率可以進行推廣到n個乘積的情況压语。


全概率公式

全概率公式是為了解決計算復(fù)雜事件概率的一種方法。如果說對于一個事件B的計算較為困難编检,但是如果對于事件B的概率能夠分情況討論(或者說胎食,能夠分成不同的子集),那么就可以利用全概率公式進行計算

全概率公式:如果對于事件 B蒙谓,如果我們有互不相容斥季、但是其總和為總樣本空間的一系列事件A_1, A_2, ..., A_n,那么就可以利用這種方式計算事件B的概率:P(B) = P(A_1)P(B|A_1) + P(A_2)P(B|A_2) + \dots + P(A_n) P(B|A_n)

全概率公式的精髓就在于:分情況討論累驮,建立某種因果關(guān)系酣倾,從而簡化分解問題。

什么是建立因果關(guān)系谤专,這關(guān)系到具體問題的語境問題躁锡。例如產(chǎn)品的次品率問題,抽取的某產(chǎn)品是否為次品置侍,與不同工廠有關(guān)映之,這就屬于一種因果關(guān)系。實際上該問題的基本事件是什么蜡坊?是 [ 工廠種類杠输,是否為次品 ] 的二元對。概率論是沒有事件之間的因果概念的秕衙,但是我們只是利用語境建立事件的因果關(guān)系蠢甲,從而更好地對“果事件”進行分情況討論。

貝葉斯公式

對于一個隨機試驗E据忘,若有事件B, A_1, A_2, \cdots, A_n鹦牛,并且滿足B, A_i事件概率大于0勇吊, 并且事件A_i是樣本空間的一個分割曼追,那么就有P(A_i | B) = \frac{P(A_i B)}{P(B)} = \frac{P(A_i)P(B|A_i)}{\sum_{j=1}^nP(A_j)P(B|A_j)}觀察貝葉斯公式,我們可以發(fā)現(xiàn)它就是全概率公式與條件概率的推導(dǎo)結(jié)論而已汉规。

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末礼殊,一起剝皮案震驚了整個濱河市,隨后出現(xiàn)的幾起案子针史,更是在濱河造成了極大的恐慌膏燕,老刑警劉巖,帶你破解...
    沈念sama閱讀 219,539評論 6 508
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件悟民,死亡現(xiàn)場離奇詭異,居然都是意外死亡篷就,警方通過查閱死者的電腦和手機射亏,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 93,594評論 3 396
  • 文/潘曉璐 我一進店門近忙,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人智润,你說我怎么就攤上這事及舍。” “怎么了窟绷?”我有些...
    開封第一講書人閱讀 165,871評論 0 356
  • 文/不壞的土叔 我叫張陵锯玛,是天一觀的道長。 經(jīng)常有香客問我兼蜈,道長攘残,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 58,963評論 1 295
  • 正文 為了忘掉前任为狸,我火速辦了婚禮歼郭,結(jié)果婚禮上,老公的妹妹穿的比我還像新娘辐棒。我一直安慰自己病曾,他們只是感情好,可當我...
    茶點故事閱讀 67,984評論 6 393
  • 文/花漫 我一把揭開白布漾根。 她就那樣靜靜地躺著泰涂,像睡著了一般。 火紅的嫁衣襯著肌膚如雪辐怕。 梳的紋絲不亂的頭發(fā)上逼蒙,一...
    開封第一講書人閱讀 51,763評論 1 307
  • 那天,我揣著相機與錄音秘蛇,去河邊找鬼其做。 笑死,一個胖子當著我的面吹牛赁还,可吹牛的內(nèi)容都是我干的妖泄。 我是一名探鬼主播,決...
    沈念sama閱讀 40,468評論 3 420
  • 文/蒼蘭香墨 我猛地睜開眼艘策,長吁一口氣:“原來是場噩夢啊……” “哼蹈胡!你這毒婦竟也來了?” 一聲冷哼從身側(cè)響起朋蔫,我...
    開封第一講書人閱讀 39,357評論 0 276
  • 序言:老撾萬榮一對情侶失蹤罚渐,失蹤者是張志新(化名)和其女友劉穎,沒想到半個月后驯妄,有當?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體荷并,經(jīng)...
    沈念sama閱讀 45,850評論 1 317
  • 正文 獨居荒郊野嶺守林人離奇死亡,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點故事閱讀 38,002評論 3 338
  • 正文 我和宋清朗相戀三年青扔,在試婚紗的時候發(fā)現(xiàn)自己被綠了源织。 大學(xué)時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片翩伪。...
    茶點故事閱讀 40,144評論 1 351
  • 序言:一個原本活蹦亂跳的男人離奇死亡,死狀恐怖谈息,靈堂內(nèi)的尸體忽然破棺而出缘屹,到底是詐尸還是另有隱情,我是刑警寧澤侠仇,帶...
    沈念sama閱讀 35,823評論 5 346
  • 正文 年R本政府宣布轻姿,位于F島的核電站,受9級特大地震影響逻炊,放射性物質(zhì)發(fā)生泄漏互亮。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點故事閱讀 41,483評論 3 331
  • 文/蒙蒙 一嗅骄、第九天 我趴在偏房一處隱蔽的房頂上張望胳挎。 院中可真熱鬧,春花似錦溺森、人聲如沸慕爬。這莊子的主人今日做“春日...
    開封第一講書人閱讀 32,026評論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽医窿。三九已至,卻和暖如春炊林,著一層夾襖步出監(jiān)牢的瞬間姥卢,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 33,150評論 1 272
  • 我被黑心中介騙來泰國打工渣聚, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留独榴,地道東北人。 一個月前我還...
    沈念sama閱讀 48,415評論 3 373
  • 正文 我出身青樓奕枝,卻偏偏與公主長得像棺榔,于是被迫代替她去往敵國和親。 傳聞我的和親對象是個殘疾皇子隘道,可洞房花燭夜當晚...
    茶點故事閱讀 45,092評論 2 355

推薦閱讀更多精彩內(nèi)容