附錄D:概率論基礎(chǔ)之多維隨機(jī)變量及其分布


時(shí)間:2018-09-07 作者:魏文應(yīng)


一、二維隨機(jī)變量

我們?cè)凇陡戒汢:機(jī)器學(xué)習(xí)基礎(chǔ)之最大似然估計(jì)》講過什么是 隨機(jī)變量柿祈。我們的向量是這么寫的:

(X, Y)

這個(gè)就是二維向量,有兩個(gè)變量。放在概率論里悲幅,叫做 二維隨機(jī)變量

二站蝠、聯(lián)合分布函數(shù)

聯(lián)合分布是相對(duì)于兩個(gè)以上(包括兩個(gè))變量的概率分析來說的汰具。比如二維隨機(jī)變量(X, Y),它的 聯(lián)合分布函數(shù) 就是:

F(a, b) = P\{X \leq a \space \cap \space Y \leq b \} \overset{\text{記成}}{=} P(X \leq a, Y \leq b)

我們說過菱魔,無論什么事情留荔,都可以用數(shù)字符號(hào)代表這件事情。如果給五個(gè)人依次編號(hào) {1澜倦, 2聚蝶, 3, 4藻治, 5}碘勉,那么變量 X 的取值就是 {1, 2, 3, 4, 5} 中的任意一個(gè)。同時(shí)假定有4只貓桩卵,編號(hào){1验靡, 2, 3雏节, 4}胜嗓,那么變量Y 的取值就是{1, 2钩乍, 3辞州,4} 中的任意一個(gè)。那么 P(X \leq 3) 是人編號(hào)小于等于 3 的概率寥粹,P(Y \leq 2)是貓編號(hào)小于等于 2 的概率变过。那么:

P(X \leq 3, Y \leq 2)

表示的就是,事件同時(shí)滿足上面兩個(gè)條件的概率排作。

三牵啦、聯(lián)合分布律

分布律反映的是概率分布情況,聯(lián)合分布律反映的就是有多個(gè)變量時(shí)的概率分布情況:

P\{X = x_i, Y = y_i \} = p_{ij}

上式就是有兩個(gè)變量的 聯(lián)合分布律妄痪。反映了兩件事同時(shí)發(fā)生的概率哈雏。有時(shí)我們可能會(huì)感到疑惑,聯(lián)合分布函數(shù)也是可以看做是兩件事同時(shí)發(fā)生的概率,聯(lián)合分布律也是反映兩件事同時(shí)發(fā)生的概率裳瘪。其實(shí)土浸,不同的是,一個(gè)是 \leq 小于等于號(hào)彭羹,一個(gè)是 = 等號(hào)黄伊。

  • P\{X = x_i, Y = y_i \} :表示的是單個(gè)小事件。
  • P(X \leq a, Y \leq b) :多個(gè)小事件組成的大事件派殷。

四还最、聯(lián)合概率密度

我們說,人口密度越大毡惜,這個(gè)地區(qū)的人口越多拓轻。同樣的,概率密度越大经伙,說明這個(gè)區(qū)域的發(fā)生某件事的概率越大扶叉。聯(lián)合概率是多個(gè)事件同時(shí)發(fā)生時(shí)的概率。我們說分布函數(shù)是帕膜,把那些事件枣氧,指定一個(gè)數(shù) a ,把所有編號(hào)小于 a 的事件的概率都加起來垮刹。聯(lián)合概率分布也是一樣的达吞,只是它的變量變多了而已。比如危纫,二維隨機(jī)變量 (X, Y) 的分布函數(shù)是 F(x, y)宗挥,下面就是聯(lián)合分布函數(shù):

F(a, b) = \int_{-\infty}^{a} \int_{-\infty}^ f(x, y) \mathrm2yxalun{x} \mathrmszgcjwo{y}

既然用了積分种蝶,那么 xy 要求變量是連續(xù)的,而不是離散的瞒大。上式中的 f(x, y) 就是二維隨機(jī)變量XY聯(lián)合概率密度 螃征。

五、邊緣分布

我們說透敌,聯(lián)合概率分布盯滚,我們關(guān)心的是兩個(gè)變量同時(shí)發(fā)生的概率分布情況。如果我們只關(guān)心一個(gè)變量呢酗电?比如 (X, Y) 我們只關(guān)心 X 的情況魄藕,不關(guān)心 Y 的情況,那么可以這么寫:

F_{X}{(x)} = P\{X \leq x\} = P \{ X \leq x, Y \leq \infty \} = F(x, \infty)

這就是關(guān)于 X邊緣分布函數(shù) 撵术。也就是下面這么計(jì)算:

F_X (x) = F(x, \infty) = \sum_{x_i \leq x} \sum_{j = 1}^\infty p_{ij}

F_{Y}(y) = F(\infty, y) 是關(guān)于 Y邊緣分布函數(shù) 背率。

邊緣分布律

我們說,邊緣分布就是不管其他變量,我們只關(guān)心一個(gè)變量寝姿。下面計(jì)算的是當(dāng) X = x_i 時(shí)的概率:

p_{i \bullet} = P\{X = x_i\} = \sum_{j = 1}^\infty p_{ij}

這個(gè)就是 X 邊緣分布律交排。如果我們只關(guān)心 YY 的邊緣分布律如下:

p_{\bullet j} = P\{X = x_j\} = \sum_{i = 1}^\infty p_{ij}

邊緣概率密度

對(duì)于連續(xù)隨機(jī)變量 (X, Y)饵筑,X 的邊緣分布函數(shù)可以寫成:

F_X(x) = F(x, \infty) = \int_{-\infty}^x { [ \int_{-\infty}^{\infty} f(x, y) \mathrmjfqqmlj{y} ] } \mathrmnogjqzx{x}

所以關(guān)于 X邊緣概率密度 如下:

f_X(x) = \int_{- \infty}^{\infty} f(x, y) \mathrmoaavrywy

這個(gè)很好理解埃篓,一個(gè)變量時(shí),概率密度是 f(x) 根资,現(xiàn)在有了 y 以后架专,而且概率密度用 f(x, y) 來表示,當(dāng)我們 x 確定一個(gè)具體值時(shí)玄帕,我們要把所有當(dāng) x = a 時(shí)的情況加起來胶征,也就是\int_{- \infty}^{\infty} f(a, y) \mathrmmyettgwy。關(guān)于 Y邊緣概率密度 如下:

f_Y(y) = \int_{- \infty}^{\infty} f(x, y) \mathrm3jufmp3x

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末桨仿,一起剝皮案震驚了整個(gè)濱河市睛低,隨后出現(xiàn)的幾起案子,更是在濱河造成了極大的恐慌服傍,老刑警劉巖钱雷,帶你破解...
    沈念sama閱讀 218,386評(píng)論 6 506
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件,死亡現(xiàn)場(chǎng)離奇詭異吹零,居然都是意外死亡罩抗,警方通過查閱死者的電腦和手機(jī),發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 93,142評(píng)論 3 394
  • 文/潘曉璐 我一進(jìn)店門灿椅,熙熙樓的掌柜王于貴愁眉苦臉地迎上來套蒂,“玉大人,你說我怎么就攤上這事茫蛹〔俚叮” “怎么了?”我有些...
    開封第一講書人閱讀 164,704評(píng)論 0 353
  • 文/不壞的土叔 我叫張陵婴洼,是天一觀的道長(zhǎng)骨坑。 經(jīng)常有香客問我,道長(zhǎng)柬采,這世上最難降的妖魔是什么欢唾? 我笑而不...
    開封第一講書人閱讀 58,702評(píng)論 1 294
  • 正文 為了忘掉前任,我火速辦了婚禮粉捻,結(jié)果婚禮上礁遣,老公的妹妹穿的比我還像新娘。我一直安慰自己肩刃,他們只是感情好祟霍,可當(dāng)我...
    茶點(diǎn)故事閱讀 67,716評(píng)論 6 392
  • 文/花漫 我一把揭開白布杏头。 她就那樣靜靜地躺著,像睡著了一般浅碾。 火紅的嫁衣襯著肌膚如雪大州。 梳的紋絲不亂的頭發(fā)上,一...
    開封第一講書人閱讀 51,573評(píng)論 1 305
  • 那天垂谢,我揣著相機(jī)與錄音厦画,去河邊找鬼。 笑死滥朱,一個(gè)胖子當(dāng)著我的面吹牛根暑,可吹牛的內(nèi)容都是我干的。 我是一名探鬼主播徙邻,決...
    沈念sama閱讀 40,314評(píng)論 3 418
  • 文/蒼蘭香墨 我猛地睜開眼排嫌,長(zhǎng)吁一口氣:“原來是場(chǎng)噩夢(mèng)啊……” “哼!你這毒婦竟也來了缰犁?” 一聲冷哼從身側(cè)響起淳地,我...
    開封第一講書人閱讀 39,230評(píng)論 0 276
  • 序言:老撾萬榮一對(duì)情侶失蹤,失蹤者是張志新(化名)和其女友劉穎帅容,沒想到半個(gè)月后颇象,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體,經(jīng)...
    沈念sama閱讀 45,680評(píng)論 1 314
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡并徘,尸身上長(zhǎng)有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 37,873評(píng)論 3 336
  • 正文 我和宋清朗相戀三年遣钳,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片麦乞。...
    茶點(diǎn)故事閱讀 39,991評(píng)論 1 348
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡蕴茴,死狀恐怖,靈堂內(nèi)的尸體忽然破棺而出姐直,到底是詐尸還是另有隱情倦淀,我是刑警寧澤,帶...
    沈念sama閱讀 35,706評(píng)論 5 346
  • 正文 年R本政府宣布简肴,位于F島的核電站晃听,受9級(jí)特大地震影響,放射性物質(zhì)發(fā)生泄漏砰识。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 41,329評(píng)論 3 330
  • 文/蒙蒙 一佣渴、第九天 我趴在偏房一處隱蔽的房頂上張望辫狼。 院中可真熱鬧,春花似錦辛润、人聲如沸膨处。這莊子的主人今日做“春日...
    開封第一講書人閱讀 31,910評(píng)論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽(yáng)真椿。三九已至鹃答,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間突硝,已是汗流浹背测摔。 一陣腳步聲響...
    開封第一講書人閱讀 33,038評(píng)論 1 270
  • 我被黑心中介騙來泰國(guó)打工, 沒想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留解恰,地道東北人锋八。 一個(gè)月前我還...
    沈念sama閱讀 48,158評(píng)論 3 370
  • 正文 我出身青樓,卻偏偏與公主長(zhǎng)得像护盈,于是被迫代替她去往敵國(guó)和親挟纱。 傳聞我的和親對(duì)象是個(gè)殘疾皇子,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 44,941評(píng)論 2 355

推薦閱讀更多精彩內(nèi)容

  • 暖風(fēng)吹柳柳絲長(zhǎng)腐宋,綠肥紅瘦斜陽(yáng)紊服。枝頭羞澀抱花香,偷喚新裝胸竞。 二月春風(fēng)亦始欺嗤,鶯飛草長(zhǎng)尋常。一襲入畫舊羅裳撤师,明媚春光剂府。...
    淺吟_865e閱讀 501評(píng)論 1 0
  • 采集目標(biāo) 四川大學(xué)公共管理學(xué)院所有全職教師的照片、姓名剃盾、職稱腺占、院系、郵箱痒谴、詳細(xì)頁(yè)的鏈接及簡(jiǎn)介衰伯。如下圖: 1.創(chuàng)建...
    云上小白鴿閱讀 505評(píng)論 0 0
  • 曾經(jīng)我也是不喜歡雞湯的意鲸。我覺得喜歡看雞湯的人都是神經(jīng)病。我對(duì)雞湯的定義就是尽爆,它是垂垂老矣者自我欺騙自我麻痹的產(chǎn)物怎顾。...
    星之奇旅的馮晶晶閱讀 727評(píng)論 2 2