2.3.2 邊緣高斯分布

由上一章知道如果聯(lián)合分布p(x_a, x_b)為高斯分布苛萎,則條件概率分布p(x_a|x_b)也是高斯分布吞瞪,現(xiàn)在討論邊緣概率分布
p(x_a) = \int p(x_a,x_b)dx_b
和上一章一樣束铭,我們從聯(lián)合分布的指數(shù)項(xiàng)的二次型出發(fā),找出邊緣分布p(x_a)的均值和方差


再次拿出使用分塊精度矩陣表示的二次型公式
-\frac{1}{2}(x-\mu)^T\Sigma^{-1}(x-\mu) = \\ -\frac{1}{2}(x_a-\mu_a)^T\wedge_{aa}(x_a-\mu_a)-\frac{1}{2}(x_a-\mu_b)^T\wedge_{ab}(x_a-\mu_b)\\ -\frac{1}{2}(x_b-\mu_a)^T\wedge_{ba}(x_b-\mu_a)-\frac{1}{2}(x_b-\mu_b)^T\wedge_{bb}(x_b-\mu_b)
這次目標(biāo)是積分出x_b桃焕,配出平方能夠使得積分更加方便的運(yùn)算(???)
首先考慮涉及x_b的項(xiàng),和x_a相反捧毛,有\(zhòng)\ -\frac{1}{2}x_b^T\wedge_{bb}x_b + x_b^Tm = -\frac{1}{2}(x_b-\wedge_{bb}^{-1}m)^T\wedge_{bb}(x_b-\wedge_{bb}^{-1}m)+\frac{1}{2}m^T\wedge_{bb}^{-1}m\\ 其中m=\wedge_{bb}\mu_b-\wedge_{ba}(x_a-\mu_a)

上面的公式的右邊的第一項(xiàng)就是關(guān)于x_b的標(biāo)準(zhǔn)的二次型观堂,第二項(xiàng)是與x_b無關(guān)的常數(shù)項(xiàng)(但與x_a相關(guān))

p(x_a) = \int p(x_a,x_b)dx_b上,我們?nèi)∵@個(gè)標(biāo)準(zhǔn)的二次型作為高斯分布的指數(shù)項(xiàng)(因?yàn)槭S嗟某?shù)項(xiàng)可以直接寫道積分外面)呀忧,有
\int exp\{ -\frac{1}{2}(x_b-\wedge_{bb}^{-1}m)^T\wedge_{bb}(x_b-\wedge_{bb}^{-1}m)\}dx_b

為什么要給x_b配平方师痕??荐虐?七兜?
因?yàn)楦咚狗植嫉南禂?shù)與均值無關(guān),只依賴于協(xié)方差矩陣(在這里是\wedge_{bb}^{-1})福扬,因此即使均值中有關(guān)于x_a的項(xiàng)也沒有關(guān)系腕铸,積分結(jié)果與均值無關(guān)!n醣狠裹!你就想一個(gè)高斯分布,均值只決定了高峰在x軸上的哪個(gè)位置上而已汽烦。


現(xiàn)在我們來考察\exp\{x_a相關(guān) \}的項(xiàng)涛菠,因?yàn)榭梢蕴崛〕龇e分外面,暫時(shí)不再考慮積分里面x_b的積分結(jié)果撇吞,結(jié)合配方后遺留下來的x_a相關(guān)的項(xiàng)(左側(cè)的最后一項(xiàng))和與在上一章中求過的x_a相關(guān)的項(xiàng)俗冻,有
\frac{1}{2}[\wedge_{bb}\mu_b-\wedge_{ba}(x_a-\mu_b)]^T\wedge_{bb}^{-1}[\wedge_{bb}\mu_-\wedge_{ba}(x_a-\mu_a)]\\ -\frac{1}{2}x_a^T\wedge_{aa}x_a+a^T(\wedge_{aa}\mu_a-\wedge_{ab}(x_b-\mu_b))+C\\ =-\frac{1}{2}x_a^T(\wedge_{aa}-\wedge_{ab}\wedge_{bb}^{-1}\wedge_{ba})x_a+x_a^T(\wedge_{aa}-\wedge_{ab}\wedge_{bb}^{-1}\wedge_{ba})\mu_a +C

可以看出協(xié)方差矩陣\Sigma_a=(\wedge_{aa}-\wedge_{ab}\wedge_{bb}^{-1}\wedge_{ba})^{-1}牍颈,均值為\mu_a

還記得上一章中分塊矩陣的逆矩陣的恒等式迄薄,不難得出
\wedge_{aa}-\wedge_{ab}\wedge_{bb}^{-1}\wedge_{ba}^{-1}=\Sigma_{aa}


結(jié)論
E[x_a]=\mu_a\\ cov[x_a]=\Sigma_{aa}

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末,一起剝皮案震驚了整個(gè)濱河市煮岁,隨后出現(xiàn)的幾起案子讥蔽,更是在濱河造成了極大的恐慌,老刑警劉巖画机,帶你破解...
    沈念sama閱讀 221,406評(píng)論 6 515
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件冶伞,死亡現(xiàn)場(chǎng)離奇詭異,居然都是意外死亡步氏,警方通過查閱死者的電腦和手機(jī)响禽,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 94,395評(píng)論 3 398
  • 文/潘曉璐 我一進(jìn)店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人金抡,你說我怎么就攤上這事瀑焦。” “怎么了梗肝?”我有些...
    開封第一講書人閱讀 167,815評(píng)論 0 360
  • 文/不壞的土叔 我叫張陵榛瓮,是天一觀的道長。 經(jīng)常有香客問我巫击,道長禀晓,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 59,537評(píng)論 1 296
  • 正文 為了忘掉前任坝锰,我火速辦了婚禮粹懒,結(jié)果婚禮上,老公的妹妹穿的比我還像新娘顷级。我一直安慰自己凫乖,他們只是感情好,可當(dāng)我...
    茶點(diǎn)故事閱讀 68,536評(píng)論 6 397
  • 文/花漫 我一把揭開白布弓颈。 她就那樣靜靜地躺著帽芽,像睡著了一般。 火紅的嫁衣襯著肌膚如雪翔冀。 梳的紋絲不亂的頭發(fā)上导街,一...
    開封第一講書人閱讀 52,184評(píng)論 1 308
  • 那天,我揣著相機(jī)與錄音纤子,去河邊找鬼搬瑰。 笑死,一個(gè)胖子當(dāng)著我的面吹牛控硼,可吹牛的內(nèi)容都是我干的泽论。 我是一名探鬼主播,決...
    沈念sama閱讀 40,776評(píng)論 3 421
  • 文/蒼蘭香墨 我猛地睜開眼卡乾,長吁一口氣:“原來是場(chǎng)噩夢(mèng)啊……” “哼翼悴!你這毒婦竟也來了?” 一聲冷哼從身側(cè)響起说订,我...
    開封第一講書人閱讀 39,668評(píng)論 0 276
  • 序言:老撾萬榮一對(duì)情侶失蹤,失蹤者是張志新(化名)和其女友劉穎潮瓶,沒想到半個(gè)月后陶冷,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體,經(jīng)...
    沈念sama閱讀 46,212評(píng)論 1 319
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡毯辅,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 38,299評(píng)論 3 340
  • 正文 我和宋清朗相戀三年埂伦,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片思恐。...
    茶點(diǎn)故事閱讀 40,438評(píng)論 1 352
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡沾谜,死狀恐怖膊毁,靈堂內(nèi)的尸體忽然破棺而出,到底是詐尸還是另有隱情基跑,我是刑警寧澤婚温,帶...
    沈念sama閱讀 36,128評(píng)論 5 349
  • 正文 年R本政府宣布,位于F島的核電站媳否,受9級(jí)特大地震影響栅螟,放射性物質(zhì)發(fā)生泄漏。R本人自食惡果不足惜篱竭,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 41,807評(píng)論 3 333
  • 文/蒙蒙 一力图、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧掺逼,春花似錦吃媒、人聲如沸。這莊子的主人今日做“春日...
    開封第一講書人閱讀 32,279評(píng)論 0 24
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽。三九已至兽泄,卻和暖如春漓概,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背病梢。 一陣腳步聲響...
    開封第一講書人閱讀 33,395評(píng)論 1 272
  • 我被黑心中介騙來泰國打工胃珍, 沒想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留,地道東北人蜓陌。 一個(gè)月前我還...
    沈念sama閱讀 48,827評(píng)論 3 376
  • 正文 我出身青樓觅彰,卻偏偏與公主長得像,于是被迫代替她去往敵國和親钮热。 傳聞我的和親對(duì)象是個(gè)殘疾皇子填抬,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 45,446評(píng)論 2 359

推薦閱讀更多精彩內(nèi)容

  • 多元高斯的一個(gè)重要性質(zhì): 若果兩組變量是聯(lián)合高斯分布,那以一組變量維條件隧期,另一組變量同樣是高斯分布飒责。類似的,任何一...
    golfgang閱讀 11,242評(píng)論 0 5
  • 考試科目:高等數(shù)學(xué)仆潮、線性代數(shù)宏蛉、概率論與數(shù)理統(tǒng)計(jì) 考試形式和試卷結(jié)構(gòu) 一、試卷滿分及考試時(shí)間 試卷滿分為150分性置,考...
    Saudade_lh閱讀 1,081評(píng)論 0 0
  • 2017年考研數(shù)學(xué)一大綱原文 考試科目:高等數(shù)學(xué)拾并、線性代數(shù)、概率論與數(shù)理統(tǒng)計(jì) 考試形式和試卷結(jié)構(gòu) 一、試卷滿分及考...
    SheBang_閱讀 628評(píng)論 0 7
  • 考試形式和試卷結(jié)構(gòu)一嗅义、試卷滿分及考試時(shí)間 試卷滿分為150分屏歹,考試時(shí)間為180分鐘 二、答題方式 答題方式為閉卷之碗、...
    幻無名閱讀 757評(píng)論 0 3
  • 二元變量 伯努利分布 似然函數(shù)為 對(duì)數(shù)似然函數(shù)為 如果我們令關(guān)于u的導(dǎo)數(shù)等于零蝙眶,我們就得到了最大似然的估計(jì)值 現(xiàn)在...
    初七123閱讀 1,570評(píng)論 0 4