概率圖模型基礎(chǔ)(1)——簡(jiǎn)介

1. 分布及其因子操作

1.1 聯(lián)合分布

以學(xué)生成績(jī)?yōu)槔汗灿幸韵聨讉€(gè)變量:Intelligence(i^0=low, i^1)驮樊、Diffculty(d^0=easy. d^1=hard)亲桥、Grade(g^1=A, g^2=B, g^3=C)。

notation

其聯(lián)合分布為:
Joint Distribution

這三種變量的組合共有2*2*3=12種缴守。

1.2 聯(lián)合分布與條件分布(Condition Probability Distribution, CPD)的一些計(jì)算

1. Reduction

設(shè)置篩選條件:以選取成績(jī)?yōu)锳的人為例葬毫,把所有得A的人(G=g^1)選出來(lái)镇辉。

Conditioning

2. Renormalization

重新標(biāo)準(zhǔn)化,將篩選出來(lái)的值除以其概率和贴捡,保證標(biāo)準(zhǔn)化后的概率和為1忽肛。
Renormalization
3. Marginalization

計(jì)算邊緣概率
Marginalization

2. Factors

2.1 Factor定義

factory 可以理解為一種函數(shù)或者表格。其目的是將變量(X_1,...,X_k)映射到某一個(gè)實(shí)數(shù)集烂斋。
例如:

  • 在圖Joint Distribution中屹逛,I,D,G就是一種factor。對(duì)于其中的每一行汛骂,都有一個(gè)對(duì)應(yīng)的實(shí)數(shù)罕模。
  • 在圖normalization中,I,D有是一種factor帘瞭,沒(méi)有G的原因是其他兩個(gè)變量與變量G沒(méi)有關(guān)系淑掌,G在其中視為常量即可。

2.2 Factor的運(yùn)算

product

類似于數(shù)據(jù)庫(kù)中的join關(guān)鍵字連接蝶念。


product
add

對(duì)應(yīng)1.2 節(jié)中的Marginalization抛腕。


Marginalization
Reduction

對(duì)應(yīng)1.2 節(jié)中的Reduction。


Reduction

2.3. 符號(hào)抽象

為了方便媒殉,我們通常將包括但不限于上述的操作符抽象為:


image.png

4. 參考來(lái)源

  • 斯坦福公開(kāi)課——Probabilistic Graphical Models
最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末担敌,一起剝皮案震驚了整個(gè)濱河市,隨后出現(xiàn)的幾起案子廷蓉,更是在濱河造成了極大的恐慌全封,老刑警劉巖,帶你破解...
    沈念sama閱讀 223,002評(píng)論 6 519
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件苦酱,死亡現(xiàn)場(chǎng)離奇詭異售貌,居然都是意外死亡,警方通過(guò)查閱死者的電腦和手機(jī)疫萤,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 95,357評(píng)論 3 400
  • 文/潘曉璐 我一進(jìn)店門颂跨,熙熙樓的掌柜王于貴愁眉苦臉地迎上來(lái),“玉大人扯饶,你說(shuō)我怎么就攤上這事恒削。” “怎么了尾序?”我有些...
    開(kāi)封第一講書(shū)人閱讀 169,787評(píng)論 0 365
  • 文/不壞的土叔 我叫張陵钓丰,是天一觀的道長(zhǎng)。 經(jīng)常有香客問(wèn)我每币,道長(zhǎng)携丁,這世上最難降的妖魔是什么? 我笑而不...
    開(kāi)封第一講書(shū)人閱讀 60,237評(píng)論 1 300
  • 正文 為了忘掉前任兰怠,我火速辦了婚禮梦鉴,結(jié)果婚禮上李茫,老公的妹妹穿的比我還像新娘。我一直安慰自己肥橙,他們只是感情好魄宏,可當(dāng)我...
    茶點(diǎn)故事閱讀 69,237評(píng)論 6 398
  • 文/花漫 我一把揭開(kāi)白布。 她就那樣靜靜地躺著存筏,像睡著了一般宠互。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上椭坚,一...
    開(kāi)封第一講書(shū)人閱讀 52,821評(píng)論 1 314
  • 那天予跌,我揣著相機(jī)與錄音,去河邊找鬼藕溅。 笑死匕得,一個(gè)胖子當(dāng)著我的面吹牛,可吹牛的內(nèi)容都是我干的巾表。 我是一名探鬼主播,決...
    沈念sama閱讀 41,236評(píng)論 3 424
  • 文/蒼蘭香墨 我猛地睜開(kāi)眼略吨,長(zhǎng)吁一口氣:“原來(lái)是場(chǎng)噩夢(mèng)啊……” “哼集币!你這毒婦竟也來(lái)了?” 一聲冷哼從身側(cè)響起翠忠,我...
    開(kāi)封第一講書(shū)人閱讀 40,196評(píng)論 0 277
  • 序言:老撾萬(wàn)榮一對(duì)情侶失蹤鞠苟,失蹤者是張志新(化名)和其女友劉穎,沒(méi)想到半個(gè)月后秽之,有當(dāng)?shù)厝嗽跇?shù)林里發(fā)現(xiàn)了一具尸體当娱,經(jīng)...
    沈念sama閱讀 46,716評(píng)論 1 320
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡,尸身上長(zhǎng)有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 38,794評(píng)論 3 343
  • 正文 我和宋清朗相戀三年考榨,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了跨细。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片。...
    茶點(diǎn)故事閱讀 40,928評(píng)論 1 353
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡河质,死狀恐怖冀惭,靈堂內(nèi)的尸體忽然破棺而出,到底是詐尸還是另有隱情掀鹅,我是刑警寧澤散休,帶...
    沈念sama閱讀 36,583評(píng)論 5 351
  • 正文 年R本政府宣布,位于F島的核電站乐尊,受9級(jí)特大地震影響戚丸,放射性物質(zhì)發(fā)生泄漏。R本人自食惡果不足惜扔嵌,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 42,264評(píng)論 3 336
  • 文/蒙蒙 一限府、第九天 我趴在偏房一處隱蔽的房頂上張望猴鲫。 院中可真熱鬧,春花似錦谣殊、人聲如沸拂共。這莊子的主人今日做“春日...
    開(kāi)封第一講書(shū)人閱讀 32,755評(píng)論 0 25
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽(yáng)宜狐。三九已至,卻和暖如春蛇捌,著一層夾襖步出監(jiān)牢的瞬間抚恒,已是汗流浹背。 一陣腳步聲響...
    開(kāi)封第一講書(shū)人閱讀 33,869評(píng)論 1 274
  • 我被黑心中介騙來(lái)泰國(guó)打工络拌, 沒(méi)想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留俭驮,地道東北人。 一個(gè)月前我還...
    沈念sama閱讀 49,378評(píng)論 3 379
  • 正文 我出身青樓春贸,卻偏偏與公主長(zhǎng)得像混萝,于是被迫代替她去往敵國(guó)和親。 傳聞我的和親對(duì)象是個(gè)殘疾皇子萍恕,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 45,937評(píng)論 2 361

推薦閱讀更多精彩內(nèi)容

  • 概率圖模型是之前一直擱置的內(nèi)容逸嘀,然而躲得過(guò)初一躲不過(guò)十五,看葫蘆書(shū)時(shí)發(fā)現(xiàn)其中有整整一章關(guān)于概率圖允粤,方才意識(shí)到概率圖...
    單調(diào)不減閱讀 11,722評(píng)論 0 6
  • 機(jī)器學(xué)習(xí)的核心思想就是根據(jù)已知的內(nèi)容去推測(cè)未知的內(nèi)容崭倘,然后在已知和未知之間建立起聯(lián)系,這個(gè)聯(lián)系就是機(jī)器學(xué)習(xí)中的各種...
    閃電隨筆閱讀 3,904評(píng)論 1 7
  • 這一部分沒(méi)有參考資料类垫,自己看書(shū)的時(shí)間也比較短司光,對(duì)于一些概念也比較模糊,參考了很多人的學(xué)習(xí)筆記悉患,整理摘抄残家。。购撼。跪削。。迂求。...
    一杭o(jì)neline閱讀 1,353評(píng)論 0 0
  • 基本概念 離散型隨機(jī)變量 如果隨機(jī)變量X的所有取值都可以逐個(gè)列舉出來(lái)碾盐,則稱X為離散型隨機(jī)變量。相應(yīng)的概率分布有二項(xiàng)...
    諾馨閱讀 10,909評(píng)論 0 0
  • 神經(jīng)網(wǎng)絡(luò) 原理 《機(jī)器學(xué)習(xí)》周志華 14.1 隱馬爾可夫模型 機(jī)器學(xué)習(xí)最重要的任務(wù)揩局,是根據(jù)一些已觀察到的證據(jù)(例如...
    hxiaom閱讀 1,332評(píng)論 0 1