1. 分布及其因子操作
1.1 聯(lián)合分布
以學(xué)生成績(jī)?yōu)槔汗灿幸韵聨讉€(gè)變量:Intelligence()驮樊、Diffculty(
)亲桥、Grade(
)。
notation
Joint Distribution
這三種變量的組合共有種缴守。
1.2 聯(lián)合分布與條件分布(Condition Probability Distribution, CPD)的一些計(jì)算
1. Reduction
設(shè)置篩選條件:以選取成績(jī)?yōu)锳的人為例葬毫,把所有得A的人選出來(lái)镇辉。
Conditioning
2. Renormalization
重新標(biāo)準(zhǔn)化,將篩選出來(lái)的值除以其概率和贴捡,保證標(biāo)準(zhǔn)化后的概率和為1忽肛。Renormalization
3. Marginalization
計(jì)算邊緣概率Marginalization
2. Factors
2.1 Factor定義
factory 可以理解為一種函數(shù)或者表格。其目的是將變量映射到某一個(gè)實(shí)數(shù)集烂斋。
例如:
- 在圖Joint Distribution中屹逛,
就是一種factor。對(duì)于其中的每一行汛骂,都有一個(gè)對(duì)應(yīng)的實(shí)數(shù)罕模。
- 在圖normalization中,
有是一種factor帘瞭,沒(méi)有
的原因是其他兩個(gè)變量與變量
沒(méi)有關(guān)系淑掌,
在其中視為常量即可。
2.2 Factor的運(yùn)算
product
類似于數(shù)據(jù)庫(kù)中的join關(guān)鍵字連接蝶念。
product
add
對(duì)應(yīng)1.2 節(jié)中的Marginalization抛腕。
Marginalization
Reduction
對(duì)應(yīng)1.2 節(jié)中的Reduction。
Reduction
2.3. 符號(hào)抽象
為了方便媒殉,我們通常將包括但不限于上述的操作符抽象為:
image.png
4. 參考來(lái)源
- 斯坦福公開(kāi)課——Probabilistic Graphical Models