這篇文章中绿渣,我將對概率圖模型做一個簡單的綜述,以使讀者能盡快了解其大概思想,而忽略其背后的具體的數(shù)學推到過程婚苹。主要是因為自己的論文使用條件隨機場的緣故,所以我就順便把概率圖模型理解下鸵膏。
概率與圖簡述
很多事情是具有不確定性的膊升。人們往往希望從不確定的東西里盡可能多的得到確定的知識、信息谭企。為了達到這一目的廓译,人們創(chuàng)建了概率理論來描述事物的不確定性。在這一基礎(chǔ)上债查,人們希望能夠通過已經(jīng)知道的知識來推測出未知的事情非区,無論是現(xiàn)在、過去盹廷、還是將來征绸。
涉及到概率的相關(guān)問題,無論有多復雜俄占,大抵都是基于以下兩個式子的——加法準則和乘法準則:
下面這張圖描述的就是一張圖管怠,它由帶有數(shù)字的圓圈和線段組成,我們將圓圈成為結(jié)點缸榄,線段成為邊渤弛,那么這個圖就可以表示為G(V, E), 其中V是頂點集合,E是邊的集合甚带。如果邊有方向她肯,那么G為有向圖,若沒有方向欲低,那么G為無向圖辕宏。具體的關(guān)于圖的知識,可以參考離散數(shù)學中圖論相關(guān)知識砾莱。
概率圖
前面簡單闡述了概率和圖論的知識瑞筐,下來說概率圖。
在數(shù)學上,有的概念本身開始不存在聚假,是由后來其它基本的概念組合演化而來的块蚌。所以概率圖也是屬于這么一種情況。概率圖本身開始并不存在膘格,它是圖論和概率論結(jié)合的產(chǎn)物峭范,它的開創(chuàng)者是鼎鼎大名的Judea Pearl”窦總體來說纱控,概率圖使得概率模型可視化了,這樣就使得一些變量之間的關(guān)系能夠很容易的從圖中觀測出來菜秦;同時有一些概率上的復雜的計算可以理解為圖上的信息傳遞甜害,這是我們就無需關(guān)注太多的復雜表達式了。最后一點是球昨,圖模型能夠用來設(shè)計新的模型尔店。所以多引入一數(shù)學工具是可以帶來很多便利的,我想這就是數(shù)學的作用吧主慰。
概率圖使用圖G(V, E)來表示隨機變量X的概率分布嚣州,其中X對應(yīng)著圖中的頂點集合V,變量之間的依賴關(guān)系可以由頂點之間的邊表示共螺,若兩個頂點間有一條路徑相通该肴,那么這兩個頂點所表示的變量之間就有依賴關(guān)系,否則互相獨立藐不。
方向的問題
既然圖分為有向和無向兩種沙庐,那么概率圖也是分為有向和無向兩種。有向圖的代表為貝葉斯網(wǎng)絡(luò)佳吞,無向圖的代表為馬兒科夫隨機場。
概率有向圖
舉個例子棉安,譬如有一組變量X1底扳,X2….XN,如果每個變量只與其前一個變量有關(guān)(1階馬爾可夫過程)贡耽,那么以下等式成立:
那么如何用圖來表示這一關(guān)系呢衷模?自然,我們要表示的是右邊的式子蒲赂,右邊的式子表示了變量之間的聯(lián)系阱冶。而當我們觀察條件概率時,我們發(fā)現(xiàn)我們必須要指明哪個是條件滥嘴。如果我們采用變量為節(jié)點木蹬,采用無向圖這種節(jié)點等價的關(guān)系顯然不能直接描述條件概率,因此這里選擇了有向圖來描述這一關(guān)系若皱,即表示為P(X2|X1)
那么此時上述的1階馬爾可夫過程表示為镊叁,注意其中沒有箭頭指向X1尘颓,故表示p(X1)意味著無條件。
有向圖模型晦譬,或稱貝葉斯網(wǎng)絡(luò)疤苹,描述的是條件概率,或許這就是其被稱為貝葉斯網(wǎng)絡(luò)的原因吧敛腌。
概率無相圖
對于概率無向圖卧土,主要區(qū)別與概率有向圖的是,其中的隨機變量滿足成對像樊,局部尤莺,全局馬兒科夫性,那么就稱此概率圖為概率無向圖模型凶硅,或馬兒科夫隨機場缝裁。
其實,我這里除了無向圖的馬兒科夫性的定義足绅,對于概率有向無向圖的區(qū)別捷绑,我還是不能分清,因為我認為有向圖之于無向圖氢妈,最大的區(qū)別在于方向性粹污,概率的方向性在于條件依賴。
參考文獻: