轉(zhuǎn)載自:http://blog.csdn.net/chlele0105/article/details/14897761
條件隨機(jī)場(chǎng)模型是Lafferty于2001年对粪,在最大熵模型和隱馬爾科夫模型的基礎(chǔ)上波势,提出的一種判別式概率無(wú)向圖學(xué)習(xí)模型授舟,是一種用于標(biāo)注和切分有序數(shù)據(jù)的條件概率模型信峻。CRF最早是針對(duì)序列數(shù)據(jù)分析提出的砌庄,現(xiàn)已成功應(yīng)用于自然語(yǔ)言處理(NLP)封拧、生物信息學(xué)渔扎、機(jī)器視覺及網(wǎng)絡(luò)智能等領(lǐng)域硫狞。
**1. 隨機(jī)場(chǎng) **
簡(jiǎn)單地講,隨機(jī)場(chǎng)可以看成是一組隨機(jī)變量的集合(這組隨機(jī)變量對(duì)應(yīng)同一個(gè)樣本空間)晃痴。當(dāng)給每一個(gè)位置按照某種分布隨機(jī)賦予一個(gè)值之后残吩,其全體就叫做隨機(jī)場(chǎng)。當(dāng)然倘核,這些隨機(jī)變量之間可能有依賴關(guān)系泣侮,一般來(lái)說,也只有當(dāng)這些變量之間有依賴關(guān)系的時(shí)候紧唱,我們將其單獨(dú)拿出來(lái)看成一個(gè)隨機(jī)場(chǎng)才有實(shí)際意義活尊。
2. 馬爾科夫隨機(jī)場(chǎng)(MRF)
馬爾科夫隨機(jī)場(chǎng)對(duì)應(yīng)一個(gè)無(wú)向圖隶校,這個(gè)無(wú)向圖上的每一個(gè)節(jié)點(diǎn)對(duì)應(yīng)一個(gè)隨機(jī)變量,節(jié)點(diǎn)之間的邊表示節(jié)點(diǎn)對(duì)應(yīng)的隨機(jī)變量之間有概率依賴關(guān)系蛹锰。因此深胳,MRF的結(jié)構(gòu)本質(zhì)上反應(yīng)了我們的先驗(yàn)知識(shí)——哪些變量之間有依賴關(guān)系需要考慮,而哪些可以忽略铜犬。
3.馬爾科夫性質(zhì)
離當(dāng)前狀態(tài)越遠(yuǎn)(這里的距離需要自己定義)的因素對(duì)當(dāng)前狀態(tài)的影響越小舞终。在馬爾科夫隨機(jī)場(chǎng)中,我們認(rèn)為隨機(jī)變量的概率分布只和它的鄰居節(jié)點(diǎn)有關(guān)癣猾,而與其他節(jié)點(diǎn)無(wú)關(guān)敛劝,這正是馬爾科夫性質(zhì)在馬爾科夫隨機(jī)場(chǎng)中的體現(xiàn)。
4.馬爾科夫隨機(jī)場(chǎng)(MRF)———>條件隨機(jī)場(chǎng)(CRF)
** ** 如果給定的MRF中每個(gè)隨機(jī)變量下面還有觀察值纷宇,我們要確定的是給定觀察集合下夸盟,這個(gè)MRF的分布,也就是條件分布呐粘,那么這個(gè)MRF就稱為CRF危虱。它的條件分布形式完全類似于MRF的分布形式计济,只不過多了一個(gè)觀察集合x。因此我們可以認(rèn)為CRF本質(zhì)上是給定了觀察值(observations)集合的MRF胁住。
5.條件隨機(jī)場(chǎng)(CRF)
CRF代碼資源:
- Matlab版的UGM:http://www.di.ens.fr/~mschmidt/Software/UGM.html五芝,作者法國(guó)的痘儡,寫了很多實(shí)用的工具箱。
- C++版的gco-v3.0:http://vision.csd.uwo.ca/code/枢步,用于求解crf沉删,作者Olga Veksler,專門研究Graph cut算法醉途。
- Oxford Brookes的ALE: http://cms.brookes.ac.uk/staff/PhilipTorr/ale.htm矾瑰,作者Lubor Ladicky,寫了5年寫出來(lái)的一套程序隘擎,他在博士期間的所有工作幾乎在這套代碼里了殴穴,純c++的,代碼寫得很規(guī)范货葬,能學(xué)到不少c++編程的東西采幌,沒用OpenCV,需要耐心仔細(xì)地結(jié)合論文看才能看懂震桶。
- ANU的Stephen Gould開發(fā)的c++庫(kù)Darwin:http://drwn.anu.edu.au/休傍,能在windows下用,但更適合Linux蹲姐,工具箱里的一些應(yīng)用也包括了他博士時(shí)做的工作磨取,仔細(xì)研究這個(gè)庫(kù)可以學(xué)到不少先進(jìn)的東西人柿。
另外,如果要研究高階的CRF忙厌,可以參見這三個(gè)人的主頁(yè):
- Pushmeet Kohli顷扩,這是個(gè)專家級(jí)的,2007年Oxford Brookes的Phd畢業(yè)慰毅,其間就研究這個(gè)隘截,現(xiàn)在在MSRC:
http://research.microsoft.com/en-us/um/people/pkohli/ - Lubor Ladicky,繼續(xù)了Kohli的工作汹胃,2011年Oxford Brookes的Phd畢業(yè)婶芭,現(xiàn)在Oxford,主要用CRF做場(chǎng)景理解:
http://www.robots.ox.ac.uk/~lubor/
-3. Stephen Gould着饥,2010年Stanford的Phd畢業(yè)犀农,現(xiàn)在ANU,也用高階CRF做場(chǎng)景理解宰掉,還開發(fā)了一套工具箱(Darwin)呵哨,比較適合在Linux下用。http://users.cecs.anu.edu.au/~sgould/index.html