概率圖模型是一類用圖表達(dá)變量相關(guān)關(guān)系的概率模型
隱馬爾科夫模型HMM
1. 基本概念
- 隱馬爾科夫模型中的變量分為兩組:狀態(tài)變量和觀測變量
- 狀態(tài)變量的所有取值組成狀態(tài)集合
- 觀測變量的所有取值組成觀測集合
2. 模型定義
- 隱馬爾科夫模型結(jié)構(gòu)圖:
圖1. 隱馬爾科夫模型圖
圖中yi為狀態(tài)變量是有序的力试,又稱為狀態(tài)序列,xi為觀測變量,又稱為觀測序列洲炊。 - 狀態(tài)轉(zhuǎn)移:yi到y(tǒng)i+1稱為狀態(tài)轉(zhuǎn)移
- 通過指定狀態(tài)集合,觀測集合,狀態(tài)轉(zhuǎn)移概率矩陣,觀測概率矩陣唠梨,初始狀態(tài)概率向量這五個元素就可以確定一個隱馬爾科夫模型。
-
通常用狀態(tài)轉(zhuǎn)移概率矩陣A侥啤,觀測概率矩陣B当叭,初始狀態(tài)概率向量π茬故,來指代隱馬爾科夫模型,用數(shù)學(xué)語言表達(dá)如下圖:
圖2. 隱馬爾科夫模型的數(shù)學(xué)表達(dá)式 -
模型中所有變量的聯(lián)合概率為:
圖3. 所有變量的聯(lián)合概率
說明:該公式成立有兩個假設(shè)
(1)齊次隱馬爾科夫假設(shè):任意時刻的狀態(tài)只依賴與前一時刻的狀態(tài)蚁鳖,與其他時刻的狀態(tài)和觀測無關(guān)磺芭。
(2)觀測獨(dú)立性假設(shè):任意時刻的觀測只依賴與該時刻的狀態(tài),與其他觀測與狀態(tài)無關(guān)醉箕。
3. 三個基本問題
(1)概率計算問題
圖4. 概率計算問題
- 所謂概率計算問題就是根據(jù)以往的觀測序列x徘跪,推測當(dāng)前最有可能的觀測值xn
- 解決該問題常用的算法為前向和后向算法
- TODO
(2)學(xué)習(xí)問題
圖5. 學(xué)習(xí)問題
- 學(xué)習(xí)問題就是根據(jù)樣本學(xué)得最優(yōu)的模型參數(shù)
- 該問題求解算法:監(jiān)督學(xué)習(xí)算法,非監(jiān)督學(xué)習(xí)算法
- TODO
(3)預(yù)測問題
圖6. 預(yù)測問題
- 根據(jù)觀測序列琅攘,推斷最有可能的狀態(tài)序列
- 求解該問題常用的算法:近似算法,維特比算法
- TODO