一、單成分單變量高斯模型
圖1.1 單成分單變量高斯模型1
圖1.2 單成分單變量高斯模型2
圖1.3 單成分單變量高斯模型3
二幽歼、單成分多變量高斯模型
圖2.1 單成分多變量高斯模型1
若協(xié)方差矩陣為對角矩陣且對角線上值相等朵锣,兩變量高斯分布的等值線為圓形。
圖2.2 單成分多變量高斯模型2
若協(xié)方差矩陣為對角矩陣且對角線上值不等甸私,兩變量高斯分布的等值線為橢圓形诚些。長軸平行于取較大值的變量所在的軸,短軸平行于取較小值的變量所在的軸皇型。
圖2.3 單成分多變量高斯模型3
若協(xié)方差矩陣為非對角矩陣诬烹,表明變量之間存在相關(guān)性,相關(guān)系數(shù)取-1到1之間的非0值弃鸦。
圖2.4 單成分多變量高斯模型4
上圖中兩變量高斯分布的等值線長軸平行于這條直線绞吁。
圖2.5 單成分多變量高斯模型5
三、多成分多變量高斯混合模型
基于先驗(yàn)概率選擇成分后唬格,基于
生成數(shù)據(jù)家破。
圖3.1 多成分多變量高斯混合模型1
為減少參數(shù)數(shù)目颜说,常假設(shè)協(xié)方差矩陣為對角矩陣且對角線取值相等。
圖3.2 多成分多變量高斯混合模型2
圖3.3 多成分多變量高斯混合模型3
如果哪個(gè)成分生成哪個(gè)數(shù)據(jù)的對應(yīng)關(guān)系已知员舵,即強(qiáng)制對齊脑沿,這時(shí)使用MLE進(jìn)行參數(shù)估計(jì)
圖3.4 多成分多變量高斯混合模型4
通常情況下,這種生成數(shù)據(jù)的對應(yīng)關(guān)系是未知的马僻,即存在隱變量,這時(shí)使用EM替代MLE進(jìn)行參數(shù)估計(jì)注服。
圖3.5 多成分多變量高斯混合模型5
E步其實(shí)計(jì)算的是韭邓,即軟分配。
強(qiáng)制對齊下溶弟,將分配給其中的一個(gè)成分女淑;
軟分配下,將以一定的概率值分配給每個(gè)成分辜御。
圖3.6 多成分多變量高斯混合模型6
用GMM對數(shù)據(jù)進(jìn)行擬合比用單個(gè)Gaussian擬合數(shù)據(jù)更加準(zhǔn)確鸭你。
圖3.7 多成分多變量高斯混合模型7
圖3.8 多成分多變量高斯混合模型8
圖3.9 多成分多變量高斯混合模型9