多項變量(Multinomial Variables)
二元變量是用來描述只有兩種可能值的量咐汞，而當(dāng)我們遇到一種離散變量踢关，其可以有K種可能的狀態(tài)。我們可以使用一個K維的向量x表示煞赢，其中只有一維xk為1扼睬，其余為0。對應(yīng)于xk=1的參數(shù)為μk蹋辅，表示xk發(fā)生時的概率钱贯。其分布可以看做是伯努利分布的一般化。
現(xiàn)在我們考慮N個獨立的觀測D={x1,...,xN}侦另，得到其似然函數(shù)秩命。如圖：
多項式分布(The Multinomial distribution)
現(xiàn)在我們考慮k個變量的聯(lián)合分布尉共，依賴于參數(shù)μ和N次觀測，這就構(gòu)成了多項式分布弃锐。
狄利克雷分布(The DIrichlet distribution)
為了方便起見袄友，如果先驗分布和似然函數(shù)有類似的結(jié)構(gòu)，這樣得到的后驗分布就只是指數(shù)冪的參數(shù)的相加霹菊，但形式?jīng)]有太大變化剧蚣，這樣就使得先驗和后驗分布有相同的形式，簡化了計算旋廷。
下面是三個變量的狄利克雷分布的圖形鸠按，其中左圖{αk}=0.1，中圖{αk}=1饶碘，右圖{αk}=10：
最大后驗估計
轉(zhuǎn)載請注明作者Jason Ding及其出處
Github主頁(http://jasonding1354.github.io/)
CSDN博客(http://blog.csdn.net/jasonding1354)
簡書主頁(http://www.reibang.com/users/2bd9b48f6ea8/latest_articles)
