1. 實(shí)際例子
1)有兩堆球骄崩,其中A堆有99個(gè)白球和1個(gè)黑球聘鳞,B堆有99個(gè)黑球和1個(gè)白球薄辅。假如隨便摸一個(gè)球,發(fā)現(xiàn)是黑球抠璃,那么這個(gè)球更有可能來(lái)自于哪一堆站楚?
2)獵人和徒弟去打獵,打倒了一只兔子搏嗡,更可能是誰(shuí)打中的窿春?
3)一堆球,里邊有黑白兩色的球采盒,其中一種顏色的有90個(gè)旧乞,另一種顏色的有10個(gè)。如果摸出一個(gè)球是黑色的磅氨,那么里邊哪種顏色有90個(gè)尺栖?
第一個(gè)肯定覺(jué)得是來(lái)自B堆,第二個(gè)中更可能是師傅烦租,第三個(gè)里邊黑球有90個(gè)延赌。我們的估計(jì)基于,概率最高的事情叉橱,更可能發(fā)生挫以。一次實(shí)驗(yàn)就出現(xiàn)的事件,這件事有較大的概率發(fā)生窃祝。
2. 數(shù)學(xué)表述
最大似然估計(jì)這個(gè)名字是由高斯先提出掐松,F(xiàn)isher后來(lái)重新提出并證明了一些特征。這是統(tǒng)計(jì)學(xué)中的常用方法锌杀,機(jī)器學(xué)習(xí)中的邏輯回歸中也是基于它計(jì)算的損失函數(shù)甩栈。
當(dāng)樣本分布是離散型:
當(dāng)樣本分布為連續(xù)型時(shí):
一般情況下求估計(jì)值的步驟:
1)構(gòu)造似然函數(shù)??(??)
2)取對(duì)數(shù):??????(??) 似然函數(shù)是連乘,不好求導(dǎo)糕再;取對(duì)數(shù)后可化為加法量没,求導(dǎo)方便。
3)求導(dǎo)突想,計(jì)算極值
4)解方程殴蹄,得到??
如果似然方程無(wú)解,或者似然函數(shù)不可導(dǎo)猾担,則需要考慮其他方法袭灯。
3. 計(jì)算實(shí)例
(此題來(lái)自于https://wenku.baidu.com/view/0d9af6aa172ded630b1cb69a.html)
參考:
1)https://wenku.baidu.com/view/0d9af6aa172ded630b1cb69a.html
2)https://medium.com/@rrfd/what-is-maximum-likelihood-estimation-examples-in-python-791153818030
歡迎關(guān)注!