如果回歸模型存在非線性,可能不方便使用OLS,這時采用最大似然估計法(MLE)或非線性最小二乘法(NLS)
6.1 最大似然估計法的定義
- 似然函數(shù)(likelihood function)的公式:
含義:抽樣之前是隨機向量忆某,抽樣之后有了特定的樣本值洗显,可以將樣本的聯(lián)合密度函數(shù)看做在給定的情況下爬橡,未知參數(shù)的函數(shù)忘闻,即似然函數(shù)解決的問題是:我們抽到的這個樣本最有可能來自參數(shù)為什么值的總體呢?或者說我們要找到一個參數(shù)酿炸,使得我們觀測到這個樣本的概率最大瘫絮。
備注:一般為了計算方便,對似然函數(shù)做取對數(shù)填硕,將乘積形式轉化為和的形式的處理 - 似然函數(shù)的得分函數(shù)
在數(shù)學上檀何,常把最大似然估計量寫為:
求一階條件,有: