最大似然估計與最小二乘回歸兩種方式本質(zhì)都是對未知事物做出的判斷肌稻,目的相同,從以下各方面總結(jié)復(fù)習(xí)一下異同泡孩。
一、最小二乘回歸直爽寺谤,目標(biāo)是把觀察到的誤差平方和減到最小仑鸥,哪個模型做到了吮播,我們就認(rèn)為它的內(nèi)容(回歸系數(shù))與總體參數(shù)相近。最大似然估計繞彎子眼俊,想把觀察到的樣本統(tǒng)計值(交叉表觀察值或者觀察值背后的概率)出現(xiàn)的概率變到最大意狠,哪個模型預(yù)測出的似然性最大,我們就認(rèn)為它的內(nèi)容(回歸系數(shù))與總體參數(shù)相近疮胖。
二摄职、最小二乘回歸是量體裁衣,依據(jù)樣本猜總體获列,看哪條線可以把平均值造成的誤差變最小。最大似然估計是先閉門造車蛔垢,大膽假設(shè)根據(jù)兩次零假設(shè)击孩,然后消息求證不停調(diào)整與數(shù)據(jù)匹配。
三鹏漆、解釋最大似然估計(對數(shù)回歸)與最小二乘的結(jié)果相同巩梢,要注意:1、自變項與因變項的測量層級與測量單位艺玲;2括蝠、回歸系數(shù)是否顯著;3饭聚、回歸系數(shù)的正負(fù)與絕對值大小忌警。但注意對數(shù)回歸自變項與因變項相應(yīng)變化不是線性的(自變項一單位變化帶來的因變項變化相同),自變項引起因變項的變化是“0”不發(fā)生—“1”絕對發(fā)生之間的概率變化秒梳,是一條曲線法绵。
四、兩者適用條件不同酪碘,最大似然估計適用于已知結(jié)果對發(fā)生環(huán)境的還原朋譬,用于非連續(xù)數(shù)據(jù)(如男女),結(jié)果是概率值兴垦。最小二乘回歸是用已知樣本對未來估計徙赢,用于連續(xù)數(shù)據(jù)(如身高)結(jié)果為相應(yīng)數(shù)值。
最終最大似然估計是找最高點的盲人游戲探越,只能一步一步試驗狡赐,有可能覺得周圍都比現(xiàn)在低,但是遠(yuǎn)方有個山頭比現(xiàn)在站點高扶关,可是我們看不到阴汇。我們只認(rèn)定腳下就是最高點,我們完全不知道真相节槐。