線性回歸是我們接觸得最早的一種回歸擂错,只是當(dāng)時(shí)他的名字不叫線性回歸,當(dāng)時(shí)可能說的是線性擬合樱蛤。
Y=aX+b+e
沒有看錯(cuò)马昙,就是這貨,一元線性回歸。
這里Y是連續(xù)變量刹悴,a和b是參數(shù)行楞,e是誤差,X是自變量土匀。
求解參數(shù)我們需要求得最小的e,這里我們采用的是最小化平方和誤差子房,(y實(shí)際值-y估計(jì)值)^2。
多元線性回歸如字面上的意思就轧,有多個(gè)自變量(至少2個(gè)自變量)证杭。
標(biāo)準(zhǔn)線性回歸公式:
敲黑板,劃重點(diǎn)
線性回歸123:
- 自變量和因變量之間要有線性關(guān)系才能用線性回歸
- 線性回歸對異常值非常敏感妒御,分析之前可以用箱線圖看看或用其他途徑剔除異常值解愤。
- 多元線性回歸存在多重共線性、自相關(guān)性和異方差性
- 多重共線性會(huì)增加系數(shù)估計(jì)值的方差乎莉,導(dǎo)致系數(shù)估計(jì)值不穩(wěn)定