本文主要從數(shù)學原理的角度探討。從數(shù)學的角度理解桃序,線性模型的輸入是一組特征向量x裆站,輸出也是一組特征向量。
線性回歸可用于回歸和分類弹渔。
我們通過數(shù)據(jù)集D優(yōu)化線性回歸模型的目的是什么胳施?
目的是找到最優(yōu)的w和b
那么,如何找到最佳的w和b呢肢专?通過損失函數(shù)L(w,b)
在數(shù)學的角度巾乳,線性回歸和邏
1.線性回歸
2.局部加權線性回歸
局部加權線性回歸和傳統(tǒng)的先行揮別,區(qū)別體現(xiàn)在損失函數(shù)上鸟召。我們先從數(shù)學表達開始:
局部加權線性回歸損失函數(shù)是:
再從直觀上理解胆绊,再求解新數(shù)據(jù)的預測輸出時,訓練數(shù)據(jù)離測試數(shù)據(jù)越近欧募,他們對權重的影響越大压状,反之越小。