一.線性回歸
線性回歸是萬物之源膀估,其基本思想貫穿了很多算法的推導(dǎo)中谎亩。
線性回歸的模型是:
? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ??(1)
其中予借,表示誤差。根據(jù)中心極限定理昌跌,誤差服從正態(tài)分布仰禀,其概率分布為:
http://www.reibang.com/p/6c9af5a1386b
用梯度下降法,更新的函數(shù)為:
參考博客:
http://www.reibang.com/p/6c9af5a1386b
二.FM
https://blog.csdn.net/u013749251/article/details/80906213
1.當(dāng)x為0時蚕愤,偏倒數(shù)為0答恶,梯度無法更新,即無法求出參數(shù)值萍诱。
2.若P為滿秩矩陣悬嗓,則P可分解為 P=AB的形式。(線性代數(shù))
http://www.reibang.com/p/152ae633fb00
三FM模型代碼
http://www.reibang.com/p/556997127319"