邏輯回歸也是機器學(xué)習(xí)領(lǐng)域最基礎(chǔ)的模型之一瓦宜,第一次見到邏輯回歸似乎覺得與昨天推的線性回歸相似,但是兩者的本質(zhì)是有很大的差別的亡电,雖說叫邏輯回歸疚顷,但是主要解決的是確是分類問題(二分類問題)。
在邏輯回歸中因變量的取值是二元分布峦朗,模型學(xué)習(xí)得出的是E[y|x;theat]建丧,最后得到的因變量是一個期望,最終通過期望來進行預(yù)測分類波势。
求解邏輯回歸的過程大致可以分為三步:
- 分析數(shù)據(jù)集翎朱,找到合適的預(yù)測分類函數(shù)
- 構(gòu)造損失函數(shù)
- 找到損失函數(shù)的最小值
在二分類問題中,通常用sigmoid作為預(yù)測分類函數(shù)尺铣,sigmoid函數(shù)公式如圖一所示
圖二是sigmoid函數(shù)的圖像拴曲,從圖中我們可以看到,sigmoid函數(shù)圖像是一條取值介于0到1之間的S型曲線凛忿,當(dāng)x>0時澈灼,概率P>0.5,當(dāng)x<0時,概率P<0.5叁熔,因為sigmoid函數(shù)的這種屬性委乌,所以常用來作為二分類問題的預(yù)測分類函數(shù)。