在機(jī)器學(xué)習(xí)中意述,線性回歸與邏輯回歸的形式簡單锐极,卻蘊(yùn)含著一些重要思想;邏輯回歸模型也是線性回歸模型的非線性高級映射煤痕,具有便于求導(dǎo)等較好的數(shù)學(xué)特性阿宅,也可作為神經(jīng)網(wǎng)絡(luò)的激活函數(shù)來使用,如圖1桥滨。
假設(shè)通過d緯的數(shù)據(jù)集可以訓(xùn)練出相應(yīng)的線性回歸模型進(jìn)行相應(yīng)的預(yù)測等功能窝爪,但如果想通過此數(shù)據(jù)集進(jìn)行二分類弛车,理想的函數(shù)為單位階躍函數(shù)如圖2所示
,此類分段函數(shù)擁有不易微分等較差的處理性,故可構(gòu)造成如圖3所示的sigmoid函數(shù)
蒲每,此類函數(shù)便于數(shù)學(xué)處理帅韧,且連續(xù)可微的特點(diǎn),在靠近0的位置變陡峭啃勉,兩個(gè)正無窮大和負(fù)無窮大分別取1跟0的值忽舟,這也符合靠近回歸曲線的輸入概率偏向0.5,正遠(yuǎn)離回歸曲線的輸入偏向于1淮阐,相反偏向于0的實(shí)際特點(diǎn)(二分類的輸入點(diǎn)到回歸曲線的幾何距離為L=W×X+b)叮阅,如圖4所示
。二分類可以據(jù)此推廣到多分類的概率預(yù)測泣特,前提為各個(gè)分類事件之間相互獨(dú)立浩姥,方法為將感興趣的類別設(shè)置為1類,其余所有類之和設(shè)置為0類既可~
以上就是個(gè)人對于邏輯回歸的理解状您,希望大家多多批評指正勒叠!