參考文獻(xiàn)
1 文墨
https://www.cnblogs.com/sparkwen/p/3441197.html
2 Andrew NG. Logistic Regression Classification
邏輯回歸(Logistic Regression, LR)模型其實(shí)僅在線性回歸的基礎(chǔ)上谤草,套用了一個(gè)邏輯函數(shù),但也就由于這個(gè)邏輯函數(shù),使得邏輯回歸模型成為了機(jī)器學(xué)習(xí)領(lǐng)域一顆耀眼的明星佛呻,更是計(jì)算廣告學(xué)的核心。
LR邏輯函數(shù)
邏輯函數(shù)
屏幕快照 2018-01-31 上午9.42.00.png
LR代價(jià)函數(shù):
對(duì)于訓(xùn)練數(shù)據(jù)集病线,特征數(shù)據(jù)x={x1, x2, … , xm}和對(duì)應(yīng)的分類(lèi)數(shù)據(jù)y={y1, y2, … , ym}吓著。構(gòu)建邏輯回歸模型f(θ)鲤嫡,最典型的構(gòu)建方法便是應(yīng)用極大似然估計(jì)。首先绑莺,對(duì)于單個(gè)樣本暖眼,其后驗(yàn)概率為:
屏幕快照 2018-01-31 上午9.53.16.png
極大似然函數(shù)為:
屏幕快照 2018-01-31 上午9.53.50.png
log似然:
屏幕快照 2018-01-31 上午9.54.12.png
屏幕快照 2018-01-31 上午9.50.20.png
梯度下降
求邏輯回歸模型f(θ),等價(jià)于:
屏幕快照 2018-01-31 上午10.20.30.png
采用梯度下降法:
屏幕快照 2018-01-31 上午10.21.17.png
迭代θ至收斂即可:
屏幕快照 2018-01-31 上午10.22.09.png
將分類(lèi)器用于分類(lèi)多個(gè)目標(biāo)
生成多個(gè)分類(lèi)器纺裁,每個(gè)分類(lèi)器為一個(gè)二元分類(lèi)器诫肠,具體看圖
屏幕快照 2018-01-31 上午10.51.41.png