LR

概念

邏輯回歸是一個分類算法。
假設(shè)因變量Y服從伯努利分布岩饼，假設(shè)正樣本的概率為 $P(x;\theta) = \frac{1}{1+e^{-\theta ^T x}}=h_{\theta}(x)$ 荚虚，用極大似然函數(shù)作為目標(biāo)函數(shù)，運用梯度下降求解參數(shù)籍茧，達(dá)到二分類的目的版述。

LR的目標(biāo)函數(shù)

似然函數(shù)為：
$\prod_{i=1}^{n}h_{\theta}(x^{(i)})^{y^{(i)}}(1-h_{\theta}(x^{(i)}))^{1-y^{(i)}}$
為了方便求解，使用對數(shù)似然函數(shù)：
$J(\theta) = \sum_{i=1}^{n}[y^{(i)}\log h_{\theta}(x^{(i)}) + (1-y^{(i)}) \log (1-h_{\theta}(x^{(i)})]$
極大化似然函數(shù)就相當(dāng)于極小化負(fù)似然函數(shù)
$max\ J(\theta) = min\ -J(\theta)$
目標(biāo)函數(shù)變?yōu)椋?br> $J(\theta) =- \sum_{i=1}^{n}[y^{(i)}\log h_{\theta}(x^{(i)}) + (1-y^{(i)}) \log (1-h_{\theta}(x^{(i)})]$
這樣就可以用梯度下降法求解了

梯度下降更新參數(shù)

鏈?zhǔn)椒▌t求偏導(dǎo)
$\begin{align*} \nabla \theta_j &= \frac{\partial J}{\partial \theta_j} \\ &= \frac{\partial J}{\partial h} \frac{\partial h}{\partial (\theta^Tx)} \frac{\partial (\theta^Tx)}{\partial \theta_j} \\ & =- (\frac{y}{h}-\frac{1-y}{1-h})(h(1-h)) x_j\\ & = (h-y)x_j \end{align*}$
竟然如此簡單Ｄ搿？饰觥！

下面詳細(xì)解釋一下：
第二部分 $\frac{\partial h}{\partial (\theta^Tx)}$ 相當(dāng)于對sigmoid函數(shù)求導(dǎo)
另 $z=\theta^Tx$ 吮龄，則 $h=\frac{1}{1+e^{-z}}$ 即：
$\begin{align*} \frac{\partial h}{\partial (\theta^Tx)}&=\frac{\partial}{\partial z}\frac{1}{1+e^{-z}} \\ &= \frac{e^{-z}}{(1+e^{-z})^2}\\ &= \frac{1}{1+e^{-z}}(1-\frac{1}{1+e^{-z}}) \\ &= h(1-h) \end{align*}$
第三部分 $\frac{\partial (\theta^Tx)}{\partial \theta_j}=\frac{\partial (\theta_1x_1+\theta_2x_2+\dots+\theta_nx_n)}{\partial \theta_j}=x_j$

最后用梯度下降更新參數(shù)俭茧，其中 $\alpha$ 為步長
$\theta_j \leftarrow \theta_j - \alpha \sum_{i=1}^{m}(h_{\theta}(x^{(i)})-y^{(i)})x_j^{(i)}$

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者

人面猴
序言：七十年代末，一起剝皮案震驚了整個濱河市漓帚，隨后出現(xiàn)的幾起案子母债，更是在濱河造成了極大的恐慌，老刑警劉巖尝抖，帶你破解...
沈念sama閱讀 219,427評論 6贊 508
死咒
序言：濱河連續(xù)發(fā)生了三起死亡事件毡们，死亡現(xiàn)場離奇詭異，居然都是意外死亡昧辽，警方通過查閱死者的電腦和手機衙熔，發(fā)現(xiàn)死者居然都...
沈念sama閱讀 93,551評論 3贊 395
救了他兩次的神仙讓他今天三更去死
文/潘曉璐我一進(jìn)店門，熙熙樓的掌柜王于貴愁眉苦臉地迎上來搅荞，“玉大人红氯，你說我怎么就攤上這事」就矗” “怎么了痢甘？”我有些...
開封第一講書人閱讀 165,747評論 0贊 356
道士緝兇錄：失蹤的賣姜人
文/不壞的土叔我叫張陵，是天一觀的道長暇检。經(jīng)常有香客問我产阱，道長，這世上最難降的妖魔是什么块仆？我笑而不...
開封第一講書人閱讀 58,939評論 1贊 295
?港島之戀（遺憾婚禮）
正文為了忘掉前任构蹬，我火速辦了婚禮，結(jié)果婚禮上悔据，老公的妹妹穿的比我還像新娘庄敛。我一直安慰自己，他們只是感情好科汗，可當(dāng)我...
茶點故事閱讀 67,955評論 6贊 392
惡毒庶女頂嫁案：這布局不是一般人想出來的
文/花漫我一把揭開白布藻烤。她就那樣靜靜地躺著，像睡著了一般头滔。火紅的嫁衣襯著肌膚如雪怖亭。梳的紋絲不亂的頭發(fā)上，一...
開封第一講書人閱讀 51,737評論 1贊 305
城市分裂傳說
那天坤检，我揣著相機與錄音兴猩，去河邊找鬼。笑死早歇，一個胖子當(dāng)著我的面吹牛倾芝，可吹牛的內(nèi)容都是我干的。我是一名探鬼主播箭跳，決...
沈念sama閱讀 40,448評論 3贊 420
雙鴛鴦連環(huán)套：你想象不到人心有多黑
文/蒼蘭香墨我猛地睜開眼晨另，長吁一口氣：“原來是場噩夢啊……” “哼！你這毒婦竟也來了谱姓？” 一聲冷哼從身側(cè)響起借尿，我...
開封第一講書人閱讀 39,352評論 0贊 276
萬榮殺人案實錄
序言：老撾萬榮一對情侶失蹤，失蹤者是張志新（化名）和其女友劉穎屉来，沒想到半個月后路翻，有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體，經(jīng)...
沈念sama閱讀 45,834評論 1贊 317
?護林員之死
正文獨居荒郊野嶺守林人離奇死亡奶躯，尸身上長有42處帶血的膿包…… 初始之章·張勛以下內(nèi)容為張勛視角年9月15日...
茶點故事閱讀 37,992評論 3贊 338
?白月光啟示錄
正文我和宋清朗相戀三年帚桩，在試婚紗的時候發(fā)現(xiàn)自己被綠了。大學(xué)時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片嘹黔。...
茶點故事閱讀 40,133評論 1贊 351
活死人
序言：一個原本活蹦亂跳的男人離奇死亡账嚎，死狀恐怖，靈堂內(nèi)的尸體忽然破棺而出儡蔓，到底是詐尸還是另有隱情郭蕉，我是刑警寧澤，帶...
沈念sama閱讀 35,815評論 5贊 346
?日本核電站爆炸內(nèi)幕
正文年R本政府宣布喂江，位于F島的核電站召锈，受9級特大地震影響，放射性物質(zhì)發(fā)生泄漏获询。R本人自食惡果不足惜涨岁，卻給世界環(huán)境...
茶點故事閱讀 41,477評論 3贊 331
男人毒藥：我在死后第九天來索命
文/蒙蒙一拐袜、第九天我趴在偏房一處隱蔽的房頂上張望。院中可真熱鬧梢薪，春花似錦蹬铺、人聲如沸。這莊子的主人今日做“春日...
開封第一講書人閱讀 32,022評論 0贊 22
一樁弒父案甜攀，背后竟有這般陰謀
文/蒼蘭香墨我抬頭看了看天上的太陽。三九已至琐馆，卻和暖如春规阀，著一層夾襖步出監(jiān)牢的瞬間，已是汗流浹背瘦麸。一陣腳步聲響...
開封第一講書人閱讀 33,147評論 1贊 272
情欲美人皮
我被黑心中介騙來泰國打工谁撼，沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留，地道東北人瞎暑。一個月前我還...
沈念sama閱讀 48,398評論 3贊 373
代替公主和親
正文我出身青樓彤敛，卻偏偏與公主長得像，于是被迫代替她去往敵國和親了赌。傳聞我的和親對象是個殘疾皇子墨榄，可洞房花燭夜當(dāng)晚...
茶點故事閱讀 45,077評論 2贊 355

LR

概念

LR的目標(biāo)函數(shù)

梯度下降更新參數(shù)

推薦閱讀更多精彩內(nèi)容