梯度下降法后知后覺

  1. y值沒有對應(yīng)的y0蒲拉、y1....


    Paste_Image.png
Paste_Image.png
  1. 我對利用梯度下降法theta進(jìn)行更新的理解:如果用向量進(jìn)行表示的話應(yīng)該是theta = theta - alpha/m((Xtheta - y)'X)' (1)
    theta = [theta0;theta1;...]
    X也是訓(xùn)練數(shù)據(jù)矩陣,y是結(jié)果矩陣

Paste_Image.png
可以表示為(Xtheta - y)
即得到mx1矩陣;
而后下圖紅框中的值表示成向量的話就,即X(:,1),這個(gè)表示對應(yīng)的m個(gè)x0值蜡秽、X(:,2)缆镣,這個(gè)表示對應(yīng)的m個(gè)x1值芽突、X(:,3)董瞻,這個(gè)表示對應(yīng)的m個(gè)x2值 ,這三個(gè)矩陣都是mx1的矩陣寞蚌,而 (X
theta - y)'
X(:,1)相當(dāng)于
Paste_Image.png
最終得到的是一個(gè)數(shù)值钠糊。
注意:matlab中矩陣下標(biāo)是從1開始的睬澡,那么theta0 、theta1眠蚂、theta2同時(shí)更新的話,即可表示為矩陣theta的更新,如上式(1)所示斗躏,各個(gè)theta值的更新是通過迭代次數(shù)不同而不斷發(fā)生變化逝慧,直至達(dá)到設(shè)定好的迭代次數(shù)或者 J 的值達(dá)到某一小的程度。
Paste_Image.png

Paste_Image.png

但是啄糙!卻一定不能這樣寫:


Paste_Image.png

因?yàn)楫?dāng)更新完theta(1)后笛臣,式子2紅框中的theta是已經(jīng)更新了theta(1)而theta(2)并沒有變,所以theta(2)相當(dāng)于是在theta(1)的基礎(chǔ)上更新的隧饼,故并不是沒有同時(shí)更新theta(1)沈堡、theta(2)

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末,一起剝皮案震驚了整個(gè)濱河市燕雁,隨后出現(xiàn)的幾起案子诞丽,更是在濱河造成了極大的恐慌鲸拥,老刑警劉巖,帶你破解...
    沈念sama閱讀 219,270評論 6 508
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件僧免,死亡現(xiàn)場離奇詭異刑赶,居然都是意外死亡,警方通過查閱死者的電腦和手機(jī)懂衩,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 93,489評論 3 395
  • 文/潘曉璐 我一進(jìn)店門撞叨,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人浊洞,你說我怎么就攤上這事牵敷。” “怎么了法希?”我有些...
    開封第一講書人閱讀 165,630評論 0 356
  • 文/不壞的土叔 我叫張陵枷餐,是天一觀的道長。 經(jīng)常有香客問我铁材,道長尖淘,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 58,906評論 1 295
  • 正文 為了忘掉前任著觉,我火速辦了婚禮村生,結(jié)果婚禮上,老公的妹妹穿的比我還像新娘饼丘。我一直安慰自己趁桃,他們只是感情好,可當(dāng)我...
    茶點(diǎn)故事閱讀 67,928評論 6 392
  • 文/花漫 我一把揭開白布肄鸽。 她就那樣靜靜地躺著卫病,像睡著了一般。 火紅的嫁衣襯著肌膚如雪典徘。 梳的紋絲不亂的頭發(fā)上蟀苛,一...
    開封第一講書人閱讀 51,718評論 1 305
  • 那天,我揣著相機(jī)與錄音逮诲,去河邊找鬼帜平。 笑死,一個(gè)胖子當(dāng)著我的面吹牛梅鹦,可吹牛的內(nèi)容都是我干的裆甩。 我是一名探鬼主播,決...
    沈念sama閱讀 40,442評論 3 420
  • 文/蒼蘭香墨 我猛地睜開眼齐唆,長吁一口氣:“原來是場噩夢啊……” “哼嗤栓!你這毒婦竟也來了?” 一聲冷哼從身側(cè)響起箍邮,我...
    開封第一講書人閱讀 39,345評論 0 276
  • 序言:老撾萬榮一對情侶失蹤茉帅,失蹤者是張志新(化名)和其女友劉穎叨叙,沒想到半個(gè)月后,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體担敌,經(jīng)...
    沈念sama閱讀 45,802評論 1 317
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡摔敛,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 37,984評論 3 337
  • 正文 我和宋清朗相戀三年,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了全封。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片马昙。...
    茶點(diǎn)故事閱讀 40,117評論 1 351
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡,死狀恐怖刹悴,靈堂內(nèi)的尸體忽然破棺而出行楞,到底是詐尸還是另有隱情,我是刑警寧澤土匀,帶...
    沈念sama閱讀 35,810評論 5 346
  • 正文 年R本政府宣布子房,位于F島的核電站,受9級特大地震影響就轧,放射性物質(zhì)發(fā)生泄漏证杭。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 41,462評論 3 331
  • 文/蒙蒙 一妒御、第九天 我趴在偏房一處隱蔽的房頂上張望解愤。 院中可真熱鬧,春花似錦乎莉、人聲如沸送讲。這莊子的主人今日做“春日...
    開封第一講書人閱讀 32,011評論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽哼鬓。三九已至,卻和暖如春边灭,著一層夾襖步出監(jiān)牢的瞬間异希,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 33,139評論 1 272
  • 我被黑心中介騙來泰國打工绒瘦, 沒想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留宠互,地道東北人。 一個(gè)月前我還...
    沈念sama閱讀 48,377評論 3 373
  • 正文 我出身青樓椭坚,卻偏偏與公主長得像,于是被迫代替她去往敵國和親搏色。 傳聞我的和親對象是個(gè)殘疾皇子善茎,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 45,060評論 2 355

推薦閱讀更多精彩內(nèi)容