4吳恩達(dá)Meachine-Learing之多變量線性回歸(Linear Regression with Multiple Variables)

未經(jīng)允許乡范,不得擅自改動(dòng)和轉(zhuǎn)載

4.1 多維特征(Multiple Features)

目前為止配名,我們探討了單變量/特征的回歸模型,現(xiàn)在我們對(duì)房?jī)r(jià)模型增加更多的特征晋辆,
例如房間數(shù)樓層等渠脉,構(gòu)成一個(gè)含有多個(gè)變量的模型,模型中的特征為(x1,x2,...,xn)瓶佳。


增添更多特征后芋膘,我們引入一系列新的注釋:

此時(shí)模型中的參數(shù)是一個(gè)n+1 維的向量,任何一個(gè)訓(xùn)練實(shí)例也都是n+1 維的向量霸饲,特
征矩陣X 的維度是 m*(n+1)为朋。 因此公式可以簡(jiǎn)化為:

其中上標(biāo)T代表矩陣轉(zhuǎn)置

多變量梯度下降(Gradient Descent for Multiple Variables)

與單變量線性回歸類似,在多變量線性回歸中贴彼,我們也構(gòu)建一個(gè)代價(jià)函數(shù)潜腻,則這個(gè)代價(jià)
函數(shù)是所有建模誤差的平方和埃儿,即:

梯度下降法實(shí)踐 1-特征縮放(Gradient Descent in Practice I - Feature Scaling)

在我們面對(duì)多維特征問(wèn)題的時(shí)候器仗,我們要保證這些特征都具有相近的尺度,這將幫助梯
度下降算法更快地收斂童番。
以房?jī)r(jià)問(wèn)題為例精钮,假設(shè)我們使用兩個(gè)特征,房屋的尺寸和房間的數(shù)量剃斧,尺寸的值為 0-
2000 平方英尺轨香,而房間數(shù)量的值則是 0-5,以兩個(gè)參數(shù)分別為橫縱坐標(biāo)幼东,繪制代價(jià)函數(shù)的等
高線圖能臂容,看出圖像會(huì)顯得很扁,梯度下降算法需要非常多次的迭代才能收斂根蟹。

解決的方法是嘗試將所有特征的尺度都盡量縮放到-1 到 1 之間脓杉。如圖

4.4 梯度下降法實(shí)踐 2-學(xué)習(xí)率( 4 - 4 - Gradient Descent in Practice II - Learning Rate )

4.5 特征和多項(xiàng)式回歸(Features and Polynomial Regression)
如房?jī)r(jià)預(yù)測(cè)問(wèn)題,

通常我們需要先觀察數(shù)據(jù)然后再?zèng)Q定準(zhǔn)備嘗試怎樣的模型简逮。 另外球散,我們可以令:


從而將模型轉(zhuǎn)化為線性回歸模型。
根據(jù)函數(shù)圖形特性散庶,我們還可以使:

4.6 正規(guī)方程

到目前為止蕉堰,我們都在使用梯度下降算法,但是對(duì)于某些線性回歸問(wèn)題悲龟,正規(guī)方程方法
是更好的解決方案屋讶。如:


即:


運(yùn)用正規(guī)方程法求解參數(shù):

總結(jié)一下,只要特征變量的數(shù)目并不大须教,標(biāo)準(zhǔn)方程是一個(gè)很好的計(jì)算參數(shù) θ 的替代方
法皿渗。具體地說(shuō),只要特征變量數(shù)量小于一萬(wàn),我通常使用標(biāo)準(zhǔn)方程法羹奉,而不使用梯度下降法秒旋。
隨著我們要講的學(xué)習(xí)算法越來(lái)越復(fù)雜,例如诀拭,當(dāng)我們講到分類算法迁筛,像邏輯回歸算法,
我們會(huì)看到耕挨, 實(shí)際上對(duì)于那些算法细卧,并不能使用標(biāo)準(zhǔn)方程法。對(duì)于那些更復(fù)雜的學(xué)習(xí)算法筒占,
我們將不得不仍然使用梯度下降法贪庙。
因此,梯度下降法是一個(gè)非常有用的算法翰苫,可以用在有
大量特征變量的線性回歸問(wèn)題止邮。或者我們以后在課程中奏窑,會(huì)講到的一些其他的算法导披,因?yàn)闃?biāo)
準(zhǔn)方程法不適合或者不能用在它們上。但對(duì)于這個(gè)特定的線性回歸模型埃唯,標(biāo)準(zhǔn)方程法是一個(gè)
比梯度下降法更快的替代算法撩匕。所以,根據(jù)具體的問(wèn)題墨叛,以及你的特征變量的數(shù)量止毕,這兩種
算法都是值得學(xué)習(xí)的。


課程代碼:https://github.com/HuangCongQing/MachineLearning_Ng
本文參考自-黃海廣博士 斯坦福大學(xué) 2014機(jī)器學(xué)習(xí)教程中文 筆記
鏈接:http://pan.baidu.com/s/1dF2asvf 密碼:1ewf

分享吳恩達(dá)機(jī)器學(xué)習(xí)視頻 下載 鏈接:
鏈接: http://pan.baidu.com/s/1pKLATJl 密碼: xn4w


好看的人兒漠趁,點(diǎn)個(gè)喜歡? 你會(huì)更好看哦~~

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末扁凛,一起剝皮案震驚了整個(gè)濱河市,隨后出現(xiàn)的幾起案子棚潦,更是在濱河造成了極大的恐慌令漂,老刑警劉巖,帶你破解...
    沈念sama閱讀 210,914評(píng)論 6 490
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件丸边,死亡現(xiàn)場(chǎng)離奇詭異叠必,居然都是意外死亡,警方通過(guò)查閱死者的電腦和手機(jī)妹窖,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 89,935評(píng)論 2 383
  • 文/潘曉璐 我一進(jìn)店門(mén)纬朝,熙熙樓的掌柜王于貴愁眉苦臉地迎上來(lái),“玉大人骄呼,你說(shuō)我怎么就攤上這事共苛∨忻唬” “怎么了?”我有些...
    開(kāi)封第一講書(shū)人閱讀 156,531評(píng)論 0 345
  • 文/不壞的土叔 我叫張陵隅茎,是天一觀的道長(zhǎng)澄峰。 經(jīng)常有香客問(wèn)我,道長(zhǎng)辟犀,這世上最難降的妖魔是什么俏竞? 我笑而不...
    開(kāi)封第一講書(shū)人閱讀 56,309評(píng)論 1 282
  • 正文 為了忘掉前任,我火速辦了婚禮堂竟,結(jié)果婚禮上魂毁,老公的妹妹穿的比我還像新娘。我一直安慰自己出嘹,他們只是感情好席楚,可當(dāng)我...
    茶點(diǎn)故事閱讀 65,381評(píng)論 5 384
  • 文/花漫 我一把揭開(kāi)白布。 她就那樣靜靜地躺著税稼,像睡著了一般烦秩。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上娶聘,一...
    開(kāi)封第一講書(shū)人閱讀 49,730評(píng)論 1 289
  • 那天闻镶,我揣著相機(jī)與錄音甚脉,去河邊找鬼丸升。 笑死,一個(gè)胖子當(dāng)著我的面吹牛牺氨,可吹牛的內(nèi)容都是我干的狡耻。 我是一名探鬼主播,決...
    沈念sama閱讀 38,882評(píng)論 3 404
  • 文/蒼蘭香墨 我猛地睜開(kāi)眼猴凹,長(zhǎng)吁一口氣:“原來(lái)是場(chǎng)噩夢(mèng)啊……” “哼夷狰!你這毒婦竟也來(lái)了?” 一聲冷哼從身側(cè)響起郊霎,我...
    開(kāi)封第一講書(shū)人閱讀 37,643評(píng)論 0 266
  • 序言:老撾萬(wàn)榮一對(duì)情侶失蹤沼头,失蹤者是張志新(化名)和其女友劉穎,沒(méi)想到半個(gè)月后书劝,有當(dāng)?shù)厝嗽跇?shù)林里發(fā)現(xiàn)了一具尸體进倍,經(jīng)...
    沈念sama閱讀 44,095評(píng)論 1 303
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡,尸身上長(zhǎng)有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 36,448評(píng)論 2 325
  • 正文 我和宋清朗相戀三年购对,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了猾昆。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片。...
    茶點(diǎn)故事閱讀 38,566評(píng)論 1 339
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡骡苞,死狀恐怖垂蜗,靈堂內(nèi)的尸體忽然破棺而出楷扬,到底是詐尸還是另有隱情,我是刑警寧澤贴见,帶...
    沈念sama閱讀 34,253評(píng)論 4 328
  • 正文 年R本政府宣布烘苹,位于F島的核電站,受9級(jí)特大地震影響片部,放射性物質(zhì)發(fā)生泄漏螟加。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 39,829評(píng)論 3 312
  • 文/蒙蒙 一吞琐、第九天 我趴在偏房一處隱蔽的房頂上張望捆探。 院中可真熱鬧,春花似錦站粟、人聲如沸黍图。這莊子的主人今日做“春日...
    開(kāi)封第一講書(shū)人閱讀 30,715評(píng)論 0 21
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽(yáng)助被。三九已至,卻和暖如春切诀,著一層夾襖步出監(jiān)牢的瞬間揩环,已是汗流浹背。 一陣腳步聲響...
    開(kāi)封第一講書(shū)人閱讀 31,945評(píng)論 1 264
  • 我被黑心中介騙來(lái)泰國(guó)打工幅虑, 沒(méi)想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留丰滑,地道東北人。 一個(gè)月前我還...
    沈念sama閱讀 46,248評(píng)論 2 360
  • 正文 我出身青樓倒庵,卻偏偏與公主長(zhǎng)得像褒墨,于是被迫代替她去往敵國(guó)和親。 傳聞我的和親對(duì)象是個(gè)殘疾皇子擎宝,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 43,440評(píng)論 2 348

推薦閱讀更多精彩內(nèi)容