單變量的線性回歸模型--代價(jià)函數(shù)(Cost Function)


前言

之前已經(jīng)把我們的這個(gè)模型介紹的很多了仔燕,還記得我們是要干什么嗎椅亚。就是要擬合出一條直線符合大多數(shù)的數(shù)據(jù)點(diǎn)恢恼,這就是最為經(jīng)典的線性回歸模型副瀑。

輸出房?jī)r(jià)

為了方便說(shuō)明弓熏,我們假設(shè)一組房?jī)r(jià)的數(shù)據(jù)如下:


模擬的房?jī)r(jià)數(shù)據(jù)

可以看到我們這個(gè)模型只有一個(gè)變量,就是房子的面積糠睡,而成交價(jià)則對(duì)應(yīng)著函數(shù)的輸出y挽鞠。我們最后需要完成一個(gè)函數(shù)對(duì)于新的房子面積,能輸出該房子的成交價(jià)狈孔,我們定義我們的輸出函數(shù)h(姑且這么叫...)

h(x)=θx;

我們的任務(wù)就是找到一個(gè)合適的θ值信认,假如我現(xiàn)在的θ是1.8,那么對(duì)于輸入100就會(huì)給出180均抽,對(duì)于150就會(huì)給出270狮杨。但是現(xiàn)在的這個(gè)函數(shù)還存在一個(gè)問(wèn)題,就是這個(gè)函數(shù)是一條過(guò)原點(diǎn)的直線到忽,它還不夠“通用”橄教,萎了使它盡可能的擬合更多數(shù)據(jù),可以修改一下:

h(x)=θ0+θ1x;(這里數(shù)字是下標(biāo))

這樣如果最后直線過(guò)原點(diǎn)喘漏,只要θ0=0就可以了护蝶,所以它的適用性更強(qiáng)一點(diǎn)。這就是我們的輸出函數(shù)h了翩迈,對(duì)于每個(gè)x它都能給出y(對(duì)于每個(gè)面積的房子都能預(yù)測(cè)對(duì)應(yīng)的房?jī)r(jià))持灰。但是不要忘了,現(xiàn)在θ是多少我們可還不知道负饲。

差距有多大

想要找到合適的θ堤魁,就需要我們?cè)u(píng)判一下當(dāng)前的這個(gè)輸出函數(shù)h和實(shí)際給出的數(shù)據(jù)集有多大差距喂链。這就需要我們的代價(jià)函數(shù)出場(chǎng)了(重點(diǎn)函數(shù)QAQ):


代價(jià)函數(shù)

這里的m表示總共幾組數(shù)據(jù),我們的模擬數(shù)據(jù)m=3妥泉。而這里的i顯而易見(jiàn)就是第幾組數(shù)據(jù)椭微,xi,yi分別代表著第i組數(shù)據(jù)的x,y。對(duì)于我們的模擬數(shù)據(jù)盲链,x1=100,y1=200,x2=150,y2=250,x3=80,y3=150蝇率。

這個(gè)函數(shù)是如何工作的,其實(shí)非常容易理解刽沾,我們先把它前面的求和去掉本慕,只看第一組數(shù)據(jù),現(xiàn)在函數(shù)就是這樣子的:

J=(h(x1)-y1)2

第一組數(shù)據(jù)x1=100,y1=200侧漓。通常我們初始化θ為0锅尘,所以現(xiàn)在θ0和θ1都為0。那很明顯無(wú)論輸入的x是多少布蔗,我們的函數(shù)h(x1)其實(shí)都是0的藤违,那對(duì)于第一組數(shù)據(jù),J的值就是(0-200)2=40000何鸡。

對(duì)于每一組數(shù)據(jù)都如此計(jì)算然后加起來(lái)最后除以2m就是我們的代價(jià)函數(shù)的輸出了,對(duì)應(yīng)我們的模擬數(shù)據(jù)牛欢,最后輸出應(yīng)該為20833.3骡男。

從上面不難看出,對(duì)每項(xiàng)的計(jì)算其實(shí)就是在算我們目前的輸出函數(shù)h輸出的預(yù)測(cè)值和實(shí)際的值之間的差距傍睹,如果我們的模型已經(jīng)成熟了隔盛,那么這個(gè)代價(jià)函數(shù)理論上的輸出值應(yīng)該為0,因?yàn)槊宽?xiàng)的h(x)-y都為0拾稳,求和后也為0吮炕,除2m還是為0。

實(shí)際上不存在這么完美的事情访得,但是只要這個(gè)代價(jià)函數(shù)已經(jīng)很接近0了龙亲,那么我們的目標(biāo)也就達(dá)到了,可以看到悍抑,代價(jià)函數(shù)對(duì)我們目前僅僅只是初始化的函數(shù)h非常不滿鳄炉,輸出的值很大,說(shuō)明離擬合成功還有非常大的差距(這么大的原因還因?yàn)槟M的數(shù)據(jù)比較大搜骡,實(shí)際上對(duì)于比較大的數(shù)據(jù)通常運(yùn)用特征縮放讓它變小拂盯,先不管它)。

接下來(lái)干什么

現(xiàn)在我們知道了輸出函數(shù)h以及代價(jià)函數(shù)J记靡,也知道了如何評(píng)估當(dāng)前的h的好壞谈竿,但是光知道好壞沒(méi)有用啊团驱,怎么讓它變好呢。下一次就會(huì)說(shuō)道梯度下降算法來(lái)讓我們的h函數(shù)越來(lái)越好空凸,也就是漸漸的找到合適的θ值(畢竟函數(shù)h是由θ決定的)嚎花。

當(dāng)h漸漸符合我們的預(yù)期后,我們的模型就已經(jīng)完成了劫恒。我們離預(yù)測(cè)房?jī)r(jià)攀上人生巔峰越來(lái)越近了2333


這些都是基于我最近自己學(xué)習(xí)整理的贩幻,希望加強(qiáng)自己的理解,也方便以后回顧两嘴。希望與大家分享交流丛楚,也希望大佬指正(T-T).

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末,一起剝皮案震驚了整個(gè)濱河市憔辫,隨后出現(xiàn)的幾起案子趣些,更是在濱河造成了極大的恐慌,老刑警劉巖贰您,帶你破解...
    沈念sama閱讀 217,509評(píng)論 6 504
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件坏平,死亡現(xiàn)場(chǎng)離奇詭異,居然都是意外死亡锦亦,警方通過(guò)查閱死者的電腦和手機(jī)舶替,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 92,806評(píng)論 3 394
  • 文/潘曉璐 我一進(jìn)店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來(lái)杠园,“玉大人顾瞪,你說(shuō)我怎么就攤上這事∨滓希” “怎么了陈醒?”我有些...
    開(kāi)封第一講書(shū)人閱讀 163,875評(píng)論 0 354
  • 文/不壞的土叔 我叫張陵,是天一觀的道長(zhǎng)瞧甩。 經(jīng)常有香客問(wèn)我钉跷,道長(zhǎng),這世上最難降的妖魔是什么肚逸? 我笑而不...
    開(kāi)封第一講書(shū)人閱讀 58,441評(píng)論 1 293
  • 正文 為了忘掉前任爷辙,我火速辦了婚禮,結(jié)果婚禮上朦促,老公的妹妹穿的比我還像新娘犬钢。我一直安慰自己,他們只是感情好思灰,可當(dāng)我...
    茶點(diǎn)故事閱讀 67,488評(píng)論 6 392
  • 文/花漫 我一把揭開(kāi)白布玷犹。 她就那樣靜靜地躺著,像睡著了一般。 火紅的嫁衣襯著肌膚如雪歹颓。 梳的紋絲不亂的頭發(fā)上坯屿,一...
    開(kāi)封第一講書(shū)人閱讀 51,365評(píng)論 1 302
  • 那天,我揣著相機(jī)與錄音巍扛,去河邊找鬼领跛。 笑死,一個(gè)胖子當(dāng)著我的面吹牛撤奸,可吹牛的內(nèi)容都是我干的吠昭。 我是一名探鬼主播,決...
    沈念sama閱讀 40,190評(píng)論 3 418
  • 文/蒼蘭香墨 我猛地睜開(kāi)眼胧瓜,長(zhǎng)吁一口氣:“原來(lái)是場(chǎng)噩夢(mèng)啊……” “哼矢棚!你這毒婦竟也來(lái)了?” 一聲冷哼從身側(cè)響起府喳,我...
    開(kāi)封第一講書(shū)人閱讀 39,062評(píng)論 0 276
  • 序言:老撾萬(wàn)榮一對(duì)情侶失蹤蒲肋,失蹤者是張志新(化名)和其女友劉穎,沒(méi)想到半個(gè)月后钝满,有當(dāng)?shù)厝嗽跇?shù)林里發(fā)現(xiàn)了一具尸體兜粘,經(jīng)...
    沈念sama閱讀 45,500評(píng)論 1 314
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡,尸身上長(zhǎng)有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 37,706評(píng)論 3 335
  • 正文 我和宋清朗相戀三年弯蚜,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了孔轴。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片。...
    茶點(diǎn)故事閱讀 39,834評(píng)論 1 347
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡碎捺,死狀恐怖路鹰,靈堂內(nèi)的尸體忽然破棺而出,到底是詐尸還是另有隱情牵寺,我是刑警寧澤悍引,帶...
    沈念sama閱讀 35,559評(píng)論 5 345
  • 正文 年R本政府宣布恩脂,位于F島的核電站帽氓,受9級(jí)特大地震影響,放射性物質(zhì)發(fā)生泄漏俩块。R本人自食惡果不足惜黎休,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 41,167評(píng)論 3 328
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望玉凯。 院中可真熱鬧势腮,春花似錦、人聲如沸漫仆。這莊子的主人今日做“春日...
    開(kāi)封第一講書(shū)人閱讀 31,779評(píng)論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽(yáng)盲厌。三九已至署照,卻和暖如春祸泪,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背建芙。 一陣腳步聲響...
    開(kāi)封第一講書(shū)人閱讀 32,912評(píng)論 1 269
  • 我被黑心中介騙來(lái)泰國(guó)打工没隘, 沒(méi)想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留,地道東北人禁荸。 一個(gè)月前我還...
    沈念sama閱讀 47,958評(píng)論 2 370
  • 正文 我出身青樓右蒲,卻偏偏與公主長(zhǎng)得像,于是被迫代替她去往敵國(guó)和親赶熟。 傳聞我的和親對(duì)象是個(gè)殘疾皇子瑰妄,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 44,779評(píng)論 2 354

推薦閱讀更多精彩內(nèi)容