[機(jī)器學(xué)習(xí)入門] 李宏毅機(jī)器學(xué)習(xí)筆記-26(Structured Support Vector Machine part 1;結(jié)構(gòu)化支持向量機(jī)part 1)

[機(jī)器學(xué)習(xí)入門] 李宏毅機(jī)器學(xué)習(xí)筆記-26(Structured Support Vector Machine part1 ;結(jié)構(gòu)化支持向量機(jī)part 1)

PDF VIDEO

首先回顧一下Structured Learning要解決什么問(wèn)題?

這里寫圖片描述

Example Task Object Detection:

這里寫圖片描述

We must solve the three problems:

這里寫圖片描述
這里寫圖片描述
這里寫圖片描述

那么現(xiàn)在讓我們假設(shè)前兩個(gè)問(wèn)題都解決了,只專注于第三個(gè)問(wèn)題让腹。


Outline

這里寫圖片描述

Assumption Separable

存在一個(gè)vector茫多,使inner product后的點(diǎn)滿足公式要求泥畅。

這里寫圖片描述

那么我們可以通過(guò)以下方法來(lái)的到這個(gè)vector丁鹉,當(dāng)w不更新時(shí)瓜贾,就找到了它胆敞。

這里寫圖片描述

那么這種更新參數(shù)的方式可行嗎着帽?答案是可行的,首先我們先亮出結(jié)論:

這里寫圖片描述

Warning of math移层,簡(jiǎn)短證明以上結(jié)論:

這里寫圖片描述
這里寫圖片描述
這里寫圖片描述
這里寫圖片描述
這里寫圖片描述

End of math.

How to make training fast仍翰?

這里寫圖片描述

Non-separable Cace

假設(shè)說(shuō),找不到任何一個(gè)正確的答案能高過(guò)其他錯(cuò)誤的观话,但即使這樣也有高下之分予借,很明顯左邊是要好于右邊的。

這里寫圖片描述

Defining Cost Function

這里寫圖片描述

那么可以 用 gradent decent 來(lái)minimize C

這里寫圖片描述

下圖,當(dāng)w 不同時(shí)灵迫,y是不同的秦叛,那么怎樣固定住y呢?我們發(fā)現(xiàn)瀑粥,max能在w構(gòu)成的space 中挣跋,將y劃分為幾個(gè)區(qū)域,每個(gè)區(qū)域存在固定的y’狞换,y‘’避咆,y'''等。

這里寫圖片描述

而此時(shí)黃色公式即很容易表達(dá)了修噪,所以每一個(gè)區(qū)域的gradent對(duì)w的微分都可以求出來(lái)查库,這個(gè)能求出來(lái),就可以用gradent decent了黄琼。

這里寫圖片描述

Considering Errors

那么下面我們要將上述的cost概念進(jìn)化一下樊销,上面我們是對(duì)錯(cuò)誤的答案一視同仁的,即只有對(duì)錯(cuò)适荣,但是實(shí)際上它們卻差別很大现柠,有的錯(cuò)誤是跟正確答案很接近的,所以我們要將錯(cuò)誤分出等級(jí)弛矛。

這里寫圖片描述

如何進(jìn)化我們的Cost Function呢够吩?

這里寫圖片描述

怎樣去量化差距呢?運(yùn)用了面積丈氓、交集思想周循。

這里寫圖片描述

核心精神就是,夸大它們的差距万俗,好就更高湾笛,錯(cuò)就更錯(cuò)。

這里寫圖片描述

那么我們?nèi)绾斡胓radent decent 來(lái)update呢闰歪?與上篇的方法差不多嚎研。

這里寫圖片描述

那么剛剛的cost function 有另外一個(gè)觀點(diǎn)可以來(lái)解釋它。

這里寫圖片描述

為什么這個(gè)是正確的库倘?

這里寫圖片描述

More Cost Functions临扮,core spirit 核心精神是一樣的。

這里寫圖片描述
最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末教翩,一起剝皮案震驚了整個(gè)濱河市杆勇,隨后出現(xiàn)的幾起案子,更是在濱河造成了極大的恐慌饱亿,老刑警劉巖蚜退,帶你破解...
    沈念sama閱讀 222,681評(píng)論 6 517
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件闰靴,死亡現(xiàn)場(chǎng)離奇詭異,居然都是意外死亡钻注,警方通過(guò)查閱死者的電腦和手機(jī)蚂且,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 95,205評(píng)論 3 399
  • 文/潘曉璐 我一進(jìn)店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來(lái)幅恋,“玉大人膘掰,你說(shuō)我怎么就攤上這事〖亚玻” “怎么了?”我有些...
    開(kāi)封第一講書(shū)人閱讀 169,421評(píng)論 0 362
  • 文/不壞的土叔 我叫張陵凡伊,是天一觀的道長(zhǎng)零渐。 經(jīng)常有香客問(wèn)我,道長(zhǎng)系忙,這世上最難降的妖魔是什么诵盼? 我笑而不...
    開(kāi)封第一講書(shū)人閱讀 60,114評(píng)論 1 300
  • 正文 為了忘掉前任,我火速辦了婚禮银还,結(jié)果婚禮上风宁,老公的妹妹穿的比我還像新娘。我一直安慰自己蛹疯,他們只是感情好戒财,可當(dāng)我...
    茶點(diǎn)故事閱讀 69,116評(píng)論 6 398
  • 文/花漫 我一把揭開(kāi)白布。 她就那樣靜靜地躺著捺弦,像睡著了一般饮寞。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上列吼,一...
    開(kāi)封第一講書(shū)人閱讀 52,713評(píng)論 1 312
  • 那天幽崩,我揣著相機(jī)與錄音,去河邊找鬼寞钥。 笑死慌申,一個(gè)胖子當(dāng)著我的面吹牛,可吹牛的內(nèi)容都是我干的理郑。 我是一名探鬼主播蹄溉,決...
    沈念sama閱讀 41,170評(píng)論 3 422
  • 文/蒼蘭香墨 我猛地睜開(kāi)眼,長(zhǎng)吁一口氣:“原來(lái)是場(chǎng)噩夢(mèng)啊……” “哼香浩!你這毒婦竟也來(lái)了类缤?” 一聲冷哼從身側(cè)響起,我...
    開(kāi)封第一講書(shū)人閱讀 40,116評(píng)論 0 277
  • 序言:老撾萬(wàn)榮一對(duì)情侶失蹤邻吭,失蹤者是張志新(化名)和其女友劉穎餐弱,沒(méi)想到半個(gè)月后,有當(dāng)?shù)厝嗽跇?shù)林里發(fā)現(xiàn)了一具尸體,經(jīng)...
    沈念sama閱讀 46,651評(píng)論 1 320
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡膏蚓,尸身上長(zhǎng)有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 38,714評(píng)論 3 342
  • 正文 我和宋清朗相戀三年瓢谢,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片驮瞧。...
    茶點(diǎn)故事閱讀 40,865評(píng)論 1 353
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡氓扛,死狀恐怖,靈堂內(nèi)的尸體忽然破棺而出论笔,到底是詐尸還是另有隱情采郎,我是刑警寧澤,帶...
    沈念sama閱讀 36,527評(píng)論 5 351
  • 正文 年R本政府宣布狂魔,位于F島的核電站蒜埋,受9級(jí)特大地震影響,放射性物質(zhì)發(fā)生泄漏最楷。R本人自食惡果不足惜整份,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 42,211評(píng)論 3 336
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望籽孙。 院中可真熱鬧烈评,春花似錦、人聲如沸犯建。這莊子的主人今日做“春日...
    開(kāi)封第一講書(shū)人閱讀 32,699評(píng)論 0 25
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽(yáng)胎挎。三九已至沟启,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間犹菇,已是汗流浹背德迹。 一陣腳步聲響...
    開(kāi)封第一講書(shū)人閱讀 33,814評(píng)論 1 274
  • 我被黑心中介騙來(lái)泰國(guó)打工, 沒(méi)想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留揭芍,地道東北人胳搞。 一個(gè)月前我還...
    沈念sama閱讀 49,299評(píng)論 3 379
  • 正文 我出身青樓,卻偏偏與公主長(zhǎng)得像称杨,于是被迫代替她去往敵國(guó)和親肌毅。 傳聞我的和親對(duì)象是個(gè)殘疾皇子,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 45,870評(píng)論 2 361

推薦閱讀更多精彩內(nèi)容