[機器學習入門] 李宏毅機器學習筆記-13 (Semi-supervised Learning ;半監(jiān)督學習)

[機器學習入門] 李宏毅機器學習筆記-13 (Semi-supervised Learning ;半監(jiān)督學習)

PDF VIDEO

Introduction

這里寫圖片描述

Why semi-supervised learning helps?

這里寫圖片描述

Semi-supervised Learning for Generative Model

Supervised Generative Model VS Semi-supervised Generative Model

這里寫圖片描述
這里寫圖片描述

Step

這里寫圖片描述

Why粉渠?

這里寫圖片描述

Low-density Separation

這里寫圖片描述

Self-training

這里寫圖片描述
這里寫圖片描述

Entropy-based Regularization

這里寫圖片描述

Outlook: Semi-supervised SVM

這里寫圖片描述

Smoothness Assumption

核心思想:近朱者赤污呼,近墨者黑

這里寫圖片描述
這里寫圖片描述

Classify astronomy vs. travel articles

這里寫圖片描述
這里寫圖片描述

更多的數(shù)據(jù)連在一起盾碗,很難分類,那么如何做呢桃焕?

Cluster(群集 ) and then Label

這里寫圖片描述

這種方法不一定made sense ,需要class很強乖菱。
But乖寒,How to know x1 and x2 are close in a high density region (connected by a high density path)
還有另一種方法:

Graph-based Approach

這里寫圖片描述

Graph Construction

這里寫圖片描述
這里寫圖片描述

怎樣在Graph 中定量地表示平滑度

這里寫圖片描述

將該式子整理一下,換個形式

這里寫圖片描述

如此院溺,讓smoothness 影響Loss楣嘁,as a regularization term

這里寫圖片描述

smoothness不一定要放在output上,放到任何一層都可以珍逸。


Better Representation

去蕪存菁逐虚,化繁為簡
Looking for Better Representation

這里寫圖片描述
最后編輯于
?著作權歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末,一起剝皮案震驚了整個濱河市谆膳,隨后出現(xiàn)的幾起案子叭爱,更是在濱河造成了極大的恐慌,老刑警劉巖漱病,帶你破解...
    沈念sama閱讀 212,884評論 6 492
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件买雾,死亡現(xiàn)場離奇詭異,居然都是意外死亡杨帽,警方通過查閱死者的電腦和手機漓穿,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 90,755評論 3 385
  • 文/潘曉璐 我一進店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來注盈,“玉大人晃危,你說我怎么就攤上這事±峡停” “怎么了僚饭?”我有些...
    開封第一講書人閱讀 158,369評論 0 348
  • 文/不壞的土叔 我叫張陵震叮,是天一觀的道長。 經(jīng)常有香客問我鳍鸵,道長苇瓣,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 56,799評論 1 285
  • 正文 為了忘掉前任权纤,我火速辦了婚禮钓简,結(jié)果婚禮上,老公的妹妹穿的比我還像新娘汹想。我一直安慰自己外邓,他們只是感情好,可當我...
    茶點故事閱讀 65,910評論 6 386
  • 文/花漫 我一把揭開白布古掏。 她就那樣靜靜地躺著损话,像睡著了一般。 火紅的嫁衣襯著肌膚如雪槽唾。 梳的紋絲不亂的頭發(fā)上丧枪,一...
    開封第一講書人閱讀 50,096評論 1 291
  • 那天,我揣著相機與錄音庞萍,去河邊找鬼拧烦。 笑死,一個胖子當著我的面吹牛钝计,可吹牛的內(nèi)容都是我干的恋博。 我是一名探鬼主播,決...
    沈念sama閱讀 39,159評論 3 411
  • 文/蒼蘭香墨 我猛地睜開眼私恬,長吁一口氣:“原來是場噩夢啊……” “哼债沮!你這毒婦竟也來了?” 一聲冷哼從身側(cè)響起本鸣,我...
    開封第一講書人閱讀 37,917評論 0 268
  • 序言:老撾萬榮一對情侶失蹤疫衩,失蹤者是張志新(化名)和其女友劉穎,沒想到半個月后荣德,有當?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體闷煤,經(jīng)...
    沈念sama閱讀 44,360評論 1 303
  • 正文 獨居荒郊野嶺守林人離奇死亡,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點故事閱讀 36,673評論 2 327
  • 正文 我和宋清朗相戀三年涮瞻,在試婚紗的時候發(fā)現(xiàn)自己被綠了曹傀。 大學時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片。...
    茶點故事閱讀 38,814評論 1 341
  • 序言:一個原本活蹦亂跳的男人離奇死亡饲宛,死狀恐怖皆愉,靈堂內(nèi)的尸體忽然破棺而出,到底是詐尸還是另有隱情,我是刑警寧澤幕庐,帶...
    沈念sama閱讀 34,509評論 4 334
  • 正文 年R本政府宣布久锥,位于F島的核電站,受9級特大地震影響异剥,放射性物質(zhì)發(fā)生泄漏瑟由。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點故事閱讀 40,156評論 3 317
  • 文/蒙蒙 一冤寿、第九天 我趴在偏房一處隱蔽的房頂上張望歹苦。 院中可真熱鬧,春花似錦督怜、人聲如沸殴瘦。這莊子的主人今日做“春日...
    開封第一講書人閱讀 30,882評論 0 21
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽蚪腋。三九已至,卻和暖如春姨蟋,著一層夾襖步出監(jiān)牢的瞬間屉凯,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 32,123評論 1 267
  • 我被黑心中介騙來泰國打工眼溶, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留悠砚,地道東北人。 一個月前我還...
    沈念sama閱讀 46,641評論 2 362
  • 正文 我出身青樓堂飞,卻偏偏與公主長得像灌旧,于是被迫代替她去往敵國和親。 傳聞我的和親對象是個殘疾皇子酝静,可洞房花燭夜當晚...
    茶點故事閱讀 43,728評論 2 351

推薦閱讀更多精彩內(nèi)容

  • 飄蓬萬里不須停,總無吩咐總無憑羡玛。 高歌唱罷陽關曲别智,遺世拋來孤憤名。 寸斷肝腸濁酒暖稼稿,風侵紙帳曉寒生薄榛。 唯流眼底多情...
    d03e056874dc閱讀 240評論 0 0
  • Redis對于一個做后端的人來說,應該再熟悉不過了,但是最近工作中折騰一個問題許久,其實問題不難,已經(jīng)不是第一次遇...
    小小小碼農(nóng)閱讀 12,529評論 3 2
  • 近日的江南大雨綿綿,不過好像全國都在下雨樣子让歼。 下雨的天氣好啊敞恋,也不用被朋友叫著上街逛個遍,累了雙腳谋右,然后口干舌燥...
    那徐公子閱讀 419評論 2 1