GAN Lecture 1 (2018)-Introduction

有用的英文表達(dá)

since sliced bread 有史以來(形容一項(xiàng)技術(shù)非常好)

1.Basic idea of GAN

Generation

圖像生成:輸入一個向量遥赚,輸出一張圖片供炼。

Discriminator

輸入一張圖片,給出一個scalar(分?jǐn)?shù))我纪。

scalar越大悬赏,代表圖像越真實(shí);越小蒸矛,代表越假瀑罗。

Generator VS Discriminator

寫作敵人胸嘴,念做朋友

算法

  • 初始化generator(G)和discriminator(D)
  • 在每個訓(xùn)練周期中:
    1. 固定G,更新D(D學(xué)習(xí)給真實(shí)的對象高的分?jǐn)?shù),給生成的對象低的分?jǐn)?shù))
    2. 固定D斩祭,更新G(G學(xué)習(xí)去騙過D)

詳細(xì)的算法

IMG_0013.PNG

2.GAN as structured learning

structured learning

IMG_0014.PNG

為什么結(jié)構(gòu)化學(xué)習(xí)這么具有挑戰(zhàn)性劣像?

  • One-shot/Zero-shot Learning:

    • 在分類中,每種類別都有很多樣本實(shí)例
    • 在結(jié)構(gòu)化學(xué)習(xí)中
      • 如果你把每個可能的輸出都看作一個“類別”摧玫。耳奕。。
      • 由于輸出的空間是很大的诬像,很多“類別”是沒有訓(xùn)練數(shù)據(jù)的
      • 機(jī)器學(xué)習(xí)需要在測試時產(chǎn)生新東西
      • 需要更多的智能
  • Machine has to learn to do planning(全局觀)

結(jié)構(gòu)化學(xué)習(xí)的方法——局部+全局

IMG_0015.PNG

3.Can Generator learn by itself?

  1. G是輸入一個向量屋群,輸出一張圖片,那輸入的向量(code)哪里來坏挠?

  2. Encoder in auto-encoder provides the code

  3. Auto-encoder的后半部分——Decoder就是一個G(Generator)


    IMG_0016.PNG
  4. Auto-encoder的改進(jìn)版本:Variational Auto-encoder(VAE)

  5. what do we miss?

    • Each neural in output layer corresponds to a pixel.
    • The relation between the components are critical.
    • Although highly correlated, they cannot influence each other.
    • Need deep structure to catch the relation between components.

4.Can Discriminator generate?

  1. Discriminator的輸入是一個對象芍躏,比如一張圖象,輸出是一個scalar降狠,代表對象的好壞

  2. 自上而下地評價(jià)組分之間的關(guān)系是很容易的.


    IMG_0017.PNG
  3. 假設(shè)我們已經(jīng)有D对竣,可以生成所有可能的對象,然后選擇中間得分最高的作為最終結(jié)果

  4. 怎么訓(xùn)練D榜配?我們只有真實(shí)圖像否纬,如何產(chǎn)生假圖?

  5. 通常的算法:給一系列真實(shí)樣本芥牌,隨機(jī)生成假的樣本


5.G和D的比較

G是從局部考慮烦味,D是全局考慮。


IMG_0019.PNG

6.Benefit of GAN

IMG_0020.PNG
最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末壁拉,一起剝皮案震驚了整個濱河市谬俄,隨后出現(xiàn)的幾起案子,更是在濱河造成了極大的恐慌弃理,老刑警劉巖溃论,帶你破解...
    沈念sama閱讀 218,284評論 6 506
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件,死亡現(xiàn)場離奇詭異痘昌,居然都是意外死亡钥勋,警方通過查閱死者的電腦和手機(jī),發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 93,115評論 3 395
  • 文/潘曉璐 我一進(jìn)店門辆苔,熙熙樓的掌柜王于貴愁眉苦臉地迎上來算灸,“玉大人,你說我怎么就攤上這事驻啤》坡浚” “怎么了?”我有些...
    開封第一講書人閱讀 164,614評論 0 354
  • 文/不壞的土叔 我叫張陵骑冗,是天一觀的道長赊瞬。 經(jīng)常有香客問我先煎,道長,這世上最難降的妖魔是什么巧涧? 我笑而不...
    開封第一講書人閱讀 58,671評論 1 293
  • 正文 為了忘掉前任薯蝎,我火速辦了婚禮,結(jié)果婚禮上谤绳,老公的妹妹穿的比我還像新娘占锯。我一直安慰自己,他們只是感情好闷供,可當(dāng)我...
    茶點(diǎn)故事閱讀 67,699評論 6 392
  • 文/花漫 我一把揭開白布烟央。 她就那樣靜靜地躺著,像睡著了一般歪脏。 火紅的嫁衣襯著肌膚如雪疑俭。 梳的紋絲不亂的頭發(fā)上,一...
    開封第一講書人閱讀 51,562評論 1 305
  • 那天婿失,我揣著相機(jī)與錄音钞艇,去河邊找鬼。 笑死豪硅,一個胖子當(dāng)著我的面吹牛哩照,可吹牛的內(nèi)容都是我干的。 我是一名探鬼主播懒浮,決...
    沈念sama閱讀 40,309評論 3 418
  • 文/蒼蘭香墨 我猛地睜開眼飘弧,長吁一口氣:“原來是場噩夢啊……” “哼!你這毒婦竟也來了砚著?” 一聲冷哼從身側(cè)響起次伶,我...
    開封第一講書人閱讀 39,223評論 0 276
  • 序言:老撾萬榮一對情侶失蹤,失蹤者是張志新(化名)和其女友劉穎稽穆,沒想到半個月后冠王,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體,經(jīng)...
    沈念sama閱讀 45,668評論 1 314
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡舌镶,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 37,859評論 3 336
  • 正文 我和宋清朗相戀三年柱彻,在試婚紗的時候發(fā)現(xiàn)自己被綠了。 大學(xué)時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片餐胀。...
    茶點(diǎn)故事閱讀 39,981評論 1 348
  • 序言:一個原本活蹦亂跳的男人離奇死亡哟楷,死狀恐怖,靈堂內(nèi)的尸體忽然破棺而出否灾,到底是詐尸還是另有隱情卖擅,我是刑警寧澤,帶...
    沈念sama閱讀 35,705評論 5 347
  • 正文 年R本政府宣布,位于F島的核電站磨镶,受9級特大地震影響,放射性物質(zhì)發(fā)生泄漏健提。R本人自食惡果不足惜琳猫,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 41,310評論 3 330
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望私痹。 院中可真熱鬧脐嫂,春花似錦、人聲如沸紊遵。這莊子的主人今日做“春日...
    開封第一講書人閱讀 31,904評論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽暗膜。三九已至匀奏,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間学搜,已是汗流浹背娃善。 一陣腳步聲響...
    開封第一講書人閱讀 33,023評論 1 270
  • 我被黑心中介騙來泰國打工, 沒想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留瑞佩,地道東北人聚磺。 一個月前我還...
    沈念sama閱讀 48,146評論 3 370
  • 正文 我出身青樓,卻偏偏與公主長得像炬丸,于是被迫代替她去往敵國和親瘫寝。 傳聞我的和親對象是個殘疾皇子,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 44,933評論 2 355

推薦閱讀更多精彩內(nèi)容