Conditional Generative Adversarial Nets

在生成對抗網絡GAN提出之后,又出現了一種條件對抗網絡CGAN挨约。CGAN能夠通過簡單地提供數據y來構造味混,希望對生成器和判別器都進行條件化。通過實驗驗證了給模型可以生成以類標簽為條件的MNIST數字烫罩。文章還進一步說明了如何使用該模型來學習多模態(tài)模型惜傲,并提供圖像標記應用程序的初步示例,其演示了此方法如何生成不屬于訓練標簽的描述性標記贝攒。

引言

生成對抗網絡作為訓練生成模型的替代框架盗誊,避免了近似許多難以處理的概率計算遇到的困難。

生成對抗網絡不需要滿足馬爾可夫鏈條件隘弊,可以直接采用反向傳播網絡來獲得梯度哈踱,在學習期間不需要推理,并且可以容易地將各種因素和相互作用結合到模型中梨熙。

并且已經證明了生產對抗網絡能夠產生最好的對數似然估計和真實樣本开镣。

在一個沒有加條件的生成模型,無法控制生成數據的模型咽扇。然而邪财,通過給模型添加一些附加的信息則有可能指導數據生成的進程。這樣的條件可以基于類標簽质欲,在某些為了圖像修補的數據中树埠,甚至來自不同形式的數據。

這篇文章構建了條件對抗網絡嘶伟。對于實驗結果怎憋,我們展示了2組實驗。一個是在MNIST手寫數字建立類標簽條件,另一個在MIR數據集為了多模態(tài)學習绊袋。

相關工作

圖像標簽的多模態(tài)學習

盡管監(jiān)督神經網絡(特別是卷積網絡)取得了許多成功毕匀,但仍然難以擴展此類模型以適應具有巨大數量的預測輸出類別的問題。另一個問題是過去關注的都是學習一對一的映射從輸入到輸出癌别。但是皂岔,許多問題更自然地被認為是一種基于概率的一對多的映射。例如规个,在圖像標注中凤薛,可能有很多不同的標簽適應于給出的圖像,并且不同的標注者可能會使用不同的術語(但語義相似)去描述同一幅圖象缤苫。

解決第一個問題的一種方式是從其它方法中獲取額外信息:例如,采用自然語言的全集去學習幾何關系在語義上有意義的標簽的向量表示墅拭。當在這種空間中做預測時活玲,我們受益于這樣一個事實,即當預測錯誤時谍婉,我們仍然“接近”真相(例如舒憾,預測“桌子”而不是“椅子”),并且從那樣的事實中穗熬,我們可以自然地對訓練期間未出現的標簽做出預測概括镀迂。諸如一些文獻表明,即使從圖像特征空間到字表示空間的簡單線性映射也可以產生改進的分類性能唤蔗。

解決第二個問題的一種方式是采用條件概率生成模型探遵,輸入被視為條件變量,并且一對多映射被實例化為條件預測分布妓柜。

條件對抗網絡


生成對抗網絡

生成對抗模型作為一種新的方法來訓練生成模型箱季。它由兩個對抗模型組成:生成模型G捕獲數據分布,判別模型D估計輸入樣本來自訓練樣本的概率棍掐。G和D都是非線性映射函數藏雏,例如多層感知機。

為了學習生成分布p_g來近似樣本數據x作煌,生成模型建立一種從定義的噪聲分布p_z(z)到數據空間G(z;\theta_g)的映射函數掘殴。判別模型D(x;\theta_d)輸出當個標量判斷數據x來自訓練數據還是p_g

G和D同時訓練:我們?yōu)镚調整參數使得log(1-D(G(z)))最小化粟誓,調整參數D使得logD(x)最小化奏寨,如果把他們視為二人最小-最大游戲,其值函數表示為:

條件對抗網絡

如果生成模型和判別模型同時以額外信息y為條件時努酸,生成對抗網絡可以擴展為條件模型。y可以是任何類型的輔助信息杜恰,例如:標簽或從其它方式獲取的數據获诈。我們可以通過將y作為附加輸入層饋入判別模型和生成模型來進行調節(jié)仍源。

在生成模型中,定義的輸入噪聲p_z(z)y在聯(lián)合隱藏表示中組合舔涎,并且對抗訓練框架在如何組合該隱藏表示方面具有相當大的靈活性笼踩。

在判別模型中,xy作為輸入到判別函數(在這個案例中再次通過MLP呈現)亡嫌。

二人極小極大游戲可以有如下表示:

圖1給出了簡單的條件對抗網絡的結構嚎于。

實驗結果

論文:Conditional Generative Adversarial Nets

最后編輯于
?著作權歸作者所有,轉載或內容合作請聯(lián)系作者
  • 序言:七十年代末,一起剝皮案震驚了整個濱河市挟冠,隨后出現的幾起案子于购,更是在濱河造成了極大的恐慌,老刑警劉巖知染,帶你破解...
    沈念sama閱讀 216,372評論 6 498
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件肋僧,死亡現場離奇詭異,居然都是意外死亡控淡,警方通過查閱死者的電腦和手機嫌吠,發(fā)現死者居然都...
    沈念sama閱讀 92,368評論 3 392
  • 文/潘曉璐 我一進店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來掺炭,“玉大人辫诅,你說我怎么就攤上這事〗ǎ” “怎么了炕矮?”我有些...
    開封第一講書人閱讀 162,415評論 0 353
  • 文/不壞的土叔 我叫張陵,是天一觀的道長勋篓。 經常有香客問我吧享,道長,這世上最難降的妖魔是什么譬嚣? 我笑而不...
    開封第一講書人閱讀 58,157評論 1 292
  • 正文 為了忘掉前任钢颂,我火速辦了婚禮,結果婚禮上拜银,老公的妹妹穿的比我還像新娘殊鞭。我一直安慰自己,他們只是感情好尼桶,可當我...
    茶點故事閱讀 67,171評論 6 388
  • 文/花漫 我一把揭開白布操灿。 她就那樣靜靜地躺著,像睡著了一般泵督。 火紅的嫁衣襯著肌膚如雪趾盐。 梳的紋絲不亂的頭發(fā)上,一...
    開封第一講書人閱讀 51,125評論 1 297
  • 那天,我揣著相機與錄音救鲤,去河邊找鬼久窟。 笑死,一個胖子當著我的面吹牛本缠,可吹牛的內容都是我干的斥扛。 我是一名探鬼主播,決...
    沈念sama閱讀 40,028評論 3 417
  • 文/蒼蘭香墨 我猛地睜開眼丹锹,長吁一口氣:“原來是場噩夢啊……” “哼稀颁!你這毒婦竟也來了?” 一聲冷哼從身側響起楣黍,我...
    開封第一講書人閱讀 38,887評論 0 274
  • 序言:老撾萬榮一對情侶失蹤匾灶,失蹤者是張志新(化名)和其女友劉穎,沒想到半個月后锡凝,有當地人在樹林里發(fā)現了一具尸體粘昨,經...
    沈念sama閱讀 45,310評論 1 310
  • 正文 獨居荒郊野嶺守林人離奇死亡,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內容為張勛視角 年9月15日...
    茶點故事閱讀 37,533評論 2 332
  • 正文 我和宋清朗相戀三年窜锯,在試婚紗的時候發(fā)現自己被綠了张肾。 大學時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片。...
    茶點故事閱讀 39,690評論 1 348
  • 序言:一個原本活蹦亂跳的男人離奇死亡锚扎,死狀恐怖吞瞪,靈堂內的尸體忽然破棺而出,到底是詐尸還是另有隱情驾孔,我是刑警寧澤芍秆,帶...
    沈念sama閱讀 35,411評論 5 343
  • 正文 年R本政府宣布,位于F島的核電站翠勉,受9級特大地震影響妖啥,放射性物質發(fā)生泄漏。R本人自食惡果不足惜对碌,卻給世界環(huán)境...
    茶點故事閱讀 41,004評論 3 325
  • 文/蒙蒙 一荆虱、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧朽们,春花似錦怀读、人聲如沸。這莊子的主人今日做“春日...
    開封第一講書人閱讀 31,659評論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽。三九已至叁丧,卻和暖如春啤誊,著一層夾襖步出監(jiān)牢的瞬間岳瞭,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 32,812評論 1 268
  • 我被黑心中介騙來泰國打工蚊锹, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留寝优,地道東北人。 一個月前我還...
    沈念sama閱讀 47,693評論 2 368
  • 正文 我出身青樓枫耳,卻偏偏與公主長得像,于是被迫代替她去往敵國和親孟抗。 傳聞我的和親對象是個殘疾皇子迁杨,可洞房花燭夜當晚...
    茶點故事閱讀 44,577評論 2 353

推薦閱讀更多精彩內容