DA筆記9(Multi-Adversarial Domain Adaptation)

Multi-Adversarial Domain Adaptation?

來源:AAAI2018

作者:Zhongyi Pei, Zhangjie Cao, Mingsheng Long, and Jianmin Wang

機(jī)構(gòu):清華大學(xué)軟件學(xué)院

數(shù)據(jù)集:Office 31,ImageCLEF-DA



1.動機(jī)


作者發(fā)現(xiàn)厂抖,只用一個判別器不能很好地捕捉到多模式結(jié)構(gòu)瘤旨,如圖一所示膜廊,只用一個判別器去對齊原域和目標(biāo)域時级及,不同種類的樣本可能會被錯誤地對齊酷师,比如把原域的貓和目標(biāo)域的狗對齊了。

如何捕捉多模式結(jié)構(gòu)呢肌割?作者提出了用多個判別器來捕捉呜叫,判別器的個數(shù)正好等于原域樣本的種類數(shù)。

這篇論文的前兩位作者是龍明盛老師的學(xué)生怠李,龍明盛老師也在他的論文Conditional Adversarial Domain Adaptation中提出處理多模式結(jié)構(gòu)的方法圾叼,即認(rèn)為分類器的輸出包含多模式信息蛤克,并想方設(shè)法利用。

2.論文主體


MADA結(jié)構(gòu)


2.1為什么選擇K個判別器夷蚊?

因?yàn)轭悩?biāo)簽預(yù)測器的結(jié)果為K類构挤,域判別器也被人為地分為K個,因而由于這個K相同惕鼓,給二者拉上一個聯(lián)系筋现,即用類標(biāo)簽預(yù)測器的結(jié)果來表示數(shù)據(jù)點(diǎn)xi在K個域判別器里的參與程度。換句話說箱歧,類標(biāo)簽在哪個類的預(yù)測結(jié)果概率大矾飞,那該數(shù)據(jù)點(diǎn)在這一個類的域判別器中的參與度就大。

用這種方法是因?yàn)椴恢滥繕?biāo)域的標(biāo)簽呀邢,因而無法知道域判別器和每一類的對應(yīng)關(guān)系洒沦。

2.2MADA的作用?

The multi-adversarial domain adaptation (MADA) model simultaneously enhances positive transfer by maximally matching the multimode structures underlying data distributions across domains, and circumvents negative transfer by avoiding false alignment of the distribution modes across domains.

1.增強(qiáng)正遷移驼鹅,最大化對齊不同域的多模結(jié)構(gòu)

2.同時減弱負(fù)遷移微谓,避免不同域分布模式的錯誤對齊。

3.損失函數(shù)


優(yōu)化目標(biāo)

大的方面來說输钩,分成兩類損失,一是原域樣本的分類損失仲智,二是原域樣本和目標(biāo)域樣本的域判器損失买乃。



判別器損失

4.實(shí)驗(yàn)結(jié)果


office 31



ImageCLEF-DA
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末,一起剝皮案震驚了整個濱河市钓辆,隨后出現(xiàn)的幾起案子剪验,更是在濱河造成了極大的恐慌,老刑警劉巖前联,帶你破解...
    沈念sama閱讀 211,884評論 6 492
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件功戚,死亡現(xiàn)場離奇詭異,居然都是意外死亡似嗤,警方通過查閱死者的電腦和手機(jī)啸臀,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 90,347評論 3 385
  • 文/潘曉璐 我一進(jìn)店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來烁落,“玉大人乘粒,你說我怎么就攤上這事∩怂” “怎么了灯萍?”我有些...
    開封第一講書人閱讀 157,435評論 0 348
  • 文/不壞的土叔 我叫張陵,是天一觀的道長每聪。 經(jīng)常有香客問我旦棉,道長齿风,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 56,509評論 1 284
  • 正文 為了忘掉前任绑洛,我火速辦了婚禮救斑,結(jié)果婚禮上,老公的妹妹穿的比我還像新娘诊笤。我一直安慰自己系谐,他們只是感情好,可當(dāng)我...
    茶點(diǎn)故事閱讀 65,611評論 6 386
  • 文/花漫 我一把揭開白布讨跟。 她就那樣靜靜地躺著纪他,像睡著了一般。 火紅的嫁衣襯著肌膚如雪晾匠。 梳的紋絲不亂的頭發(fā)上茶袒,一...
    開封第一講書人閱讀 49,837評論 1 290
  • 那天,我揣著相機(jī)與錄音凉馆,去河邊找鬼薪寓。 笑死,一個胖子當(dāng)著我的面吹牛澜共,可吹牛的內(nèi)容都是我干的向叉。 我是一名探鬼主播,決...
    沈念sama閱讀 38,987評論 3 408
  • 文/蒼蘭香墨 我猛地睜開眼嗦董,長吁一口氣:“原來是場噩夢啊……” “哼母谎!你這毒婦竟也來了?” 一聲冷哼從身側(cè)響起京革,我...
    開封第一講書人閱讀 37,730評論 0 267
  • 序言:老撾萬榮一對情侶失蹤奇唤,失蹤者是張志新(化名)和其女友劉穎,沒想到半個月后匹摇,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體咬扇,經(jīng)...
    沈念sama閱讀 44,194評論 1 303
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 36,525評論 2 327
  • 正文 我和宋清朗相戀三年廊勃,在試婚紗的時候發(fā)現(xiàn)自己被綠了懈贺。 大學(xué)時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片。...
    茶點(diǎn)故事閱讀 38,664評論 1 340
  • 序言:一個原本活蹦亂跳的男人離奇死亡供搀,死狀恐怖隅居,靈堂內(nèi)的尸體忽然破棺而出,到底是詐尸還是另有隱情葛虐,我是刑警寧澤胎源,帶...
    沈念sama閱讀 34,334評論 4 330
  • 正文 年R本政府宣布,位于F島的核電站屿脐,受9級特大地震影響涕蚤,放射性物質(zhì)發(fā)生泄漏宪卿。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 39,944評論 3 313
  • 文/蒙蒙 一万栅、第九天 我趴在偏房一處隱蔽的房頂上張望佑钾。 院中可真熱鬧,春花似錦烦粒、人聲如沸休溶。這莊子的主人今日做“春日...
    開封第一講書人閱讀 30,764評論 0 21
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽。三九已至徒役,卻和暖如春孽尽,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背忧勿。 一陣腳步聲響...
    開封第一講書人閱讀 31,997評論 1 266
  • 我被黑心中介騙來泰國打工杉女, 沒想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留,地道東北人鸳吸。 一個月前我還...
    沈念sama閱讀 46,389評論 2 360
  • 正文 我出身青樓熏挎,卻偏偏與公主長得像,于是被迫代替她去往敵國和親晌砾。 傳聞我的和親對象是個殘疾皇子婆瓜,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 43,554評論 2 349

推薦閱讀更多精彩內(nèi)容