About this paper
- Title: Adversarial Discriminative Domain Adaptation
- Authors: Zhongyi Pei, Zhangjie Cao, Mingsheng Long, and JianminWang
- Topic: Domain Adaptation
- From:AAAI 2018
Contributions
作者提出了使用多個(gè)判別器來(lái)學(xué)習(xí)數(shù)據(jù)分布的多模結(jié)構(gòu)骂租,增加了對(duì)類別的判別能力稿壁,從而增加了正遷移败匹,減少了負(fù)遷移屋厘。
Movitation
現(xiàn)存的對(duì)抗遷移方法使用一個(gè)判別器堡牡,單純的將源域數(shù)據(jù)和目標(biāo)域數(shù)據(jù)整體地進(jìn)行對(duì)齊怠噪,沒(méi)有利用復(fù)雜的多模結(jié)構(gòu)癌佩。
這樣做的后果就是,不僅源域數(shù)據(jù)和目標(biāo)域數(shù)據(jù)會(huì)混在一起秃励,判別結(jié)構(gòu)也會(huì)混在一起氏仗,導(dǎo)致不同域的判別結(jié)構(gòu)進(jìn)行了錯(cuò)誤的對(duì)齊。
例如下圖所示夺鲜,源域數(shù)據(jù)貓和目標(biāo)域數(shù)據(jù)狗錯(cuò)誤的混合在了一起皆尔。
作者提出進(jìn)行domain-adaptation有兩個(gè)技術(shù)挑戰(zhàn):
- 增加正遷移,盡可能的對(duì)齊不同域數(shù)據(jù)的多模結(jié)構(gòu)
- 減少負(fù)遷移币励,減少不同域數(shù)據(jù)的錯(cuò)誤對(duì)齊
Methods
我們使用k(k代表類別數(shù))個(gè)判別器慷蠕,每個(gè)判別器用來(lái)對(duì)齊源域和目標(biāo)域的一個(gè)特定類。因?yàn)槟繕?biāo)域數(shù)據(jù)沒(méi)有標(biāo)簽食呻,所以很難決定目標(biāo)數(shù)據(jù)對(duì)應(yīng)哪個(gè)判別器流炕。作者提出使用目標(biāo)數(shù)據(jù)通過(guò)分類器的得到輸出作為每個(gè)判別器的權(quán)重。
判別器的目標(biāo)函數(shù)如下:
整體的目標(biāo)函數(shù)如下: