在學(xué)習(xí)GAN的過程中,也不可避免的會(huì)接觸到VAE和AAE,其中AAE根據(jù)VAE發(fā)展而來辛萍,其發(fā)展之處就在于加入了對抗的思想。
其中上半部分就是一個(gè)簡單典型的AE結(jié)構(gòu)羡藐,包含input layer贩毕,encoder layer, hidden layer, decoder layer , output layer。encoder把真實(shí)分布x映射成隱層的z, decoder 再將z解碼還原成x仆嗦。
AAE的特點(diǎn)就在于在隱層hidden layer中引入了對抗的思想來優(yōu)化隱層的z辉阶,判別器discriminator 需要在隱層 判斷采樣后的真實(shí)數(shù)據(jù)和生成器encoder所產(chǎn)生的假數(shù)據(jù)。因此discriminator的目的就是使得q(z | x) 不斷向p(z)靠近, Matching the aggregated posterior q(z) to the prior p(z).
其中有三種q(z | x)的選擇欧啤,包括確定性函數(shù),高斯后驗(yàn)和通用近似后驗(yàn)启上,其中使用確定性函數(shù)邢隧,它的q(z)只是和真實(shí)數(shù)據(jù)分布有關(guān),其他兩種的q(z)除了與真實(shí)分布有關(guān)冈在,還與這兩種方式中的某些隨機(jī)性有關(guān)倒慧。
上圖可以清晰理解的看到AAE的整個(gè)結(jié)構(gòu)。Adversarial Autoencoders論文鏈接:https://arxiv.org/abs/1511.05644