變量重名

背景描述:編寫Adversarial Autoencoder的代碼扳肛,enocder部分的權(quán)值在對(duì)抗訓(xùn)練時(shí)會(huì)接受來(lái)自reconstruct和discriminator兩個(gè)方面的gradient,在初始化不同損失函數(shù)時(shí)煮落,會(huì)出現(xiàn)問(wèn)題敞峭。

問(wèn)題代碼:

# initialize optimizers
self.loss_encoder_decoder, self.opt_encoder_decoder = self.optimizer_encoder_decoder()
self.loss_discriminator, self.opt_discriminator = self.optimizer_discriminator()
self.loss_encoder, self.opt_encoder = self.optimizer_encoder()

tensorflow錯(cuò)誤輸出:
ValueError: Variable AAE/Encoder/layer_0/W/Adam/ already exists, disallowed. Did you mean to set reuse=True in VarScope?

其中各個(gè)函數(shù)如下,問(wèn)題出現(xiàn)在上面代碼的第三行蝉仇。

def optimizer_encoder_decoder(self):
    vars = self.encoder.vars
    vars.extend(self.decoder.vars)
    optimizer = tf.train.AdamOptimizer(learning_rate=self.learn_rate)
    return loss, optimizer.minimize(loss, var_list=vars)
def optimizer_discriminator(self):
    optimizer = tf.train.AdamOptimizer(learning_rate=self.learn_rate)
    return loss, optimizer.minimize(loss, var_list=self.disor.vars)
def optimizer_encoder(self):
    optimizer = tf.train.AdamOptimizer(learning_rate=self.learn_rate)
    return loss, optimizer.minimize(loss, var_list=self.encoder.vars)

問(wèn)題猜想:
報(bào)錯(cuò)的地方會(huì)產(chǎn)生一些“影子變量”用于optimizer對(duì)變量的更新(求出來(lái)的梯度旋讹?),故想辦法改變這些“影子變量”的scope就可以轿衔。

解決方法:
AdamOptimizer創(chuàng)建的時(shí)候傳入name參數(shù)(不使用默認(rèn)的參數(shù))沉迹,比如對(duì)于第三個(gè)函數(shù)optimizer_encoder

def optimizer_encoder(self):
    optimizer = tf.train.AdamOptimizer(learning_rate=self.learn_rate, name='Adam_en')
    return loss, optimizer.minimize(loss, var_list=self.encoder.vars)
最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末,一起剝皮案震驚了整個(gè)濱河市害驹,隨后出現(xiàn)的幾起案子鞭呕,更是在濱河造成了極大的恐慌,老刑警劉巖宛官,帶你破解...
    沈念sama閱讀 217,406評(píng)論 6 503
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件葫松,死亡現(xiàn)場(chǎng)離奇詭異,居然都是意外死亡底洗,警方通過(guò)查閱死者的電腦和手機(jī)腋么,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 92,732評(píng)論 3 393
  • 文/潘曉璐 我一進(jìn)店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來(lái)亥揖,“玉大人珊擂,你說(shuō)我怎么就攤上這事》驯洌” “怎么了摧扇?”我有些...
    開封第一講書人閱讀 163,711評(píng)論 0 353
  • 文/不壞的土叔 我叫張陵,是天一觀的道長(zhǎng)挚歧。 經(jīng)常有香客問(wèn)我扛稽,道長(zhǎng),這世上最難降的妖魔是什么昼激? 我笑而不...
    開封第一講書人閱讀 58,380評(píng)論 1 293
  • 正文 為了忘掉前任庇绽,我火速辦了婚禮,結(jié)果婚禮上橙困,老公的妹妹穿的比我還像新娘瞧掺。我一直安慰自己,他們只是感情好凡傅,可當(dāng)我...
    茶點(diǎn)故事閱讀 67,432評(píng)論 6 392
  • 文/花漫 我一把揭開白布辟狈。 她就那樣靜靜地躺著,像睡著了一般。 火紅的嫁衣襯著肌膚如雪哼转。 梳的紋絲不亂的頭發(fā)上明未,一...
    開封第一講書人閱讀 51,301評(píng)論 1 301
  • 那天,我揣著相機(jī)與錄音壹蔓,去河邊找鬼趟妥。 笑死,一個(gè)胖子當(dāng)著我的面吹牛佣蓉,可吹牛的內(nèi)容都是我干的披摄。 我是一名探鬼主播,決...
    沈念sama閱讀 40,145評(píng)論 3 418
  • 文/蒼蘭香墨 我猛地睜開眼勇凭,長(zhǎng)吁一口氣:“原來(lái)是場(chǎng)噩夢(mèng)啊……” “哼疚膊!你這毒婦竟也來(lái)了?” 一聲冷哼從身側(cè)響起虾标,我...
    開封第一講書人閱讀 39,008評(píng)論 0 276
  • 序言:老撾萬(wàn)榮一對(duì)情侶失蹤寓盗,失蹤者是張志新(化名)和其女友劉穎,沒(méi)想到半個(gè)月后璧函,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體傀蚌,經(jīng)...
    沈念sama閱讀 45,443評(píng)論 1 314
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡,尸身上長(zhǎng)有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 37,649評(píng)論 3 334
  • 正文 我和宋清朗相戀三年蘸吓,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了喳张。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片。...
    茶點(diǎn)故事閱讀 39,795評(píng)論 1 347
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡美澳,死狀恐怖,靈堂內(nèi)的尸體忽然破棺而出摸航,到底是詐尸還是另有隱情制跟,我是刑警寧澤,帶...
    沈念sama閱讀 35,501評(píng)論 5 345
  • 正文 年R本政府宣布酱虎,位于F島的核電站雨膨,受9級(jí)特大地震影響,放射性物質(zhì)發(fā)生泄漏读串。R本人自食惡果不足惜聊记,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 41,119評(píng)論 3 328
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望恢暖。 院中可真熱鬧排监,春花似錦、人聲如沸杰捂。這莊子的主人今日做“春日...
    開封第一講書人閱讀 31,731評(píng)論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽(yáng)。三九已至挨队,卻和暖如春谷暮,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背盛垦。 一陣腳步聲響...
    開封第一講書人閱讀 32,865評(píng)論 1 269
  • 我被黑心中介騙來(lái)泰國(guó)打工湿弦, 沒(méi)想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留,地道東北人腾夯。 一個(gè)月前我還...
    沈念sama閱讀 47,899評(píng)論 2 370
  • 正文 我出身青樓颊埃,卻偏偏與公主長(zhǎng)得像,于是被迫代替她去往敵國(guó)和親俯在。 傳聞我的和親對(duì)象是個(gè)殘疾皇子竟秫,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 44,724評(píng)論 2 354

推薦閱讀更多精彩內(nèi)容

  • 摘要:在深度學(xué)習(xí)之前已經(jīng)有很多生成模型愕提,但苦于生成模型難以描述難以建模馒稍,科研人員遇到了很多挑戰(zhàn),而深度學(xué)習(xí)的出現(xiàn)幫...
    肆虐的悲傷閱讀 11,282評(píng)論 1 21
  • 查看原文 1 簡(jiǎn)介 Deep Learning最簡(jiǎn)單的一種方法是利用人工神經(jīng)網(wǎng)絡(luò)的特點(diǎn)浅侨,人工神經(jīng)網(wǎng)絡(luò)(ANN)本身...
    JinkeyAI閱讀 6,762評(píng)論 0 4
  • 函數(shù)參數(shù)的默認(rèn)值 基本用法 在ES6之前纽谒,不能直接為函數(shù)的參數(shù)指定默認(rèn)值,只能采用變通的方法如输。 上面代碼檢查函數(shù)l...
    呼呼哥閱讀 3,384評(píng)論 0 1
  • 不能相濡以沫鼓黔,那就相忘于江湖
    青青河畔走閱讀 160評(píng)論 0 0
  • 6:30從冠粵酒店出發(fā)去世外桃源景區(qū)。7:00到達(dá)景區(qū)不见,已經(jīng)有很多人在排隊(duì)了澳化,乘著船沿著水路感受陶淵明筆下世外桃源...
    美麗心情_78f1閱讀 201評(píng)論 0 0