哪里使用BN

The batch norm layer is used after linear layers (ie: FC, conv), and before the non-linear layers (relu).

There is actually 2 batch norm implementations one for FC layer and the other for conv layers (Spatial batch-norm).

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末,一起剝皮案震驚了整個(gè)濱河市陷揪,隨后出現(xiàn)的幾起案子钾虐,更是在濱河造成了極大的恐慌搓彻,老刑警劉巖,帶你破解...
    沈念sama閱讀 206,839評(píng)論 6 482
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件矢腻,死亡現(xiàn)場(chǎng)離奇詭異苛白,居然都是意外死亡焰檩,警方通過查閱死者的電腦和手機(jī),發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 88,543評(píng)論 2 382
  • 文/潘曉璐 我一進(jìn)店門讨勤,熙熙樓的掌柜王于貴愁眉苦臉地迎上來箭跳,“玉大人,你說我怎么就攤上這事潭千∑仔眨” “怎么了?”我有些...
    開封第一講書人閱讀 153,116評(píng)論 0 344
  • 文/不壞的土叔 我叫張陵脊岳,是天一觀的道長(zhǎng)逝段。 經(jīng)常有香客問我,道長(zhǎng)割捅,這世上最難降的妖魔是什么奶躯? 我笑而不...
    開封第一講書人閱讀 55,371評(píng)論 1 279
  • 正文 為了忘掉前任,我火速辦了婚禮亿驾,結(jié)果婚禮上嘹黔,老公的妹妹穿的比我還像新娘。我一直安慰自己莫瞬,他們只是感情好儡蔓,可當(dāng)我...
    茶點(diǎn)故事閱讀 64,384評(píng)論 5 374
  • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著疼邀,像睡著了一般喂江。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上旁振,一...
    開封第一講書人閱讀 49,111評(píng)論 1 285
  • 那天获询,我揣著相機(jī)與錄音,去河邊找鬼拐袜。 笑死吉嚣,一個(gè)胖子當(dāng)著我的面吹牛,可吹牛的內(nèi)容都是我干的蹬铺。 我是一名探鬼主播尝哆,決...
    沈念sama閱讀 38,416評(píng)論 3 400
  • 文/蒼蘭香墨 我猛地睜開眼,長(zhǎng)吁一口氣:“原來是場(chǎng)噩夢(mèng)啊……” “哼甜攀!你這毒婦竟也來了秋泄?” 一聲冷哼從身側(cè)響起琐馆,我...
    開封第一講書人閱讀 37,053評(píng)論 0 259
  • 序言:老撾萬榮一對(duì)情侶失蹤,失蹤者是張志新(化名)和其女友劉穎印衔,沒想到半個(gè)月后啡捶,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體姥敛,經(jīng)...
    沈念sama閱讀 43,558評(píng)論 1 300
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡奸焙,尸身上長(zhǎng)有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 36,007評(píng)論 2 325
  • 正文 我和宋清朗相戀三年,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了彤敛。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片与帆。...
    茶點(diǎn)故事閱讀 38,117評(píng)論 1 334
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡,死狀恐怖墨榄,靈堂內(nèi)的尸體忽然破棺而出玄糟,到底是詐尸還是另有隱情,我是刑警寧澤袄秩,帶...
    沈念sama閱讀 33,756評(píng)論 4 324
  • 正文 年R本政府宣布阵翎,位于F島的核電站,受9級(jí)特大地震影響之剧,放射性物質(zhì)發(fā)生泄漏郭卫。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 39,324評(píng)論 3 307
  • 文/蒙蒙 一背稼、第九天 我趴在偏房一處隱蔽的房頂上張望贰军。 院中可真熱鬧,春花似錦蟹肘、人聲如沸词疼。這莊子的主人今日做“春日...
    開封第一講書人閱讀 30,315評(píng)論 0 19
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽贰盗。三九已至,卻和暖如春阳欲,著一層夾襖步出監(jiān)牢的瞬間舵盈,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 31,539評(píng)論 1 262
  • 我被黑心中介騙來泰國打工胸完, 沒想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留书释,地道東北人。 一個(gè)月前我還...
    沈念sama閱讀 45,578評(píng)論 2 355
  • 正文 我出身青樓赊窥,卻偏偏與公主長(zhǎng)得像爆惧,于是被迫代替她去往敵國和親。 傳聞我的和親對(duì)象是個(gè)殘疾皇子锨能,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 42,877評(píng)論 2 345

推薦閱讀更多精彩內(nèi)容

  • 我要去青島了扯再,在這里自己給自己立個(gè)小旗子芍耘,回來的時(shí)候一定不偷懶在這里發(fā)一篇青島旅游記錄!fine熄阻,我斋竞,有目標(biāo),非咸魚秃殉!
    dalaalaaa閱讀 229評(píng)論 0 0
  • 喜歡我的真誠钾军,記得給我打call鳄袍,50字以上留言,50字以上留言吏恭,50字以上留言拗小,無論是鼓勵(lì)還是批評(píng),都是對(duì)我莫大...
    冬梅姐自我管理閱讀 725評(píng)論 28 3
  • 今年兩會(huì),有人大代表建議高考取消英語搅幅,并英語將由必修改為選修阅束。理由是“目前中小學(xué)的孩子們花在英語學(xué)習(xí)中的時(shí)間太多了...
    山藥豆閱讀 890評(píng)論 2 2
  • 樓上的這對(duì)夫妻,過得跟仇人一樣盏筐,天天吵架天天罵围俘,這是什么緣分啊琢融!反思我自己界牡,是不是也經(jīng)常發(fā)脾氣,家里搞得氣氛緊張漾抬,...
    溫宇荷閱讀 190評(píng)論 0 0