CNN中幾種upsample方法

參考conv_arithmetic上的動圖

符號約定: i,o,k,p,s分別表示:卷積的輸入大小input size,輸出大小 output size迄本,卷積核大小 kernel size课竣, paddingstride 公条。
下面的圖片藍色(底部)為輸入迂曲,綠色(頂部)為輸出。

1抓韩、常規(guī)卷積:

(1)鬓长、i=4,o=2,k=3,p=0,s=1"VALID模式"


(2)英上、i=5,o=5,k=3,p=1,s=1 "SAME模式"或者"HALF模式"

(3)苍日、i=5,o=7,k=3,p=2,s=1 "FULL模式"

(4)窗声、i=5,o=2,k=3,p=0,s=2

(5)、i=5,o=3,k=3,p=1,s=2

2拦耐、反卷積/轉(zhuǎn)置卷積:

(1)、i=2,o=4,k=3,no_padding,s=1


(2)扫俺、i=5,o=5,k=3,same_padding,s=1

(3)狼纬、i=7,o=5,k=3,full_padding,s=1

(4)骂际、i=2,o=5,k=3,no_padding,s=2

(5)歉铝、i=3,o=5,k=3,padding,s=2

實際上通過反卷積操作并不能還原出卷積之前的圖片,只能還原出卷積之前圖片的尺寸送火。
反卷積(轉(zhuǎn)置卷積)通常用在以下幾個方面:

  1. CNN可視化先匪,通過反卷積將卷積得到的feature map還原到像素空間弃衍,來觀察feature map對哪些pattern相應(yīng)最大,即可視化哪些特征是卷積操作提取出來的岸裙;
  2. FCN全卷積網(wǎng)絡(luò)中速缆,由于要對圖像進行像素級的分割,需要將圖像尺寸還原到原來的大小艺糜,類似upsampling的操作,所以需要采用反卷積翅楼;
  3. GAN對抗式生成網(wǎng)絡(luò)中真慢,由于需要從輸入圖像到生成圖像,自然需要將提取的特征圖還原到和原圖同樣尺寸的大小黑界,即也需要反卷積操作皂林。
    ?
    當(dāng)反卷積的s = 1時式撼,反卷積和一般的卷積并沒有什么不同求厕,只是padding的稱呼方式有所變化,方向和卷積相反呀癣。由反卷積的圖5可以看到反卷積的一些缺點,在s > 1時浦辨,會降低圖片的分辨率沼沈,并且不同于一般的convolution,反而增大了輸出的feature mapsize列另。
    對于s = 2页衙、padding=1k=4的反卷積店乐,輸入AXA圖像,輸出為2AX2A腺兴。

3廉侧、膨脹卷積:

又稱為空洞卷積擴張卷積英文為:Dilation[da?'le??n] Convolution/Atrous['?tr?s] Convolution/Convolution with holes

作用:

首先膨脹卷積的目的是為了在擴大感受野的同時伏穆,不降低圖片分辨率不引入額外參數(shù)及計算量(一般在CNN中擴大感受野都需要使用s>1conv或者pooling枕扫,導(dǎo)致分辨率降低,減少了feature map的信息。如果使用大卷積核染簇,確實可以達到增大感受野强岸,但是會引入額外的參數(shù)及計算量)。
膨脹卷積多了一個參數(shù)dilation rate青灼, 指的是kernel的間隔數(shù)量(e.g. 一般的convolutiondilatation rate = 1)妓盲。把dilation rate簡記為r
圖像參考:i = 7,o = 3,k = 3,p = 0,s = 1,r = 2


擴充后的卷積核size = k + (k-1) x (r-1)弹沽,特別地筋粗,對于3*3的卷積核,如果p = r娜亿,則特征圖尺寸大小不改變暇唾。既然膨脹卷積的初衷之一就是不降低圖片分辨率辰斋,那么我們可以認定膨脹卷積的s = 1
?
總起來說宫仗,dilation conv是對卷積核進行upsample,deconv是對feature map進行upsample孽糖;或者說毅贮,dilation conv是skip掉map中的一些元素,而deconv是對map中的元素進行補0操作滩褥。

參考:
1、反卷積/轉(zhuǎn)置卷積: transposed conv/deconv
2铺然、徹底搞懂CNN中的卷積和反卷積
3、談?wù)勁蛎浘矸e
4赋铝、dilation conv 和 deconv
5沽瘦、如何理解空洞卷積(dilated convolution)?-知乎

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末苛蒲,一起剝皮案震驚了整個濱河市绿满,隨后出現(xiàn)的幾起案子,更是在濱河造成了極大的恐慌漏健,老刑警劉巖橘霎,帶你破解...
    沈念sama閱讀 217,277評論 6 503
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件,死亡現(xiàn)場離奇詭異瓦盛,居然都是意外死亡外潜,警方通過查閱死者的電腦和手機,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 92,689評論 3 393
  • 文/潘曉璐 我一進店門嘱吗,熙熙樓的掌柜王于貴愁眉苦臉地迎上來滔驾,“玉大人,你說我怎么就攤上這事绕德√В” “怎么了剩瓶?”我有些...
    開封第一講書人閱讀 163,624評論 0 353
  • 文/不壞的土叔 我叫張陵城丧,是天一觀的道長。 經(jīng)常有香客問我枝缔,道長蚊惯,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 58,356評論 1 293
  • 正文 為了忘掉前任趴荸,我火速辦了婚禮宦焦,結(jié)果婚禮上,老公的妹妹穿的比我還像新娘酝豪。我一直安慰自己精堕,他們只是感情好,可當(dāng)我...
    茶點故事閱讀 67,402評論 6 392
  • 文/花漫 我一把揭開白布瘫证。 她就那樣靜靜地躺著庄撮,像睡著了一般。 火紅的嫁衣襯著肌膚如雪重窟。 梳的紋絲不亂的頭發(fā)上惧财,一...
    開封第一講書人閱讀 51,292評論 1 301
  • 那天垮衷,我揣著相機與錄音,去河邊找鬼搀突。 笑死,一個胖子當(dāng)著我的面吹牛甸昏,可吹牛的內(nèi)容都是我干的。 我是一名探鬼主播施蜜,決...
    沈念sama閱讀 40,135評論 3 418
  • 文/蒼蘭香墨 我猛地睜開眼翻默,長吁一口氣:“原來是場噩夢啊……” “哼!你這毒婦竟也來了修械?” 一聲冷哼從身側(cè)響起,我...
    開封第一講書人閱讀 38,992評論 0 275
  • 序言:老撾萬榮一對情侶失蹤翘单,失蹤者是張志新(化名)和其女友劉穎蹦渣,沒想到半個月后,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體忠烛,經(jīng)...
    沈念sama閱讀 45,429評論 1 314
  • 正文 獨居荒郊野嶺守林人離奇死亡美尸,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點故事閱讀 37,636評論 3 334
  • 正文 我和宋清朗相戀三年斟薇,在試婚紗的時候發(fā)現(xiàn)自己被綠了。 大學(xué)時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片胯陋。...
    茶點故事閱讀 39,785評論 1 348
  • 序言:一個原本活蹦亂跳的男人離奇死亡袱箱,死狀恐怖,靈堂內(nèi)的尸體忽然破棺而出盟萨,到底是詐尸還是另有隱情了讨,我是刑警寧澤制轰,帶...
    沈念sama閱讀 35,492評論 5 345
  • 正文 年R本政府宣布胞谭,位于F島的核電站,受9級特大地震影響缩滨,放射性物質(zhì)發(fā)生泄漏。R本人自食惡果不足惜脉漏,卻給世界環(huán)境...
    茶點故事閱讀 41,092評論 3 328
  • 文/蒙蒙 一侧巨、第九天 我趴在偏房一處隱蔽的房頂上張望鞭达。 院中可真熱鬧,春花似錦畴蹭、人聲如沸。這莊子的主人今日做“春日...
    開封第一講書人閱讀 31,723評論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽。三九已至右犹,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間盼忌,已是汗流浹背掂墓。 一陣腳步聲響...
    開封第一講書人閱讀 32,858評論 1 269
  • 我被黑心中介騙來泰國打工, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留服协,地道東北人啦粹。 一個月前我還...
    沈念sama閱讀 47,891評論 2 370
  • 正文 我出身青樓,卻偏偏與公主長得像跳纳,于是被迫代替她去往敵國和親贪嫂。 傳聞我的和親對象是個殘疾皇子,可洞房花燭夜當(dāng)晚...
    茶點故事閱讀 44,713評論 2 354