Inception Convolution with Efficient Dilation Search論文筆記

1.論文地址:https://arxiv.org/abs/2012.13587

2.論文代碼:暫未開源

3.論文動(dòng)機(jī):

1.空洞卷積(Dilation convolution)是標(biāo)準(zhǔn)卷積神經(jīng)網(wǎng)絡(luò)的關(guān)鍵變體巩踏,可以控制有效的感受野并處理對(duì)象的大尺度方差,而無需引入額外的計(jì)算我衬。但是,在文獻(xiàn)中很少討論將有效感受野適合于具有卷積的數(shù)據(jù)。為了充分挖掘其潛力骡尽,作者提出了一種新的空洞卷積變體臂拓,即inception (dilated)卷積商乎,其中卷積在不同軸,通道和層之間具有獨(dú)立的空洞申尼。為了探索一種將復(fù)雜的初始卷積擬合到數(shù)據(jù)的實(shí)用方法垮卓,開發(fā)了一種基于統(tǒng)計(jì)優(yōu)化的簡單而高效的空洞搜索算法(EDO,effective dilation search)师幕。該搜索方法以零成本方式運(yùn)行粟按,該方法極其快速地應(yīng)用于大規(guī)模數(shù)據(jù)集。

2.在不同的任務(wù)中霹粥,由于輸入圖像的大小差異和感興趣對(duì)象的尺度范圍不同灭将,對(duì)ERF的要求也不同。例如后控,在圖像分類中庙曙,輸入的尺寸往往比較小(例如:而在目標(biāo)檢測中,輸入的尺寸要大得多浩淘,目標(biāo)尺度范圍也很大捌朴。即使對(duì)于固定網(wǎng)絡(luò)的同一任務(wù)吴攒,某一卷積層的最優(yōu)ERF也可能與標(biāo)準(zhǔn)卷積運(yùn)算不同。由于ERF的要求不斷變化砂蔽,需要針對(duì)不同的任務(wù)提出一種通用的洼怔、實(shí)用的ERF優(yōu)化算法。

4.論文創(chuàng)新:主要有兩個(gè)貢獻(xiàn):

1.首先左驾,希望有一個(gè)更靈活的搜索空間镣隶,可以使得模型能夠具備將ERFs擬合到不同數(shù)據(jù)集的能力。于是本文提出一種新的膨脹卷積突變體什荣,即Inception卷積矾缓,它包含盡可能多的膨脹模式

2.本文提出了一種簡單而高效的膨脹優(yōu)化算法(EDO)。在EDO中稻爬,超網(wǎng)絡(luò)的每一層都是一個(gè)標(biāo)準(zhǔn)的卷積操作嗜闻,其內(nèi)核覆蓋了所有可能的膨脹模式。在對(duì)超網(wǎng)絡(luò)進(jìn)行預(yù)訓(xùn)練后桅锄,通過求解一個(gè)統(tǒng)計(jì)優(yōu)化問題琉雳,為每個(gè)卷積層中的每個(gè)通道選擇膨脹模式。對(duì)于每一層友瘤,通過原始卷積層的輸出期望與裁剪出來的與所選膨脹模式的膨脹卷積的L1誤差最小翠肘,使用預(yù)先訓(xùn)練好的權(quán)值來解決選擇問題。

5.論文骨架網(wǎng)絡(luò)和數(shù)據(jù)集:ResNet-50和ResNet101,MS-COCO和COCO val2017辫秧。

6.實(shí)驗(yàn)算法比較和總結(jié)

1.在圖像識(shí)別上:


圖像識(shí)別算法對(duì)比

2.在目標(biāo)檢測上:


目標(biāo)檢測算法對(duì)比


目標(biāo)檢測算法對(duì)比

3.在實(shí)例分割上:


實(shí)力分割算法對(duì)比

4.在人體姿態(tài)估計(jì)上:


人體姿態(tài)算法對(duì)比

6.算法對(duì)比

實(shí)證結(jié)果表明束倍,作者的方法在廣泛的Baseline測試中獲得了一致的性能提升。

我是熱愛生活和記錄的簡書JR盟戏,覺得我的文字對(duì)您有幫助的話绪妹,麻煩您點(diǎn)贊或關(guān)注。

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末柿究,一起剝皮案震驚了整個(gè)濱河市邮旷,隨后出現(xiàn)的幾起案子,更是在濱河造成了極大的恐慌蝇摸,老刑警劉巖婶肩,帶你破解...
    沈念sama閱讀 210,978評(píng)論 6 490
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件,死亡現(xiàn)場離奇詭異貌夕,居然都是意外死亡律歼,警方通過查閱死者的電腦和手機(jī),發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 89,954評(píng)論 2 384
  • 文/潘曉璐 我一進(jìn)店門蜂嗽,熙熙樓的掌柜王于貴愁眉苦臉地迎上來苗膝,“玉大人,你說我怎么就攤上這事∪杞遥” “怎么了离唐?”我有些...
    開封第一講書人閱讀 156,623評(píng)論 0 345
  • 文/不壞的土叔 我叫張陵,是天一觀的道長问窃。 經(jīng)常有香客問我亥鬓,道長,這世上最難降的妖魔是什么域庇? 我笑而不...
    開封第一講書人閱讀 56,324評(píng)論 1 282
  • 正文 為了忘掉前任嵌戈,我火速辦了婚禮,結(jié)果婚禮上听皿,老公的妹妹穿的比我還像新娘熟呛。我一直安慰自己,他們只是感情好尉姨,可當(dāng)我...
    茶點(diǎn)故事閱讀 65,390評(píng)論 5 384
  • 文/花漫 我一把揭開白布庵朝。 她就那樣靜靜地躺著,像睡著了一般又厉。 火紅的嫁衣襯著肌膚如雪九府。 梳的紋絲不亂的頭發(fā)上,一...
    開封第一講書人閱讀 49,741評(píng)論 1 289
  • 那天覆致,我揣著相機(jī)與錄音侄旬,去河邊找鬼。 笑死煌妈,一個(gè)胖子當(dāng)著我的面吹牛儡羔,可吹牛的內(nèi)容都是我干的。 我是一名探鬼主播璧诵,決...
    沈念sama閱讀 38,892評(píng)論 3 405
  • 文/蒼蘭香墨 我猛地睜開眼笔链,長吁一口氣:“原來是場噩夢啊……” “哼!你這毒婦竟也來了腮猖?” 一聲冷哼從身側(cè)響起,我...
    開封第一講書人閱讀 37,655評(píng)論 0 266
  • 序言:老撾萬榮一對(duì)情侶失蹤赞枕,失蹤者是張志新(化名)和其女友劉穎澈缺,沒想到半個(gè)月后,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體炕婶,經(jīng)...
    沈念sama閱讀 44,104評(píng)論 1 303
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡姐赡,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 36,451評(píng)論 2 325
  • 正文 我和宋清朗相戀三年,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了柠掂。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片项滑。...
    茶點(diǎn)故事閱讀 38,569評(píng)論 1 340
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡忍弛,死狀恐怖恃逻,靈堂內(nèi)的尸體忽然破棺而出扎谎,到底是詐尸還是另有隱情抢埋,我是刑警寧澤,帶...
    沈念sama閱讀 34,254評(píng)論 4 328
  • 正文 年R本政府宣布州疾,位于F島的核電站辜限,受9級(jí)特大地震影響,放射性物質(zhì)發(fā)生泄漏严蓖。R本人自食惡果不足惜薄嫡,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 39,834評(píng)論 3 312
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望颗胡。 院中可真熱鬧毫深,春花似錦、人聲如沸毒姨。這莊子的主人今日做“春日...
    開封第一講書人閱讀 30,725評(píng)論 0 21
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽手素。三九已至鸳址,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間泉懦,已是汗流浹背稿黍。 一陣腳步聲響...
    開封第一講書人閱讀 31,950評(píng)論 1 264
  • 我被黑心中介騙來泰國打工, 沒想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留崩哩,地道東北人巡球。 一個(gè)月前我還...
    沈念sama閱讀 46,260評(píng)論 2 360
  • 正文 我出身青樓,卻偏偏與公主長得像邓嘹,于是被迫代替她去往敵國和親酣栈。 傳聞我的和親對(duì)象是個(gè)殘疾皇子,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 43,446評(píng)論 2 348

推薦閱讀更多精彩內(nèi)容