CNN感受野(VGG)

從圖像中提取CNN特征式镐,VGG模型是首選算法 堂飞。VGG是牛津大學(xué)?Visual Geometry Group(視覺(jué)幾何組)的縮寫路狮,以研究機(jī)構(gòu)命名步绸。

VGG論文給出了一個(gè)非常振奮人心的結(jié)論:卷積神經(jīng)網(wǎng)絡(luò)的深度增加和小卷積核的使用對(duì)網(wǎng)絡(luò)的最終分類識(shí)別效果有很大的作用尝丐,VGG基本全部是 3x3小卷積核 和 2x2池化核显拜。

VGG16結(jié)構(gòu)

VGG典型的有16層的VGG16和19層的VGG19,VGG之所以堆疊很多3x3的小卷積核的卷積層爹袁,就要說(shuō)到CNN感受野的問(wèn)題了远荠。

關(guān)于感受野有一個(gè)說(shuō)法:兩個(gè)3x3卷積層等于一個(gè)5x5卷積層,三個(gè)3x3卷積層失息,等于一個(gè)7x7卷積層譬淳。

感受野(receptive field)用來(lái)表示網(wǎng)絡(luò)內(nèi)部的不同神經(jīng)元對(duì)原圖像的感受范圍的大小档址,或者說(shuō),CNN每一層輸出的特征圖(feature map)上的像素點(diǎn)在原始圖像上映射的區(qū)域大小邻梆。

舉個(gè)例子守伸,在單個(gè)maxpooling層中,如果它的kenerl size是2x2浦妄,輸出結(jié)果中的每一個(gè)元素都是其對(duì)應(yīng)輸入的2x2的區(qū)域中的最大值尼摹,所以這一層的感受野大小就是2。其實(shí)感受野的大小是由kernel size和stride size一起決定的剂娄,公式是:?

rfsize = f(out, stride, ksize) = (out - 1) * stride + ksize (?其中out是指上一層感受野的大写览浴)

注意:感受野在計(jì)算的時(shí)候不考慮“邊界填充”,因?yàn)樘畛涞倪吔缫呀?jīng)不是原始圖像本身的內(nèi)容了阅懦,感受野描述的是輸出特征到原始圖像的映射關(guān)系和二,故而不考慮padding 。實(shí)際建模過(guò)程中可能需要填充邊界耳胎,原理一樣惯吕,只是計(jì)算稍微復(fù)雜點(diǎn)。?

而不考慮padding的卷積的正向維度計(jì)算公式是:??D_n=\frac{D_{n-1}-ksize}{stride} +1? 场晶,是上式反推

上面是遞推的公式混埠,下面是卷積過(guò)程的圖解,為了簡(jiǎn)單诗轻,步幅設(shè)定為1.

第一次卷積計(jì)算

從上面可以看出:第一層網(wǎng)絡(luò)輸出的圖像中钳宪,輸出結(jié)果為8x8,output1輸出的每一個(gè)特征(即每一個(gè)像素)受到原始圖像的3x3區(qū)域內(nèi)的影響扳炬,故而第一層的感受野為3吏颖,用字母表示為

RF1=3 (每一個(gè)像素值與原始圖像的3x3區(qū)域有關(guān))

第二次卷積計(jì)算

再說(shuō)回VGG用多個(gè)3x3卷積層疊加而不是更少的大尺寸卷積核的原因

這樣做的主要目的是:

(1)保證具有相同感知野的條件下,提升了網(wǎng)絡(luò)的深度恨樟,在一定程度上提升了神經(jīng)網(wǎng)絡(luò)的效果半醉;

(2)減少計(jì)算參數(shù)量。一個(gè)7x7卷積核的參數(shù)有49個(gè)劝术,三個(gè)3x3卷積核的參數(shù)有27個(gè)缩多,減少約一半

(3)多個(gè)?3x3?的卷基層比一個(gè)大尺寸?filter卷積層有更多的非線性(更多層的非線性函數(shù)),使得判決函數(shù)更加具有判決性


最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末养晋,一起剝皮案震驚了整個(gè)濱河市衬吆,隨后出現(xiàn)的幾起案子,更是在濱河造成了極大的恐慌绳泉,老刑警劉巖逊抡,帶你破解...
    沈念sama閱讀 206,013評(píng)論 6 481
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件,死亡現(xiàn)場(chǎng)離奇詭異零酪,居然都是意外死亡冒嫡,警方通過(guò)查閱死者的電腦和手機(jī)拇勃,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 88,205評(píng)論 2 382
  • 文/潘曉璐 我一進(jìn)店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來(lái)孝凌,“玉大人方咆,你說(shuō)我怎么就攤上這事√バ恚” “怎么了峻呛?”我有些...
    開(kāi)封第一講書人閱讀 152,370評(píng)論 0 342
  • 文/不壞的土叔 我叫張陵,是天一觀的道長(zhǎng)辜窑。 經(jīng)常有香客問(wèn)我钩述,道長(zhǎng),這世上最難降的妖魔是什么穆碎? 我笑而不...
    開(kāi)封第一講書人閱讀 55,168評(píng)論 1 278
  • 正文 為了忘掉前任牙勘,我火速辦了婚禮,結(jié)果婚禮上所禀,老公的妹妹穿的比我還像新娘方面。我一直安慰自己,他們只是感情好色徘,可當(dāng)我...
    茶點(diǎn)故事閱讀 64,153評(píng)論 5 371
  • 文/花漫 我一把揭開(kāi)白布恭金。 她就那樣靜靜地躺著,像睡著了一般褂策。 火紅的嫁衣襯著肌膚如雪横腿。 梳的紋絲不亂的頭發(fā)上,一...
    開(kāi)封第一講書人閱讀 48,954評(píng)論 1 283
  • 那天斤寂,我揣著相機(jī)與錄音耿焊,去河邊找鬼。 笑死遍搞,一個(gè)胖子當(dāng)著我的面吹牛罗侯,可吹牛的內(nèi)容都是我干的。 我是一名探鬼主播溪猿,決...
    沈念sama閱讀 38,271評(píng)論 3 399
  • 文/蒼蘭香墨 我猛地睜開(kāi)眼钩杰,長(zhǎng)吁一口氣:“原來(lái)是場(chǎng)噩夢(mèng)啊……” “哼!你這毒婦竟也來(lái)了诊县?” 一聲冷哼從身側(cè)響起榜苫,我...
    開(kāi)封第一講書人閱讀 36,916評(píng)論 0 259
  • 序言:老撾萬(wàn)榮一對(duì)情侶失蹤,失蹤者是張志新(化名)和其女友劉穎翎冲,沒(méi)想到半個(gè)月后,有當(dāng)?shù)厝嗽跇?shù)林里發(fā)現(xiàn)了一具尸體媳荒,經(jīng)...
    沈念sama閱讀 43,382評(píng)論 1 300
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡抗悍,尸身上長(zhǎng)有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 35,877評(píng)論 2 323
  • 正文 我和宋清朗相戀三年驹饺,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片缴渊。...
    茶點(diǎn)故事閱讀 37,989評(píng)論 1 333
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡赏壹,死狀恐怖,靈堂內(nèi)的尸體忽然破棺而出衔沼,到底是詐尸還是另有隱情蝌借,我是刑警寧澤,帶...
    沈念sama閱讀 33,624評(píng)論 4 322
  • 正文 年R本政府宣布指蚁,位于F島的核電站菩佑,受9級(jí)特大地震影響,放射性物質(zhì)發(fā)生泄漏凝化。R本人自食惡果不足惜稍坯,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 39,209評(píng)論 3 307
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望搓劫。 院中可真熱鬧瞧哟,春花似錦、人聲如沸枪向。這莊子的主人今日做“春日...
    開(kāi)封第一講書人閱讀 30,199評(píng)論 0 19
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽(yáng)秘蛔。三九已至陨亡,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間缠犀,已是汗流浹背数苫。 一陣腳步聲響...
    開(kāi)封第一講書人閱讀 31,418評(píng)論 1 260
  • 我被黑心中介騙來(lái)泰國(guó)打工, 沒(méi)想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留辨液,地道東北人虐急。 一個(gè)月前我還...
    沈念sama閱讀 45,401評(píng)論 2 352
  • 正文 我出身青樓,卻偏偏與公主長(zhǎng)得像滔迈,于是被迫代替她去往敵國(guó)和親止吁。 傳聞我的和親對(duì)象是個(gè)殘疾皇子,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 42,700評(píng)論 2 345

推薦閱讀更多精彩內(nèi)容