VGGNet為什么效果比AlexNet好

VGGNet簡介

VGGNet網(wǎng)絡(luò)結(jié)構(gòu)

下圖是學(xué)界最常使用的vgg-16神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)圖茂契，可以看到其組成由：

$2$ 個通道數(shù)是 $64$ 的 $224\times 224$ 的卷積層
$2$ 個通道數(shù)是 $128$ 的 $112\times 112$ 的卷積層
$3$ 個通道數(shù)是 $256$ 的 $56\times 56$ 的卷積層
$3$ 個通道數(shù)是 $512$ 的 $28\times 28$ 的卷積層
$3$ 個通道數(shù)是 $512$ 的 $14\times 14$ 的卷積層
$1$ 個通道數(shù)是 $4096$ 的全連接層
$1$ 個通道數(shù)是 $4096$ 的全連接層
$1$ 個通道數(shù)是 $1000$ 的全連接層+softmax層
這樣加起來 $2+2+3+3+3+1+1+1 = 16$ 嗓化，vgg-16就是這樣由來的：

當(dāng)然迎卤，VGGNet除了16層的網(wǎng)絡(luò)結(jié)構(gòu)還有其他樣式的網(wǎng)絡(luò)結(jié)構(gòu)，如圖：

VGGNet與AlexNet網(wǎng)絡(luò)結(jié)構(gòu)的對比

可以看到摩泪，VGGNet除了層數(shù)比AlexNet多外吼鱼，不管是VGG-16還是VGG-19其使用的卷積核均是 $3\times 3$ 的，而非AlexNet的 $11\times 11$ 或者 $5\times 5$ 的谆奥，如圖：

為什么要使用小卷積核

之前對感受野有了一次介紹眼坏，這里是連接：卷積神經(jīng)網(wǎng)絡(luò)的感受野及其計算，所以在這里會采用感受野的知識來回答這個問題酸些。我們把 $3$ 個 $3\times 3$ 的卷積核堆疊起來：

第一個 $3\times 3$ 的卷積核的感受野是 $3\times 3$ 宰译。
第二個 $3\times 3$ 的卷積核的感受野是 $5\times 5$ 檐蚜。
第三個 $3\times 3$ 的卷積核的感受野是 $7\times 7$ 。

也就是說沿侈，經(jīng)過 $3$ 次卷積運(yùn)算后其對原始圖像的感受野是 $7\times 7$ 的闯第，相當(dāng)于一個 $7\times 7$ 的卷積核的感受野！但是為什么不直接使用一個 $7\times 7$ 的卷積核呢缀拭？原因是雖然 $3$ 個 $3\times 3$ 的卷積核的感受野與 $1$ 個 $7\times 7$ 的卷積核一樣咳短，但是前者可以經(jīng)過 $3$ 次激活函數(shù)的非線性變換具有比 $1$ 次非線性變化得到的特征更具有表達(dá)性。除此之外蛛淋，使用小的卷積核還能夠節(jié)省參數(shù)量咙好，例如假設(shè)上一層的特征圖的通道數(shù)是 $C$ 個，那么：

$3$ 個 $3\times 3$ 卷積核的參數(shù)量是： $3\times (C\times (3\times 3\times C)) = 27C^2$
$1$ 個 $7\times 7$ 卷積核的參數(shù)量是： $C\times (7\times 7\times C)) = 49C^2$

總結(jié)

可多次非線性變換提高卷積核對特征的抽取褐荷。
參數(shù)量更少敷扫，方便計算和存儲。

VGGNet每層的參數(shù)量

下圖展示了VGG-16網(wǎng)絡(luò)結(jié)構(gòu)每一層的參數(shù)量诚卸，需要說明的是在訓(xùn)練該網(wǎng)絡(luò)時大部分的內(nèi)存開銷都在開始的卷積層葵第，大部分的參數(shù)都在最后的3個全連接層：

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者

人面猴
序言：七十年代末，一起剝皮案震驚了整個濱河市合溺，隨后出現(xiàn)的幾起案子卒密，更是在濱河造成了極大的恐慌，老刑警劉巖棠赛，帶你破解...
沈念sama閱讀 219,490評論 6贊 508
死咒
序言：濱河連續(xù)發(fā)生了三起死亡事件哮奇，死亡現(xiàn)場離奇詭異，居然都是意外死亡睛约，警方通過查閱死者的電腦和手機(jī)鼎俘，發(fā)現(xiàn)死者居然都...
沈念sama閱讀 93,581評論 3贊 395
救了他兩次的神仙讓他今天三更去死
文/潘曉璐我一進(jìn)店門，熙熙樓的掌柜王于貴愁眉苦臉地迎上來辩涝，“玉大人贸伐，你說我怎么就攤上這事≌” “怎么了捉邢？”我有些...
開封第一講書人閱讀 165,830評論 0贊 356
道士緝兇錄：失蹤的賣姜人
文/不壞的土叔我叫張陵，是天一觀的道長商膊。經(jīng)常有香客問我伏伐，道長，這世上最難降的妖魔是什么晕拆？我笑而不...
開封第一講書人閱讀 58,957評論 1贊 295
?港島之戀（遺憾婚禮）
正文為了忘掉前任藐翎，我火速辦了婚禮，結(jié)果婚禮上，老公的妹妹穿的比我還像新娘吝镣。我一直安慰自己堤器，他們只是感情好，可當(dāng)我...
茶點(diǎn)故事閱讀 67,974評論 6贊 393
惡毒庶女頂嫁案：這布局不是一般人想出來的
文/花漫我一把揭開白布赤惊。她就那樣靜靜地躺著吼旧，像睡著了一般。火紅的嫁衣襯著肌膚如雪未舟。梳的紋絲不亂的頭發(fā)上圈暗，一...
開封第一講書人閱讀 51,754評論 1贊 307
城市分裂傳說
那天，我揣著相機(jī)與錄音裕膀，去河邊找鬼员串。笑死，一個胖子當(dāng)著我的面吹牛昼扛，可吹牛的內(nèi)容都是我干的寸齐。我是一名探鬼主播，決...
沈念sama閱讀 40,464評論 3贊 420
雙鴛鴦連環(huán)套：你想象不到人心有多黑
文/蒼蘭香墨我猛地睜開眼抄谐，長吁一口氣：“原來是場噩夢啊……” “哼渺鹦！你這毒婦竟也來了？” 一聲冷哼從身側(cè)響起蛹含，我...
開封第一講書人閱讀 39,357評論 0贊 276
萬榮殺人案實(shí)錄
序言：老撾萬榮一對情侶失蹤毅厚，失蹤者是張志新（化名）和其女友劉穎，沒想到半個月后浦箱，有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體吸耿，經(jīng)...
沈念sama閱讀 45,847評論 1贊 317
?護(hù)林員之死
正文獨(dú)居荒郊野嶺守林人離奇死亡，尸身上長有42處帶血的膿包…… 初始之章·張勛以下內(nèi)容為張勛視角年9月15日...
茶點(diǎn)故事閱讀 37,995評論 3贊 338
?白月光啟示錄
正文我和宋清朗相戀三年酷窥，在試婚紗的時候發(fā)現(xiàn)自己被綠了咽安。大學(xué)時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片。...
茶點(diǎn)故事閱讀 40,137評論 1贊 351
活死人
序言：一個原本活蹦亂跳的男人離奇死亡蓬推，死狀恐怖妆棒，靈堂內(nèi)的尸體忽然破棺而出，到底是詐尸還是另有隱情拳氢，我是刑警寧澤募逞，帶...
沈念sama閱讀 35,819評論 5贊 346
?日本核電站爆炸內(nèi)幕
正文年R本政府宣布，位于F島的核電站馋评，受9級特大地震影響，放射性物質(zhì)發(fā)生泄漏刺啦。R本人自食惡果不足惜留特，卻給世界環(huán)境...
茶點(diǎn)故事閱讀 41,482評論 3贊 331
男人毒藥：我在死后第九天來索命
文/蒙蒙一、第九天我趴在偏房一處隱蔽的房頂上張望。院中可真熱鬧蜕青，春花似錦苟蹈、人聲如沸。這莊子的主人今日做“春日...
開封第一講書人閱讀 32,023評論 0贊 22
一樁弒父案慧脱，背后竟有這般陰謀
文/蒼蘭香墨我抬頭看了看天上的太陽。三九已至贺喝，卻和暖如春菱鸥，著一層夾襖步出監(jiān)牢的瞬間，已是汗流浹背躏鱼。一陣腳步聲響...
開封第一講書人閱讀 33,149評論 1贊 272
情欲美人皮
我被黑心中介騙來泰國打工氮采，沒想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留，地道東北人染苛。一個月前我還...
沈念sama閱讀 48,409評論 3贊 373
代替公主和親
正文我出身青樓鹊漠，卻偏偏與公主長得像，于是被迫代替她去往敵國和親茶行。傳聞我的和親對象是個殘疾皇子躯概，可洞房花燭夜當(dāng)晚...
茶點(diǎn)故事閱讀 45,086評論 2贊 355