LeNet-5
LeNet-5結(jié)構(gòu)
C1參數(shù)：(5×5+1)×6 = 156
S2參數(shù)：(1+1)×6 = 12 %每次池化乘一個系數(shù)再加一個偏置
C3參數(shù)：(5×5×3+1)×6 + (5×5×4+1)×9 + (5×5×6+1)×1 = 1516 %具體連接方式如下圖
S2(6)-C3(16)連接方式
S4參數(shù)：(1+1)×16 = 32
C5參數(shù)：(5×5×16+1)×120 = 48120
F6參數(shù)：(120+1)×84 = 10164
AlexNet
AlexNet結(jié)構(gòu)
前五層是卷積層仗颈，詳解如下圖：
卷積部分
全連接層詳解如下圖：
全連接部分
VGGNet
VGGNet
VGG16的構(gòu)架如下圖：
VGG16
GoogLeNet
GoogLeNet
GoogLeNet一共22層搂漠，在大部分卷積操作前顷级，通過加入1×1卷積減少通道數(shù)宙帝，從而降低參數(shù)量（即inception結(jié)構(gòu)）。此外翩剪，從網(wǎng)絡(luò)中間引出兩個輔助loss恋日，參與反向傳播時loss的計算济似，緩解深度網(wǎng)絡(luò)的梯度消失問題。具體的網(wǎng)絡(luò)架構(gòu)如下圖：
GoogLeNet
ResNet
ResNet
