LeNet-5
Yann LeCun 在1998年的文章《Gradient-Based Learning Applied to Document Recognition》是卷積神經(jīng)網(wǎng)絡(luò)的開山之作浸剩。在文章中，他提出了LeNet-5模型撬统。接下來我會(huì)介紹一下LeNet-5顷窒。
| flow | fliter | output |
|---|---|---|
| 輸入層 | 32 32 1 | |
| C1（卷積層） | 5 5 | 28 28 6 |
| S2(下采樣層) | 2 2 | 14 14 6 |
| C3(卷積層層) | 5 5 | 10 10 16 |
| S4(下采樣層) | 2 2 | 5 5 16 |
| C5(卷積層層) | 5 5 | 1 1 120 |
| F6(全連接層) | 84 | |
| (輸出層) | 10 |
在C3層中失暂，作者沒有把整個(gè)S2的特征圖與C3連接，導(dǎo)致可調(diào)的系數(shù)只有1516.連接的方式如下：
S2-C3
作者給出解釋：
1.控制連接數(shù)在一個(gè)合理的范圍
2.打破網(wǎng)絡(luò)的對(duì)稱性
參考：http://www.dengfanxin.cn/wp-content/uploads/2016/03/1998Lecun.pdf
