1、殘差網(wǎng)絡(luò)

這個網(wǎng)絡(luò)主要源自于Resnet網(wǎng)絡(luò)馍忽，其作用是：
將靠前若干層的某一層數(shù)據(jù)輸出直接跳過多層引入到后面數(shù)據(jù)層的輸入部分扮念。
意味著后面的特征層的內(nèi)容會有一部分由其前面的某一層線性貢獻迁客。
實驗表明交播，殘差網(wǎng)絡(luò)更容易優(yōu)化，并且能夠通過增加相當?shù)纳疃葋硖岣邷蚀_率蝇裤。

最終可以使得網(wǎng)絡(luò)越來越深廷支，Resnet152就是一個很深很深的網(wǎng)絡(luò)。

殘差網(wǎng)絡(luò)的典型結(jié)構(gòu)如下：

image.png

2栓辜、不同大小卷積核并行卷積

這個結(jié)構(gòu)主要是在Inception網(wǎng)絡(luò)結(jié)構(gòu)中出現(xiàn)恋拍。
Inception網(wǎng)絡(luò)采用不同大小的卷積核，使得存在不同大小的感受野啃憎，最后實現(xiàn)拼接達到不同尺度特征的融合芝囤。

不同大小卷積核并行卷積的典型結(jié)構(gòu)如下：

image.png

3、利用(1,x),(x,1)卷積代替(x,x)卷積

這種結(jié)構(gòu)主要利用在InceptionV3中辛萍。
利用1x7的卷積和7x1的卷積代替7x7的卷積悯姊，這樣可以只使用約（1x7 + 7x1) / (7x7) = 28.6%的計算開銷；利用1x3的卷積和3x1的卷積代替3x3的卷積贩毕，這樣可以只使用約（1x3 + 3x1) / (3x3) = 67%的計算開銷悯许。
下圖利用1x7的卷積和7x1的卷積代替7x7的卷積。

image.png

下圖利用1x3的卷積和3x1的卷積代替3x3的卷積辉阶。

image.png

4先壕、采用瓶頸(Bottleneck)結(jié)構(gòu)

這個結(jié)構(gòu)在Resnet里非常常見，其它網(wǎng)絡(luò)也有用到谆甜。
所謂Bottleneck結(jié)構(gòu)就是首先利用1x1卷積層進行特征壓縮垃僚，再利用3x3卷積網(wǎng)絡(luò)進行特征提取，再利用1x1卷積層進行特征擴張规辱。

該結(jié)構(gòu)相比于直接對輸入進行3x3卷積減少了許多參數(shù)量谆棺。

當輸入為26,26,512時，直接使用3x3罕袋、filter為512的卷積網(wǎng)絡(luò)的參數(shù)量為512x3x3x512=2,359,296改淑。

采用Bottleneck結(jié)構(gòu)的話，假設(shè)其首先利用1x1浴讯、filter為128卷積層進行特征壓縮朵夏，再利用3x3、filter為128的卷積網(wǎng)絡(luò)進行特征提取榆纽，再利用1x1仰猖、filter為512的卷積層進行特征擴張，則參數(shù)量為 512×1×1×128 + 128×3×3×128 + 128×1×1×512 = 278,528奈籽。

image.png

5亮元、深度可分離卷積

深度可分離卷積主要在MobileNet模型上應用。
其特點是3x3的卷積核厚度只有一層唠摹，然后在輸入張量上一層一層地滑動爆捞，每一次卷積完生成一個輸出通道，當卷積完成后勾拉，在利用1x1的卷積調(diào)整厚度煮甥。

image.png

假設(shè)有一個3×3大小的卷積層，其輸入通道為16藕赞、輸出通道為32成肘。具體為，32個3×3大小的卷積核會遍歷16個通道中的每個數(shù)據(jù)斧蜕，最后可得到所需的32個輸出通道双霍，所需參數(shù)為16×32×3×3=4608個。

應用深度可分離卷積，用16個3×3大小的卷積核分別遍歷16通道的數(shù)據(jù)洒闸，得到了16個特征圖譜染坯。在融合操作之前，接著用32個1×1大小的卷積核遍歷這16個特征圖譜丘逸，所需參數(shù)為16×3×3+16×32×1×1=656個单鹿。

6、改進版深度可分離卷積+殘差網(wǎng)絡(luò)

這種結(jié)構(gòu)主要存在在Xception網(wǎng)絡(luò)中深纲。
改進版深度可分離卷積就是調(diào)換了一下深度可分離的順序仲锄，先進行1x1卷積調(diào)整通道，再利用3x3卷積提取特征湃鹊。
和普通的深度可分離卷積相比儒喊，參數(shù)量也會有一定的變化。

image.png

改進版深度可分離卷積加上殘差網(wǎng)絡(luò)的結(jié)構(gòu)其實和它的名字是一樣的币呵，很好理解怀愧。
如下圖所示：

image.png

7、倒轉(zhuǎn)殘差(Inverted residuals)結(jié)構(gòu)

在ResNet50里我們認識到一個結(jié)構(gòu)富雅，bottleneck design結(jié)構(gòu)掸驱，在3x3網(wǎng)絡(luò)結(jié)構(gòu)前利用1x1卷積降維，在3x3網(wǎng)絡(luò)結(jié)構(gòu)后没佑，利用1x1卷積升維毕贼，相比直接使用3x3網(wǎng)絡(luò)卷積效果更好，參數(shù)更少蛤奢，先進行壓縮鬼癣，再進行擴張。

而Inverted residuals結(jié)構(gòu)啤贩，在3x3網(wǎng)絡(luò)結(jié)構(gòu)前利用1x1卷積升維待秃，在3x3網(wǎng)絡(luò)結(jié)構(gòu)后，利用1x1卷積降維痹屹，先進行擴張章郁，再進行壓縮。
這種結(jié)構(gòu)主要用在MobilenetV2中志衍。
其主要結(jié)構(gòu)如下：

image.png

8暖庄、并行空洞卷積

這個結(jié)構(gòu)出現(xiàn)在Deeplabv3語義分割中。

image.png

其經(jīng)過并行的空洞卷積楼肪，分別用不同rate的空洞卷積進行特征提取培廓，再進行合并，再進行1x1卷積壓縮特征春叫。

空洞卷積可以在不損失信息的情況下肩钠，加大了感受野泣港，讓每個卷積輸出都包含較大范圍的信息。如下就是空洞卷積的一個示意圖价匠，所謂空洞就是特征點提取的時候會跨像素当纱。

image.png

原文鏈接：https://blog.csdn.net/weixin_44791964/article/details/103042733