35.1 Depthwise separable convolution
- Depthwise separable convolution是由depthwise conv和pointwise conv構(gòu)成
- depthwise conv(DW)有效減少參數(shù)數(shù)量并提升運(yùn)算速度
- 但是由于每個feature map只被一個卷積核卷積咕宿,因此經(jīng)過DW輸出的feature map不能只包含輸入特征圖的全部信息,而且特征之間的信息不能進(jìn)行交流,導(dǎo)致“信息流通不暢”模燥。
- pointwise conv(PW)實現(xiàn)通道特征信息交流,解決DW卷積導(dǎo)致“信息流通不暢”的問題掩宜。
- 假設(shè)輸入特征的的維度為H * W * c1蔫骂;卷積核的維度為h1 * w1 * c1,共c2個牺汤;輸出特征的維度為 H1 * W1 * c2辽旋。
-
傳統(tǒng)卷積計算方式如下:
-
傳統(tǒng)卷積運(yùn)算量為:
-
DW卷積的計算方式如下:
-
PW卷積的計算方式如下:
-
Depthwise separable convolution運(yùn)算量為:
-
Depthwise separable convolution相對于傳統(tǒng)卷積的運(yùn)算量:
- 由此可知,隨著卷積通道數(shù)的增加檐迟,Depthwise separable convolution的運(yùn)算量相對于傳統(tǒng)卷積更少
大數(shù)據(jù)視頻推薦:
網(wǎng)易云課堂
CSDN
人工智能算法競賽實戰(zhàn)
AIops智能運(yùn)維機(jī)器學(xué)習(xí)算法實戰(zhàn)
ELK7 stack開發(fā)運(yùn)維實戰(zhàn)
PySpark機(jī)器學(xué)習(xí)從入門到精通
AIOps智能運(yùn)維實戰(zhàn)
騰訊課堂
大數(shù)據(jù)語音推薦:
ELK7 stack開發(fā)運(yùn)維
企業(yè)級大數(shù)據(jù)技術(shù)應(yīng)用
大數(shù)據(jù)機(jī)器學(xué)習(xí)案例之推薦系統(tǒng)
自然語言處理
大數(shù)據(jù)基礎(chǔ)
人工智能:深度學(xué)習(xí)入門到精通