- ShuffleNet基于MobileNet的group思想纬霞，將卷積操作限制到特定的輸入通道
- 而與之不同的是马昙，ShuffleNet將輸入的group進(jìn)行打散，從而保證每個(gè)卷積核的感受野能夠分散到不同group的輸入中，增加了模型的學(xué)習(xí)能力
42.1 設(shè)計(jì)思想
- 采用group conv減少大量參數(shù)
- roup conv與DW conv存在相同的“信息流通不暢”問題
- 采用channel shuffle解決上述問題
- MobileNet中采用PW conv解決上述問題央串，SheffleNet中采用channel shuffle
- 采用concat替換add操作
- avg pooling和DW conv(s=2)會(huì)減小feature map的分辨率蚂踊，采用concat增加通道數(shù)從而彌補(bǔ)分辨率減小而帶來信息的損失
42.2 網(wǎng)絡(luò)架構(gòu)
-
MobileNet中1*1卷積的操作占據(jù)了約95%的計(jì)算量约谈，所以將1*1也更改為group卷積，使得相比MobileNet的計(jì)算量大大減少犁钟。
- group卷積與DW存在同樣使“通道信息交流不暢”的問題棱诱，MobileNet中采用PW conv解決上述問題，SheffleNet中采用channel shuffle涝动。
-
ShuffleNet的shuffle操作如圖所示
- avg pooling和DW conv(s=2)會(huì)減小feature map的分辨率迈勋，采用concat增加通道數(shù)從而彌補(bǔ)分辨率減小而帶來信息的損失
-
實(shí)驗(yàn)表明：多多使用通道(提升通道的使用率)，有助于提高小模型的準(zhǔn)確率醋粟。
-
- 網(wǎng)絡(luò)結(jié)構(gòu)：
大數(shù)據(jù)視頻推薦：
網(wǎng)易云課堂
CSDN
人工智能算法競(jìng)賽實(shí)戰(zhàn)
AIops智能運(yùn)維機(jī)器學(xué)習(xí)算法實(shí)戰(zhàn)
ELK7 stack開發(fā)運(yùn)維實(shí)戰(zhàn)
PySpark機(jī)器學(xué)習(xí)從入門到精通
AIOps智能運(yùn)維實(shí)戰(zhàn)
騰訊課堂
大數(shù)據(jù)語音推薦：
ELK7 stack開發(fā)運(yùn)維
企業(yè)級(jí)大數(shù)據(jù)技術(shù)應(yīng)用
大數(shù)據(jù)機(jī)器學(xué)習(xí)案例之推薦系統(tǒng)
自然語言處理
大數(shù)據(jù)基礎(chǔ)
人工智能：深度學(xué)習(xí)入門到精通
