曠視科技提出的新型輕量架構(gòu)ShuffleNet V2
重點(diǎn)1. 高效網(wǎng)絡(luò)設(shè)計(jì)的實(shí)用準(zhǔn)則
- G1. 相同的通道寬度可最小化內(nèi)存訪(fǎng)問(wèn)成本(MAC)
- G2. 過(guò)度的組卷積會(huì)增加 MAC
- G3. 網(wǎng)絡(luò)碎片化(例如 GoogLeNet 的多路徑結(jié)構(gòu))會(huì)降低并行度
- G4. 元素級(jí)運(yùn)算不可忽視
G1. 相同的通道寬度可最小化內(nèi)存訪(fǎng)問(wèn)成本(MAC)
輸入和輸出的通道數(shù)要盡可能相同
G2. 過(guò)度的組卷積會(huì)增加 MAC
組卷積:通道分組卷積.
1x1分組卷積(ShuffleNet v1)
G3. 網(wǎng)絡(luò)碎片化（例如 GoogLeNet 的多路徑結(jié)構(gòu)）會(huì)降低并行度
多路卷積.
G4. 元素級(jí)運(yùn)算不可忽視
類(lèi)比ResNet的跳連, 即加法運(yùn)算.
重點(diǎn)2. 和ShuffleNet V1 對(duì)比
V1 vs V2
重點(diǎn)3. ShuffleNet V2 參數(shù)
ShuffleNet V2
參考:
https://blog.csdn.net/u011974639/article/details/79200559
https://www.colabug.com/3803962.html
