具體方法：
- Shuffle Net：
將feature map按照channel進(jìn)行分組庸疾。每個(gè)卷積核只對(duì)某一組進(jìn)行運(yùn)算乍楚，從而降低了參數(shù)量和計(jì)算量。為了防止由于分組導(dǎo)致局部特征得不到共享届慈，每經(jīng)過一次卷積操作徒溪，就將channel進(jìn)行隨機(jī)打亂忿偷。
- Mobile Net:
標(biāo)準(zhǔn)的卷積層，參數(shù)是KKMN臊泌，其中M,N分別是輸入和輸出的channel數(shù)目鲤桥。采用Depthwise Conv和PointWise Conv相結(jié)合的方式，代替標(biāo)準(zhǔn)卷積核渠概。 需要參數(shù)是KKM + 11MN
計(jì)算量 MACC (multiply-accumulate operation 乘法累加運(yùn)算)
標(biāo)準(zhǔn)卷積： KKMNHoutWout
Mobile Net: KKMHoutWout + 11MNHoutWout
分解卷積：
將KK的卷積核分解成1K和K*1的BottleNeck
以ResNet為例播揪，降維、卷積箱沦、升維SqueezeNet：分為Squeeze和Expand兩部分雇庙，Squeeze聽起來像是降維，因?yàn)橐螅⊿queeze層的輸出S11 < input map number)寒跳，Expand層分為兩個(gè)分支峡继，1×1的卷積和3*3的卷積，最后將兩個(gè)分支的輸出拼接起來碾牌。
