caffe学习记录(八) shufflenet学习记录

ShuffleNet(2017, Dec 7^th)是Face++提出的一种轻量化网络结构，主要思路是使用Group convolution和Channel shuffle改进ResNet。Bottomneck结构，用两个1x1的filter来对channel维度进行压缩和恢复，节省大量的计算量。在shufflenet中，用到了分组group，为了解决不同group channel信息无法共享的问题，引入了channel shuffle， 对不同group的channel进行shuffle，在shuffle次数很多的情况下，可以看做是在做充分的卷积。

深入来看，整个过程为，首先进行Group conv，比如分为3组，然后交换channel维度信息，再进行depthwise separate convolution operations，最后用1X1的filter恢复维度。这样的好处是既能大幅度减少计算量，实现了group，又保证了channel的信息能在不同的group中相互交换。