在15年,ResNet成为那年最耀眼的卷积网络结构,skip-connection的结构也成为避不开的考虑选项。Inception系列也参考ResNet更新了自己的结构。同时推出了第四代和跟ResNet的结合版:Inception-v4和Inception-ResNet。
然而,这是一篇几乎都是图的论文。
所以,上图。
Inception-v4 Architecture
NetScope Vis请参见这里,源文件位于awesome_cnn。
Inception-ResNet(v2) Architecture
NetScope Vis请参见这里,源文件位于NN_Structures/caffe_vis/。
Experiments
文章在实验部分提到,不借助Skip-connection的结构也可以将Inception网络提升到SOTA的水准,但加入Skip-connection可以有效增加训练速度。
Conclusion
卷积网络结构的演进遇到了瓶颈,在ImageNet上的提升边界似乎碰到天花板,且更多来自训练技巧和集成。