Network in Network -- 论文笔记

1.概述:

这里写图片描述

作者的想法就是将ConVNet的filter用micro network代替,FC层用global average pooling代替。这样做的好处就是,micro network比filter能提取到更加抽象的特征,global average polling没有参数,相比于FC,能够消除FC层带来的overfitting的影响。

2.idea:

1):MLP Convolution Layers:就是一个简单的多层感知机,用来取代传统ConVNet的filter:

这里写图片描述

2)global average pooling:用来代替传统ConVNet的FC层。在最后一个feature map层上,对每个feature map分别取均值,然后连接成一个向量后,输入softmax分类器。global average pooling也可以当做一个很好地regularilizer:

这里写图片描述

3)可以像传统的ConVNet一样,设置每一层micro network的个数,也可以设置micro network的层数和隐含层神经元的个数。

3.实验结果:

1)一些数据集的测试结果:

这里写图片描述
这里写图片描述
这里写图片描述
这里写图片描述

2)作者也将NIN网络中最后一层feature map进行可视化,证明NIN有很强的局部感受野建模能力(top10的feature map):

这里写图片描述

本文系作者原创,转载请先联系作者: 18254275587@163.com