Skip to content

Lesson-26

全连接层存在问题:带来了很多的参数。

NiN 块

每个卷积层后面都跟着两个\(1 \times 1\)的卷积层:这两个卷积层步幅为1,没有填充,输出形状与卷积层的输出形状一样,起到了全连接层的作用。

NiN 架构

  • 无全连接层

  • 交替使用 NiN 块和步幅为2的最大池化层(作用是加大通道数,减小每个通道的宽度)

  • 最后使用全局平均池化层得到输出

例: 假设我要分一千个类,我会逐步操作到最后剩下1000个通道,对每个通道全局提取一个平均值,我们再做 softmax,就可以得到每个类别的概率。