Skip to content

Lesson-24

AlexNet

  • SVM:提取特征,用核函数计算相关性,凸优化问题,也有着优美的定理
  • 2000年代,计算机视觉问题通常被描述为几何问题

发展历程:alt text

数据是发展中的一大重要原因:

  • ImageNet(2010):alt text

AlexNet在2012年赢得了ImageNet上的比赛

  • 更深更大的LeNet
  • 采用了dropout、ReLU、MaxPooling
  • 改变了计算机视觉方法论:通过CNN学习特征(CNN和Softmax回归分类是一起训练的)
  • 架构如下:alt text 更大的窗口,因为图片变大了,窗口内的信息变得有限;通道数变多了,因为我们希望在第一层就识别出很多模式 alt text 输出通道更多,希望网络去识别更多的模式;新增加了三个卷积层 alt text 为应对1000个类别的分类问题,增加更大的隐藏层

Details:(1)Sigmoid换成ReLU,减缓了梯度消失;(2)隐藏全链接层后加入了丢弃层;(3)做了数据增强