11.4 VGGNet

在 VGG Net 之前，AlexNet 等模型已经展示了深度网络在大规模图像分类任务中的潜力。然而，这些网络在卷积核大小、池化层和激活函数的设计上缺乏统一策略。VGGNet提出：通过使用多个连续的小卷积核（3×3）替代大卷积核（如 5×5 或 7×7），可以在保证感受野不变的前提下，提高网络的深度和表达能力，同时减少参数量。

11.4.1 VGGNet网络架构

3×3卷积核的优势

两个3×3的卷积核产生的特征图上的每个特征的感受野是5×5，它和单独使用一个5×5卷积核是一样的。但是3×3卷积核额外有两个好处：

1. 参数量更少，假如输入维度为$C_{in}$,输出维度为$C_{out}$，则两个3×3卷积核的参数量为$2\times3\times3\times C_{in}\times C_{out}$，等于$18C_{in}C_{out}$。一个5×5卷积核的参数量为$5\times 5 \times C_{in} \times C_{out}$，等于$25C_{in}C_{out}$。

2. 网络层数更深，更容易提取高级特征。之前我们说过深度神经网络通过多层网络，可以逐层在之前层提取的特征基础上组合出更高级的特征，来提升网络表现，这一点也适用于卷积神经网络。

VGG Net 的核心思想是：

统一使用 3×3 卷积核：叠加两个 3×3 卷积层等价于一个 5×5 卷积层；叠加三个 3×3 等价于一个 7×7，且非线性增强。

网络深度可变：提出了 VGG-11、VGG-13、VGG-16、VGG-19 四种不同深度的变体，数字代表卷积或全连接层数量之和。

卷积层通过Padding来实现输入和输出特征图大小一致，只通过最大池化层来减少特征图尺寸。

统一的池化设计：在每个卷积块之后使用 2×2 最大池化层，下采样一半分辨率。

三层全连接：在卷积特征提取后，使用三层全连接，最后通过 Softmax 输出分类概率。

11.4.2 VGGNet的意义

在 2014 年的 ImageNet 挑战中，VGG-19 在验证集上达到 24.8% 的 Top-1 错误率和 7.5% 的 Top-5 错误率，成绩优越。此后，VGG 系列迅速成为计算机视觉领域的基准模型之一。

VGGNet标准化了卷积核（3×3）和池化层（2×2 最大池化层）。这种简洁统一的设计，基本成为了之后卷积神经网络的标准配置。