CNN 卷积神经网络

Convolutional Neural Network [1989]

CNN 的结构可以分为 5 层：

1. 输入层 Input Layer
2. 卷积层 Convolutional Layer 提取图像的底层特征
3. 池化层 Pooling Layer 防止过拟合，将数据维度减少
4. 全连接层 Fully Connected Layer
5. 输出层 Output Layer

输入层

卷积层

卷积运算公式：

$$\mathbf{Z}(i,j)=\sum _m\sum _n\mathbf{X}(i+m,j+n)\cdot \mathbf{W}(m,n)$$

符号说明

输入矩阵：$\mathbf{X}\in {\mathbb{R}}^{H\times W}$ 表示二维输入特征图（如图像矩阵）

卷积核： $\mathbf{W}\in {\mathbb{R}}^{k_h\times k_w}$ 表示二维滤波器（filter），通常满足 $k_h\ll H$ 且 $k_w\ll W$

输出矩阵：$\mathbf{Z}(i,j)$ 表示输出特征图在位置 $(i,j)$ 处的激活值

索引范围： $m\in \{0,1,...,k_{h-1}\}$ , $n\in \{0,1,...,k_{w-1}\}$

对于输入尺寸为 $H_{in}\times W_{in}$ 的特征图，当使用卷积核尺寸为 $k\times k$ 且步长为 $stride$ 时，输出尺寸为：

$$H_{out}=\lfloor \frac{H_{in}-k}{stride}\rfloor +1$$$$W_{out}=\lfloor \frac{W_{in}-k}{stride}\rfloor +1$$

• 示例

输入矩阵：

$$\mathbf{X}=\left[\begin{array}{cccc}0& 1& 1& 2\\ 0& 1& 1& 0\\ 1& 1& 0& 1\\ 0& 2& 0& 1\end{array}\right]$$

TIP

每次计算的时候，边缘只被计算一次，而中间被多次计算，那么得到的特征图也会丢失边缘特征，最终会导致特征提取不准确，那为了解决这个问题，我们可以在原始的输入图像的二维矩阵周围再拓展一圈或者几圈，在这里我们扩展一圈。

这种通过拓展解决特征丢失的方法又被称为 Padding

卷积核为：

$$\mathbf{W}=\left[\begin{array}{ccc}-1& -1& 0\\ -1& 0& 1\\ -1& -1& 0\end{array}\right]$$

以左上角第一个有效位置为例：

$$\begin{array}{rl}\mathbf{Z}(0,0)& =(0\times -1)+(0\times -1)+(0\times 0)\\ & +(0\times -1)+(0\times 0)+(1\times 1)\\ & +(0\times -1)+(0\times -1)+(1\times 0)\\ & =0+0+0+0+0+1+0+0+0=1\end{array}$$

全部计算过程如下（步长 = 1）：

池化层

图：池化层

全连接层

前向传播

定义：

符号	全称	意义	示例
$K$	Kernel Size	卷积核/池化窗口的边长	3×3 卷积核时$K=3$
$C$	Channels	输入数据的通道数	RGB 图像$C=3$
$D$	Depth	卷积层输出通道数（滤波器数量）	64 个滤波器时$D=64$
$H$	Height	输入特征图的高度	输入图像高度为 256 时$H=256$
$W$	Width	输入特征图的宽度	输入图像宽度为 256 时$W=256$
$S$	Stride	卷积操作的步长	通常设为 1

卷积层

输入特征图 $\mathbf{X}\in {\mathbb{R}}^{H\times W\times C}$，卷积核 $\mathbf{W}\in {\mathbb{R}}^{K\times K\times C\times D}$，偏置 $\mathbf{b}\in {\mathbb{R}}^D$，则输出$\mathbf{Z}\in {\mathbb{R}}^{H^{\prime }\times W^{\prime }\times D}$：

$${\mathbf{Z}}_{i,j,d}=\sum _{c=1}^C\sum _{u=1}^K\sum _{v=1}^K{\mathbf{X}}_{i+u-1,j+v-1,c}{\mathbf{W}}_{u,v,c,d}+{\mathbf{b}}_d$$

激活输出：

$$\mathbf{A}=\sigma (\mathbf{Z})$$

其中$\sigma$为激活函数，一般为 ReLU

池化层 (Max Pooling)

$${\mathbf{A}}_{i,j,c}=\underset{u,v\in [0,K)}{max}{\mathbf{X}}_{i+u-1,j+v-1,c}$$

全连接层

与普通神经网络相同：

$${\mathbf{a}}_{\mathbf{l}}=\sigma (\mathbf{z})=\sigma (\mathbf{W}{\mathbf{a}}_{\mathbf{l}\mathbf{-}\mathbf{1}}+\mathbf{b})$$

反向传播

全连接层

$$\frac{\partial L}{\partial \mathbf{z}}=\frac{\partial L}{\partial \mathbf{a}}\odot f^{\prime }(\mathbf{z})$$$$\frac{\partial L}{\partial \mathbf{W}}=\frac{\partial L}{\partial \mathbf{z}}{\mathbf{a}}^T,\frac{\partial L}{\partial \mathbf{b}}=\sum \frac{\partial L}{\partial \mathbf{z}}$$

池化层 (Max Pooling)

$$\frac{\partial L}{\partial {\mathbf{X}}_{i,j,c}}=\{\begin{array}{ll}\frac{\partial L}{\partial {\mathbf{A}}_{k,l,c}}& \text{最大值位置}\\ 0& \text{其他位置}\end{array}$$

卷积层

权重梯度：

$$\frac{\partial L}{\partial {\mathbf{W}}_{u,v,c,d}}=\sum _{i=1}^{H^{\prime }}\sum _{j=1}^{W^{\prime }}{\mathbf{X}}_{i+u-1,j+v-1,c}\cdot \frac{\partial L}{\partial {\mathbf{Z}}_{i,j,d}}$$

偏置梯度：

$$\frac{\partial L}{\partial {\mathbf{b}}_d}=\sum _{i=1}^{H^{\prime }}\sum _{j=1}^{W^{\prime }}\frac{\partial L}{\partial {\mathbf{Z}}_{i,j,d}}$$

输入梯度：

$$\frac{\partial L}{\partial {\mathbf{X}}_{i,j,c}}=\sum _{d=1}^D\sum _{u=1}^K\sum _{v=1}^K{\mathbf{W}}_{u,v,c,d}\cdot \frac{\partial L}{\partial {\mathbf{Z}}_{i-u+1,j-v+1,d}}$$