智能计算系统笔记——第三章深度学习

参考：《智能计算系统》陈云霁，李玲，李威，郭崎，杜子东[著]

3.1适合图像处理的卷积神经网络

深度学习的神经网络中如果采用全连接的方式，会产生非常大规模的参数需要训练，这会使得神经网络难以训练，即使训练出来也会过拟合。

卷积神经网络(CNN)可解决上述问题：
(1)局部连接：用CNN作图像处理时，一般不需要全连接，应该考虑视觉领域信息，对局部做稠密连接即可。
(2)权重共享：CNN采用卷积核做卷积处理，一张图片的不同位置采用同样的卷积系数(权重)，因为一组权重抽取图像的一种特征，可以实现权重共享。

从而卷积神经网络可以大幅减少处理图像所需的权重数量，避免了过拟合。

3.1.1卷积神经网络的组成

一般包括：
(1)卷积层(convolution layer)
(2)池化层(pooling layer)
(3)全连接层(fully connect layer)
(4)softmax层

3.1.2卷积层

(1)卷积运算

(2)卷积层检测特征

(3)边界扩充与卷积步长

3.1.3池化层

3.1.4全连接层与softmax层

3.1.5卷积神经网络总体结构