[发明专利]灰色关联分析法确定卷积神经网络隐层特征图个数的方法

说明书

技术领域：

本发明涉及卷积神经网络网络结构中隐层特征图个数确定的方法，特别是涉及一种确定卷积神经网络网络结构中隐层特征图个数的灰色关联分析法。

背景技术：

卷积神经网络是人工神经网络的一种，是基于多层监督学习网络的新型神经网络，已成为语音分析和图像识别领域上的热点。由于它的权值共享特点，降低了网络模型的复杂度，减少了权值的数量。并且卷积神经网络通过将特征提取功能融合进分类器中，省略识别前复杂的特征提取过程，因而被广泛应用于图像识别、物体检测与识别和目标跟踪等。

目前，已有研究人员将CNN用于交通标志识别，并且取得了良好的效果，。但是，关于CNN网络结构参数设定的论述较少，尤其是对网络结构中隐层特征图个数的设计研究较少。本发明面向交通标志识别使用CNN的方法，同时，为了提高识别率和识别效率，需要对CNN网络结构中的参数进行优化，这其中隐层特征图个数对结果影响最大，如何确定隐层特征图个数是目前亟待解决的问题。

本发明在网络训练过程中基于灰色关联分析法自动选择对识别结果影响更大的隐藏层特征图，并以交通标志为对象进行识别及算法优化研究。

发明内容：

发明目的：

本发明涉及一种确定卷积神经网络网络结构中隐层特征图个数的灰色关联分析法，其目的是通过确定网络中隐层特征图个数从而设计出最优的卷积神经网络网络结构。通过对交通标志数据库进行实验并验证算法的可行性，最终实现对卷积神经网络网络结构的优化，提高确定网络结构的效率。

技术方案：

本发明是通过以下技术方案来实现的：

一种灰色关联分析法确定卷积神经网络隐层特征图个数的方法，步骤如下：

(1)设定卷积神经网络的网络结构层数及其他相关参数：

1)卷积核大小和网络结构层数设定：卷积核算子是卷积时使用到的权值，可以用一个矩阵M×N表示，该矩阵与使用的图像区域大小相同，大部分在使用时是对称的，如M＝N，其行、列都是奇数，一般N＝3、5、7。

网络结构层数是除输入层和输出层之外的卷积层数和子采样层数的总和。神经网络的层数在一定范围内增加，能有效提高识别率，但层数过多，不仅网络结构复杂，同时会使识别率降低。结合输出特征图简单有代表性的特点，由训练样本的尺寸和卷积核的大小可决定网络结构层数。

2)权值初始化：权值初始化是卷积核神经元和最后两层之间的权值矩阵的初始化。权值初始化对训练速度、输出精度是有影响的，初始值范围太大会导致无法训练，所以权值初始值是在[-1,1]之间随机取值，在后面的反向传播过程中进行优化，直到达到最优解。

3)批量样本数的设定：为了减少训练次数，提高实验效率，可以采用分组的方式进行训练，批量样本数是每组中所含图像的个数。

在总实验样本一定的条件下，批量样本数的个数越少，则训练批次越多，实验识别率越高，相应时间越长；批量样本数的个数越多，则训练批次越少，实验识别率越低，相应时间越短。结合识别率和识别效率来选择批量样本数。

4)迭代次数的设定：迭代次数是对整体训练图像样本的训练次数。训练的结束取决于迭代次数的多少。

迭代次数越少，识别率越低，相应需要的时间越短；迭代次数越多，识别率越高，相应需要的时间越长，根据实验，当错误率曲线进入收敛区时，选择刚进入收敛区的迭代次数作为未来实验的实验标准。

5)隐层特征图个数：是隐层中卷积层和子采样层中包含的特征图个数。设置合适的隐层特征图个数比选择合适的网络层数更适合提高效率，其训练过程更容易调整和改进。

(2)训练卷积神经网络：

1)正向传播：输入样本从输入层传入，经卷积核滤波器、Sigmoid函数和可加偏置后产生C1层特征映射图，该特征映射图中每组四个像素取平均值得到S2层特征映射图，这些特征映射图再经过一次卷积和子采样得到C3层和S4层，最终将S4层的像素以全连接的方式传向输出层。若输出层的实际输出与期望的输出(标签)不符，则将得到的误差转入反向传播阶段。

2)反向传播：将输出误差通过反向隐藏层向输入层反向传播得到每层的误差，利用每层误差和实际输出得到权值和偏置变化量，即该误差信号作为修改各单元权值的依据。

3)权值更新：利用误差反向传播所得到的权值和偏置变化量求得新的权值和偏置，重新回到正向传播，再次得到输出，与期望输出相减再次得到误差，循环往复直到网络达到一定精度或规定的训练时间为止。

(3)灰色关联分析法优化卷积神经网络隐层特征图个数：