[发明专利]灰色关联分析法确定卷积神经网络隐层特征图个数的方法

摘要

本发明涉及一种灰色关联分析法确定卷积神经网络隐层特征图个数的方法，以交通标志的二值图像作为图像数据库，使用卷积神经网络的方法对其进行识别，在网络训练过程中引入灰色关联分析法以自动选择对识别结果影响更大的隐藏层特征图从而优化网络结构，并以交通标志为对象进行识别和对CNN网络结构优化。实验表明使用此方法能够自适应确定特征图个数，完成对CNN网络结构的优化，与实验法相比，提高确定网络的效率。

主权项

灰色关联分析法确定卷积神经网络隐层特征图个数的方法，其特征在于：该方法步骤如下：(1)设定卷积神经网络的网络结构层数及卷积核大小、权值初始化、批量样本数、迭代次数：1)卷积核大小和网络结构层数设定：卷积核算子是卷积时使用到的权值，用一个矩阵M×N表示，该矩阵与使用的图像区域大小相同，卷积核在使用时是对称的，即M＝N，其行、列都是奇数；网络结构层数是除输入层和输出层之外的卷积层数和子采样层数的总和，由训练样本的尺寸和卷积核的大小决定；2)权值初始化：权值初始化是卷积核神经元和最后两层之间的权值矩阵的初始化，权值初始值是在[‑1,1]之间随机取值，在后面的反向传播过程中进行优化，直到达到最优解；3)批量样本数的设定：采用分组的方式进行训练，批量样本数是每组中所含图像的个数；4)迭代次数的设定：迭代次数是对整体训练图像样本的训练次数，训练的结束取决于迭代次数的多少；当错误率曲线进入收敛区时，选择刚进入收敛区的迭代次数作为未来实验的实验标准；(2)训练卷积神经网络：1)正向传播：输入样本从输入层传入，经卷积核滤波器、Sigmoid函数和可加偏置后产生C1层特征映射图，该特征映射图中每组四个像素取平均值得到S2层特征映射图，这些特征映射图再经过一次卷积和子采样得到C3层和S4层，最终将S4层的像素以全连接的方式传向输出层；若输出层的实际输出与期望的输出不符，则将得到的误差转入反向传播阶段；2)反向传播：将输出误差以某种形式通过反向隐藏层向输入层反向传播得到每层的误差，利用每层误差和实际输出得到权值和偏置变化量，即该误差信号作为修改各单元权值的依据；3)权值更新：利用误差反向传播所得到的权值和偏置变化量求得新的权值和偏置，重新回到正向传播，再次得到输出，与期望输出相减再次得到误差，循环往复直到网络达到一定精度或规定的训练时间为止；(3)灰色关联分析法优化卷积神经网络隐层特征图个数：卷积神经网络除去输入层和输出层共有n层网络结构(C1，S2，C3，S4……Cn‑1，Sn)，子采样层的特征图个数与上一卷积层的特征图个数相等，所以想要确定隐层特征图个数只需要确定卷积层特征图个数或者子采样特征图个数；(4)利用最优的网络结构训练卷积神经网络，并对灰色关联分析法进行鲁棒性测试；步骤(3)中特征图个数的确定步骤如下：1)求关联系数；首先利用灰色关联分析法计算出Sn层每个特征图的输出与整个网络输出之间的关联系数；设有N个样本，整个网络的输出y＝(y1,y2,…,yN)为参考序列，每个特征图的输出ti＝(ti(1),ti(2),…,ti(N))(i＝1,2,…,nn)为比较序列，之间的关联系数公式如下：ξi(k)=minimink|yk-ti(k)|+ρmaximaxk|yk-ti(k)||yk-ti(k)|+ρmaximaxk|yk-ti(k)|---(1);]]>其中ρ为分辨系数，在0～1之间；2)关联度计算；关联系数是比较序列和参考序列在不同样本下的关联程度值；样本的数量过多，将所有样本的关联系数集中为一个值，即关联度，通过求平均值的方式计算；关联度公式如下：γi=1NΣk=1Nξi(k)---(2);]]>若输出为多个神经元时，要取得上一层特征图对输出每个神经元影响最大的特征图，要求出上一层特征图对输出每个神经元关联度的均值；3)关联度排序；对上一步取得的关联度从大到小排序，即得到灰关联度排序，而关联度排在尾部的特征图对网络输出影响较小，该特征图将被忽略，此时给定一个ε，此处的阈值自定义，将不满足阈值的特征图删除再进行实验，直到后续实验的全部关联度满足阈值则停止实验，阈值ε的范围在0～1之间；以此类推，求出前面几层的特征图个数，直到网络达到最优。