[发明专利]一种卷积神经网络构建方法

摘要

本发明公开了一种卷积神经网络构建方法，属于神经网络技术领域。其在卷积神经网络前向传递时，在每个原始卷积核上，通过手调核与原始卷积核的点乘，实现对原始卷积核的调制，得到调制卷积核，并用该调制卷积核代替原始卷积核进行神经网络的前向传递，以达到特征增强的效果。本发明方法对神经网络做出了极大优化，使得网络所须学习的核总量减少，此外，通过调制产生子卷积核对原始网络结构中冗余学习的核通过进行编排，还能够达到模型压缩的目的。

主权项

1.一种卷积神经网络构建方法，其特征在于，用于构建图像识别卷积神经网络，所述图像识别卷积神经网络包括顺次连接的输入层、四个加入手工调制核的卷积层、第一最大池化层、全连接层、Dropout层和输出层；其中，输入层对输入的图片进行扩展，得到多通道的输入；每个卷积层中，先进行卷积，而后再对数据进行归一化，然后输入第二最大池化层，最后将池化结果输入到激活层，如此一个卷积层结束；第四个卷积层没有第二最大池化层，第四个卷积层的输出输入到第一最大池化层中；在训练时，每次迭代的训练过程中，通过反传计算更新所有卷积层和全连接层的权值以进行迭代，直到训练完成；整个卷积神经网络的构建包括以下过程：(1)利用手调核对一组本体核进行调制，生成调制核；所述本体核为三维卷积核，其维度为N×W×W，其中N为通道数，W为卷积核的尺寸；所述手调核由N个W×W大小的手工核组成；所述调制核的维度为N×N×W×W；(2)进行调制核的前向卷积，生成输出特征图；(3)输入一个图像矩阵到调制核卷积层中，并依次经过第一最大池化层、全连接层、Dropout层的处理，得到最终的输出特征图；(4)进行卷积神经网络模型的梯度反传，反传过程中，在每个原始卷积核上，通过手调核与原始卷积核的点乘，实现对原始卷积核的调制，得到调制卷积核，并用该调制卷积核代替原始卷积核进行神经网络的前向传递，以达到特征增强的效果。