[发明专利]一种基于变激活函数卷积神经网络的图像识别方法

说明书

本发明属于图像识别领域，提供一种变激活函数卷积神经网络及其训练方法。本发明将训练好的初始卷积神经网络Nsubgt;0/subgt;的最后一个全连接层中每个神经元的激活函数进行替换，再通过遗传算法对替换的变激活函数参数进行训练，得到训练好的优化神经网络N1。本发明卷积神经网络及其训练方法，可提高图像识别准确率，可以通过变激活函数进一步提高卷积神经网络的非线性表达能力，更好地拟合网络的输入与输出之间的关系，且网络整体结构简单，训练算法简便易行，训练时间较短。

技术领域

本发明属于图像识别领域，更具体地，涉及一种基于变激活函数卷积神经网络的图像识别方法。

背景技术

卷积神经网络在图像识别和分类中具有出色的表现。与多层感知器相比，卷积神经网络能更好地模拟动物视觉神经元局部感知的特点，参数规模更小，训练效率更高。但是，卷积神经网络的构建和优化，目前尚缺乏通用的方法。已有的卷积神经网络的优化方法，或者网络构建难度大，或者网络训练时间长。

发明内容

为了解决上述现有技术中的不足，本发明提供了一种基于变激活函数卷积神经网络的图像识别方法，可提高图像识别准确率，可以通过变激活函数进一步提高卷积神经网络的非线性表达能力，且网络结构简单，训练时间较短。

为实现上述目的，本发明提供了一种基于变激活函数卷积神经网络的图像识别方法，其中，变激活函数卷积神经网络包括1个输入层、若干卷积层、若干池化层、若干全连接层和1个Softmax输出层，将训练好的初始卷积神经网络N₀的最后一个全连接层中每个神经元的激活函数分别进行替换，替换的激活函数形式如下：

式中 x为神经元的线性输入， y_n为神经元 n的激活输出，表示神经元 n的激活函数中 x的 i次方项的系数，为待求参数，设定激活函数系数的范围为[-15,15]，有效数字为5位；通过遗传算法对上述的变激活函数参数进行训练，得到训练好的优化神经网络N₁。

进一步的，本技术方案中卷积神经网络的网络结构、超参数及其选择原则如下：

网络结构包括1个输入层、若干卷积层、若干池化层、若干全连接层和1个Softmax输出层，网络的具体层数可根据实际需要进行调整。

其超参数的值是预先设定的，且在网络的训练过程中不变。表1为超参数位置、超参数名称和超参数选择原则。

表1

说明: 说明: 说明: 说明: 说明: 说明: 说明: 说明: C:\Users\Administrator\AppData\Roaming\Tencent\Users\70533132\QQ\WinTemp\RichOle\B(8H2[4{@%%@I1Q`4]T8}GI.png

 A．输入层，用于输入需要分类或识别的图像。

本发明中变激活函数卷积神经网络的输入层为2D结构，长度 m个神经元，宽度 n个神经元，其输出和输入之间的运算公式为：