[发明专利]卷积神经网络分数阶误差反向传播方法

权利要求书

1.一种卷积神经网络分数阶误差反向传播方法,其特征在于包括如下步骤：

步骤1)选择卷积神经网络模型；

步骤2)利用分数阶误差反向传播方法更新网络权值；

步骤3)根据所述的网络权值，获取卷积神经网络参数。

2.根据权利要求1所述的卷积神经网络分数阶误差反向传播方法,其特征在于所述步骤1)具体包括：

步骤1-1)设定神经网络模型，所述神经网络模型包括一层输入层、n层隐藏层以及一层输出层，所述输入层、隐藏层、输出层的节点个数分别对应为n₁，n₂，1个；

步骤1-2)设定大量高分辨率图像{X_i}和其对应的低分辨率图像{Y_i}组成的训练集，其中：X表示高分辨率图像，Y表示低分辨率图像，i表示图像索引；

步骤1-3)设定卷积神经网络的权值和偏置为Θ＝{W,B}，设定误差函数和激活函数分别为L和σ，其中W表示权值，B为偏置。

3.根据权利要求1所述的卷积神经网络分数阶误差反向传播方法,其特征在于所述步骤2包括以下子步骤：

步骤2-1)网络初始化：初始化网络权值和偏置Θ＝{W₁,B₁}，设置最大迭代次数；

步骤2-2)输入训练数据{X_i,Y_i}；

步骤2-3)设置初始迭代次数k＝1；

步骤2-4)对网络权值进行优化；

步骤2-5)根据k＝k+1更新迭代次数，并跳转到步骤2-4)。

4.根据权利要求3所述的卷积神经网络分数阶误差反向传播方法,其特征在于，

步骤2-4)对网络权值进行优化具体包括以下步骤：

步骤2-4-1)计算网络输出值；

步骤2-4-2)计算误差：采用所述误差函数L，计算网络输出值和真实值之间的误差，判断误差是否满足要求，如果满足要求，则网络训练结束转入步骤3)；

如果不满足要求，则进行权值修正，进入步骤2-4-3)；

步骤2-4-3)计算误差反向传播梯度中激活函数的分数阶导数，并计算每个神经元节点的分数阶导数；

步骤2-4-4)计算误差梯度；

步骤2-4-5)修正权值：根据误差关于权重的梯度，修正网络权值。

5.根据权利要求4所述的卷积神经网络分数阶误差反向传播方法,其特征在于，所述步骤2-4-3)中根据式(1)计算误差反向传播梯度中激活函数的分数阶导数：

其中，Grad^l表示第l层的误差反向传播梯度，为激活函数的输入，即网络节点的输出，表示第(l-1)层的第个神经元连接到第层的第j个神经元的权重，表示第l层的第j个神经元的偏置，μ表示分数阶导数的阶次，⊙为矩阵对应位置乘积，表示矩阵或向量之间点对点的乘法运算；

根据式(2)计算每个神经元节点的分数阶导数：

其中，为分数阶微分算子，D为1阶微分算子，x表示神经网络节点的输出值，σ(x)表示激活函数，σ′(x)表示激活函数的1阶导数，μ表示分数阶微分的阶次，Γ(x)为Gamma函数，定义为且Re(x)＞0。

6.根据权利要求4所述的卷积神经网络分数阶误差反向传播方法,其特征在于，步骤2-4-5)采用经典随机梯度下降法根据式(3)修正权值,

其中，i表示网络层数，η表示学习率，通过线搜索的方式获得，表示激活函数的分数阶导数。

7.根据权利要求2所述的基于卷积神经网络分数阶误差反向传播方法,其特征在于，步骤1-3)中的激活函数σ表达式如式(4)：

其中，x为网络节点输出值。