[发明专利]基于梯度方向参数优化的神经网络的图像分类方法及系统

权利要求书

1.基于梯度方向参数优化的神经网络的图像分类方法，其特征是，包括：

获取图像数据集，对图像数据集中的每一幅图像进行预处理；

构建卷积神经网络CNN，设置卷积神经网络CNN的超参数和损失函数；将预处理后的图像和已知图像分类标签，作为卷积神经网络CNN的输入值，开始对卷积神经网络CNN进行训练；根据卷积神经网络CNN的输出与图像标签，计算损失函数，然后进行误差反向传播；

在误差反向传播的过程中，采用梯度方向参数优化的方式，实现卷积神经网络CNN训练过程中参数的更新，满足结束条件后，结束迭代训练，得到训练好的卷积神经网络CNN；具体包括：

(1)：网络模型初始的参数向量设为x₀，计算卷积神经网络CNN的初始步长；

(2)：若首次执行，则根据初始参数向量x₀的初始梯度，计算得到当前梯度的方向信息；利用当前梯度的方向信息与初始步长，计算得到更新一次后的参数向量x₁；

若非首次执行，则根据上一次参数向量的梯度，计算得到梯度的方向信息；利用梯度的方向信息与更新步长，计算得到新的参数向量；

(3)：根据初始步长的大小，判断是否需要进行步长衰减：如果初始步长大于设定阈值，则进行步长衰减；否则不需要进行步长衰减；

如果需要进行步长衰减，则对初始步长α₀进行衰减，得到更新步长α₁；进入(4)；

如果不需要进行步长衰减，则一直使用初始步长α₀；进入(4)；

(4)判断是否达到结束条件，如果是，则结束，卷积神经网络CNN的参数优化完成；如果否，就返回(2)；

基于训练好的卷积神经网络CNN，对待分类图像进行分类，得到待分类图像的分类标签。

2.如权利要求1所述的基于梯度方向参数优化的神经网络的图像分类方法，其特征是，获取图像数据集，对图像数据集中的每一幅图像进行预处理；具体包括：

获取已知分类标签的图像数据集，将图像数据集按照比例划分为训练集和验证集；

对图像数据集中的每一幅图像进行格式转换处理、灰度化处理和尺寸归一化处理。

3.如权利要求1所述的基于梯度方向参数优化的神经网络的图像分类方法，其特征是，计算卷积神经网络CNN的初始步长；具体包括：

初始步长是超参数，设为α₀，其计算公式为：

其中，num是神经网络模型中参数的总个数，0.0014是一个经验值。

4.如权利要求1所述的基于梯度方向参数优化的神经网络的图像分类方法，其特征是，利用当前梯度的方向信息与初始步长，计算得到更新一次后的参数向量x₁；

其中，▽f(x₀)是x₀的梯度，||▽f(x₀)||是总的梯度模值，α₀是初始步长。

5.如权利要求1所述的基于梯度方向参数优化的神经网络的图像分类方法，其特征是，若非首次执行，则根据上一次参数向量的梯度，计算得到梯度的方向信息；利用梯度的方向信息与更新步长，计算得到新的参数向量；具体包括：

其中，根据当前参数向量x_t及梯度▽f(x_t)、总的梯度模值||▽f(x_t)||、衰减t次的新步长α_t计算获得下一参数向量x_t+1。

6.如权利要求1所述的基于梯度方向参数优化的神经网络的图像分类方法，其特征是，如果需要进行步长衰减，则对初始步长α₀进行衰减，得到更新步长α₁；具体包括：

α₁＝α₀×(1-β)；

其中，β是步长衰减值。