[发明专利]提升图像分类网络模型鲁棒性的损失函数方法及系统

权利要求书

1.一种提升图像分类网络模型鲁棒性的损失函数方法，其特征在于，所述方法包括如下步骤：

步骤S1：对Softmax损失函数和Modified Softmax的等值面做分析，最初的Softmax损失函数整体的线性变换表示为p＝Wy+b，y＝N(x)∈R^L,其中L为类别数，N(·)为主干网络非线性特征提取函数变换,x为神经网络学习到的特征向量，y＝[y₁,y₂,…,y_L]^T为一个非线性变换后的特征向量，p为将特征向量y作为输入，将线性层网络参数W,b分别作为线性变换的权重和偏置的线性变换的结果；将上式L_i中中间变量p_i使用向量模长和角度表示形式为Softmax等价表示为其中为待求概率值的特征向量与权重向量之间的夹角，对L_i参数向量的模长和偏差加入约束，即使权重矩阵W模长为1，偏置向量b为0，令损失函数值为一常数C，则关于角度化模型参数方程表示为：

步骤S2：将步骤S1中方程进行简化得到属于Log-Sum-Exp函数范畴，它的值为对最大函数的逼近，令获得

步骤S3：对做分析和验证，在做识别或分类时，在使用线性映射函数推理时，当类内角度间距大于类间角度间距时，说明模型对样本做出正确预测，反之，模型不能对样本做出正确预测；

步骤S4：通过上述分析，得出通过提升样本在特征空间的密度，不同类别特征的可区分性，由步骤S3中对类内角间距和类间角间距定义不同阙值函数分别进行逆向求解，将类内角间距和类间角间距函数统一为关于等值面的优化目标，并分别定义为L_I,L_O,由步骤S3衍生出的方程为

步骤S5：对步骤S4中方程组进行求解，得到设计训练神经网络的损失函数为L＝L_a+k₁L_I+k₂L_O，其中L_a设置为常规损失设计，k₁,k₂分别为超参数；

步骤S6：利用主干深度神经网络及训练图片获得预测标签，将预测标签和输入样本标签计算通过步骤S5获得的损失函数计算损失并通过链式法则计算梯度值，根据梯度值更新神经网络参数，主干深度神经网络选择ResNet34,ResNet50,ResNet101,ResNet150；

步骤S7：循环步骤S6中模型，以及利用步骤S5中损失函数诱导更新参数，根据loss，accuracy，recall，F1指标值训练直至模型收敛,即获得鲁棒的图像分类网络模型。

2.根据权利要求1所述的提升图像分类网络模型鲁棒性的损失函数方法，其特征在于，所述步骤S1依次对Softmax损失函数和Softmax变种损失函数的提取特征做分析，使用MINIST手写字体识别数据集作为训练和测试数据集，针对不同分类任务使用对应类型的数据集完成模型训练和部署，依次使用Softmax and Cross-Entropy和SphereFace Loss作为损失函数和潜在变换层，使用经典卷积神经网络作为主干网络，得到分类训练和测试可视化网络。

3.根据权利要求1所述的提升图像分类网络模型鲁棒性的损失函数方法，其特征在于，所述步骤S4中的方程组中的‖y‖为样本向量模，为样本特征向量与同类样本权重向量的角度距离，为样本特征向量与其他类样本权重向量的最小角度距离，L_I为待优化的类内角度距离目标损失，L_O为待优化的类间角度距离目标损失。

4.根据权利要求1所述的提升图像分类网络模型鲁棒性的损失函数方法，其特征在于，所述步骤S6中深度神经网络对输入图像提取特征后，经特征映射函数将图像映射到潜在的特征空间，潜在特征空间中的特征经过线性映射层对图像获取图像预测值，通过损失函数与输入图像标签结合，经梯度反向传播更新模型参数。