[发明专利]一种基于深度学习与支持向量机融合的图像分类方法

权利要求书

1.一种基于深度学习与支持向量机融合的图像分类方法，其特征在于，包括以下步骤：

S1、在深度学习卷积神经网络中嵌入坐标注意力模块，将嵌入有坐标注意力模块的卷积神经网络作为特征提取网络，所述卷积神经网络通过对图像进行卷积以及下采样，提取具有代表性的图像特征，所述坐标注意力模块通过在两个空间方向聚合特征，以极低的计算开销来捕获位置信息和通道关系，实现增强网络的图像特征表示；

S2、将特征提取网络输出的增强图像特征经过全连接层进入支持向量机，通过支持向量机对提取的图像特征进行图像分类，提高对图像分类的泛化能力，所述卷积神经网络利用支持向量机的合页损失函数反向传播训练网络模型，使得卷积神经网络中的梯度可以反向传播，进而学习较低级别的特征。

2.根据权利要求1所述的基于深度学习与支持向量机融合的图像分类方法，其特征在于，所述步骤S1中的坐标注意力模块包括坐标信息嵌入步骤和坐标注意力生成步骤，所述坐标信息嵌入步骤先将给定的X使用尺寸(H,1)和(1,W)的池化核沿着水平坐标方向和竖直坐标方向对每个通道输入特征图进行编码，之后通过两种变换沿着两个空间方向聚合特征，生成一对方向感知注意力特征图，一个方向感知注意力特征图沿着一个空间方向捕捉长期依赖关系，另一个方向感知注意力特征图保留精确的位置信息；所述坐标注意力生成步骤先是级联坐标信息嵌入步骤产生的两个特征图，然后使用1×1的共享卷积进行变换，生成空间信息在水平与垂直方向的中间特征图，接着将该中间特征图切分为两个单独的张量，最后使用两个1×1的卷积分别将两个单独的张量变换为与输入X相同的通道数，使用Sigmoid作为坐标注意力模块的激活函数。

3.根据权利要求1所述的基于深度学习与支持向量机融合的图像分类方法，其特征在于，所述步骤S1中嵌入的坐标注意力模块位于卷积神经网络的中间层或顶层。

4.根据权利要求1所述的基于深度学习与支持向量机融合的图像分类方法，其特征在于，所述步骤S1中嵌入有坐标注意力模块的卷积神经网络适用于ResNet18、AlexNet、LeNet、MobileNet或VGG网络模型。

5.根据权利要求1所述的基于深度学习与支持向量机融合的图像分类方法，其特征在于，所述步骤S1中嵌入有坐标注意力模块的卷积神经网络适用于ResNet18网络模型，所述坐标注意力模块嵌于ResNet18网络模型中每个残差模块的数据归一化与激活函数之间。

6.根据权利要求1所述的基于深度学习与支持向量机融合的图像分类方法，其特征在于，所述步骤S2中卷积神经网络利用支持向量机的合页损失函数为二分类合页损失函数，该二分类合页损失函数采用下式表示：

L_i＝max(0,1-x_iw^Ty_i)

其中，x_i表示给定的一个训练数据集，x_i∈R^D，i∈(1,2…N)，N表示存在的样例个数，D表示每个样例的维度，xw为线性可分支持向量机的预测值，y为正确分类的类别，y_i∈{-1，+1}，w为支持向量机通过样本可学习到的参数向量。

7.根据权利要求1所述的基于深度学习与支持向量机融合的图像分类方法，其特征在于，所述步骤S2中卷积神经网络利用支持向量机的合页损失函数为多分类合页损失函数，该多分类合页损失函数采用下式表示：

其中，x_i表示给定的一个训练数据集，x_i∈R^D，i∈(1,2…N)，N表示存在的样例个数，D表示每个样例的维度，xw为线性可分支持向量机的预测值，y为正确分类的类别，y_i∈{-1，+1}，w_j表示参数向量w中的第j个分量，表示L2范式正则化惩罚，超参数λ为惩罚因子，k为训练数据集中k种样本类别，n为k类别中训练数据集的数据量。