[发明专利]一种基于深度学习与支持向量机融合的图像分类方法

说明书

本发明提供一种基于深度学习与支持向量机融合的图像分类方法，包括在深度学习卷积神经网络中嵌入坐标注意力模块作为特征提取网络，卷积神经网络通过对图像进行卷积以及下采样，提取具有代表性的图像特征，坐标注意力模块通过在两个空间方向聚合特征，以极低的计算开销来捕获位置信息和通道关系，实现增强网络的图像特征表示；将特征提取网络输出的增强图像特征经过全连接层进入支持向量机对提取的图像特征进行图像分类，卷积神经网络利用支持向量机的合页损失函数反向传播训练网络模型，使得卷积神经网络中的梯度可以反向传播，进而学习较低级别的特征。本方法将嵌入坐标注意力机制的卷积神经网络与SVM相融合实现图像分类，提高了图像分类精度。

技术领域

本发明涉及图像分类技术领域，具体涉及一种基于深度学习与支持向量机融合的图像分类方法。

背景技术

图像分类任务是计算机视觉的关键任务之一，也是热门研究方向之一，其目标是根据图像中所反映的不同特征信息划分到不同的特征类别。如何对图像进行准确的分类，实现最小的分类误差，成为了图像分类研究的关键问题。提高图像分类精度能够促进图像分类技术的发展，基于统计学习理论的支持向量机(Support Vector Machine，SVM)是一种基于核的机器学习模型，该模型在模式识别、模式分类、计算机视觉等各个领域的分类效果可观。但是传统的SVM难以处理数量庞大的图像数据，并且难以满足实际的分类精度需求，因此传统SVM不适合庞大复杂的图像分类，而深度学习(Deep Learning，DL)相较于SVM在图像特征学习与分类中有着显著优势。深度学习通过神经网络从图像中自主学习特征，提取出抽象高维的特征，并能紧密连接特征与分类器的关系，突破了SVM在此方面难以解决的问题。

卷积神经网络(Convolutional Neural Network，CNN)是深度学习模型中经典而广泛使用的结构。在上世纪90年代，CNN在手写数字为代表的图像分类与识别取得了良好的效果，达到了人眼识别的精度。在2012年，Krizhevsky等人训练的深度CNN在ImageNet大规模视觉识别挑战赛中获得了最佳图像分类效果，证明了CNN在图像分类中的有效性。

随着卷积神经网络在处理图像特征方面逐渐显现优势，越来越多的学者开始将传统分类方法与深度学习方法相结合。SVM与Softmax是计算机视觉中常见的两种分类器，随着卷积神经网络算法的不断优化与改进，两种分类器的使用也越来越频繁。提取数据的分类是深度学习中最重要的方面之一，SVM可以对预先提取的数据进行分类，并将每个数据给出的具体分数作为评估的基础。有研究表明选择线性SVM代替大多数深度学习模型中的Softmax分类器，将SVM用作CNN的最终分类单元，实现了特征提取到分类的完整流程，在流行的深度学习图像分类数据集上取得了L2-SVM优于Softmax的分类辨别能力；有研究表明采用CNN提取数据特征后进一步使用SVM提取特征并实现分类，在一定程度上提取出了比CNN本身更多的特征，获得更好的精度；有研究表明将稀疏自动编码器与SVM结合，对学习到的原始表征进行重组，获得新的表征，提高了数据的分类精度；有研究表明神经网络中所融合的SVM分类器表现出了稳健的分类精度，并验证了所提模型分类的有效性与客观性；同时还有研究表明将SVM与神经网络结合在例如人体生物、医学影像、遥感等图像分类、识别的诸多领域有着相较于原始神经网络模型解决复杂任务的更高性能，并且能够获得显著的结果。但本申请的发明人经过研究分析发现，现有的CNN采用反向传播算法，在图像特征提取时容易陷入局部最小值或局部最优的问题。

发明内容

针对现有传统SVM不适合处理庞大复杂图像分类，而CNN在图像特征提取时容易陷入局部最优的技术问题，本发明提供一种基于深度学习与支持向量机融合的图像分类方法。

为了解决上述技术问题，本发明采用了如下的技术方案：

一种基于深度学习与支持向量机融合的图像分类方法，包括以下步骤：