[发明专利]一种基于相似性剪枝和高效模块的轻量化图像分类方法

说明书

该发明公开了一种基于相似性剪枝和高效模块的轻量化图像分类方法，属于图像处理领域。本发明首先训练原始图像分类卷积神经网络，采用基于相似度的剪枝方式，优先移除图像分类卷积神经网络同一个卷积层中相同的或者相似的神经元，这种剪枝方式，相比现有剪枝方法优先去除神经网络中不重要的神经元对模型性能损伤更小；此外，该方法可以基于实际需要部署的设备的性能设置剪枝后模型的大小和计算量，从而得到特定资源限制下最优的网络模型参数；使用高效卷积模块替换标准卷积核，保证分类精度的情况下，降低图像分类卷积神经网络的参数量以及计算量。

技术领域

本发明属于图像分类领域，具体涉及图像分类网络轻量化方法。

背景技术

近年来，深度神经网络成为人工智能领域的研究热点，且被广泛应用在计算机视觉、自然语言处理等许多不同的领域，并在图像分类等很多实际任务上都取得了巨大的性能提升。这些成功都依赖于深度神经网络成千上万的参数，以及具有强大性能的计算设备。然而，深度神经网络模型复杂、计算量巨大的特点阻碍了它们在内存资源低的设备或对延迟要求严格的应用中的部署，由于很多实际应用场景中并不具备很高的计算能力和存储条件，并且对实时性有硬性需求，例如移动终端和自动驾驶环境，这使得深度神经网络很难实际部署到这些低存储、低功耗的小型设备上。因而轻量化的深度神经网络设计及模型压缩具有重大的理论研究意义和实际应用价值。

发明内容

本发明要解决的问题是，针对已有的图像分类方法中分类网络由于内存和计算能力限制无法部署到边缘移动设备问题。

本发明提供了一种基于相似性剪枝和高效模块的轻量化图像分类方法，包括下列步骤：

步骤1：训练一个原始图像分类卷积神经网络；

步骤2：计算该图像分类卷积神经网络中所有卷积层输出特征图的平均秩，并基于平均秩计算每个卷积层内卷积核间的信息相似度is；

步骤3：计算图像分类卷积神经网络中所有卷积层中卷积核间的余弦相似度cs；

步骤4：将信息相似度is和余弦相似度cs进行加权，计算卷积神经网络中每个卷积层内卷积核间的相似度s；然后计算各个卷积核的冗余指数redu，冗余指数redu表示该卷积核与层内其余所有卷积核的像是度；

步骤5：对图像分类卷积神经网络进行剪枝；

步骤5.1：根据设定的网络每层的剪枝率计算每层需要移除的卷积核个数m；

步骤5.2：将图像分类卷积神经网络对应卷积层中冗余指数最大的m个卷积核移除；移除本层的卷积核的同时将其对应的特征图移除，还要将下一层对应的通道维度移除；

步骤6：采用步骤1相同的方法对步骤5得到的剪枝后的网络进行训练，直到收敛；

步骤7：使用高效卷积模块对步骤6得到的神经网络中的卷积核进行替换；步骤6中得到网络：输入为w*h*C_in的输入特征图，使用C_out个K*K*C_in的卷积核，最终生成C_out个输出特征图；其中，w、h、C_in分别表示输入特征图的宽、高、通道数，K为卷积核尺寸，C_out我输出特征图的通道数；替换为：首先使用C_in个K*K*1的卷积核做深度卷积，结合C_out/2个1*1*C_in的卷积核做点卷积得到个特征图，再使用个K*K*1的卷积核对得到的个特征图做深度卷积得到另外个特征图，最后组合为C_out个输出特征图；

步骤8：对步骤7得到的卷积神经网络重新进行训练，直到收敛；

步骤9：采用步骤8得到的神经网络对图像进行识别。

进一步地，所述步骤1具体方法为：