[发明专利]一种基于相似性剪枝和高效模块的轻量化图像分类方法

权利要求书

1.一种基于相似性剪枝和高效模块的轻量化图像分类方法，包括下列步骤：

步骤1：训练一个原始图像分类卷积神经网络；

步骤2：计算该图像分类卷积神经网络中所有卷积层输出特征图的平均秩，并基于平均秩计算每个卷积层内卷积核间的信息相似度is；

步骤2.1：从数据集中随机采样N张图片作为样本集，将样本集送入训练好的卷积神经网络，每个卷积核生成N张特征图，计算每个卷积核对应特征图的平均秩：

其中表示将二维特征图视为二维矩阵，对其求矩阵的秩；

步骤2.2：第i层卷积神经网络的第j个卷积核和第j+1个卷积核之间的信息相似度为：

步骤3：计算图像分类卷积神经网络中所有卷积层中卷积核间的余弦相似度cs；

步骤4：将信息相似度is和余弦相似度cs进行加权，计算卷积神经网络中每个卷积层内卷积核间的相似度s；然后计算各个卷积核的冗余指数redu，冗余指数redu表示该卷积核与层内其余所有卷积核的相似度；

步骤4.1：第i层卷积神经网络的第j个卷积核和第j+1个卷积核之间的相似度系数为：

其中λ用来调整余弦相似度和信息相似度的权重；

步骤4.2：冗余指数衡量与第i层所有其他卷积核的相似程度：

步骤5：对图像分类卷积神经网络进行剪枝；

步骤5.1：根据设定的网络每层的剪枝率计算每层需要移除的卷积核个数m；

步骤5.2：将图像分类卷积神经网络对应卷积层中冗余指数最大的m个卷积核移除；移除本层的卷积核的同时将其对应的特征图移除，还要将下一层对应的通道维度移除；

步骤6：采用步骤1相同的方法对步骤5得到的剪枝后的网络进行训练，直到收敛；

步骤7：使用高效卷积模块对步骤6得到的神经网络中的卷积核进行替换；步骤6中得到网络：输入为w*h*C_in的输入特征图，使用C_out个K*K*C_in的卷积核，最终生成C_out个输出特征图；其中，w、h、C_in分别表示输入特征图的宽、高、通道数，K为卷积核尺寸，C_out我输出特征图的通道数；替换为：首先使用C_in个K*K*1的卷积核做深度卷积，结合C_out/2个1*1*C_in的卷积核做点卷积得到个特征图，再使用个K*K*1的卷积核对得到的个特征图做深度卷积得到另外个特征图，最后组合为C_out个输出特征图；

步骤8：对步骤7得到的卷积神经网络重新进行训练，直到收敛；

步骤9：采用步骤8得到的神经网络对图像进行分类识别。

2.如权利要求1所述的一种基于相似性剪枝和高效模块的轻量化图像分类方法，其特征在于，所述步骤1具体方法为：

步骤1.1：获取图像数据，图像数据中包含所有待识别的目标，计算图像平均尺寸，对大于平均尺寸的图像采用下采样的方式，小的图像采用双线性插值的方式实现图像的归一化；在图像归一化的过程中，保持原有图像的长宽比，不足的部分使用0像素填充；

步骤1.2：根据图像中的目标对图像添加对应的标签，将添加标签的图像分为训练数据和测试数据；

步骤1.3：根据图像分类任务需要，建立原始图像分类卷积神经网络，并采用训练数据和测试数据对图像分类卷积神经网络进行训练，直到达到设定的准确率。

3.如权利要求1所述的一种基于相似性剪枝和高效模块的轻量化图像分类方法，其特征在于，所述步骤3包含如下过程：

第i层卷积神经网络的第j个卷积核和第j+1个卷积核之间的余弦相似度为：

其中，resize(·)表示将卷积核展开成一维向量，||x||表示x的l₂范数，表示和的内积。