[发明专利]一种基于特征图的神经网络剪枝方法

权利要求书

1.一种基于特征图的神经网络剪枝方法，其特征在于，包括以下步骤：

(1)对于待剪枝的神经网络模型，准备图像的训练数据集进行训练，得到预训练好的模型权重；

(2)定义拓扑洞为衡量特征图信息量的标量，根据拓扑洞的计数标准，对预训练好的卷积神经网络输入数据I，计算每一层L_i不同通道对应的拓扑洞值

(3)为该神经网络的每一层L_i设置剪枝率P_i∈[0,1)，并根据每一层的原始输出通道数N_i+1，确定剪枝后的模型每一层输出通道数为N_i+1×(1-P_i)；

(4)凭借拓扑洞值及剪枝率P_i对神经网络剪枝得到剪枝后的网络；

(5)剪枝后的神经网络在相同训练数据集下进行重训练，以恢复损失精度；

(6)利用剪枝后神经网络进行应用，将待识别的图像输入剪枝后的神经网络，得到图像中不同物体的类别。

2.根据权利要求1所述的基于特征图的神经网络剪枝方法，其特征在于，步骤(1)中，所述的神经网络模型为ResNet-50模型。

3.根据权利要求1所述的基于特征图的神经网络剪枝方法，其特征在于，所述的训练数据集为ImageNet-2012。

4.根据权利要求1所述的基于特征图的神经网络剪枝方法，其特征在于，步骤(2)中，所述拓扑洞的计数标准为：在每一层L_i输出的尺寸为h_i×w_i的特征图中，单元格权重为0的计为1个拓扑洞；如果有许多权重为0的单元格相连，则它们合起来计为1个拓扑洞且不再单独计数；如果所有权值权重均为0的连通单元位于特征图映射矩阵的最外层，则不考虑连通单元的拓扑洞计数。

5.根据权利要求4所述的基于特征图的神经网络剪枝方法，其特征在于，步骤(2)中，批量数据输入后平均拓扑洞计数公式为：

其中，TopologyHole(·)为单张特征图拓扑洞计数标准，I为输入数据，batch为同时进行运算的数据量，为第i层第j的过滤器对应特征图在输入数据I下的平均拓扑洞。

6.根据权利要求1所述的基于特征图的神经网络剪枝方法，其特征在于，步骤(4)的具体过程为：对神经网络模型逐层根据拓扑洞值从大到小排序，根据预先设置的剪枝率P_i逐层移除拓扑洞值最高的N_i+1×P_i个过滤器，得到剪枝后的模型。