[发明专利]基于深度学习的双支路滤波器剪枝方法

说明书

本发明涉及一种基于深度学习的双支路滤波器剪枝方法，包括下列步骤：划分数据集，划分为训练集和测试集；基于原始VGG‑16进行重新搭建，得到需要剪枝的原始网络，之后加入双支路模块，得到新的网络模型；利用数据集中的训练集训练加入双支路模块的网络模型，使模型在测试集上的测试准确率达到最高，此时获得一个最优模型；再次把训练集输入最优模型，利用双支路模块和输入图片，得到每个滤波器的激活值；将单网络层滤波器的权重方差进行排序，获得每层滤波器的重要程度排序；按照预设定的每层的剪枝比率获得阈值，将大于阈值的数保留然后返回对应滤波器即得到网络的剪枝结果。

技术领域

本方法涉及图像处理中模型轻量化领域，适用于计算资源较少的平台，具体涉及一种双支路滤波器剪枝方法。

背景技术

图像分类与检测的研究，是整个计算机视觉研究的基石，是解决跟踪、分割、场景理解等其他复杂视觉问题的基础。鉴于图像分类与检测在计算机视觉领域的重要地位，研究鲁棒、准确的图像分类与检测算法，无疑有着重要的理论意义和实际意义。神经网络具有可从海量数据中学习数据之间相关性和差异性的优点，可以避免人工设计提取特征的麻烦，且分类准确度高，训练难度较低，对特征中的噪声有着较强的鲁棒性和容错能力，能够充分拟合分类任务中需要的复杂非线性关系，所以神经网络是当前的一个热点研究问题。并且在许多现实场景的应用程序需要实时的设备处理能力。如在自动驾驶领域中，智能控制系统必须实时观察道路，当出现突发情况，必须及时预警停车。在这种情况下，需要能够在系统上实时地处理视觉信息并及时做出决策，并且要保证决策的准确性。

深度学习网络以其高准确率和稳定性能的优势被越来越多得应用于现实设备中。一般来说，深度学习网络越深越具有更强的表达能力。凭着这一基本准则卷积神经分类网络自Alexnet^[1]的7层发展到了VGG^[2]的16乃至19层，后来更有了Googlenet^[3]的22层。可后来发现直连式卷积神经网络达到一定深度后再一味地增加层数并不能带来进一步地分类性能提高，反而会导致网络收敛变得更慢，测试集的分类准确率也变得更差。排除数据集过小带来的模型过拟合等问题后，过深的网络仍然还会使分类准确度下降。在深度学习网络中，随着网络深度的加深，梯度消失问题会愈加明显，为了缓解梯度消失问题，针对这个问题，通过改进网络结构并增加网络深度从而进一步提高分类模型准确率。如ResNet^[4]通过使用多个有参层来学习输入输出之间的残差表示，而不是像一般VGG网络那样使用有参层来直接尝试学习输入、输出之间的映射,缓解了梯度消失问题。DenseNet^[5]以密集的方式将每个模块与其他模块连接起来,每一层的输入来自前面所有层的输出。

ResNet和DenseNet在一定程度上缓解了梯度消失的问题，网络性能明显提高，但是由于大量输入输出的连接，造成了部分网络结构和参数冗余，不利于模型在资源受限的设备上进行部署，并且由于网络模型计算量过多，也无法保证实时性。因此在高性能的网络上进行模型压缩成为亟待解决的问题。

现有的注意力网络只包含一个跟随卷积块的注意力模块，这使得注意力模块只能从当前的特征地图中学习。因此，独立的注意力模块不能有效地决定要注意什么，并且当前的注意力模块很难调整对重点区域的关注，甚至在不同阶段会发生显著变化。注意力模块的学习能力明显不足。一个合理的解释是，从当前层中学习的额外信息的缺乏影响了它的辨别能力。因此需要一种新的设计，将前项信息与当前层信息融合起来，从而允许注意力模块之间相互合作。

参考文献：

[1]Krizhevsky A,Sutskever I,Hinton G E.Imagenet classification withdeep convolutional neural networks[J].Advances in neural informationprocessing systems,2012,25:1097-1105.