[发明专利]一种用于图像分类任务的滤波器剪枝方法

说明书

本发明属于深度神经网络模型压缩与加速领域，具体涉及一种用于图像分类任务的滤波器剪枝方法，在对滤波器重要性进行评估时，综合考虑滤波器剪枝对于当前层的直接影响和对于下一层的间接影响，使得新的评估结果能够更准确的反映滤波器的重要性，在给定剪枝率的情况下，优化待剪枝滤波器的选择，保持剪枝后模型的性能与剪枝前相当。该方法可全面评价滤波器剪枝对当前层的直接影响和对下一层的间接影响、实现对滤波器重要性的准确评估；可以在保持深度神经网络模型性能的前提下，实现深度网络模型的大幅压缩和加速，对深度神经网络模型在计算与存储资源受限设备上的轻量化部署与快速运行，具有重要的工程应用价值。

技术领域

本发明属于深度神经网络模型压缩与加速领域，具体涉及一种用于图像分类任务的滤波器剪枝方法。

背景技术

卷积神经网络在各种计算机视觉任务中获得了巨大的成功，比如图像分类、目标检测、语义分割等。但是，在卷积神经网络性能不断提升的同时，所带来的是参数量和计算成本的不断增加。卷积神经网络在算力和内存占用方面的高需求，使得将基于卷积神经网络的算法部署到资源受限的设备(例如移动设备或无人机)上仍然存在很大的挑战。为了解决这一问题，近年来研究者在模型压缩和加速方法方面做了很多努力，主要包括矩阵分解、参数量化、模型剪枝和知识蒸馏。其中，模型剪枝因其广阔的应用前景而在以往的研究中备受关注。

模型剪枝方法可以分为两大类：权重剪枝(weight pruning)和滤波器剪枝(filter pruning)；权重剪枝方法一般通过直接剪掉滤波器中不重要的权重连接来对模型进行压缩，通常可以获得更高的压缩率。然而，由于权重剪枝后的模型结构是稀疏的，无法利用现有成熟的基础线性代数子程序(Basic Linear Algebra Subprograms，BLAS)库来获得额外性能收益，需要借助于特别设计的硬件才能获得实际加速。与之不同的是，滤波器剪枝方法通过直接剪掉选定的整个滤波器来压缩模型，这使得剪枝后的模型能够保持规则结构，更便捷地实现模型的加速，是一种更实用的模型压缩和加速方法。在进行滤波器剪枝时，为了最小化剪枝对于模型性能的影响，一般会根据滤波器的重要性从低到高选择待剪枝的滤波器。因此，滤波器剪枝的关键在于怎样评估滤波器的重要性。基于范数的方法和基于几何中值的方法是目前两种广泛使用的滤波器重要性评估方法，但它们存在一个共同的问题，即它们仅使用当前剪枝层的滤波器信息进行重要性的评估，这仅仅考虑了滤波器剪枝对于当前层的影响。事实上，当前层的滤波器剪枝会产生两个方面的影响：一是对于当前层的直接影响，滤波器的数量会减少；另一个则是对于下一层的间接影响，当前层滤波器的减少，导致输出特征图通道数减少，从而下一层中滤波器的通道数也需要相应减少。实验结果显示，当考虑滤波器剪枝的不同影响时，同一个滤波器的重要性可能完全不同。这表明，仅考虑滤波器剪枝的直接影响时，对于一个滤波器的重要性评估结果是片面的，这将会影响待剪枝滤波器的选择，进而影响剪枝后模型的性能。

发明内容

本发明的目的是要解决现有滤波器剪枝方法中对于滤波器重要性的片面评估引起的待剪枝滤波器选择不合理，进而导致的剪枝后模型性能不高的问题，提出一种用于图像分类任务的滤波器剪枝方法。该方法通过综合评估滤波器剪枝对当前层滤波器的直接影响和对下一层滤波器的间接影响，实现对滤波器重要性的准确评估，在此基础上按照设定的剪切率对不重要滤波器进行剪枝，可以在保持模型性能的基础上实现模型的明显压缩和加速。

本发明的思路是在对滤波器重要性进行评估时，综合考虑滤波器剪枝对于当前层的直接影响和对于下一层的间接影响，使得新的评估结果能够更准确的反映滤波器的重要性，在给定剪枝率的情况下，优化待剪枝滤波器的选择，保持剪枝后模型的性能与剪枝前相当。