[发明专利]基于神经网络结构微调的图像分类方法、装置和存储介质

说明书

本申请涉及一种基于神经网络结构微调的图像分类方法、装置和存储介质，用于对特征图进行处理，所述特征图由图像数据集输入神经网络所获得，所述方法包括：基于图像数据集的训练集和验证集，获取待剪枝神经网络各特征图的最小绝对偏差，从而确定各特征图的剪枝阈值对特征图进行剪枝，得到剪枝结构；量化剪枝结构，获取量化后剪枝结构的图像分类精度的损失值；基于损失值和剪枝结构的最大迭代周期，对剪枝结构进行微调，得到图像分类特征模型；最后将待测图像输入图像分类特征模型得到分类结果，实现图像分类神经网络模型剪枝范围的自适应调整和对剪枝模型的结构微调量化，提高利用显著压缩的图像分类特征模型进行图像分类处理的分类精度和速度。

技术领域

本申请涉及人工智能领域，特别是涉及一种基于神经网络结构微调的图像分类方法、装置和存储介质。

背景技术

随着神经网络技术的发展，无论是在计算机视觉、自然语言处理还是图像生成方面，目前深度神经网络表现出来的性能都是最优的。然而，它们在计算能力、内存以及能源消耗方面的高昂成本，使得大部分企业因为有限的硬件资源而完全负担不起训练的费用，并且随着模型结构和规模越来越复杂，极大地限制了高性能模型在资源受限场景中的部署和应用。此外，较大的模型在处理部分任务时存在明显的参数冗余性，导致在训练过程中出现过拟合现象，直接影响模型的最终性能。冗余的模型规模所带来的存储开销、时间开销、能耗开销、性能损失等都极大地阻碍了人工智能技术的进一步发展和应用，但是许多领域都受益于神经网络，尤其是针对图像数据分类的场景，因此对图像分类神经网络进行压缩无疑是一个降低成本的办法。

基于上述问题和困难，如何在可接受的精度损失范围内尽可能地对图像分类神经网络模型进行压缩和加速已经成为十分重要又迫切的研究热点。现有的对图像分类神经网络的压缩方法主要包括剪枝、量化、低秩分解和知识蒸馏等，其中剪枝和量化凭借易于实施和加速效果显著的优点受到了广泛关注。主流的剪枝方法较为依赖人工干预，但部分自动剪枝策略又存在内存占用和能耗成本较高的问题；主流的量化方法直接量化图像分类数据的原实值模型的参数，忽略了对图像分类模型结构的调整优化，且量化通常会造成一定程度的图像分类精度的下降。因此如何将剪枝与量化高效地结合，使得在进行图像数据分类处理时，既能够保证利用图像分类神经网络模型进行图像分类时输出的图像分类精度，又能实现图像分类模型的显著压缩和加速是目前研究和应用领域的难点。

发明内容

基于此，有必要针对上述技术问题，提供能够在图像数据处理时自适应调整图像分类模型的剪枝和量化过程并提高图像分类模型在显著压缩和加速后进行图像分类处理的图像分类精度的一种基于神经网络结构微调的图像分类方法、装置和存储介质。

第一方面，本申请提供了一种基于神经网络结构微调的图像分类方法，用于对特征图进行处理，所述特征图由图像数据集输入神经网络所获得，所述方法包括：

基于所述图像数据集中的训练集，对所述神经网络进行预训练，获取待剪枝神经网络；

基于所述图像数据集中的验证集，获取所述待剪枝神经网络的卷积层各特征图的最小绝对偏差，其中所述最小绝对偏差为生成特征图的图像数据绝对值之和；

基于各所述特征图的最小绝对偏差，确定各所述特征图的剪枝阈值，对所述待剪枝神经网络的特征图进行剪枝，获取剪枝后的剪枝结构；

训练并量化所述剪枝结构，获取量化后的所述剪枝结构相较于所述待剪枝神经网络的图像分类精度的损失值；

基于所述损失值和所述剪枝结构的最大迭代周期，对所述剪枝结构进行迭代微调，输出所述剪枝结构微调后的图像分类特征模型；

将待测图像输入所述图像分类特征模型，得到分类结果。

在其中一个实施例中，基于各所述特征图的最小绝对偏差，确定各所述特征图的剪枝阈值包括：

基于待剪枝神经网络的卷积层中生成各特征图的最小绝对偏差，获取各所述特征图的重要性分数；

基于所述重要性分数和所述待剪枝神经网络的剪枝因子，确定各所述特征图的剪枝阈值。