[发明专利]一种基于位置敏感图的知识蒸馏指导方法

说明书

本发明属于深度学习、目标检测领域，涉及一种基于位置敏感图的知识蒸馏指导方法，该方法通过教师网络中指导层和学生网络中被指导层的特征图生成位置敏感图，基于两个位置敏感图的损失函数指导学生网络的参数更新，在不增加网络检测时间和参数规模的情况下，提升轻量化目标检测网络的性能。

技术领域

本发明属于深度学习、目标检测领域，尤其涉及一种基于位置敏感图的知识蒸馏指导方法，该方法能够在不增加网络检测时间和参数规模的情况下，提升目标检测的精度。

背景技术

目标检测的任务是从一幅图像中找出某些特定类别的目标，包括检测和识别两个过程，是视频分析、图像语义理解等复杂视觉任务中的关键技术。目标检测结果的精度会直接影响到高级计算机视觉任务的效果。目标检测技术在许多领域有广泛的应用，如机器人视觉、自动驾驶、智能监控、医学图像分析、人机交互等。

知识蒸馏是一种网络模型压缩方法，这类方法通过构建教师-学生框架，由教师网络模型指导学生网络模型的训练，将网络结构复杂、参数量大、学习能力强的教师网络所学到关于特征表示的“知识”“蒸馏”出来，将这些知识迁移到网络结构简单、参数量少、学习能力弱的学生网络。知识蒸馏方法能为学生网络提供硬标注信息中学不到的软标注信息，包括类别间信息和教师网络学到的特征表示知识。通过知识蒸馏方法能够在不增加网络复杂度的情况下，提升网络的性能。

经典知识蒸馏算法大多是针对用于图像分类任务的卷积神经网络，相比于目标检测任务，图像分类任务的输出较为简单，只输出图像分类概率向量。而目标检测任务的输出比较复杂，除了输出目标分类的概率，还要输出目标定位的坐标信息，所以目标检测网络的特征图中不仅蕴含着图像的特征信息还有目标的位置信息，因此不能简单的将经典知识蒸馏方法应用在目标检测网络中。

发明内容

本发明的目的是针对深度学习轻量化目标检测网络，提出了一种基于位置敏感图的知识蒸馏指导方法，在不增加网络检测时间和参数规模的情况下，提升轻量化目标检测网络的性能。

本发明的技术方案是提供一种基于位置敏感图的知识蒸馏指导方法，包括基于位置敏感图的指导与基于网络输出和标注信息的指导；

通过基于位置敏感图的指导获得基于位置敏感图的指导损失函数，通过基于网络输出与标注信息的指导，获得基于网络输出的指导损失函数及基于标注信息的指导损失函数；

利用基于位置敏感图的指导损失函数、基于网络输出的指导损失函数及基于标注信息的指导损失函数加权相加后获得总体指导损失函数，利用总体指导损失函数指导学生网络的参数更新；

其中基于位置敏感图的指导包括以下步骤：

S1、选取教师网络中的至少一个网络层作为指导层；选取学生网络中的至少一个网络层作为被指导层；指导层与被指导层一一对应；

S2、获得教师网络与学生网络的多通道位置敏感图；

S21、根据希望获得的位置敏感图的通道数分别将指导层与被指导层输出特征图均分为C组，其中组数与位置敏感图的通道数相同，组数为2的幂次方的整数；

S22、分别对指导层与被指导层中每组输出特征图进行3D最大值池化，得到至少一组教师网络多通道位置敏感图及至少一组学生网络多通道位置敏感图，其中C为大于等于1的正整数；

当指导层与被指导层输出特征图通道数不一致时，根据希望获得的位置敏感图的通道数，将指导层均分为C组，每一组包含有M个特征图，分别对每组输出特征图进行3D最大值池化，将被指导层均分为C组，每一组包含有N个特征图，分别对每组输出特征图进行3D最大值池化。

S3、对获得的教师网络多通道位置敏感图及对应的学生网络多通道位置敏感图作损失，得到基于位置敏感图的指导损失函数。

进一步地，基于位置敏感图的指导损失函数为：