[发明专利]目标检测系统的训练方法及装置

说明书

本说明书实施例提供一种目标检测系统的训练方法，所述目标检测系统包括主干网络和头部网络，所述主干网络包括若干卷积层和若干自注意力层，所述方法包括：将训练图片输入所述目标检测系统，其中，利用所述若干卷积层对所述训练图片进行卷积处理，得到卷积表征；利用所述若干注意力层基于所述卷积表征进行自注意力处理，得到特征图；利用所述头部网络处理所述特征图，得到所述训练图片中目标对象的检测结果；基于所述训练图片对应的对象标注数据以及所述检测结果，确定各个神经网络层各自的梯度范数；针对所述各个神经网络层，根据所述梯度范数的平均数和其自身的梯度范数，更新其网络参数。

技术领域

本说明书一个或多个实施例涉及机器学习技术领域，尤其涉及一种目标检测系统的训练方法及装置。

背景技术

目标检测技术旨在识别出图片中的一个或多个物体，并定位出不同物体(给出边界框)。目标检测在很多场景有应用，如无人驾驶和安防系统等。

目前，主流的目标检测算法主要是基于深度学习模型。然而，已有的相关算法难以满足实际应用中日益提高的需求。因此，需要一种目标检测方案，可以在降低计算量的同时，保证检测结果的准确度，从而更好地满足实际应用需求。

发明内容

本说明书一个或多个实施例描述了一种目标检测系统的训练方法，通过在主干网络中同时引入卷积层和注意力层，设计一种新的目标检测算法架构，从而解除深度学习架构对预训练的依赖，有效降低训练目标检测系统耗费的计算量。

根据第一方面，提供一种目标检测系统的训练方法，所述目标检测系统包括主干网络和头部网络，所述主干网络包括若干卷积层和若干自注意力层，所述方法包括：将训练图片输入所述目标检测系统，其中，利用所述若干卷积层对所述训练图片进行卷积处理，得到卷积表征；利用所述若干注意力层基于所述卷积表征进行自注意力处理，得到特征图；利用所述头部网络处理所述特征图，得到所述训练图片中目标对象的检测结果；基于所述训练图片对应的对象标注数据以及所述检测结果，确定各个神经网络层各自的梯度范数；针对所述各个神经网络层，根据所述梯度范数的平均数和其自身的梯度范数，更新其网络参数。

在一个实施例中，所述检测结果包括所述目标对象的分类结果和检测边框，所述对象标注数据包括对象分类结果和对象标注边框。

在一个实施例中，所述卷积表征包括C个二维矩阵；其中，利用所述若干注意力层基于所述卷积表征进行自注意力处理，得到特征图，包括：利用所述若干注意力层，对基于所述C个二维矩阵进行展平处理而得到的C个向量进行所述自注意力处理，得到Z个向量；对所述Z个向量分别进行截断堆叠处理，得到Z个二维矩阵，作为所述特征图。

在一个实施例中，所述头部网络包括区域生成网络RPN和分类回归层；其中，利用所述头部网络处理所述特征图，得到所述训练图片中目标对象的检测结果，包括：利用所述RPN基于所述特征图，确定包含目标对象的多个候选区域；利用所述分类回归层基于各个候选区域的区域特征，确定该候选区域对应的目标对象类别和边框，归入所述检测结果。

在一个实施例中，基于所述训练图片对应的对象标注数据以及所述检测结果，确定各个神经网络层各自的梯度范数，包括：基于所述对象标注数据和所述检测结果，采用反向传播法，计算出所述各个神经网络层的梯度；计算所述各个神经网络层的梯度的范数，作为对应的梯度范数。

在一个实施例中，所述目标检测系统包括多个神经网络层；针对所述各个神经网络层，根据所述梯度范数的平均数和其自身的梯度范数，更新其网络参数，包括：计算所述多个神经网络层对应的多个梯度范数的平均数；针对所述各个神经网络层，基于其梯度范数与所述平均数之间的比值，更新该神经网络层的网络参数。

在一个具体的实施例中，计算所述多个神经网络层对应的多个梯度范数的平均数，包括：计算所述多个梯度范数的几何平均数。