[发明专利]目标检测系统的训练方法及装置

权利要求书

1.一种目标检测系统的训练方法，所述目标检测系统包括主干网络和头部网络，所述主干网络包括若干卷积层和若干自注意力层，所述方法包括：

将训练图片输入所述目标检测系统，其中，

利用所述若干卷积层对所述训练图片进行卷积处理，得到卷积表征；利用所述若干注意力层基于所述卷积表征进行自注意力处理，得到特征图；利用所述头部网络处理所述特征图，得到所述训练图片中目标对象的检测结果；

基于所述训练图片对应的对象标注数据以及所述检测结果，确定各个神经网络层各自的梯度范数；

针对所述各个神经网络层，根据所述梯度范数的平均数和其自身的梯度范数，更新其网络参数。

2.根据权利要求1所述的方法，其中，所述检测结果包括所述目标对象的分类结果和检测边框，所述对象标注数据包括对象分类结果和对象标注边框。

3.根据权利要求1所述的方法，其中，所述卷积表征包括C个二维矩阵；其中，利用所述若干注意力层基于所述卷积表征进行自注意力处理，得到特征图，包括：

利用所述若干注意力层，对基于所述C个二维矩阵进行展平处理而得到的C个向量进行所述自注意力处理，得到Z个向量；

对所述Z个向量分别进行截断堆叠处理，得到Z个二维矩阵，作为所述特征图。

4.根据权利要求1所述的方法，其中，所述头部网络包括区域生成网络RPN和分类回归层；其中，利用所述头部网络处理所述特征图，得到所述训练图片中目标对象的检测结果，包括：

利用所述RPN基于所述特征图，确定包含目标对象的多个候选区域；

利用所述分类回归层基于各个候选区域的区域特征，确定该候选区域对应的目标对象类别和边框，归入所述检测结果。

5.根据权利要求1所述的方法，其中，基于所述训练图片对应的对象标注数据以及所述检测结果，确定各个神经网络层各自的梯度范数，包括：

基于所述对象标注数据和所述检测结果，采用反向传播法，计算出所述各个神经网络层的梯度；

计算所述各个神经网络层的梯度的范数，作为对应的梯度范数。

6.根据权利要求1所述的方法，其中，所述目标检测系统包括多个神经网络层；针对所述各个神经网络层，根据所述梯度范数的平均数和其自身的梯度范数，更新其网络参数，包括：

计算所述多个神经网络层对应的多个梯度范数的平均数；

针对所述各个神经网络层，基于其梯度范数与所述平均数之间的比值，更新该神经网络层的网络参数。

7.根据权利要求6所述的方法，其中，计算所述多个神经网络层对应的多个梯度范数的平均数，包括：

计算所述多个梯度范数的几何平均数。

8.根据权利要求6所述的方法，其中，针对所述各个神经网络层，基于其梯度范数与所述平均数之间的比值，更新该神经网络层的网络参数，包括：

针对所述各个神经网络层，计算其梯度范数与所述平均数之间的比值；确定以所述比值为底数，以预设数值为指数的幂运算结果；将该神经网络层的网络参数更新为自身与所述幂运算结果的乘积。

9.一种目标检测系统的训练装置，所述目标检测系统包括主干网络和头部网络，所述主干网络包括若干卷积层和若干自注意力层，所述装置包括：

图片处理单元，配置为利用所述目标检测系统处理训练图片；所述图片处理单元包括：卷积子单元，配置为利用所述若干卷积层对所述训练图片进行卷积处理，得到卷积表征；注意力子单元，配置为利用所述若干注意力层基于所述卷积表征进行自注意力处理，得到特征图；处理子单元，配置为利用所述头部网络处理所述特征图，得到所述训练图片中目标对象的检测结果；

梯度范数计算单元，配置为基于所述训练图片对应的对象标注数据以及所述检测结果，确定各个神经网络层各自的梯度范数；

网络参数更新单元，配置为针对所述各个神经网络层，根据所述梯度范数的平均数和其自身的梯度范数，更新其网络参数。

10.一种计算设备，包括存储器和处理器，其中，所述存储器中存储有可执行代码，所述处理器执行所述可执行代码时，实现权利要求1-8中任一项所述的方法。