[发明专利]基于频域自注意力机制的夜间目标检测、训练方法及装置有效
申请号: | 202210902801.1 | 申请日: | 2022-07-29 |
公开(公告)号: | CN114972976B | 公开(公告)日: | 2022-12-20 |
发明(设计)人: | 章依依;虞舒敏;应志文;郑影;徐晓刚;王军 | 申请(专利权)人: | 之江实验室 |
主分类号: | G06V20/00 | 分类号: | G06V20/00;G06V10/48;G06V10/56;G06V10/60;G06V10/764;G06V10/77;G06V10/82 |
代理公司: | 杭州浙科专利事务所(普通合伙) 33213 | 代理人: | 孙孟辉;杨小凡 |
地址: | 311100 浙江省杭*** | 国省代码: | 浙江;33 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 基于 注意力 机制 夜间 目标 检测 训练 方法 装置 | ||
1.一种基于频域自注意力机制的夜间目标检测训练方法,其特征在于包括如下步骤:
步骤S1:对训练集图像进行数据预处理,将训练集图像转化为YUV三个通道,并分别对三个通道的图像进行区块的划分,Y表示明亮度,U和V表示色度;所述数据预处理,包括如下步骤:
步骤S1.1:对训练集图像依次进行随机水平翻转、随机裁剪、图像填充、图像缩放;在图像填充过程中,将图像的宽长用0填充为的整数倍;在图像缩放过程中,将图像缩放到宽:,长:;得到预处理后的图像维度为,其中3为RGB通道;
步骤S1.2:将训练集图像从RGB转化为YUV通道,分别将三个通道的图像划分成像素宽长为的个区块;
步骤S2:提取三个通道中各区块的高低频信息,同一通道中每个区块相对位置相同的信息代表同一频域的信息;
步骤S3:将各个区块中属于同一频域的信息,依据各区块间的空间关系存入同一频域通道中,得到多个不同频域的通道;
步骤S4:将所有频域通道输入频域自注意力网络,通过计算各通道之间的可缩放点积自注意力,输出每个频域通道经自注意力加权后的频域特征,包括以下步骤:
步骤S4.1:将各个频域通道从二维向量重塑为一维向量,将各向量串联成矩阵;
步骤S4.2:将矩阵进行可缩放点积自注意力计算,得到多个频域之间的动态加权后的向量;
所述步骤S4.2的自注意力计算公式为:
其中,将各向量串联成矩阵作为自注意力计算中的键值key,,
步骤S4.3:将动态加权后的向量,输入相同的多层感知器MLP层;
步骤S4.4:将多层感知器MLP层的输出向量进行串联,并重塑维度,得到经自注意力加权后的频域特征;
步骤S5:将频域特征输入到检测网络中,输出预测的目标框位置与预测类别,基于特征图中各个特征点对应的真实类别与真值目标框位置,根据损失函数进行夜间目标监督训练。
2.根据权利要求1所述的基于频域自注意力机制的夜间目标检测训练方法,其特征在于:所述步骤S2中,对于三个通道的各个区块,分别进行DCT离散余弦变换,进而提取每个区块的高低频信息。
3.根据权利要求1所述的基于频域自注意力机制的夜间目标检测训练方法,其特征在于: 所述步骤S5包括以下步骤:
步骤S5.1:将所述频域特征输入到检测网络中,输出特征图中各个特征点对应的预测类别、预测目标框;
步骤S5.2:基于预测类别和真实类别,通过分类损失进行监督训练,同时,基于预测目标框和真值目标框,通过回归损失共同进行监督训练。
4.根据权利要求3所述的基于频域自注意力机制的夜间目标检测训练方法,其特征在于:所述步骤S5.2中的分类损失采用Focal Loss分类损失,计算公式为:
其中,x表示特征图第x行,y表示第y列的位置,表示在坐标处通过预测类别得到的分类置信度,表示在坐标处目标所属的真实类别的分类置信度,1表示正样本,0表示负样本;是大于0的值,是[0,1]间的小数,和都是固定值,不参与训练。
5.根据权利要求3所述的基于频域自注意力机制的夜间目标检测训练方法,其特征在于:所述步骤S5.2中的回归损失采用IOU交并比损失,计算公式为:
其中,x表示特征图第x行,y表示第y列的位置,表示坐标处对应的预测目标框坐标,表示坐标处对应的真值的目标框坐标,表示该目标框的面积。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于之江实验室,未经之江实验室许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202210902801.1/1.html,转载请声明来源钻瓜专利网。