[发明专利]一种交通目标检测模型的压缩方法和系统在审
申请号: | 202210423887.X | 申请日: | 2022-04-22 |
公开(公告)号: | CN114550122A | 公开(公告)日: | 2022-05-27 |
发明(设计)人: | 张超;万亚东;张波 | 申请(专利权)人: | 科大天工智能装备技术(天津)有限公司;北京科技大学 |
主分类号: | G06V20/56 | 分类号: | G06V20/56;G06V10/25;G06V10/82;G06N3/04;G06N3/08 |
代理公司: | 北京高沃律师事务所 11569 | 代理人: | 王爱涛 |
地址: | 300308 天津市东丽区*** | 国省代码: | 天津;12 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 交通 目标 检测 模型 压缩 方法 系统 | ||
1.一种交通目标检测模型的压缩方法,其特征在于,包括:
将老师模型提取的特征和学生模型提取的特征均输入至注意力机制转移模块中得到特征转移模块信息;所述老师模型为待压缩的交通目标检测模型;所述学生模型为预设模型;
将老师模型提取的特征和学生模型提取的特征均输入至激活信息转移模块中得到激活转移模块信息;
根据所述特征转移模块信息确定注意力机制转移模块的损失函数;
根据所述激活转移模块信息确定激活信息转移模块的损失函数;
根据所述注意力机制转移模块的损失函数和所述激活信息转移模块的损失函数生成总损失函数;
将预设图像数据分别输入老师模型和学生模型,直至所述总损失函数的值不变时,完成所述老师模型的压缩。
2.根据权利要求1所述的交通目标检测模型的压缩方法,其特征在于,所述特征转移模块信息为:
;
其中,X为输入信息,为激活函数,
3.根据权利要求1所述的交通目标检测模型的压缩方法,其特征在于,所述激活转移模块信息为y:
;
其中,
4.根据权利要求1所述的交通目标检测模型的压缩方法,其特征在于,所述注意力机制转移模块的损失函数为老师模型的特征转移模块信息与学生模型的特征转移模块信息的平方差。
5.根据权利要求1所述的交通目标检测模型的压缩方法,其特征在于,所述激活信息转移模块的损失函数为老师模型的激活转移模块信息与学生模型的激活转移模块信息的平方差。
6.根据权利要求1所述的交通目标检测模型的压缩方法,其特征在于,所述总损失函数为所述注意力机制转移模块的损失函数与2倍的激活信息转移模块的损失函数的和。
7.一种交通目标检测模型的压缩系统,其特征在于,包括:
特征转移模块信息确定单元,用于将老师模型提取的特征和学生模型提取的特征均输入至注意力机制转移模块中得到特征转移模块信息;所述老师模型为待压缩的交通目标检测模型;所述学生模型为预设模型;
激活转移模块信息确定单元,用于将老师模型提取的特征和学生模型提取的特征均输入至激活信息转移模块中得到激活转移模块信息;
第一损失函数确定单元,用于根据所述特征转移模块信息确定注意力机制转移模块的损失函数;
第二损失函数确定单元,用于根据所述激活转移模块信息确定激活信息转移模块的损失函数;
总损失函数确定单元,用于根据所述注意力机制转移模块的损失函数和所述激活信息转移模块的损失函数生成总损失函数;
模型压缩完成单元,用于将预设图像数据分别输入老师模型和学生模型,直至所述总损失函数的值不变时,完成所述老师模型的压缩。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于科大天工智能装备技术(天津)有限公司;北京科技大学,未经科大天工智能装备技术(天津)有限公司;北京科技大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202210423887.X/1.html,转载请声明来源钻瓜专利网。