[发明专利]一种基于位置敏感图的知识蒸馏指导方法有效
| 申请号： | 201910517256.2 | 申请日： | 2019-06-14 |
| 公开（公告）号： | CN110245754B | 公开（公告）日： | 2021-04-06 |
| 发明（设计）人： | 常立博;卢通;杜慧敏;张霞;张丽果;王一鸣;徐一丁 | 申请（专利权）人： | 西安邮电大学 |
| 主分类号： | G06N5/02 | 分类号： | G06N5/02;G06N3/04 |
| 代理公司： | 西安智邦专利商标代理有限公司 61211 | 代理人： | 汪海艳 |
| 地址： | 710121 陕西*** | 国省代码： | 陕西;61 |
| 权利要求书： | 查看更多 | 说明书： | 查看更多 |
| 摘要： | 本发明属于深度学习、目标检测领域，涉及一种基于位置敏感图的知识蒸馏指导方法，该方法通过教师网络中指导层和学生网络中被指导层的特征图生成位置敏感图，基于两个位置敏感图的损失函数指导学生网络的参数更新，在不增加网络检测时间和参数规模的情况下，提升轻量化目标检测网络的性能。 | ||
| 搜索关键词： | 一种 基于 位置 敏感 知识 蒸馏 指导 方法 | ||
【主权项】：
1.一种基于位置敏感图的知识蒸馏方法，其特征在于，包括基于位置敏感图的指导和基于网络输出与标注信息的指导；通过基于位置敏感图的指导获得基于位置敏感图的指导损失函数，通过基于网络输出与标注信息的指导，获得基于网络输出的指导损失函数及基于标注信息的指导损失函数；利用基于位置敏感图的指导损失函数、基于网络输出的指导损失函数及基于标注信息的指导损失函数加权相加后获得总体指导损失函数，利用总体指导损失函数指导学生网络的参数更新；其中基于位置敏感图的指导包括以下步骤：S1、选取教师网络中的至少一个网络层作为指导层；选取学生网络中的至少一个网络层作为被指导层；指导层与被指导层一一对应；S2、获得教师网络与学生网络的多通道位置敏感图；S21、根据希望获得的位置敏感图的通道数分别将指导层与被指导层输出特征图均分为C组，其中组数与位置敏感图的通道数相同；S22、分别对指导层与被指导层中每组输出特征图进行3D最大值池化，得到至少一组教师网络多通道位置敏感图及至少一组学生网络多通道位置敏感图，其中C为大于等于1的正整数；S3、对获得的教师网络多通道位置敏感图及对应的学生网络多通道位置敏感图作损失，得到基于位置敏感图的指导损失函数。
下载完整专利技术内容需要扣除积分，VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息，商用须获得专利权人授权。该专利全部权利属于西安邮电大学，未经西安邮电大学许可，擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作，请联系【客服】
本文链接：http://www.vipzhuanli.com/patent/201910517256.2/，转载请声明来源钻瓜专利网。
