[发明专利]基于有容忍度标签的自蒸馏方法、计算机设备和存储介质在审
申请号: | 202310267305.8 | 申请日: | 2023-03-20 |
公开(公告)号: | CN116403069A | 公开(公告)日: | 2023-07-07 |
发明(设计)人: | 于云龙 | 申请(专利权)人: | 浙江大学 |
主分类号: | G06V10/774 | 分类号: | G06V10/774;G06V10/82;G06V10/80;G06N3/04;G06N3/084 |
代理公司: | 杭州宇信联合知识产权代理有限公司 33401 | 代理人: | 王健 |
地址: | 310058 浙江*** | 国省代码: | 浙江;33 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明公开了一种基于有容忍度标签的自蒸馏方法、计算机设备和存储介质,所述方法具体包括如下步骤:获取用于训练深度神经网络模型的图像数据集;利用图像数据集训练预先定义好的深度神经网络,优化目标是交叉熵优化损失和自蒸馏损失,自蒸馏损失需要的软标签通过一个自适应的内存结构来提供;利用训练好的模型输出图像分类任务的预测结果。本发明的方法适用于有监督的图像识别或者检测等任务,面对优化过程中存在的过拟合现象,在不需要预先训练一个大的教师模型的前提下进行自蒸馏,模型能够在更优点收敛,得到更为稳健的效果。 | ||
搜索关键词: | 基于 容忍度 标签 蒸馏 方法 计算机 设备 存储 介质 | ||
【主权项】:
暂无信息
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于浙江大学,未经浙江大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/202310267305.8/,转载请声明来源钻瓜专利网。