[发明专利]基于有容忍度标签的自蒸馏方法、计算机设备和存储介质在审

专利信息
申请号: 202310267305.8 申请日: 2023-03-20
公开(公告)号: CN116403069A 公开(公告)日: 2023-07-07
发明(设计)人: 于云龙 申请(专利权)人: 浙江大学
主分类号: G06V10/774 分类号: G06V10/774;G06V10/82;G06V10/80;G06N3/04;G06N3/084
代理公司: 杭州宇信联合知识产权代理有限公司 33401 代理人: 王健
地址: 310058 浙江*** 国省代码: 浙江;33
权利要求书: 查看更多 说明书: 查看更多
摘要: 发明公开了一种基于有容忍度标签的自蒸馏方法、计算机设备和存储介质,所述方法具体包括如下步骤:获取用于训练深度神经网络模型的图像数据集;利用图像数据集训练预先定义好的深度神经网络,优化目标是交叉熵优化损失和自蒸馏损失,自蒸馏损失需要的软标签通过一个自适应的内存结构来提供;利用训练好的模型输出图像分类任务的预测结果。本发明的方法适用于有监督的图像识别或者检测等任务,面对优化过程中存在的过拟合现象,在不需要预先训练一个大的教师模型的前提下进行自蒸馏,模型能够在更优点收敛,得到更为稳健的效果。
搜索关键词: 基于 容忍度 标签 蒸馏 方法 计算机 设备 存储 介质
【主权项】:
暂无信息
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于浙江大学,未经浙江大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/patent/202310267305.8/,转载请声明来源钻瓜专利网。

同类专利
专利分类
×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top