[发明专利]模型蒸馏训练的方法及相关装置和设备、可读存储介质在审
申请号: | 202080106943.6 | 申请日: | 2020-11-17 |
公开(公告)号: | CN116438546A | 公开(公告)日: | 2023-07-14 |
发明(设计)人: | 闫文;于益俊;秦东润;辛阳 | 申请(专利权)人: | 华为技术有限公司 |
主分类号: | G06N3/096 | 分类号: | G06N3/096 |
代理公司: | 广州三环专利商标代理有限公司 44202 | 代理人: | 易浩球 |
地址: | 518129 广东*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 一种模型蒸馏训练的方法,包括:第一设备蒸馏训练神经网络模型之前,要和第二设备建立蒸馏训练的通信连接,通过第一设备和第二设备之间蒸馏训练信息的交互,第二设备使用第一设备发送的第一配置信息,配置第一参考神经网络模型。第二设备配置好第一参考神经网络模型后,使用第一数据信息,将第一数据信息中的第一样本数据通过已配置好的第一参考神经网络模型进行运算处理后,得到第一指示信息,并发送给第一设备。第一设备使用第一指示信息训练其设计的第一神经网络模型。通过这种方式,实现了第二设备通过迁移“知识”来指导第一设备进行蒸馏训练。 | ||
搜索关键词: | 模型 蒸馏 训练 方法 相关 装置 设备 可读 存储 介质 | ||
【主权项】:
暂无信息
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于华为技术有限公司,未经华为技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/202080106943.6/,转载请声明来源钻瓜专利网。