[发明专利]基于混合精度的深度学习模型训练方法、装置及系统有效
| 申请号： | 201910313866.0 | 申请日： | 2019-04-18 |
| 公开（公告）号： | CN110163368B | 公开（公告）日： | 2023-10-20 |
| 发明（设计）人： | 裴建国;侯金龙;刘伟;黄俊洲 | 申请（专利权）人： | 腾讯科技（深圳）有限公司 |
| 主分类号： | G06N3/08 | 分类号： | G06N3/08 |
| 代理公司： | 北京同达信恒知识产权代理有限公司 11291 | 代理人： | 郭润湘;李娟 |
| 地址： | 518044 广东省深圳*** | 国省代码： | 广东;44 |
| 权利要求书： | 查看更多 | 说明书： | 查看更多 |
| 摘要： | 本发明公开了一种基于混合精度的深度学习模型训练方法、装置及系统，该方法包括：基于上次训练得到的深度学习模型对样本数据集中的样本数据进行数据处理，获得数据精度为第一数据精度的设定数量个第一权重梯度数据；根据设定数量个第一权重梯度数据和第二数据精度，确定数据精度为第二数据精度的缩放系数，第一数据精度高于第二数据精度；基于样本数据集和缩放系数，对深度学习模型进行训练以更新深度学习模型的权重参数，获得本次训练的深度学习模型，缩放系数用于在训练深度学习模型的过程中对数据精度为第二数据精度的损失值进行放大处理，以提高了训练效率和训练精度。 | ||
| 搜索关键词： | 基于 混合 精度 深度 学习 模型 训练 方法 装置 系统 | ||
【主权项】：
1.一种基于混合精度的深度学习模型训练方法，其特征在于，包括：基于上次训练得到的深度学习模型对样本数据集中的样本数据进行数据处理，获得数据精度为第一数据精度的设定数量个第一权重梯度数据；根据所述设定数量个第一权重梯度数据和第二数据精度，确定数据精度为第二数据精度的缩放系数，所述第一数据精度高于所述第二数据精度；基于所述样本数据集和所述缩放系数，对所述深度学习模型进行训练以更新所述深度学习模型的权重参数，获得本次训练的深度学习模型，所述缩放系数用于在训练所述深度学习模型的过程中对数据精度为第二数据精度的损失值进行放大处理。
下载完整专利技术内容需要扣除积分，VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息，商用须获得专利权人授权。该专利全部权利属于腾讯科技（深圳）有限公司，未经腾讯科技（深圳）有限公司许可，擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作，请联系【客服】
本文链接：http://www.vipzhuanli.com/patent/201910313866.0/，转载请声明来源钻瓜专利网。
