[发明专利]异步联合架构的模型训练方法、终端、服务器及存储装置有效
申请号: | 201911285291.2 | 申请日: | 2019-12-13 |
公开(公告)号: | CN111292722B | 公开(公告)日: | 2023-08-15 |
发明(设计)人: | 李朝冉;王鲁佳;须成忠 | 申请(专利权)人: | 中国科学院深圳先进技术研究院 |
主分类号: | G10L15/06 | 分类号: | G10L15/06;H04L67/1095;H04L67/12;H04L9/40;G06F16/23;G06F21/60 |
代理公司: | 深圳市威世博知识产权代理事务所(普通合伙) 44280 | 代理人: | 李庆波 |
地址: | 518055 广东省深圳*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 异步 联合 架构 模型 训练 方法 终端 服务器 存储 装置 | ||
1.一种异步联合架构的模型训练方法,其特征在于,所述方法包括:
获取用户基于车载终端的执行事件的反馈信息;
根据所述反馈信息获取私有模型参数;
根据所述私有模型参数获取所述私有模型的损失值;其中,所述私有模型的损失值根据得到,其中,为节点处的模型的损失值,为节点处的数据,为所有数据的并集,||表示数据的大小,为节点处的私有模型参数;
通过来根据所述损失值对所述私有模型进行更新;其中,为学习率,为节点处在所述私有模型更新后的参数,若所述私有模型未发生更新则,表示当前时刻,表示上一时刻,为梯度;
将更新后的所述私有模型的私有模型参数发送给服务器,以使所述服务器根据所述私有模型参数对所述服务器中与所述私有模型关联的共享模型进行更新;其中,所述服务器用于对所述私有模型参数进行解密;若所述私有模型参数的陈旧值大于或等于陈旧值阈值,则舍弃所述私有模型参数。
2.根据权利要求1所述的方法,其特征在于,
所述方法还包括:
接收所述服务器发送的更新后的所述共享模型的共享模型参数,并根据所述共享模型参数对所述私有模型进行更新。
3.根据权利要求1所述的方法,其特征在于,
所述获取用户基于车载终端执行事件的反馈信息之前,还包括:
获取用户的语音信息;
将所述语音信息输入至车载终端的私有模型,并输出用于响应所述语音信息的执行事件。
4.根据权利要求3所述的方法,其特征在于,
所述将所述语音信息输入至车载终端的私有模型,并输出用于响应所述语音信息的执行事件,包括:
对所述语音信息进行去噪处理;
对去噪处理后的所述语音信息进行语义分析,以获取语义信息;
根据所述语义信息输出用于响应所述语音信息的执行事件。
5.根据权利要求1所述的方法,其特征在于,
所述将更新后的私有模型的私有模型参数发送给服务器之前还包括:
将所述私有模型参数进行加密。
6.一种车载终端,所述车载终端包括处理器与存储器,所述存储器与所述存储器连接,所述存储器中存储有计算机程序,所述处理器用于执行所述计算机程序以实现如权利要求1-5中任一项所述方法的步骤。
7.一种异步联合架构的模型训练方法,其特征在于,所述方法包括:
获取车载终端发送的私有模型的私有模型参数;其中,所述私有模型参数是所述车载终端根据用户基于车载终端的执行事件的反馈信息更新后所生成的;
根据所述私有模型参数对与所述私有模型相关联的共享模型进行更新;
所述获取车载终端发送的私有模型的私有模型参数之后,还包括:
对所述私有模型参数进行解密;
若所述私有模型参数的陈旧值大于或等于陈旧值阈值,则舍弃所述私有模型参数。
8.根据权利要求7所述的方法,其特征在于,
所述方法还包括:
将更新后的所述共享模型的共享模型参数发送给所述车载终端,以使所述车载终端根据所述共享模型参数对所述私有模型进行更新。
9.根据权利要求8所述的方法,其特征在于,
所述根据所述私有模型参数对与所述私有模型相关联的共享模型进行更新,包括:
根据所述私有模型参数获取所述共享模型参数;其中,所述共享模型参数根据得到,其中,为共享模型参数,为节点处的数据,为所有数据的并集,||表示数据的大小,为节点处的私有模型参数;
根据所述共享模型参数获取所述共享模型的损失值;其中,所述共享模型的损失值根据,其中,为所述共享模型的损失值,为所述共享模型的参数;
通过来根据所述损失值对所述共享模型进行更新。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中国科学院深圳先进技术研究院,未经中国科学院深圳先进技术研究院许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201911285291.2/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种种鸭饲养方法
- 下一篇:一种轴承加工生产用的翻转装置