[发明专利]机器学习模型更新的方法和装置在审
| 申请号: | 202011635759.9 | 申请日: | 2020-12-31 |
| 公开(公告)号: | CN114691167A | 公开(公告)日: | 2022-07-01 |
| 发明(设计)人: | 邵云峰;李秉帅;吴骏;田海博 | 申请(专利权)人: | 华为技术有限公司 |
| 主分类号: | G06F8/65 | 分类号: | G06F8/65;G06N20/00;H04L9/00;H04L9/40 |
| 代理公司: | 暂无信息 | 代理人: | 暂无信息 |
| 地址: | 518129 广东*** | 国省代码: | 广东;44 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 机器 学习 模型 更新 方法 装置 | ||
1.一种机器学习模型的更新方法,其特征在于,包括:
第一装置根据第一数据子集和第一模型生成第一中间结果;
第一装置接收第二装置发送的加密后的第二中间结果,所述第二中间结果根据第二装置对应的第二数据子集和第二模型生成;
第一装置获得所述第一模型的第一梯度,所述第一梯度根据所述第一中间结果和加密后的所述第二中间结果生成;
所述第一梯度在使用第二私钥进行解密后,用于更新所述第一模型,所述第二私钥为所述第二装置生成的用于同态加密的解密密钥。
2.根据权利要求1所述的方法,其特征在于,所述第二中间结果使用所述第二装置生成的用于同态加密的第二公钥加密,该方法进一步包括:
所述第一装置生成用于同态加密的第一公钥和第一私钥;
所述第一装置使用所述第一公钥对所述第一中间结果进行加密。
3.根据权利要求2所述的方法,其特征在于,所述第一装置将所述加密后的第一中间结果发送给所述第二装置。
4.根据权利要求2所述的方法,其特征在于,所述第一模型的第一梯度根据所述第一中间结果和加密后的所述第二中间结果确定具体为:所述第一模型的第一梯度根据加密后的所述第一中间结果和加密后的所述第二中间结果确定,该方法进一步包括:
所述第一装置使用所述第一私钥对所述第一模型的第一梯度解密。
5.根据权利要求1-4任一所述的方法,其特征在于,该方法进一步包括:
所述第一装置生成所述第一模型的第一梯度的第一噪声;
所述第一装置将包含所述第一噪声的第一梯度发送给所述第二装置;
所述第一装置接收使用所述第二私钥解密后的第一梯度,所述解密后的梯度包含所述第一噪声。
6.根据权利要求1-5任一所述的方法,该方法进一步包括:
所述第一装置接收所述第二装置发送的第二模型的第二参数;
所述第一装置根据所述加密后第一中间结果和加密后的所述第二中间结果,以及所述第二模型的第二参数集确定所述第二模型的第二梯度;
所述第一装置将所述第二模型的第二梯度发送给所述第二装置。
7.根据权利要求6所述的方法,其特征在于,该方法进一步包括:
所述第一装置确定所述第二梯度的第二噪声;
所述发送给所述第二装置的第二梯度包含所述第二噪声。
8.根据权利要求6或7所述的方法,其特征在于,该方法进一步包括:
所述第一装置接收包含所述第二噪声的更新后的第二参数,所述第二参数集为用所述第二梯度更新所述第二模型的参数集;
所述第一装置去除包含在所述更新后的第二参数中的第二噪声。
9.根据权利要求1-8任一所述的方法,其特征在于,
所述第一装置接收至少两个用于同态加密的所述第二公钥,所述至少两个第二公钥由至少两个第二装置生成;
所述第一装置根据接收到所述至少两个第二公钥以及所述第一公钥生成用于同态加密的公共公钥;所述公共公钥用于加密所述第二中间结果和/或所述第一中间结果。
10.根据权利要求9所述的方法,其特征在于:所述第一模型的第一梯度使用第二私钥进行解密包括:
所述第一装置将所述第一模型的第一梯度依次发送给所述至少两个第二装置,并接收所述至少两个第二装置分别使用对应的第二私钥解密后的第一模型的第一梯度。
11.根据权利要求9或10所述的方法,其特征在于:该方法进一步包括:所述第一装置使用所述第一私钥对所述第一模型的第一梯度解密。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于华为技术有限公司,未经华为技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202011635759.9/1.html,转载请声明来源钻瓜专利网。





