[发明专利]横向联邦学习建模优化方法、设备、介质及程序产品在审
申请号: | 202110964074.7 | 申请日: | 2021-08-21 |
公开(公告)号: | CN113627086A | 公开(公告)日: | 2021-11-09 |
发明(设计)人: | 范力欣;杨强;古瀚林;李博闻 | 申请(专利权)人: | 深圳前海微众银行股份有限公司 |
主分类号: | G06F30/27 | 分类号: | G06F30/27;G06N20/00;G06Q50/18 |
代理公司: | 深圳市世纪恒程知识产权代理事务所 44287 | 代理人: | 关向兰 |
地址: | 518000 广东省深圳市前海深港合作区前*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 横向 联邦 学习 建模 优化 方法 设备 介质 程序 产品 | ||
1.一种横向联邦学习建模优化方法,其特征在于,所述横向联邦学习建模优化方法应用于联邦参与方,所述横向联邦学习建模优化方法包括:
获取训练任务数据集和目标白盒签名;
依据所述训练任务数据集和所述目标白盒签名,通过对本地神经网络模型进行迭代训练更新,将所述目标白盒签名嵌入所述本地神经网络模型的网络参数中的预设签名位置,得到签名嵌入本地模型;
将所述签名嵌入本地模型发送至横向联邦服务器,以供所述横向联邦服务器对各所述联邦参与方发送的签名嵌入本地模型进行聚合,得到聚合签名嵌入本地模型,其中,不同联邦参与方所具备的预设签名位置不同;
基于所述聚合签名嵌入本地模型,优化所述签名嵌入本地模型,得到目标签名嵌入模型。
2.如权利要求1所述横向联邦学习建模优化方法,其特征在于,所述依据所述训练任务数据集和所述目标白盒签名,通过对本地神经网络模型进行迭代训练更新,将所述目标白盒签名嵌入所述本地神经网络模型的网络参数中的预设签名位置,得到签名嵌入本地模型的步骤包括:
在所述训练任务数据集中提取训练任务样本,并依据所述训练任务样本,通过对所述本地神经网络模型进行迭代训练,计算模型预测损失;
依据预设签名提取器,在所述本地神经网络模型的模型网络参数中的预设签名位置上提取嵌入白盒签名;
依据所述嵌入白盒签名和所述目标白盒签名,计算白盒签名嵌入损失;
基于所述模型预测损失和所述白盒签名嵌入损失,优化所述本地神经网络模型,得到所述签名嵌入本地模型。
3.如权利要求2所述横向联邦学习建模优化方法,其特征在于,所述依据所述训练任务样本,通过对所述本地神经网络模型进行迭代训练,计算模型预测损失的步骤包括:
计算所述本地神经网络模型对于所述训练任务样本的模型损失,得到任务样本预测损失;
获取触发数据集中的触发样本,并计算所述本地神经网络模型对于所述触发样本的模型损失,得到触发样本预测损失;
依据所述任务样本预测损失和所述触发样本预测损失,计算所述模型预测损失。
4.如权利要求2所述横向联邦学习建模优化方法,其特征在于,所述模型预测损失包括所述本地神经网络模型在所述触发数据集上的触发样本预测损失,
所述基于所述模型预测损失和所述白盒签名嵌入损失,优化所述本地神经网络模型,得到所述签名嵌入本地模型的步骤包括:
基于所述模型预测损失和所述白盒签名嵌入损失,更新所述本地神经网络模型;
判断更新后的本地神经网络模型是否满足预设迭代训练结束条件,以及更新后的本地神经网络模型是否在所述触发数据集上过拟合;
若更新后的本地神经网络模型满足预设迭代训练结束条件且在所述触发数据集上过拟合,则将当前更新的本地神经网络模型作为所述签名嵌入本地模型;
否则,返回执行步骤:在所述训练任务数据集中提取训练任务样本。
5.如权利要求1所述横向联邦学习建模优化方法,其特征在于,在所述基于所述聚合签名嵌入本地模型,优化所述签名嵌入本地模型,得到目标签名嵌入模型步骤之后,所述横向联邦学习建模优化方法还包括:
获取待验证模型的目标模型网络参数,并依据预设签名提取器,在所述目标模型网络参数中提取待验证白盒签名;
依据所述待验证白盒签名和所述目标白盒签名,对所述目标签名嵌入模型进行白盒签名验证,获得白盒签名验证结果。
6.如权利要求5所述横向联邦学习建模优化方法,其特征在于,在所述获取所述待验证模型的目标模型网络参数的步骤之前,所述横向联邦学习建模优化方法还包括:
获取触发样本,并将所述触发样本输入所述待验证模型,得到触发样本预测输出;
依据所述触发样本预测输出和所述触发样本对应的目标黑盒签名,对所述目标签名嵌入模型进行黑盒验证,以验证所述目标签名嵌入模型对所述触发样本是否敏感;
若所述待验证模型对所述触发样本敏感,则执行步骤:获取所述待验证模型的目标模型网络参数。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于深圳前海微众银行股份有限公司,未经深圳前海微众银行股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110964074.7/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种基于新一代信息技术的智能平板显示装置
- 下一篇:自转折叠轮自行车