[发明专利]联邦建模方法、装置、设备、存储介质及程序产品在审
申请号: | 202110239086.3 | 申请日: | 2021-03-03 |
公开(公告)号: | CN112836767A | 公开(公告)日: | 2021-05-25 |
发明(设计)人: | 张天豫;徐昊天;范力欣;吴锦和 | 申请(专利权)人: | 深圳前海微众银行股份有限公司 |
主分类号: | G06K9/62 | 分类号: | G06K9/62;G06N20/00 |
代理公司: | 深圳市世纪恒程知识产权代理事务所 44287 | 代理人: | 张志江 |
地址: | 518000 广东省深圳市前海深港合作区前*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 联邦 建模 方法 装置 设备 存储 介质 程序 产品 | ||
本发明公开了一种联邦建模方法、装置、设备、存储介质及程序产品,该方法包括:本地特征矩阵中存在特征缺失,则构建标准特征矩阵;基于标准特征矩阵对本地特征矩阵进行特征填充,以获得目标特征矩阵;基于目标特征矩阵,通过执行预设纵向联邦流程对预设待训练本地模型进行迭代训练,得到目标联邦模型,本发明利用标准特征矩阵对特征缺失的本地特征矩阵进行特征填充,克服了现有技术中在特征缺失时进行缺失特征处理后数据量减少或填充值与实际值偏差过大而导致联邦建模效果不好的技术问题,利用特征数据本身进行特征填充的数据更贴合真实情况,由此可获得效果更好的联邦模型,进而提高了待预测用户的操作行为的预测结果的准确率。
技术领域
本发明涉及联邦学习技术领域,尤其涉及一种联邦建模方法、装置、设备、存储介质及程序产品。
背景技术
当前,在很多场景下都涉及对用户操作行为进行预测,例如,服务平台通常会根据用户的产品浏览数据及历史产品下单数据等预测用户的消费行为等进而向用户进行商品的推荐或推送,或音乐平台根据用户的历史歌单等预测用户的歌单搜索行为等进而向用户进行歌单的推荐或推送,相应地,服务平台通常利用机器学习模型来预测用户操作行为。
目前为了保障用户数据隐私,多数通过使用联邦学习模型来预测用户操作行为,然而目前纵向联邦学习场景中有时需要联邦的另一方会存在较多的特征缺失数据的情况,因此由于部分数据缺少特征导致联邦建模过程无法完成,目前现有技术中大多采用直接剔除特征矩阵中缺失值很多的行或列,或者采用建立一个统计模型或者回归模型,然后预测缺失的值,然而采用直接剔除方法会造成特征数据量减少,而基于模型预测的方法过于复杂,且若模型的精度不高时,可能会导致预测值与实际值偏差过大,进而导致最终构建的联邦模型效果不好,从而造成预测结果不准确的技术问题。
发明内容
本发明提供一种联邦建模方法、装置、设备、存储介质及程序产品,旨在解决目前现有技术中进行纵向联邦学习时在特征缺失时进行缺失特征处理后数据量减少或填充值与实际值偏差过大而导致联邦建模效果不好,从而造成预测结果不准确的技术问题的技术问题。
为实现上述目的,本发明提供一种联邦建模方法,应用于纵向联邦中的参与方,所述联邦建模方法包括:
获取本地数据,并根据所述本地数据构建本地特征矩阵;
若所述本地特征矩阵中存在特征缺失,则构建标准特征矩阵,其中,所述标准特征矩阵由完整的特征数据构成;
基于所述标准特征矩阵对所述本地特征矩阵进行特征填充,以获得目标特征矩阵;
基于所述目标特征矩阵,通过执行预设纵向联邦流程对预设待训练本地模型进行迭代训练,得到满足预设性能要求的目标联邦模型,并通过所述目标联邦模型获取待预测用户的操作行为。
优选地,所述基于所述标准特征矩阵对所述本地特征矩阵进行特征填充,以获得目标特征矩阵的步骤包括:
计算所述本地特征矩阵与标准特征矩阵之间的矩阵误差;
基于所述矩阵误差对所述本地特征矩阵进行特征填充,以获得目标特征矩阵。
优选地,所述基于所述矩阵误差对所述本地特征矩阵进行特征填充,以获得目标特征矩阵的步骤包括:
通过梯度下降的方式更新所述本地特征矩阵的缺失特征,直至所述矩阵误差的范数收敛或达到预设迭代轮次,以获得目标特征矩阵。
优选地,所述通过梯度下降的方式更新所述本地特征矩阵的参数的步骤包括:
将所述本地特征矩阵分解成第一子特征矩阵与第二子特征矩阵;
确定所述第一子特征矩阵对应第一梯度及所述第二子特征矩阵对应第二梯度,并基于所述第一梯度及所述第二梯度的负梯度方向更新所述本地特征矩阵的缺失特征。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于深圳前海微众银行股份有限公司,未经深圳前海微众银行股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110239086.3/2.html,转载请声明来源钻瓜专利网。