[发明专利]模型训练方法、即时推送方法、装置、介质和电子设备在审
申请号: | 202310565543.7 | 申请日: | 2023-05-18 |
公开(公告)号: | CN116596092A | 公开(公告)日: | 2023-08-15 |
发明(设计)人: | 王若兰 | 申请(专利权)人: | 抖音视界有限公司 |
主分类号: | G06N20/00 | 分类号: | G06N20/00;G06N5/04;G06F21/60;H04L9/40 |
代理公司: | 北京英创嘉友知识产权代理事务所(普通合伙) 11447 | 代理人: | 曹寒梅 |
地址: | 100041 北京市石景山区*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 模型 训练 方法 即时 推送 装置 介质 电子设备 | ||
1.一种基于联邦学习的模型训练方法,其特征在于,包括:
第一参与方将所拥有的标签值加密传送给第二参与方,其中,所述第一参与方为有标签的参与方,所述第一参与方的数量为多个、且每个所述第一参与方拥有相同的特征和不同的样本,所述第二参与方为无标签的参与方、且所述第二参与方拥有所有所述第一参与方的样本但所述第二参与方拥有与各个所述第一参与方不同的特征;
所述第二参与方基于加密的所述标签值和所拥有特征的特征值确定第二梯度并将所述第二梯度传送给所述第一参与方,所述第一参与方基于所拥有特征的特征值和所拥有的标签值确定第一梯度和第一直方图、并将所述第一梯度和所述第一直方图传送给所述第二参与方;
所述第一参与方基于所述第二梯度确定第一最优分裂点,并将所述第一最优分裂点的信息传送给所述第二参与方;
所述第二参与方基于所述第一梯度、所述第一直方图和所述第一最优分裂点的信息,确定全局最优分裂点,并将所述全局最优分裂点的信息传送给所述第一参与方。
2.根据权利要求1所述的方法,其特征在于,所述第一参与方将所拥有的标签值加密传送给第二参与方,包括:
多个所述第一参与方中的一个第一参与方产生公钥和私钥,并将所述公钥传送给其他第一参与方;
各个所述第一参与方使用所述公钥对各自的标签值进行加密,并将加密的标签值传送给所述第二参与方。
3.根据权利要求1所述的方法,其特征在于,所述第二参与方基于加密的所述标签值和所拥有特征的特征值确定第二梯度,包括:
所述第二参与方基于加密的所述标签值,确定所拥有特征的每个特征值所对应的一阶导数和二阶导数;
所述第二参与方对所拥有的每个特征的特征值分别划分第二直方图,并基于所述第二直方图确定第二分裂点;
所述第二参与方根据所述第二分裂点,确定位于所述第二分裂点左侧的特征值所对应的一阶导数之和和二阶导数之和、以及位于所述第二分裂点右侧的特征值所对应的一阶导数之和和二阶导数之和,其中,所述第二梯度包括位于所述第二分裂点左侧的特征值所对应的一阶导数之和和二阶导数之和、以及位于所述第二分裂点右侧的特征值所对应的一阶导数之和和二阶导数之和。
4.根据权利要求1所述的方法,其特征在于,所述第一参与方基于所拥有特征的特征值和所拥有的标签值确定第一梯度和第一直方图,包括:
所述第一参与方基于所拥有的标签值,确定所拥有特征的每个特征值所对应的一阶导数和二阶导数;
所述第一参与方对所拥有的每个特征的特征值分别划分第一直方图,并基于所述第一直方图确定第一分裂点;
所述第一参与方根据所述第一分裂点,确定位于所述第一分裂点左侧的特征值所对应的一阶导数之和和二阶导数之和、以及位于所述第一分裂点右侧的特征值所对应的一阶导数之和和二阶导数之和,其中,所述第一梯度包括位于所述第一分裂点左侧的特征值所对应的一阶导数之和和二阶导数之和、以及位于所述第一分裂点右侧的特征值所对应的一阶导数之和和二阶导数之和。
5.根据权利要求1所述的方法,其特征在于,所述第二参与方基于所述第一梯度、所述第一直方图和所述第一最优分裂点的信息,确定全局最优分裂点,包括:
所述第二参与方基于所述第一梯度和所述第一直方图,确定第二最优分裂点;
所述第二参与方基于所述第二最优分裂点和所述第一最优分裂点,确定所述全局最优分裂点。
6.根据权利要求1至5中任一项所述的方法,其特征在于,所述方法还包括:
所述第一参与方在接收到所述全局最优分裂点之后,判断是否达到了分裂停止条件;
若有所述第一参与方判断出达到了所述分裂停止条件,则该第一参与方将停止分裂的结果传送给所述第二参与方,所述第二参与方则将所述停止分裂的结果广播给所有所述第一参与方;
若无所述第一参与方判断出达到了所述分裂停止条件,则继续执行下一节点的分裂。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于抖音视界有限公司,未经抖音视界有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202310565543.7/1.html,转载请声明来源钻瓜专利网。