[发明专利]纵向联邦学习中的计算方法、装置、设备及介质

权利要求书

1.一种纵向联邦学习中的计算方法，其特征在于，应用于上层参与节点，所述上层参与节点在采用多叉树拓扑部署的多个参与节点中具有k个下层参与节点，每个所述参与节点中本地部署有联邦模型中的一个子模型，k为大于1的整数，所述方法包括：

向所述k个下层参与节点分发所述上层参与节点对应的第一公钥，以及获取所述k个下层参与节点分别对应的k个第二公钥；

以所述第一公钥和所述第二公钥作为加密参数，所述上层参与节点与所述k个下层参与节点进行两方联合安全计算，得到所述联邦模型的k个两方联合输出；所述两方联合安全计算包括所述上层参与节点和所述下层参与节点基于同态加密方式联合使用各自的数据对所述子模型执行的前向计算；

将所述k个两方联合输出合并，得到所述上层参与节点和所述k个下层参与节点对应的多方联合输出。

2.根据权利要求1所述的方法，其特征在于，所述以所述第一公钥和所述第二公钥作为加密参数，所述上层参与节点与所述k个下层参与节点进行联合安全计算，得到所述联邦模型的k个两方联合输出，包括：

随机生成第一网络参数和第一随机掩码，所述第一网络参数是所述上层参与节点本地部署的子模型的网络参数；

向第i个下层参与节点发送第一加密值，以及接收所述第i个下层参与节点发送的第二加密值，所述第一加密值是基于同态加密技术采用所述第一公钥对所述第一随机掩码加密得到的，所述第二加密值是基于同态加密技术采用第i个第二公钥对所述第二随机掩码加密得到的，i的取值范围为1至k；

向所述第i个下层参与节点发送第三加密值，以及接收所述第i个下层参与节点发送的第四加密值，所述第三加密值是采用所述第二加密值和第二随机数第一数据加密后的值，所述第四加密值是所述第i个下层参与节点采用所述第一加密值和第一随机数对第二数据加密后的值，所述第一数据是所述上层参与节点中的数据，所述第二数据是所述第i个下层参与节点中的数据；所述第二随机数由所述上层参与节点生成，所述第一随机数由所述下层参与节点生成；

计算第一本方输出，以及接收所述第i个下层参与节点发送的第二本方输出，所述第一本方输出是根据所述第四加密值的解密值、所述上层参与节点的数据、所述第一网络参数和所述第二随机数计算得到的，所述第二本方输出是所述第i个下层节点采用所述第三加密值的解密值、所述第i个下层参与节点的数据、所述第二网络参数和所述第一随机数计算得到的；

将所述第一本方输出和所述第二本方输出相加，得到所述第i个两方联合输出。

3.根据权利要求2所述的方法，其特征在于，所述上层参与节点与所述k个下层参与节点之间的两方联合安全计算是并行执行的。

4.根据权利要求1至3任一所述的方法，其特征在于，所述多叉树拓扑包括：

两层参与节点，所述上层参与节点是所述两层参与节点中的根节点，所述下层参与节点是所述两层参与节点中的叶子节点，每个所述叶子节点与所述根节点之间相连；

或，

三层以上参与节点，所述上层参与节点是相邻两层参与节点中处于较高层级的参与节点，所述下层参与节点是相邻两层参与节点中处于较低层级的参与节点，每个所述下层参与节点与自身对应的上层参与节点之间相连。

5.根据权利要求1至3任一所述的方法，其特征在于，所述上层参与节点是具有标签信息的根节点，所述方法还包括：

根据所述多方联合模型输出和所述标签信息的差值，计算所述联邦模型的前向预测误差；

向所述k个下层参与节点发送所述前向预测误差，所述前向预测误差用于供所述k个下层参与节点进行后向传播以更新所述k个下层参与节点中的所述子模型的第二网络参数。

6.根据权利要求1至3任一所述的方法，其特征在于，所述上层参与节点是所述多叉树拓扑中其它上层参与节点的下层参与节点，所述方法还包括：

所述上层参与节点将所述多方联合模型输出上报给所述其它上层参与节点，所述其它上层参与节点用于根据所述多方联合模型输出、自身的单方模型输出以及下属的其它下层参与节点的多方联合模型输出，合并得到所述其它上层参与节点对应的多方联合模型输出。