[发明专利]一种基于三方同态加密纵向联邦学习的模型保护方法

权利要求书

1.一种基于三方同态加密纵向联邦学习的模型保护方法，所述方法至少包括以下步骤：

步骤一、通过将数据集拆分为图像数据集和标签数据集来创建垂直分区的数据集，给每个数据点(图像和标签)分配一个唯一的ID空间；

步骤二、根据纵向联邦学习中的主动方A和被动方B唯一的ID空间采用隐私保护实体解析协议进行标识对齐操作，找出参与者共享的ID空间I，也就是标识的交集；

步骤三、利用共有的样本ID空间I对本地模型进行训练，服务端VFL Server将共享ID空间I分成大小为n的批次，被动方B生成公私钥对(pk,sk)，并把公钥pk发送给主动方A，被动方B计算自身共享模型的概率分布输出，使用半同态加密的公钥对部分梯度进行加密，然后将概率分布输出和加密梯度一同发送给主动方A；

步骤四、主动方A计算自身共享模型的概率分布输出，计算平均共享模型概率分布，求得最小化针对标签的分类交叉熵损失，计算自身梯度，通过具有梯度的指定优化器更新客户端权重，然后将损失函数发送服务端VFL Server并记录下来；

步骤五、主动方A通过加密的部分梯度组合得到被动方B的加密梯度值，然后将加密后的梯度发送回给第二参与方，随后被动方B使用私钥sk解密得到梯度，被动方B通过具有梯度的指定优化器更新客户端权重，联邦学习训练过程直到模型收敛或者达到最大迭代才予以终止。

2.根据权利要求1所述的一种基于三方同态加密纵向联邦学习的模型保护方法，其特征在于：所述的创建垂直分区的数据集，即数据集被垂直分区并分布在两个诚实但好奇的隐私参与方A(具有特征和标签的访客数据提供者)和B(仅具有特征的主机数据提供者)上，X∈R^n×m为由m个数据样本组成的数据集，每个实例具有N个特征，所以X^A∈R^n×m是主动方A拥有的数据集，X^B∈R^n×m是被动方B拥有的数据集，每一方都拥有X＝(X^A,X^B)的公共样本ID上的数据特征的不相交子集。

3.根据权利要求1所述的一种基于三方同态加密纵向联邦学习的模型保护方法，其特征在于：所述的隐私保护实体解析协议进行标识对齐操作，即使用加密长期密钥(CLK)匿名链接代码，CLK是多个个人标识符的布隆过滤器编码，在来自数据方X^A,X^B被接收，VFLServer通过计算所有可能的CLK对的Dice系数来匹配它们，从而产生等于数据集大小乘积的比较次数，以贪婪方式选择最相似的配对作为匹配。

4.根据权利要求1所述的一种基于三方同态加密纵向联邦学习的模型保护方法，其特征在于：所述的一种分类交叉熵损失函数的方法，即主要用于度量两个概率分布间的差异性信息，交叉熵是表示两个概率分布p,q，其中p表示真实分布，q表示非真实分布，在相同的一组事件中，用非真实分布q来表示某个事件发生所需要的平均比特数，对于离散变量情况下的交叉熵的计算方式为损失函数对目标的导数也就是梯度的计算运用链式法则计算公式为：

5.根据权利要求1所述的一种基于三方同态加密纵向联邦学习的模型保护方法，其特征在于：所述的半同态加密系统，即任何一方都可以使用已知的公钥加密他们的数据，并使用其他人使用相同公钥加密的数据进行计算，要提取明文，需要将结果发送给私钥的持有者，用来表示对明文u的同态加密结果，定义同态加密的两个基本操作，分别是加法同态加密和乘法同态加密，而“+”和“·”表示运算符，对于在明文空间M中的任意两个元素u和υ，其加法同态运算满足：同理乘法同态加密满足：其中Dec_sk(·)表示使用私钥sk作为解密密钥的解密函数。

6.一种2PC纵向联邦学习系统，其特征在于，所述的架构包括：VFL Server服务端、本地客户端分为主动方A和被动方B，VFL Server是一个纵向联邦学习服务器，主要用于协助双方联合训练各自模型并更新迭代，主动方A不仅拥有相应的数据集X^A还拥有数据的标签y，被动方B只拥有数据集X^B，主动方A和被动方B不能直接交换数据，而只有本地预测的标签y可以越过隐私障碍到达VFL服务器，此外VFL系统的训练过程一般由加密实体对齐和加密模型训练两部分组成。