[发明专利]保护数据隐私的双方联合训练业务预测模型的方法和装置

说明书

本说明书实施例提供一种保护数据隐私的双方联合训练业务预测模型的方法和装置，其中第一方和第二方分别拥有一部分特征数据，分别维护第一和第二参数部分。在模型迭代时，双方各自计算其特征矩阵与参数的乘积结果，第一方将其乘积结果同态加密后发送给拥有标签的第二方，由第二方进行同态运算，得到加密误差向量。然后，第二方对该加密误差向量添加混淆向量后发送给第一方，并与第一方各自采用该混淆向量和特征矩阵进行安全矩阵乘法，得到乘积分片。第二方可选的对乘积分片添加混淆，然后发给第一方。第一方由此确定出其第一梯度，据此更新其参数。

技术领域

本说明书一个或多个实施例涉及数据安全和机器学习领域，具体地，涉及双方联合训练业务预测模型的方法和装置。

背景技术

机器学习所需要的数据往往会涉及到多个领域。例如在基于机器学习的商户分类分析场景中，电子支付平台拥有商户的交易流水数据，电子商务平台存储有商户的销售数据，银行机构拥有商户的借贷数据。数据往往以孤岛的形式存在。由于行业竞争、数据安全、用户隐私等问题，数据整合面临着很大阻力，将分散在各个平台的数据整合在一起训练机器学习模型难以实现。在保证数据不泄露的前提下，使用多方数据联合训练机器学习模型变成目前的一大挑战。

常用的机器学习模型包括，逻辑回归模型，线性回归模型，以及神经网络模型等，其中逻辑回归模型可以有效地执行样本分类预测等任务，线性回归模型可以有效地预测样本的回归值，神经网络模型可以通过多层神经元的组合，执行各种预测任务。以上这些模型的训练过程中，都会涉及利用特征数据与模型参数数据之间的运算得到预测结果，以及根据预测结果确定出梯度，进而调整模型参数的过程。在多方共同训练机器学习模型的情况下，如何在不泄露各方隐私数据，包括特征数据和模型参数数据，的情况下，协同进行上述各个阶段的运算，是实际要解决的问题。

因此，希望提供改进的方案，在双方联合训练业务预测模型的情况下，保证各方的隐私数据不泄露，确保数据安全。

发明内容

本说明书一个或多个实施例描述了双方联合训练业务预测模型的方法和装置，训练过程通过同态加密和添加混淆的方式，保证数据隐私不泄露，确保联合训练中隐私数据的安全。

根据第一方面，提供了一种保护数据隐私的双方联合训练业务预测模型的方法，所述双方包括第一方和第二方，所述第一方存储有多个业务对象的第一特征部分构成的第一特征矩阵X_A，并维护对应的第一参数部分W_A；所述第二方存储有所述多个业务对象的第二特征部分构成的第二特征矩阵X_B，和标签值构成的标签向量Y，并维护对应的第二参数部分W_B；所述方法应用于所述第二方，包括：

本地计算第二特征矩阵X_B与第二参数部分W_B的第二乘积结果；

从所述第一方接收第一加密乘积，该第一加密乘积为，使用所述第一方的第一公钥和同态加密算法，对第一特征矩阵X_A与第一参数部分W_A的第一乘积结果加密得到的；

基于对所述第一加密乘积，第二乘积结果，以及所述标签向量进行同态运算，得到加密误差向量E；

生成第二掩码向量，将其同态添加到所述加密误差向量E中，得到加密混淆误差向量，并将其发送给所述第一方；

用所述第二掩码向量，与所述第一方中的第一特征矩阵X_A进行安全矩阵乘法，得到矩阵乘积的两个分片中的第二乘积分片，所述两个分片中的第一乘积分片由所述第一方获得；

基于所述第二乘积分片，生成第二分片向量；

将所述第二分片向量发送给所述第一方，以使得所述第一方根据所述加密混淆误差向量，所述第一乘积分片以及所述第二分片向量，得到第一梯度，用于更新第一参数部分W_A。