[发明专利]基于隐私保护的多重共线性检测方法、装置及系统

说明书

本说明书实施例提供基于隐私保护的多重共线性检测方案。该多重共线性检测方案由多个成员设备执行，每个成员设备具有本地特征数据。各个成员设备对各自的本地特征数据执行数据对齐来构建出联合特征矩阵，并且协同来执行基于隐私保护的多方矩阵乘法计算，求出联合特征矩阵与其转置矩阵的乘积矩阵，每个成员设备具有乘积矩阵的乘积矩阵分片。然后，各个成员设备使用各自的乘积矩阵分片联合确定乘积矩阵的逆矩阵，每个成员设备具有逆矩阵的逆矩阵分片。随后，各个成员设备使用各自的逆矩阵分片以及本地特征数据确定样本数据的各个属性特征的方差膨胀因子，每个成员设备具有各个属性特征的方差膨胀因子的分片数据，并根据各自具有的各个属性特征的方差膨胀因子的分片数据来确定多重共线性。

技术领域

本说明书实施例通常涉及人工智能领域，尤其涉及基于隐私保护的多重共线性检测方法、装置及系统。

背景技术

机器学习技术被广泛地应用于各种业务应用场景。在业务应用场景中，使用机器学习模型作为业务模型来进行各种业务预测服务，比如，分类预测、业务风险预测等等。在将业务模型应用于业务预测服务之前，需要使用建模数据构建出业务模型。建模数据例如可以是数据提供方收集来用于业务模型建模的业务数据。建模数据通常具有多种维度特征（也可以称为多种维度变量）。建模数据的维度特征作为所构建的业务模型的模型特征或预测特征。

在业务模型是回归模型的情况下，在构建业务模型的过程中，可能会出现一些预测特征与其他预测特征相关，即，业务模型的预测特征存在多重共线性。如果业务模型的预测特征之间的多重共线性严重，则会增大回归系数的方差，使得业务模型的建模结果不稳定。此外，建模数据的多重共线性还会大大降低回归模型的可解释性。例如，在业务模型的预测特征之间的多重共线性严重时，多次建模所得到的参数估计值会不同（参数方差较大），并且即使预测特征和标签之间存在显著关系，回归系数也可能并不显著。而且，高度相关预测特征的回归系数在样本之间的差异性很大，甚至会包含错误的符号。回归模型的可解释性是业务模型建模的重要考量指标，尤其是金融领域的业务模型建模。

此外，在业务模型建模时，为了提升业务模型的建模精度，会使用多平台联合建模方案，即，使用多个建模参与方提供的建模数据来联合构建业务模型。多个建模参与方所提供的建模数据产生于相似应用场景，难免会产生命名不同但实际共线性的建模特征，从而使得业务模型的建模特征很大可能会存在多重共线性。此外，多个建模参与方提供的建模数据是隐私数据，在进行多方联合建模时，需要保证各个建模参与方的建模数据的隐私安全。由此，在构建回归模型之前，需要对多个建模参与方提供的建模数据进行基于隐私保护的多重共线性检测。

发明内容

鉴于上述，本说明书实施例提供一种基于隐私保护的多重共线性检测方法、装置及系统，其能够在确保各个成员设备的本地特征数据的隐私安全的情况下实现多重共线性检测。

根据本说明书实施例的一个方面，提供一种基于隐私保护的多重共线性检测方法，所述方法由至少两个成员设备中的一个成员设备执行，所述至少两个成员设备中的每个成员设备具有本地特征数据，所述方法包括：与其余成员设备一起对各自的本地特征数据执行数据对齐，以构建出联合特征矩阵；与其余成员设备一起执行基于隐私保护的多方矩阵乘法计算，计算得出所述联合特征矩阵的转置矩阵与该联合特征矩阵的乘积矩阵，每个成员设备具有所述乘积矩阵的乘积矩阵分片；与其余成员设备一起根据各自的乘积矩阵分片确定所述乘积矩阵的逆矩阵，每个成员设备具有该逆矩阵的逆矩阵分片；与其余成员设备一起，使用各自的逆矩阵分片以及本地特征数据确定各个属性特征的方差膨胀因子，每个成员设备具有各个属性特征的方差膨胀因子的分片数据；以及与其余成员设备一起，根据各自具有的各个属性特征的方差膨胀因子的分片数据来确定多重共线性。

可选地，在上述方面的一个示例中，与其余成员设备一起根据各自的乘积矩阵分片确定所述乘积矩阵的逆矩阵，每个成员设备具有该逆矩阵的逆矩阵分片包括：与其余成员设备一起使用牛顿迭代法来根据各自的乘积矩阵分片确定所述乘积矩阵的逆矩阵，每个成员设备具有该逆矩阵的逆矩阵分片，其中，在每次牛顿迭代过程中，各个成员设备的乘积矩阵分片之间的矩阵乘积基于秘密共享矩阵计算实现。