[发明专利]多分类梯度提升树的构建方法、装置及电子设备

说明书

本申请提供一种多分类梯度提升树的构建方法、装置，包括：获取携带标签的训练样本的预测值；基于预测值及相应的标签，确定用于表征训练样本所对应梯度的多维向量，多维向量的维度数与多分类梯度提升树的标签类别的数量相对应；对多维向量进行隐私保护，得到中间数据，并将中间数据发送至第二参与方设备；接收第二参与方设备发送的分裂点数据，分裂点数据为，第二参与方设备基于中间数据，进行对应多分类梯度提升树的分裂点构建所得到；基于分裂点数据，确定多分类梯度提升树的全局分裂点，并基于全局分裂点，构建多分类梯度提升树。如此，通过一棵能够多输出的多分类梯度提升树执行多分类任务，有效减少了多分类任务中的开销，提高了训练效率。

技术领域

本申请涉及人工智能技术，尤其涉及一种多分类梯度提升树的构建方法、装置、电子设备、存储介质及计算机程序产品。

背景技术

在人工智能的联邦学习领域，是通过数据提供方和数据使用方共同训练一个模型，然后各数据使用方基于各自的模型来进行相应的预测，在目前各行各业逐渐加强数据隐私保护的大趋势下，联邦学习，一种可以在保护数据隐私的情况下协同多方数据建立机器学习的技术，成为了各企业/行业间合作的关键之一。如今，联邦梯树模型：多分类梯度提升树，随机森林，分类多分类梯度提升树，已经广泛地在纵向联邦场景下，成为了金融、风控领域的常用且强力的算法之一，在该领域，分类任务使用最为频繁。

在相关技术中，纵向联邦多分类梯度提升树采取与xgboost或者lightgbm一致的多分类建模策略，即在模型的训练过程中会单独为每一个类的一阶、二阶导数训练一棵二分类树，然而，当数据中标签的类别数目变多，如10类，20类时，训练的开销就会变为原来的10，20倍，训练开销大、训练效率低。

发明内容

本申请实施例提供一种多分类梯度提升树的构建方法、装置、电子设备、计算机可读存储介质及计算机程序产品，不需要对每个标签类别专门构建一棵多分类梯度提升树，而是使用一棵能够多输出的多分类梯度提升树来执行多分类任务，从而减少多分类任务中的开销。

本申请实施例的技术方案是这样实现的：

本申请实施例提供一种多分类梯度提升树的构建方法，基于联邦学习系统，所述联邦学习系统包括具有标签的第一参与方设备，以及至少一个第二参与方设备，所述方法应用于第一参与方设备，包括：

获取携带标签的训练样本的预测值；

基于所述预测值及相应的标签，确定用于表征所述训练样本所对应梯度的多维向量，所述多维向量的维度数与所述多分类梯度提升树的标签类别的数量相对应；

对所述多维向量进行隐私保护，得到中间数据，并将所述中间数据发送至第二参与方设备；

接收第二参与方设备发送的分裂点数据，所述分裂点数据为，所述第二参与方设备基于所述中间数据，进行对应所述多分类梯度提升树的分裂点构建所得到；

基于所述分裂点数据，确定所述多分类梯度提升树的全局分裂点，并基于所述全局分裂点，构建所述多分类梯度提升树。

本申请实施例提供一种多分类梯度提升树的构建装置，包括：

获取模块，用于获取携带标签的训练样本的预测值；

确定模块，用于基于所述预测值及相应的标签，确定用于表征所述训练样本所对应梯度的多维向量，所述多维向量的维度数与所述多分类梯度提升树的标签类别的数量相对应；

隐私保护模块，用于对所述多维向量进行隐私保护，得到中间数据，并将所述中间数据发送至第二参与方设备；

接收模块，用于接收第二参与方设备发送的分裂点数据，所述分裂点数据为，所述第二参与方设备基于所述中间数据，进行对应所述多分类梯度提升树的分裂点构建所得到；