[发明专利]基于多方高维数据纵向联邦学习的商业信息推荐方法及装置

说明书

本发明涉及一种基于多方高维数据纵向联邦学习的商业信息推荐方法及装置，属于大数据技术领域，包括以下步骤：S1：创建同态加密的密钥对。进行多方数据的预处理和加密样本对齐；S2：构建纵向联邦LightGBM模型；S3：将纵向联邦LightGBM模型转换成神经网络，作为纵向联邦ECA‑DeepGBM模型的GBDT2NN部分；S4：纵向联邦ECA‑DeepGBM模型CatNN部分前馈过程计算；S5：构建损失函数及模型整体训练，基于训练好的高维数据分类预测模型，实现基于多方高维数据的商业信息推荐。本发明通过多方数据增加特征维度的方式，以达到进行精准商业信息推荐的目的。

技术领域

本发明属于大数据技术领域，涉及一种基于多方高维数据纵向联邦学习的商业信息推荐方法及装置。

背景技术

当下人工智能领域与大数据领域等应用领域的发展，对数据的需求量越来越大。训练优秀的机器学习模型不仅需要大量的样本支撑，同时也需要大量的、优秀的样本特征。在现实生活中，高质量的数据特征往往分散于不同的公司与机构，例如交易信息分布在金融机构，医疗信息分布在医疗机构，数据信息往往是分散在各个领域的。因为数据所有权的重要性，用户隐私和数据安全受到更多重视，也随着法律法规对数据收集处理提出更严格的约束和要求，掌握应用数据的各个组织或个体往往不愿意或者没有合适手段进行彼此之间的合作，从而很难让各自掌握的应用数据共同发挥作用。

与此同时，目前大部分的机器学习任务都是有监督的学习方式。当有分类预测任务需求的一方没有标签，则不能进行有监督的机器学习，甚至当任务需求方需要通过其他多方的信息来能完成分类预测，以实现对其的精准推荐，这种无监督情况下多方隐私数据联合分类预测就变得艰巨而富有挑战。而这样的任务需求，在众多金融、商业、以及类金融的行业及其应用领域都会涉及，也是亟需解决的问题。把任务需求方作为主动方或被推荐方，其他的多方称为被动方或推荐方。在多方数据联合学习时，对齐的高质量样本数据较少，无法针对高维数据训练出一个高准确性的分类预测模型。

因此，如何打破多方数据孤岛，在保证其隐私、安全需要的同时，实现数据的联合学习，以满足多种应用场景的现实需要，是亟待解决的问题。

发明内容

有鉴于此，本发明的目的在于提供一种于基于纵向联邦学习的ECA-DeepGBM建模方法及装置，用于多方高维数据的商业信息推荐，通过联邦学习(Federated Learning)的方式，在保护各方公司的隐私下，协同训练一个机器学习模型。联邦学习根据训练样本与特征空间的关系，可以分成特征重叠较多，样本重叠较少的横向联邦学习、样本重叠较多，特征重叠较少的纵向联邦学习以及特征与样本重叠都较少的联邦迁移学习。

为达到上述目的，本发明提供如下技术方案：

一方面，本发明提供一种基于多方高维数据纵向联邦学习的商业信息推荐方法，包括以下步骤：

S1：创建同态加密的密钥对。进行多方数据的预处理和加密样本对齐，所述多方数据为标签方A方、客户方B方、客户方C方和协作方P方的己方存在且不能被他方知晓的商业隐私数据；

S2：构建纵向联邦LightGBM模型；

S3：将纵向联邦LightGBM模型转换成神经网络，作为纵向联邦ECA-DeepGBM模型的GBDT2NN部分；

S4：纵向联邦ECA-DeepGBM模型CatNN部分前馈过程计算；

S5：构建损失函数，训练高维数据分类预测模型，基于训练好的高维数据分类预测模型，实现多方高维数据的商业信息分类推荐。