[发明专利]分布式隐私保护学习的推荐方法、设备和学习系统

说明书

本申请提供一种分布式隐私保护学习的推荐方法、设备和学习系统，其中：进行联邦学习的多个用户终端设备中的目标用户终端设备，获取目标用户对应的评分矩阵，在训练其对应的项目表达矩阵和用户表达矩阵的至少一次迭代中：确定当前迭代中项目表达矩阵对应的损失函数梯度，将加入第一噪声的损失函数梯度发送至服务器；若接收到服务器发送的存活通知，向服务器发送用于降低损失函数梯度上加入的噪声的第二噪声，以使服务器基于加入第一噪声的损失函数梯度以及第二噪声的聚合结果更新项目表达矩阵并将更新结果发送至各用户终端设备。根据训练截止时的用户表达矩阵和项目表达矩阵预测目标用户对多个项目的偏好程度并据此向目标用户推荐项目。

技术领域

本发明涉及人工智能技术领域，尤其涉及一种分布式隐私保护学习的推荐方法、设备和学习系统。

背景技术

随着物联网、移动互联网等技术的不断发展，网络上充斥着各种各样的信息，为用户进行有效信息搜索提出了挑战。有鉴于此，现有技术中设计了各种推荐模型，以用于向用户进行其可能偏好的信息的推荐。

目前的推荐模型在训练过程中，会面临数据孤岛和数据安全的问题。业界持续面临重要的技术问题，即首先必须保护用户的隐私数据不被滥用和泄露，并同时为用户推荐更个性化的项目。因此，为提高推荐模型的性能，需要克服这些问题。为此，一种联邦学习的模型训练方式被提出。联邦学习是分布式机器学习的一种技术，是在多个数据汇集方之间共同开展的机器学习技术，其中，每个数据汇集方利用自身的数据对模型进行训练，随后将训练后的模型参数进行整合，这样，用于模型训练的数据可以不离开数据汇集方，或是在离开数据汇集方时被加密或消除敏感信息。联邦学习的目标是在法律要求的前提下，保证训练用数据的隐私、安全、合规使用，同时通过分布式训练的方式提高模型训练的效率。

但是，实际应用中还存在一种特殊的情形：参与联邦学习的各数据汇集方即为各个用户，每个用户的数据仅存储在自己的终端设备中，往往是移动终端设备中。这种情形为联邦学习提出了更大的挑战，其中之一就是可能用户终端设备随时可能退出联邦学习。因此，在这种情形下，如何完成推荐模型的学习训练并保证用户数据的隐私安全，是亟待解决的问题。

发明内容

本发明实施例提供一种分布式隐私保护学习的推荐方法、设备和学习系统，用于完成在用户终端设备可能退出联邦学习的情形下推荐模型的训练，并保证用户隐私安全。

第一方面，本发明实施例提供一种分布式隐私保护学习的推荐方法，应用于用于进行联邦学习的多个用户终端设备中的目标用户终端设备，所述目标用户终端设备对应于目标用户，所述方法包括：

本地获取与所述目标用户对应的目标评分矩阵，所述目标评分矩阵用于描述所述目标用户对多个项目的评分情况，所述多个用户终端设备各自收集的评分矩阵具有相同的项目集；

在本地迭代训练所述目标评分矩阵对应的项目表达矩阵和用户表达矩阵的至少一次迭代过程中，执行如下操作：

确定当前迭代中项目表达矩阵对应的损失函数梯度；

将加入第一噪声的损失函数梯度发送至服务器，以使所述服务器基于接收到的各用户终端设备发送的加入有所述第一噪声的损失函数梯度确定当前存活的用户终端设备；

响应于接收到所述服务器发送的存活通知，向所述服务器发送用于降低所述损失函数梯度上加入的噪声的第二噪声，以使所述服务器基于所述加入第一噪声的损失函数梯度以及所述第二噪声的聚合结果更新项目表达矩阵，并将更新后的项目表达矩阵发送至存活的用户终端设备；

根据所述更新后的项目表达矩阵和当前迭代中的用户表达矩阵，执行下一次迭代；

根据训练截止时得到的用户表达矩阵和项目表达矩阵预测所述目标用户对所述多个项目的偏好程度，以根据所述偏好程度为所述目标用户进行项目推荐。