[发明专利]推荐系统托攻击检测方法、装置、设备及存储介质

说明书

本申请公开了推荐系统托攻击检测方法、装置、设备及存储介质。方法包括：获取联邦推荐系统中的梯度信息，梯度信息用于指示对候选项目的项目特征信息进行更新的更新向量；获取梯度信息对应的托攻击检测特征；调用目标检测分类模型对梯度信息对应的托攻击检测特征进行检测分类处理，得到梯度信息对应的检测分类结果；基于梯度信息对应的检测分类结果，确定梯度信息对应的托攻击检测结果。基于此种过程，实现了对联邦推荐系统中的梯度信息的托攻击检测，能够使联邦推荐系统抵御恶意用户的托攻击，从而提高联邦推荐系统的安全性。

技术领域

本申请实施例涉及计算机技术领域，特别涉及一种推荐系统托攻击检测方法、装置、设备及存储介质。

背景技术

随着计算机技术的发展，为用户智能推荐音乐、电影、购物商品等项目的推荐系统也在不断的发展。为保护用户的隐私数据，基于联邦学习框架的推荐系统(即联邦推荐系统)的应用越来越广泛。

联邦推荐系统是一种开放型系统，极易受到恶意用户的托攻击，从而导致联邦推荐系统的安全性较差。因此，对联邦推荐系统进行托攻击检测是提高联邦推荐系统的安全性的关键。

发明内容

本申请实施例提供了一种推荐系统托攻击检测方法、装置、设备及存储介质，可用于提高联邦推荐系统的安全性。所述技术方案如下：

一方面，本申请实施例提供了一种推荐系统托攻击检测方法，所述方法包括：

获取联邦推荐系统中的梯度信息，其中，所述梯度信息用于指示对候选项目的项目特征信息进行更新的更新向量；

获取所述梯度信息对应的托攻击检测特征，其中，所述梯度信息对应的托攻击检测特征用于指示所述梯度信息对应的检测分类结果；

调用目标检测分类模型对所述梯度信息对应的托攻击检测特征进行检测分类处理，得到所述梯度信息对应的检测分类结果；

基于所述梯度信息对应的检测分类结果，确定所述梯度信息对应的托攻击检测结果。

另一方面，提供了一种推荐系统托攻击检测装置，所述装置包括：

获取单元，用于获取联邦推荐系统中的梯度信息；其中，所述梯度信息用于指示对候选项目的项目特征信息进行更新的更新向量；

所述获取单元，还用于获取所述梯度信息对应的托攻击检测特征，其中，所述梯度信息对应的托攻击检测特征用于指示所述梯度信息对应的检测分类结果；

调用单元，用于调用目标检测分类模型对所述梯度信息对应的托攻击检测特征进行检测分类处理，得到所述梯度信息对应的检测分类结果；

确定单元，用于基于所述梯度信息对应的检测分类结果，确定所述梯度信息对应的托攻击检测结果。

在一种可能实现方式中，所述获取单元，还用于获取第一样本梯度信息、所述第一样本梯度信息对应的标准检测分类标签和第二样本梯度信息；获取所述第一样本梯度信息对应的托攻击检测特征和所述第二样本梯度信息对应的托攻击检测特征；

所述装置还包括：

训练单元，用于基于所述第一样本梯度信息对应的托攻击检测特征和所述第一样本梯度信息对应的标准检测分类标签，对初始检测分类模型进行训练，得到第一检测分类模型；基于所述第一检测分类模型、所述第二样本梯度信息对应的托攻击检测特征、所述第一样本梯度信息对应的托攻击检测特征和所述第一样本梯度信息对应的标准检测分类标签，获取所述目标检测分类模型。