[发明专利]分层安全联邦学习方法、装置、电子设备及存储介质

说明书

本发明提供一种分层安全联邦学习方法、装置、电子设备及存储介质，其中方法包括：将全局模型下发至每个本地用户，并指示每个所述本地用户将训练所述全局模型后产生的本地模型发送至中间层；获取所述中间层针对每个本地模型进行匿名处理后产生的用户行为标识及用户行为分值；其中，所述匿名处理包括所述中间层对每个本地模型进行模型洗牌及添加扰动后产生匿名模型，再对所述匿名模型进行异常检测处理，得到所述用户行为标识及用户行为分值；根据所述用户行为标识及用户行为分值，确定恶意用户并进行封禁。使用本发明方法通过中间层对每个本地模型所携带的隐私信息进行匿名保护及异常检测的方式，实现提升隐私保护的安全性和可靠性。

技术领域

本发明涉及联邦机器学习技术领域，尤其涉及一种分层安全联邦学习方法、装置、电子设备及存储介质。

背景技术

随着物联网、移动通信、便携式设备等技术的突破性发展，网络中的数据量也呈现急剧增长趋势，并且，手机、便携式设备中收集的信息大多与个人隐私相关，由于隐私信息泄露事件的频繁发生，使得人们对隐私保护意识的不断增强，联邦学习应运而生且被积极采用。

相关技术中，联邦学习在本地训练全局模型且生成本地模型的过程中隐藏个人的隐私数据，再将携带有隐藏的隐私数据的本地模型上传，虽然在一定程度上保护了隐私，但也存在本地上传环节过程中的隐私泄露问题，从而导致隐私保护的效率不高且应对攻击的力度较弱。

发明内容

本发明提供一种分层安全联邦学习方法、装置、电子设备及存储介质，用以解决现有技术中联邦学习在本地训练全局模型的过程中隐藏个人的隐私数据导致的本地上传环节存在隐私泄露的缺陷，实现通过引入的中间层全方位保护隐私数据的方式达到显著提升隐私保护的效率的目的。

本发明提供一种分层安全联邦学习方法，包括：

将全局模型下发至每个本地用户，并指示每个所述本地用户将训练所述全局模型后产生的本地模型发送至中间层；

获取所述中间层针对每个本地模型进行匿名处理后产生的用户行为标识及用户行为分值；其中，所述匿名处理包括所述中间层对每个本地模型进行模型洗牌及添加扰动后产生匿名模型，再对所述匿名模型进行异常检测处理，得到所述用户行为标识及用户行为分值；

根据所述用户行为标识及用户行为分值，确定恶意用户并进行封禁。

根据本发明提供的一种分层安全联邦学习方法，所述中间层包括至少两个子中间层时，所述将全局模型下发至每个本地用户，并指示每个所述本地用户将训练所述全局模型后产生的本地模型发送至中间层，包括：

对所有本地用户进行分组处理，得到至少两个用户分组及每个用户分组里的至少两个本地用户；

建立所述用户分组与所述子中间层之间的对应关系；

将全局模型下发至每个所述本地用户时携带接收所述本地用户训练所述全局模型后产生的本地模型的子中间层标识，以使得每个所述本地用户将其产生的所述本地模型发送至对应的子中间层。

根据本发明提供的一种分层安全联邦学习方法，所述获取所述中间层针对每个本地模型进行匿名处理后产生的用户行为标识及用户行为分值，包括：

获取所述中间层针对每个匿名模型进行异常检测处理后产生的用户行为标识及用户行为分值；其中，所述匿名模型包括各个本地模型进行模型标识之间洗牌处理、模型内容之间洗牌处理以及添加扰动后产生的模型。

根据本发明提供的一种分层安全联邦学习方法，所述根据所述用户行为标识及用户行为分值，确定恶意用户并进行封禁，包括：

根据所述用户行为标识及用户行为分值对应更新用户分组内每个本地用户的至少两个用户分值，得到至少两个新的用户分值；