[发明专利]分层安全联邦学习方法、装置、电子设备及存储介质

权利要求书

1.一种分层安全联邦学习方法，其特征在于，包括：

将全局模型下发至每个本地用户，并指示每个所述本地用户将训练所述全局模型后产生的本地模型发送至中间层；

获取所述中间层针对每个本地模型进行匿名处理后产生的用户行为标识及用户行为分值；其中，所述匿名处理包括所述中间层对每个本地模型进行模型洗牌及添加扰动后产生匿名模型，再对所述匿名模型进行异常检测处理，得到所述用户行为标识及用户行为分值；

根据所述用户行为标识及用户行为分值，确定恶意用户并进行封禁。

2.根据权利要求1所述的分层安全联邦学习方法，其特征在于，所述中间层包括至少两个子中间层时，所述将全局模型下发至每个本地用户，并指示每个所述本地用户将训练所述全局模型后产生的本地模型发送至中间层，包括：

对所有本地用户进行分组处理，得到至少两个用户分组及每个用户分组里的至少两个本地用户；

建立所述用户分组与所述子中间层之间的对应关系；

将全局模型下发至每个所述本地用户时携带接收所述本地用户训练所述全局模型后产生的本地模型的子中间层标识，以使得每个所述本地用户将其产生的所述本地模型发送至对应的子中间层。

3.根据权利要求1所述的分层安全联邦学习方法，其特征在于，所述获取所述中间层针对每个本地模型进行匿名处理后产生的用户行为标识及用户行为分值，包括：

获取所述中间层针对每个匿名模型进行异常检测处理后产生的用户行为标识及用户行为分值；其中，所述匿名模型包括各个本地模型进行模型标识之间洗牌处理、模型内容之间洗牌处理以及添加扰动后产生的模型。

4.根据权利要求1所述的分层安全联邦学习方法，其特征在于，所述根据所述用户行为标识及用户行为分值，确定恶意用户并进行封禁，包括：

根据所述用户行为标识及用户行为分值对应更新用户分组内每个本地用户的至少两个用户分值，得到至少两个新的用户分值；

当所述至少两个新的用户分值中存在超过预设用户分值阈值的目标用户分值时，则确定所述目标用户分值对应恶意用户，并对所述恶意用户执行封禁处理。

5.根据权利要求4所述的分层安全联邦学习方法，其特征在于，在所述根据所述用户行为标识及用户行为分值对应更新用户分组内每个本地用户的至少两个用户分值，得到至少两个新的用户分值的步骤之后，所述方法还包括：

基于所述用户行为分值确定对应用户分组中匿名模型的权重；

根据所述匿名模型的权重进行模型聚合操作，得到新的全局模型，然后返回所述将全局模型下发至每个本地用户，并指示每个所述本地用户将训练所述全局模型后产生的本地模型发送至中间层的步骤执行下一轮训练；

直至得到达到预设精度要求且符合收敛条件的全局模型。

6.根据权利要求5所述的分层安全联邦学习方法，其特征在于，在所述直至得到达到预设精度要求且符合收敛条件的全局模型的步骤之前，所述方法还包括：

确定训练轮数达到M轮时，根据第M轮训练产生的新的用户行为标识和新的用户行为分值执行对应用户分值的更新操作后，得到第M轮的至少两个新的用户分值；其中，M为正整数；

判断所述至少两个新的用户分值中是否存在超过预设用户分值阈值的目标用户分值；

当所述至少两个新的用户分值中存在所述目标用户分值时，则确定所述目标用户分值对应恶意用户，并对所述恶意用户执行封禁处理。

7.根据权利要求5所述的分层安全联邦学习方法，其特征在于，所述直至得到达到预设精度要求且收敛的全局模型，包括：

确定训练轮数达到N轮时，对第N轮训练产生的新的全局模型进行精度测试及收敛性测试；其中，N为正整数；

如果第N轮训练产生的新的全局模型达到预设精度要求且符合预设收敛条件，则将所述第N轮训练产生的新的全局模型确定为达到预设精度要求且收敛的全局模型；

如果第N轮训练产生的新的全局模型未达到预设精度要求和/或不符合预设收敛条件，则返回所述将全局模型下发至每个本地用户，并指示每个所述本地用户将训练所述全局模型后产生的本地模型发送至中间层的步骤执行训练。