[发明专利]一种基于树状拓扑结构的联邦学习方法及装置

说明书

本申请提供一种基于树状拓扑结构的联邦学习方法及装置，涉及机器学习技术领域，用以解决联邦聚合时间过长及网络传输压力大的问题。所述方法的树状拓扑结构包括至少两层结构，每层结构包括至少一个节点，每个节点对应一个训练模型，所述方法包括：若满足预设触发条件，则对所述树状拓扑结构当前层的节点进行抽样处理；确定所述进行抽样处理后的当前层节点对应的训练模型，对所述确定的训练模型进行联邦聚合。该方法减轻分层的树状拓扑结构在进行联邦聚合时的网络传输压力，且加快联邦聚合的速度。

技术领域

本申请涉及机器学习技术领域，尤其涉及一种基于树状拓扑结构的联邦学习方法及装置。

背景技术

在当前标准的联邦模型结构包括一个服务端和多个客户端，为了解决客户端数量过多造成服务端存储压力大以及网络传输压力大的问题，常常采用分层的树状拓扑结构缓解上述问题，参见图1，图1给出了一种三层的树状拓扑结构，触发进行联邦模型聚合时，根据已知的联邦聚合关系，首先由第三层各个训练模型进行联邦聚合，得到第二层各个训练模型，如训练模型131、训练模型132以及训练模型132对应的训练模型进行联邦聚合，得到训练模型121对应的训练模型，其他训练模型的联邦聚合可参照上述描述。

但是分层的树状拓扑结构在当前层进行联邦聚合时，必须等待当前层的下一层的联邦聚合完成时才能执行，且只要上述下一层的任何一个联邦聚合没有完成时，都有可能导致当前层的联邦聚合无限等待。

综上所述，基于分层的树状拓扑结构在进行联邦聚合时，存在联邦聚合时间过长，网络传输压力大，以及无法保证联邦聚合的成功。

发明内容

本申请实施例提供一种基于树状拓扑结构的联邦学习方法及装置，以至少减轻分层的树状拓扑结构在进行联邦聚合时的网络传输压力以及加快联邦聚合的速度。

本申请第一方面，提供一种基于树状拓扑结构的联邦学习方法，所述树状拓扑结构包括至少两层结构，每层结构包括至少一个节点，每个节点对应一个训练模型，包括：

若满足预设触发条件，则对所述树状拓扑结构的当前层节点进行抽样处理；

确定所述进行抽样处理后的当前层节点对应的训练模型，对所述确定的训练模型进行联邦聚合。

在一种可能的实现方式中，所述确定的训练模型进行联邦聚合，包括：

对所述确定的训练模型进行联邦聚合，得到至少一个当前父层的节点对应的训练模型，所述当前父层为所述当前层节点的父节点所在的层。

在一种可能的实现方式中，所述对所述树状拓扑结构的当前层节点进行抽样处理，包括：

从所述当前层节点中抽样出至少一个当前层节点；

删除所述至少一个当前层节点对应的所述训练模型，或者对所述至少一个当前层节点进行标注，以使所述至少一个当前层节点对应的训练模型不参与所述联邦聚合。

在一种可能的实现方式中，所述预设触发条件包括如下一种或多种：

所述当前层节点的个数大于第一预设值；

所述当前层节点对应的训练模型不符合第一预设联邦模型条件。

在一种可能的实现方式中，所述从所述当前层节点中抽样出至少一个当前层节点，包括：

随机从所述当前层节点中抽样出至少一个当前层节点；或

从所述当前层节点中抽样出预设节点个数的当前层节点。

在一种可能的实现方式中，所述从所述当前层节点中抽样出预设节点个数的当前层节点之前，还包括：

确定所述当前层节点的节点个数，根据节点个数和预设节点个数的预设映射关系，确定所述当前层节点的节点个数对应的预设节点个数。