[发明专利]一种用于分布式训练同步阶段的自动优化方法

权利要求书

1.一种用于分布式训练同步阶段的自动优化方法，其特征在于，所述方法包括在分布式训练的每个回合执行如下步骤：

S1、获取在当前回合网络状态满足预设的系统要求的节点组成激活节点列表；

S2、基于激活节点列表中的所有节点构建自动优化策略以从激活节点列表中选出使分布式系统效率最大的激活节点组合作为自动优化策略，并将自动优化策略对应的节点加入分布式训练。

2.根据权利要求1所述的方法，其特征在于，所述激活节点列表包括当前回合已存在的激活节点列表以及当前回合新加入的新增激活节点列表，其中，所述当前回合新加入的新增激活节点列表是在当前回合网络状态满足系统要求的非激活节点组成的列表，所述非激活节点是指当前回合之前未加入分布式训练的节点。

3.根据权利要求2所述的方法，其特征在于，通过如下步骤判断是否需要将非激活节点加入新增激活节点列表：

对所有非激活节点进行网络状态统计，所述网络状态指的是在每个回合中非激活节点的网络速度；

将在当前回合之前的连续达到第一预设阈值个数的回合中网络速度均大于或等于预设的网络速度阈值的非激活节点加入新增激活节点列表。

4.根据权利要求3所述的方法，其特征在于，所述第一预设阈值为5。

5.根据权利要求1所述的方法，其特征在于，所述步骤S2包括：

S21、将激活节点列表中的所有节点按照其对应网络状态由差到好进行升序排序；

S22、按照步骤S21的排序从前往后以步长为1依次删除节点并采用剩余节点构建自动优化策略以获得多个自动优化策略；

S23、计算每个自动优化策略对应的系统效率，选出系统效率最大的自动优化策略作为最终的自动优化策略，其中，每个自动优化策略对应的系统效率＝该自动优化策略对应的所有节点的负载数/该自动优化策略对应的计算总时间。

6.根据权利要求5所述的方法，其特征在于，自动优化策略对应的计算总时间包括在该自动优化策略对应的所有节点完成分布式训练计算阶段和同步阶段的总时间。

7.根据权利要求5所述的方法，其特征在于，所述方法还包括：

S3、基于当前回合之前的多个回合中每个激活节点的网络状态，统计每个激活节点在当前回合之前的每回合中处于最终自动优化策略中的次数作为其合格次数，并从激活节点列表中删除合格次数小于第二预设阈值的激活结点。

8.根据权利要求6所述的方法，其特征在于，所述第二预设阈值为3。

9.一种分布式训练方法，用于对深度神经网络进行多回合训练，所述分布式训练的每个回合包括深度神经网络在分布式训练系统中的计算阶段和同步阶段，其特征在于，所述方法包括采用如权利要求1-7任一所述的方法获得自动优化策略进行分布式训练。

10.一种计算机可读存储介质，其特征在于，其上存储有计算机程序，所述计算机程序可被处理器执行以实现权利要求1至8任一所述方法的步骤。

11.一种电子设备，其特征在于，包括：

一个或多个处理器；

存储装置，用于存储一个或多个程序，当所述一个或多个程序被所述一个或多个处理器执行时，使得所述电子设备实现如权利要求1至8中任一项所述方法的步骤。