[发明专利]模型训练方法、装置、设备以及存储介质

权利要求书

1.一种模型训练方法，包括：

获取并行策略数据和至少一个候选节点的候选节点标识，其中，所述并行策略数据包括多维数组，所述多维数组中记录有多个节点标识；

根据所述至少一个候选节点的候选节点标识在所述多维数组中的维度位置，与所述至少一个候选节点建立至少一个通信组，其中，所述维度位置包括多个位置值，所述多个位置值与多个维度一一对应；以及

根据所述至少一个通信组，执行模型训练操作；

其中，所述方法应用于本地节点；所述多维数组中还包括子多维数组；所述根据所述至少一个候选节点的候选节点标识在所述多维数组中的维度位置，与所述至少一个候选节点建立至少一个通信组，包括：

在所述子多维数组记录有所述本地节点标识的情况下，

确定所述本地节点的本地节点标识在所述子多维数组中的第三维度位置；

确定每个所述候选节点标识在所述子多维数组中的第四维度位置；以及

根据所述第三维度位置和所述第四维度位置，与所述至少一个候选节点建立至少一个第二通信组。

2.根据权利要求1所述的方法，其中，所述根据所述至少一个通信组，执行模型训练操作包括：

根据训练数据，对模型进行训练，得到本地训练结果；

针对所述至少一个通信组中的每个通信组，

将本地训练结果与所述通信组内其他节点的计算结果聚合，得到聚合结果；

根据所述聚合结果，更新所述模型的参数；以及

根据训练数据，对更新后的模型进行训练。

3.根据权利要求1所述的方法，其中，所述根据所述至少一个候选节点的候选节点标识在所述多维数组中的维度位置，与所述至少一个候选节点建立至少一个通信组，还包括：

确定所述本地节点的本地节点标识在所述多维数组中的第一维度位置；

确定每个所述候选节点标识在所述多维数组中的第二维度位置；以及

根据所述第一维度位置和所述第二维度位置，与所述至少一个候选节点建立至少一个第一通信组。

4.根据权利要求3所述的方法，其中，所述根据所述第一维度位置和所述第二维度位置，与所述至少一个候选节点建立至少一个第一通信组，包括：

针对所述多维数组的多个维度中的每个维度，

确定在所述维度上与所述第一维度位置具有相同位置值的第二维度位置，作为目标第二维度位置；

确定所述目标第二维度位置所对应的候选节点，作为第一候选节点，得到至少一个第一候选节点；以及

与所述至少一个第一候选节点建立第一通信组。

5.根据权利要求1所述的方法，其中，所述根据所述至少一个候选节点的候选节点标识在所述多维数组中的维度位置，与所述至少一个候选节点建立至少一个通信组还包括：

在所述子多维数组记录有所述本地节点标识的情况下，

在所述至少一个候选节点标识中，确定记录于所述子多维数组中的至少一个第二候选节点标识；以及

与所述至少一个第二候选节点标识对应的候选节点建立第三通信组。

6.根据权利要求1所述的方法，其中，所述根据所述第三维度位置和所述第四维度位置，与所述至少一个候选节点建立至少一个第二通信组，包括：

针对所述子多维数组的多个维度中的每个维度，

确定在所述维度上与所述第三维度位置具有相同位置值的第四维度位置，作为目标第四维度位置；

确定所述目标第四维度位置所对应的候选节点，作为第三候选节点，得到至少一个第三候选节点；以及

与所述至少一个第三候选节点建立第二通信组。