[发明专利]基于参数共享的网络模型训练系统、方法、装置和介质

权利要求书

1.一种基于参数共享的网络模型训练系统，其特征在于，包括：

第一参数模块，用于获取第一本地端对网络模型进行训练时所形成的第一模型参数，并将所述第一模型参数同步到区块链；

第二参数模块，用于从区块链中获取第二本地端请求的第二模型参数并同步到第二本地端；所述第二模型参数用于供第二本地端对网络模型进行训练；

令牌消耗模块，所述令牌消耗模块用于在第二模型参数同步到第二本地端之后，从第二本地端扣减令牌；

令牌分配模块，所述令牌分配模块用于在令牌消耗模块从第二本地端扣减令牌之后，将令牌消耗模块扣减所得的令牌分配至各待分配本地端；所述待分配本地端是指被用作第二模型参数的部分第一模型参数所对应的第一本地端；

所述令牌分配模块包括：

质量分值子模块，用于计算各待分配本地端同步到区块链的第一模型参数的质量分值；所述第一模型参数的质量分值是根据第一模型参数的冗余度计算的；当所述网络模型为知识图谱，所述第一模型参数的质量分值的计算公式为：Q＝K₁*(1-R)+K₂*V+K₃*URI_(data)，式中，Q为所述第一模型参数的质量分值，K₁、K₂和K₃为系数，R为第一模型参数的冗余度，V为知识图谱中的实体的平均属性数，URI_(data)为知识图谱中统一资源标识符的可访问性，DSPO_(data)为所述知识图谱中的唯一三元组数，SPO_(data)为所述知识图谱中的三元组数；

比例分配子模块，用于以各待分配本地端对应的质量分值作为分配比例，将令牌消耗模块扣减所得的令牌按比例分配至各待分配本地端。

2.根据权利要求1所述的一种基于参数共享的网络模型训练系统，其特征在于，所述第一参数模块还用于在将获取到的第一模型参数同步到区块链之前，对第一模型参数进行剪枝处理。

3.根据权利要求2所述的一种基于参数共享的网络模型训练系统，其特征在于，所述第一参数模块还用于在将获取到的第一模型参数同步到区块链之后，对经过剪枝处理的第一模型参数进行压缩处理。

4.一种基于参数共享的网络模型训练方法，其特征在于，包括以下步骤：

当接收到第一本地端的请求时，获取第一本地端对网络模型进行训练时所形成的第一模型参数，并将所述第一模型参数同步到区块链；

当接收到第二本地端的请求时，从区块链中获取第二本地端请求的第二模型参数并同步到第二本地端；所述第二模型参数用于供第二本地端对网络模型进行训练；

在第二模型参数同步到第二本地端之后，从第二本地端扣减令牌；

在令牌消耗模块从第二本地端扣减令牌之后，计算各待分配本地端同步到区块链的第一模型参数的质量分值，以各待分配本地端对应的质量分值作为分配比例，将令牌消耗模块扣减所得的令牌按比例分配至各待分配本地端；所述待分配本地端是指被用作第二模型参数的部分第一模型参数所对应的第一本地端；所述第一模型参数的质量分值是根据第一模型参数的冗余度计算的；当所述网络模型为知识图谱，所述第一模型参数的质量分值的计算公式为：Q＝K₁*(1-R)+K₂*V+K₃*URI_(data)，式中，Q为所述第一模型参数的质量分值，K₁、K₂和K₃为系数，R为第一模型参数的冗余度，V为知识图谱中的实体的平均属性数，URI_(data)为知识图谱中统一资源标识符的可访问性，DSPO_(data)为所述知识图谱中的唯一三元组数，SPO_(data)为所述知识图谱中的三元组数。

5.一种基于参数共享的网络模型训练装置，其特征在于，包括存储器和处理器，所述存储器用于存储至少一个程序，所述处理器用于加载所述至少一个程序以执行权利要求4所述方法。

6.一种介质，其中存储有处理器可执行的指令，其特征在于，所述处理器可执行的指令在由处理器执行时用于执行如权利要求4所述方法。