[发明专利]一种基于数据分离的联合模型训练方法及系统

权利要求书

1.一种基于数据分离的联合模型训练方法，其特征在于，所述方法包括：

S1：中心节点建立中心模型并进行初始化赋值，得到初始化模型，所述初始化模型设为分支节点的初始分支模型；

S2：分支节点接收初始分支模型，并在此基础上开始新一轮分支模型训练，读取训练数据，计算分支模型梯度，得到优化后的分支模型；

S3：获取优化后的分支模型与初始分支模型的差值；

S4：中心节点接收分支模型的差值，根据分支模型的差值更新中心模型；

S5：中心节点根据训练中止条件评估更新后的中心模型；若更新后的中心模型满足训练指标，则训练结束，保存更新后的中心模型，若不满足，则跳转至S2。

2.根据权利要求1所述的基于数据分离的联合模型训练方法，其特征在于，分支节点接收初始分支模型，并在此基础上开始新一轮分支模型训练，读取训练数据，计算分支模型梯度，得到优化后的分支模型，具体包括：

读取第一批训练数据作为分支模型的输入；并执行前向计算，输出模型计算结果；

将模型计算结果和真值数据输入损失函数，计算模型损失；

根据模型损失结果计算分支模型梯度，

分支节点根据梯度优化分支模型。

3.根据权利要求2所述的基于数据分离的联合模型训练方法，其特征在于，所述方法还包括：分支节点在训练数据集上不断更新分支模型，评估是否遍历数据集上的所有可用数据，然后得到本轮优化分支模型。

4.根据权利要求3所述的基于数据分离的联合模型训练方法，其特征在于，分支节点在训练数据集上不断更新分支模型，评估是否遍历数据集上的所有可用数据，然后得到本轮优化分支模型具体包括：分支节点读取下一批训练数据作为模型输入，并执行前向计算，输出模型计算结果；

将模型计算结果和真值数据输入损失函数，计算模型损失；

根据模型损失结果计算分支模型梯度，

分支节点根据梯度优化分支模型。

5.根据权利要求4所述的基于数据分离的联合模型训练方法，其特征在于，所述方法还包括：评估训练数据集上的可用数据是否全部遍历，若已经全部遍历，则结束本轮分支模型训练，然后计算本轮分支模型与初始分支模型的差值，将该差值发送给中心节点；若未全部遍历，则跳转至S2。

6.根据权利要求5所述的基于数据分离的联合模型训练方法，其特征在于，中心节点接收分支模型的差值，根据分支模型的差值更新中心模型具体包括；

中心节点接收k个分支模型的模型差值，

根据模型差值更新中心模型。

7.根据权利要求6所述的基于数据分离的联合模型训练方法，其特征在于，所述方法还包括：评估所述更新后的中心模型是否符合模型中止条件，若更新后的中心模型在测试数据集上的准确率Acc不小于0.95，则中止模型训练，若小于0.95，则跳转至S2。

8.一种基于数据分离的联合模型训练系统，其特征在于：所述系统包括：

初始化模块，用于对中心节点建立的中心模型并进行初始化赋值，得到初始化模型，所述初始化模型设为分支节点的初始分支模型；

训练模块，接收初始分支模型，并在此基础上开始新一轮分支模型训练，读取训练数据，计算分支模型梯度，得到优化后的分支模型；

获取模块，用于获取优化后的分支模型与初始分支模型的差值；

更新模块，用于根据分支模型的差值更新中心模型；

评估模块，用于根据训练中止条件评估更新后的中心模型；若更新后的中心模型满足训练指标，则训练结束，保存更新后的中心模型，若不满足，则跳转至S2。

9.根据权利要求8所述的基于数据分离的联合模型训练系统，其特征在于，所述训练模块还用于：读取第一批训练数据作为分支模型的输入；并执行前向计算，输出模型计算结果；

将模型计算结果和真值数据输入损失函数，计算模型损失；

根据模型损失结果计算分支模型梯度，

分支节点根据梯度优化分支模型。