[发明专利]一种模型训练方法、装置及设备

权利要求书

1.一种模型训练方法，其特征在于，包括：

获取参与训练的模型、若干个训练数据集以及各个所述训练数据集对应的第一任务生效信息；其中，参与训练的所述模型中存在至少一个相同的任务，各个所述训练数据集中包含已标注数据和/或伪标注数据，所述训练数据集对应的第一任务生效信息用于判断在模型训练中所述训练数据集在所述任务上产生的损失是否反向传播更新所述模型的参数；

选择在当轮模型训练中使用的目标训练数据集，并根据所述目标训练数据集中的数据训练所述模型，得到所述目标训练数据集在所述任务上产生的损失；

根据所述目标训练数据集对应的第一任务生效信息和所述目标训练数据集在所述任务上产生的损失，反向传播更新所述模型的参数；

若未满足预设的当轮训练终止条件，重新选择在下一轮模型训练中使用的目标训练数据集，迭代训练所述模型；

若已满足预设的当轮训练终止条件，判断是否满足预设的总训练终止条件；若否，获取模型差异数据，根据人工标注后的所述模型差异数据，重新进行所述模型的训练；其中，所述模型对所述模型差异数据的推断结果不同；若是，停止进行所述模型的训练。

2.如权利要求1所述的模型训练方法，其特征在于，还包括：

获取所述目标训练数据集对应的第二任务生效信息；其中，所述目标训练数据集对应的第二任务生效信息用于判断在当轮模型训练中所述目标训练数据集在所述任务上产生的损失是否反向传播更新所述模型的参数；

所述根据所述目标训练数据集对应的第一任务生效信息和所述目标训练数据集在所述任务上产生的损失，反向传播更新所述模型的参数，包括：

根据所述目标训练数据集对应的第一任务生效信息、所述目标训练数据集对应的第二任务生效信息以及所述目标训练数据集在所述任务上产生的损失，反向传播更新所述模型的参数。

3.如权利要求2所述的模型训练方法，其特征在于：至少一个所述目标训练数据集对应的第二任务生效信息指示在当轮模型训练中所述目标训练数据集在所述任务上产生的损失用于反向传播更新所述模型的参数。

4.如权利要求1所述的模型训练方法，其特征在于，还包括：

获取所述训练数据集对应的模型生效信息；其中，所述训练数据集对应的模型生效信息用于判断在模型训练中所述训练数据集产生的损失是否反向传播更新所述模型的参数；

所述根据所述目标训练数据集对应的第一任务生效信息和所述目标训练数据集在所述任务上产生的损失，反向传播更新所述模型的参数，包括步骤：

根据所述目标训练数据集对应的第一任务生效信息、所述目标训练数据集对应的模型生效信息以及所述目标训练数据集在所述任务上产生的损失，反向传播更新所述模型的参数。

5.如权利要求1至4任意一项所述的模型训练方法，其特征在于，所述获取参与训练的模型、若干个训练数据集以及各个所述训练数据集对应的第一任务生效信息之前，包括：

获取初始数据集和所述模型中存在的至少一个相同的任务；

若所述初始数据集中未包含所述任务对应的标注，向所述初始数据集中添加与所述任务对应的伪标注，得到所述训练数据集。

6.如权利要求1至4任意一项所述的模型训练方法，其特征在于：所述第一任务生效信息分为生效、不生效和随机生效；所述随机生效是指在模型训练中所述训练数据集在所述任务上产生的损失以随机概率反向传播更新所述模型的参数。

7.如权利要求1至4任意一项所述的模型训练方法，其特征在于，所述根据所述目标训练数据集中的数据训练所述模型，得到所述目标训练数据集在所述任务上产生的损失，包括：

从所述目标训练数据集中选取预设数量的目标数据；

根据所述目标数据训练所述模型，得到所述目标训练数据集在所述任务上产生的损失。