[发明专利]训练模型和图像识别的方法和装置

权利要求书

1.一种训练模型的方法，包括：

基于历史训练数据序列对初始模型进行训练得到第一模型；

将当前训练数据序列输入所述第一模型，计算元损失函数在当前训练数据序列上的第一梯度；

根据所述第一梯度与学习率更新所述第一模型的网络参数，得到第二模型；

将记忆数据集输入所述第二模型，计算元损失函数在记忆数据集上的第二梯度；

根据所述第一梯度和所述第二梯度更新所述学习率，并从当前训练数据序列抽取训练数据添加到记忆数据集中；

基于所述未来训练数据序列和更新后的学习率进行模型训练。

2.根据权利要求1所述的方法，其中，所述将记忆数据集输入所述第二模型，计算元损失函数在记忆数据集上的第二梯度，包括：

将记忆数据集输入所述第二模型，得到每个记忆数据的预测值；

将每个记忆数据的预测值和真实值输入元损失函数，计算每个记忆数据的损失值；

计算每个记忆数据的损失值的平均值在所述第二模型的网络参数的梯度作为第二梯度。

3.根据权利要求1所述的方法，其中，所述根据所述第一梯度和所述第二梯度更新所述学习率，包括：

将所述第一梯度和所述第二梯度之积乘以预设参数后加上所述学习率作为新的学习率。

4.根据权利要求1所述的方法，其中，所述方法还包括：

基于对初始模型的训练过程确定出不同数据领域的共享模型参数和独享模型参数；

在对第一模型和第二模型的训练过程中，针对目标数据领域的训练数据，固定其它数据领域的独享模型参数，调整目标数据领域的独享模型参数和共享模型参数。

5.根据权利要求1所述的方法，其中，所述方法还包括：

获取两个数据领域的训练数据序列集合；

确定所述训练数据序列集合中数据领域迁移的临界时间点；

从所述临界时间点之前的训练数据序列中选取出历史训练数据序列；

从所述临界时间点对应的训练数据序列中选取出当前训练数据序列；

从所述临界时间点之后的训练数据序列中选取出未来训练数据序列。

6.根据权利要求5所述的方法，其中，所述确定所述训练数据序列集合中数据领域迁移的临界时间点，包括：

依次计算相邻训练数据之间的相似度；

若检测出相似度小于预定阈值的两个相邻的训练数据，则确定出数据领域迁移的临界时间点。

7.一种图像识别方法，包括：

获取包括不同数据领域的时序图像集合；

将所述时序图像集合输入根据权利要求1-6中任一项所述的方法训练得到的模型，输出每张时序图像的识别结果。

8.一种训练模型的装置，包括：

第一训练单元，被配置成基于所述历史训练数据序列对初始模型进行训练得到第一模型；

第一计算单元，被配置成将当前训练数据序列输入所述第一模型，计算元损失函数在当前训练数据序列上的第一梯度；

第一更新单元，被配置成根据所述第一梯度与学习率更新所述第一模型的网络参数，得到第二模型；

第二计算单元，被配置成将记忆数据集输入所述第二模型，计算元损失函数在记忆数据集上的第二梯度；

第二更新单元，被配置成根据所述第一梯度和所述第二梯度更新所述学习率，并从当前训练数据序列抽取训练数据添加到记忆数据集中；

第二训练单元，被配置成基于所述未来训练数据序列和更新后的学习率进行模型训练。

9.一种图像识别装置，包括：

获取单元，被配置成获取包括不同数据领域的时序图像集合；

识别单元，被配置成将所述时序图像集合输入根据权利要求1-6中任一项所述的方法训练得到的模型，输出每张时序图像的识别结果。