[发明专利]训练模型和图像识别的方法和装置

说明书

本公开的实施例公开了训练模型和图像识别的方法和装置。该方法的具体实施方式包括：基于历史训练数据序列对初始模型进行训练得到第一模型；将当前训练数据序列输入第一模型，计算元损失函数在当前训练数据序列上的第一梯度；根据第一梯度与学习率更新第一模型的网络参数，得到第二模型；将历史训练数据序列输入第二模型，计算元损失函数在历史训练数据序列上的第二梯度；根据第一梯度和第二梯度更新学习率，并从当前训练数据序列抽取训练数据添加到记忆数据集中；基于未来训练数据序列和更新后的学习率进行模型训练。该实施方式能够提高模型在时序数据领域迁移情景下识别的准确率。

技术领域

本公开的实施例涉及计算机技术领域，具体涉及训练模型和图像识别的方法和装置。

背景技术

时间序列分类问题在现实生活中有大量的应用场景。在真实场景中，给定任务的数据集都是逐渐获取的，不同时间段的获取数据集往往具有不同的领域知识(domainknowledge)，比如一个用户用手机拍照，随着时间的变换，早上，中午和晚上的照片的光线各有不同，随着地点的变换，每个时刻的照片的背景也会时刻变换。比如针对无人驾驶场景，汽车需要识别出外界不同时刻不同地域的场景，市区，郊区，沙漠无人区，高速公路，高架桥等场景，这些场景数据的领域知识会随着时间和地点的变换有很大的差异。我们将这类为题称之为序列领域转变问题(sequential domain shift，SDF)。

现有的考虑了SDF问题的深度学习模型，虽然可以在当前时刻的数据域取得较高的分类精度，但无法在历史时刻的数据域上取得较高的分类精度。

发明内容

本公开的实施例提出了训练模型和图像识别的方法和装置。

第一方面，本公开的实施例提供了一种训练模型的方法，包括：基于所述历史训练数据序列对初始模型进行训练得到第一模型；将当前训练数据序列输入所述第一模型，计算元损失函数在当前训练数据序列上的第一梯度；根据所述第一梯度与学习率更新所述第一模型的网络参数，得到第二模型；将记忆数据集输入所述第二模型，计算元损失函数在记忆数据集上的第二梯度；根据所述第一梯度和所述第二梯度更新所述学习率，并从当前训练数据序列抽取训练数据添加到记忆数据集中；基于所述未来训练数据序列和更新后的学习率进行模型训练。

在一些实施例中，所述将记忆数据集输入所述第二模型，计算元损失函数在记忆数据集上的第二梯度，包括：将记忆数据集输入所述第二模型，得到每个记忆数据的预测值；将每个记忆数据的预测值和真实值输入元损失函数，计算每个记忆数据的损失值；计算每个记忆数据的损失值的平均值在所述第二模型的网络参数的梯度作为第二梯度。

在一些实施例中，所述根据所述第一梯度和所述第二梯度更新所述学习率，包括：将所述第一梯度和所述第二梯度之积乘以预设参数后加上所述学习率作为新的学习率。

在一些实施例中，所述方法还包括：基于对初始模型的训练过程确定出不同数据领域的共享模型参数和独享模型参数；在对第一模型和第二模型的训练过程中，针对目标数据领域的训练数据，固定其它数据领域的独享模型参数，调整目标数据领域的独享模型参数和共享模型参数。

在一些实施例中，所述获取历史训练数据序列、当前训练数据序列、未来训练数据序列，包括：获取两个数据领域的训练数据序列集合；确定所述训练数据序列集合中数据领域迁移的临界时间点；从所述临界时间点之前的训练数据序列中选取历史训练数据序列，从所述临界时间点对应的训练数据序列中选取当前训练数据序列，从所述临界时间点之后的训练数据序列中选取未来训练数据序列。

在一些实施例中，所述确定所述训练数据序列集合中数据领域迁移的临界时间点，包括：依次计算相邻训练数据之间的相似度；若检测出相似度小于预定阈值的两个相邻的训练数据，则确定出数据领域迁移的临界时间点。

第二方面，本公开的实施例提供了一种图像识别方法，包括：获取包括不同数据领域的时序图像集合；将所述时序图像集合输入根据第一方面所述的方法训练得到的模型，输出每张时序图像的识别结果。