[发明专利]训练混合元学习网络的装置和方法

说明书

公开了一种训练混合元学习网络的装置和方法。装置包括进行下述处理的单元：获得推荐神经网络的损失并计算泛化损失，每个推荐神经网络具有嵌入层；计算泛化损失相对每个推荐神经网络的权重参数的梯度；将梯度分别输入到第一元学习网络，获得每个推荐神经网络的权重参数的更新量；基于更新量更新推荐神经网络的权重参数；使得朝向推荐神经网络的损失更小的方向训练第一元学习网络；计算过时推荐项集中的每个推荐项与新出现推荐项集中的每个推荐项之间的第一相似度和第二相似度；朝向相似度损失更小的方向训练嵌入层和第二元学习网络的权重参数；迭代地进行上述处理直到满足第一迭代终止条件为止。

技术领域

本公开涉及信息处理领域，具体涉及一种训练混合元学习网络的装置和方法、以及利用训练混合元学习网络的装置而训练得到的混合元学习网络对神经网络进行训练的装置和方法。

背景技术

神经网络推荐系统(例如用于向用户推荐购物网站的物品列表的神经网络推荐系统)得到了学术与工业界的广泛认可。但是旧事物的消失与新事物的产生，使得神经网络推荐系统需随时间更新。然而，神经网络中广泛采用的mini-batch随机梯度下降法无法满足神经网络推荐系统更新的时效性与小样本训练约束。

在神经网络推荐系统中，嵌入层为必有结构。学习作为元信息的任务神经网络的梯度信息的元学习方法可以学会预测更高效的任务神经网络的权重参数的优化路径。但对于含有嵌入层的任务神经网络，该元学习方法却性能不佳。

发明内容

在下文中给出了关于本公开的简要概述，以便提供关于本公开的某些方面的基本理解。但是，应当理解，这个概述并不是关于本公开的穷举性概述。它并不是意图用来确定本公开的关键性部分或重要部分，也不是意图用来限定本公开的范围。其目的仅仅是以简化的形式给出关于本公开的某些概念，以此作为稍后给出的更详细描述的前序。

鉴于以上问题，本公开的目的是提供能够解决现有技术中的一个或多个缺点的训练混合元学习网络的装置和方法、以及利用训练混合元学习网络的装置而训练得到的混合元学习网络对神经网络进行训练的装置和方法。