[发明专利]基于元学习和长短期记忆网络的推荐系统冷启动方法

说明书

本发明公开一种基于元学习和长短期记忆网络的推荐系统冷启动方法，包括：构建高阶元模型，利用异构神经网络捕获节点间的高阶语义关系，利用图卷积神经网络生成节点嵌入；利用全连接神经网络构建任务预测器以用户节点嵌入以及评价的项目的节点嵌入作为输入，输出评价分数的预测值；以项目评价分数的真实值和预测值作为输入，进行平方损失函数的计算；以长短时记忆网络构建神经任务调度器，通过计算当前任务的采样概率，得到当前任务相对新任务的采样权重；构建神经任务调度器和高阶元模型的联合优化，获得高阶元模型和任务调度器的最优参数。

技术领域

本发明属于元学习和图神经网络领域，提出了一种面向结构数据稀疏网络的元学习模型以提升推荐的准确性，具体涉及一种基于元学习和长短期记忆网络的推荐系统冷启动方法。

背景技术

随着网络技术的发展，推荐系统在过去十年中引起了极大关注，以解决用户的信息过载问题(例如，电子商务平台和在线食品订购平台)。基于协同过滤的方法在解决推荐系统问题上发挥了关键性作用，其通常基于用户的历史交互信息(如过去的购买记录)来估计购买当前物品的可能性。然而，在冷启动场景中，用户和项目之间的交互信息非常稀疏，基于协同过滤的方法难以实现很好的效果。最近，元学习技术在计算机视觉领域的成功，很多研究者开始关注其在图神经网络领域的可行性，其核心思想是在相似的任务中学习先验知识，以便在少量训练数据的情况下快速适应新任务。当前的元学习技术主要分为三种类型，基于度量的元学习、基于模型的元学习和基于优化的元学习。基于度量的元学习通过学习良好的相似核函数来度量样本之间的关系。基于模型的元学习依赖于能够快速学习的模型，其效果取决于模型的内部结构。基于优化的元学习算法为每个任务分配两个数据集，一个支持集和一个查询集。支持集和查询集分别用于计算每个任务的训练损失和测试损失。基于优化的方法比其他方法更简单有效，近年来已成为主流方法之一。现有的元学习方法大多数以统一的概率随机抽取采样任务。这一假设意味着所有任务对新任务都同等重要，这显然与现实不符。最近，一些研究使用手动定义或固定样本采样策略(如强化学习中定义奖励函数)解决这个问题，这些方法受人为因素的影响很大，在改善效果方面有很大的局限性。

发明内容

本发明的目的在于克服推荐系统冷启动中交互信息稀疏的问题，提出了一种基于元学习和长短期记忆网络的推荐系统冷启动方法，所述冷启动方法融合任务采样和偏好预测的一体化模型，同时利用了节点属性和网络拓扑之间的潜在语义关系来生成更加准确的节点嵌入，从而提升推荐的准确性，而且偏好预测也会指导任务采样的过程，实现双向促进。

为了达到上述目的，本发明提供一种基于元学习和长短期记忆网络的推荐系统冷启动方法，包括：

步骤一：构建高阶元模型，所述高阶元模型包括特征聚合器和任务预测器；所述特征聚合器利用异构神经网络捕获节点间的高阶语义关系，对当前用户交互信息较少的情形进行补充，利用图卷积神经网络作为编码器，对节点属性和网络拓扑进行编码，生成节点嵌入；利用全连接神经网络构建所述任务预测器以用户节点嵌入以及评价的项目的节点嵌入作为输入，输出评价分数的预测值；

步骤二：以项目评价分数的真实值和预测值作为输入，进行平方损失函数的计算；

步骤三：以长短时记忆网络构建神经任务调度器，分别以查询集的平方损失函数以及支持集和查询集的平方损失函数的梯度相似性作为输入得到当前任务的采样概率，最终得到当前任务相对新任务的采样权重：

式中Ms表示支持集和查询集损失函数的梯度相似性，分别表示支持集与查询集的梯度，表示参数为的长短期记忆网络，ω_u表示当前用户u的采样权重；

步骤四：使用梯度下降的方法最小化真实值与预测值之间的差距，构建神经任务调度器和高阶元模型的联合优化，获得高阶元模型和任务调度器的最优参数，用于直接运用到未训练过的新用户任务。