[发明专利]基于用户兴趣演化的广告点击率预测方法及系统

说明书

本公开属于在线数据处理技术领域，提供了一种基于用户兴趣演化的广告点击率预测方法及系统，包括以下步骤：获取用户行为数据；根据用户行为数据和预设的广告点击率预测模型，得到广告点击率的预测值；其中，广告点击率预测模型采用分层注意力机制，兴趣提取层根据用户行为数据捕获用户的潜在兴趣，得到用户的兴趣序列；将注意力机制与长短期记忆网络相结合，兴趣演化层根据用户的兴趣序列捕捉用户的兴趣演化过程，预测广告点击率。本公开充分提取特征向量和特征交互，挖掘用户的兴趣特征和兴趣演化过程，不需要手动特征工程，提高广告点击率的预测准确率。

技术领域

本公开属于在线数据处理技术领域，具体涉及一种基于用户兴趣演化的广告点击率预测方法及系统。

背景技术

本部分的陈述仅仅是提供了与本公开相关的背景技术信息，不必然构成在先技术。

随着互联网的不断发展，在线广告由于具有其快速、低成本和针对性强的特点而成为一种比传统广告方式更有效的广告方法。在广告系统中，点击率预测会影响在线广告的选择。因此，点击率预测是在线广告领域中一项非常重要的研究。如何向特定的用户推送广告成为广告行业的关键问题，同时，合适的广告推送可以提供给用户良好的用户体验。在评估广告效果时，经常使用每次点击费用模型，该模型中点击率预测成为至关重要的因素。因此，点击率预测方法的研究是在线广告领域中的重要任务，也逐渐也引起了研究学者的关注。

在探索广告点击率预测的过程中会面临许多问题，比如数据量庞大、数据稀疏、冷启动等问题。目前，大部分关于点击率预测的研究还停留在使用浅层的模型的层面上，浅层模型中更多的是运用人工构造特征的方法，通过人工组合特征的方式来处理特征，改善点击率预测模型的性能，提高点击率预估的精度。但对于特征间的一些隐性关系和高度非线性关系，通过简单的人工组合方式难以挖掘出来。同时，现有的点击率预测方法通常侧重于从不同角度提取活动特征，而较少关注用户的兴趣表示。在大多数非搜索电子商务场景中，用户没有积极表达其当前的意图，因此设计模型来捕获用户的兴趣及其动态变化是提高点击率预测准确率的关键。

发明内容

为了解决上述问题，本公开提出了一种基于用户兴趣演化的广告点击率预测方法及系统，通过兴趣提取层来捕捉用户的兴趣序列，在深度监督下使用辅助损失来生成兴趣状态；通过使用双向长短期记忆神经网络对用户行为之间的依赖关系进行建模，基于兴趣演化层提取并挖掘用户的兴趣特征及兴趣的演化过程，提高广告点击率预测的准确率。

根据一些实施例，本公开的第一方案提供了一种基于用户兴趣演化的广告点击率预测方法及系统，采用如下技术方案：

一种基于用户兴趣演化的广告点击率预测方法，包括以下步骤：

获取用户行为数据；

根据用户行为数据和预设的广告点击率预测模型，得到广告点击率的预测值；

其中，广告点击率预测模型采用分层注意力机制，兴趣提取层根据用户行为数据捕获用户的潜在兴趣，得到用户的兴趣序列；将注意力机制与长短期记忆网络相结合，兴趣演化层根据用户的兴趣序列捕捉用户的兴趣演化过程，预测广告点击率。

作为进一步的技术限定，所述用户行为数据包括用户状态信息和用户兴趣信息。

作为进一步的技术限定，所述用户行为数据随着用户的自身感知和所处外部环境的变化而变化。

作为进一步的技术限定，所述用户行为数据在进入兴趣提取层之前，先经过嵌入层进行数据的特征转换和降维处理。

作为进一步的技术限定，所述兴趣提取层在捕捉用户的兴趣序列时通过辅助损失生成用户兴趣状态，利用双向长短期记忆神经网络处理用户行为数据之间的依赖关系。

进一步的，所述兴趣演化层提供具有历史行为线索的最终兴趣表示，根据兴趣提取层的兴趣状态，将注意力机制与长短期记忆网络相结合，捕获兴趣演化过程。