[发明专利]一种基于时序卷积和关系建模的事件序列预测方法

说明书

本发明公开了一种基于时序卷积和关系建模的事件序列预测方法，包括：步骤1，从数据库中事件序列训练集；步骤2，对原始数据进行预处理；步骤3，利用标记特征编码器对历史序列中的标记信息进行特征提取；步骤4，利用时序特征编码器对历史序列中的时间信息进行特征提取；步骤5；对历史事件的标记特征编码和时间特征编码进行特征融合，输出对于单个历史事件的特征表示；步骤6，在事件编码的基础上构建事件间的时序相关性图，输出历史序列的特征编码；步骤7，对于每种类型事件分别计算条件强度；步骤8，计算模型损失函数并进行参数更新；步骤9，判断模型的损失曲线是否收敛，若没有收敛则返回步骤8；步骤10，保存训练好的模型并进行部署。

技术领域

本发明涉及一种事件序列预测方法，特别是一种基于时序卷积和关系建模的事件序列预测方法。

背景技术

事件序列预测问题是时间序列分析领域重要的研究方向，早在20世纪70年代，就有相关学者对该领域开展相关的研究工作。在我们的日常生活中，事件序列数据无处不在，事件序列预测相关技术成果被应用于众多科学领域，例如社会科学，医学，地质学和物理学等领域领域。对事件序列相关数据进行分析和理解，对未来事件进行精准的预测，具有重要的社会价值，因此该领域受到学术界的广泛关注。

常规的事件序列数据是一组按照事件发生的先后顺序排列而成的数列，每个事件样本包含其发生的时间戳和额外的标记信息，事件序列预测问题的目标是利用历史事件序列预测未来将要发生事件的相关信息。目前处理该问题的方法主要分为两类，分别是基于传统机器学习的方法和基于深度学习的方法。

基于传统机器学习的方法是处理事件序列预测问题的早期方法，主要分为两类，分别为基于马尔可夫模型的方法和基于点过程模型的方法。其中基于马尔可夫模型的方法利用无向图构造一个非确定性模式的系统，并通过n阶马尔可夫性质建立当前事件与历史n个事件间的依赖关系。基于点过程模型的方法则在历史序列的基础上构建一个随机过程模型，因此可以更自然的建立序列中不同事件间的依赖关系，该类方法的核心是对条件强度函数进行建模，例如Hawkes等人提出的Hawkes点过程模型，利用条件强度函数描述历史事件对于未来事件的激励过程，并且考虑环境本身的基础强度的影响，具有良好的预测性能。参考文献：Chen J,Hawkes A G,Scalas E,et al:Performance of information criteriafor selection of Hawkes process models of financial data.In:QuantitativeFinance,2018:225-235.

近年来，由于设备计算能力提升和人工智能技术的不断发展，基于深度学习的方法逐渐成为该领域的主流方法。目前基于深度学习的事件序列预测模型主要基于循环神经网络进行设计，由于深度学习模型可以自动学习数据中的复杂高阶特征，使得该类方法有能力处理大规模数据。其中典型的方法是Nan Du等人提出的RMTPP模型，利用长短期记忆网络和门控循环单元对事件序列进行特征编码，并同时考虑历史事件序列、当前事件和基础强度对未来事件的影响，使得模型性能显著提升。参考文献：Du N,Dai H,Trivedi R,etal:Recurrent marked temporal point processes:Embedding event history tovector.In:22th ACM SIGKDD international conference on knowledge discovery anddata mining.2016:1555-1564.

尽管基于循环神经网络的模型已经具有一定的预测精度，但是由于循环神经网络自身结构的特点，难以进行并行计算，因此在模型训练和推理过程中存在计算效率低的问题。并且循环神经网络虽然可以对序列数据进行编码表示，但是其本身无法直接描述序列中不同事件之间的影响关系，因此相关模型不仅缺乏可解释性，而且没有对事件之间的影响关系进行充分的挖掘和分析，限制模型性能。

发明内容