[发明专利]一种基于分解机制和注意力机制的时间序列预测方法在审
申请号: | 202211636814.5 | 申请日: | 2022-12-15 |
公开(公告)号: | CN116579447A | 公开(公告)日: | 2023-08-11 |
发明(设计)人: | 张林鹏;李正浩 | 申请(专利权)人: | 重庆邮电大学 |
主分类号: | G06Q10/04 | 分类号: | G06Q10/04;G06N3/0464;G06N3/049;G06N3/08 |
代理公司: | 北京同恒源知识产权代理有限公司 11275 | 代理人: | 方钟苑 |
地址: | 400065 *** | 国省代码: | 重庆;50 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 基于 分解 机制 注意力 时间 序列 预测 方法 | ||
本发明涉及一种基于分解机制和注意力机制的时间序列预测方法,属于时间序列预测领域,获取目标数据的历史数据,对历史数据进行预处理,将预处理过的历史数据输入到训练完成的时间序列预测模型中,得到预测序列;所述时间序列预测模型包括可逆标准化模块、时间序列分解模块、时间卷积网络、多头自注意力模块;本发明将时间序列分解模块、时间卷积网络和多头自注意力机制相结合,利用时间序列分解模块获取趋势信息和季节信息,利用多头自注意力机制获取注意力信息,合理设置时间卷积网络结构,实现了对历史时间序列关系的高效挖掘和预测,同时采用可逆标准化模块,增强了数据的分布一致性,能够很好的进行多变量时间序列预测。
技术领域
本发明属于时间序列预测领域,涉及一种基于分解机制和注意力机制的时间序列预测方法
背景技术
时间序列是指一组按照时间上发生的先后顺序进行排列的数据序列,在金融、能源、气象、医疗等领域存在着大量的时间序列数据。挖掘数据与数据之间的关系可以让我们灵活运用已有数据为未来决策提供技术支持。研究如何从大规模、高维度的时间序列数据中获取相关信息,具有很高的实用价值。时间序列预测指的是通过分析时间序列的历史情况,找出时间序列的变化趋势,并根据得出的结论预测未来时间节点下的时间序列数值。
当前的时间序列预测方法主要分为传统时间序列预测方法、基于机器学习的时间序列预测方法、基于深度学习的时间序列预测方法三大类。对于传统时间序列预测方法而言,该类方法是基于历史时间序列的统计特征来对建立统计学模型并求解,存在着参数敏感性高、依赖专业领域知识等缺点;对于基于机器学习的时间序列预测方法而言,现有的方法过度依赖于机器学习模型的选择和特征的发现选择,因此难以进行使用场景的迁移;对于基于深度学习的时间序列预测方法而言,该类方法目前以神经网络类模型为主,但存在着计算复杂度高、历史数据利用不充分等缺点。
发明内容
有鉴于此,本发明的目的在于提供一种基于分解机制和注意力机制的时间序列预测方法。
为达到上述目的,本发明提供如下技术方案:
一种基于分解机制和注意力机制的时间序列预测方法,包括以下步骤:
S1:获取原始时间序列数据集,并对数据集中的数据进行标准化处理,按照比例划分为训练集、验证集、测试集;
S2:对训练集中的时间序列样本进行正标准化处理,得到标准化时间序列;
S3:将标准化时间序列进行时间序列分解,得到初始季节分量和初始趋势分量;
S4:统一输出维度与目标序列相同,将初始季节分量和初始趋势分量处理得到最终季节分量和最终趋势分量;
S5:将标准化时间序列输入到时间卷积网络中,通过多个时间卷积块得到初始预测序列;
S6:将标准化时间序列输入到多头自注意力模块中,得到注意力预测序列;
S7:将最终季节分量、最终趋势分量、初始预测序列、注意力预测序列相加,得到最终预测序列;
S8:对最终预测序列进行逆标准化处理,得到标准化预测序列;
S9:根据标准化预测序列和真实时间序列计算时间序列预测模型的MSE损失函数;
S10:设置初始学习率,使用分段常数衰减调整学习率;
S11:使用Adam算法优化模型,根据学习率动态调整模型参数,当损失函数最小时,完成模型训练;
S12:利用测试集、验证集对训练好的模型进行测试和验证无误后,对时间序列关系进行预测。
进一步,步骤S2所述对训练集中的时间序列样本进行正标准化处理,公式如下:
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于重庆邮电大学,未经重庆邮电大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202211636814.5/2.html,转载请声明来源钻瓜专利网。
- 同类专利
- 专利分类
G06Q 专门适用于行政、商业、金融、管理、监督或预测目的的数据处理系统或方法;其他类目不包含的专门适用于行政、商业、金融、管理、监督或预测目的的处理系统或方法
G06Q10-00 行政;管理
G06Q10-02 .预定,例如用于门票、服务或事件的
G06Q10-04 .预测或优化,例如线性规划、“旅行商问题”或“下料问题”
G06Q10-06 .资源、工作流、人员或项目管理,例如组织、规划、调度或分配时间、人员或机器资源;企业规划;组织模型
G06Q10-08 .物流,例如仓储、装货、配送或运输;存货或库存管理,例如订货、采购或平衡订单
G06Q10-10 .办公自动化,例如电子邮件或群件的计算机辅助管理