[发明专利]一种基于分解机制和注意力机制的时间序列预测方法在审
申请号: | 202211636814.5 | 申请日: | 2022-12-15 |
公开(公告)号: | CN116579447A | 公开(公告)日: | 2023-08-11 |
发明(设计)人: | 张林鹏;李正浩 | 申请(专利权)人: | 重庆邮电大学 |
主分类号: | G06Q10/04 | 分类号: | G06Q10/04;G06N3/0464;G06N3/049;G06N3/08 |
代理公司: | 北京同恒源知识产权代理有限公司 11275 | 代理人: | 方钟苑 |
地址: | 400065 *** | 国省代码: | 重庆;50 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 基于 分解 机制 注意力 时间 序列 预测 方法 | ||
1.一种基于分解机制和注意力机制的时间序列预测方法,其特征在于:包括以下步骤:
S1:获取原始时间序列数据集,并对数据集中的数据进行标准化处理,按照比例划分为训练集、验证集、测试集;
S2:对训练集中的时间序列样本进行正标准化处理,得到标准化时间序列;
S3:将标准化时间序列进行时间序列分解,得到初始季节分量和初始趋势分量;
S4:统一输出维度与目标序列相同,将初始季节分量和初始趋势分量处理得到最终季节分量和最终趋势分量;
S5:将标准化时间序列输入到时间卷积网络中,通过多个时间卷积块得到初始预测序列;
S6:将标准化时间序列输入到多头自注意力模块中,得到注意力预测序列;
S7:将最终季节分量、最终趋势分量、初始预测序列、注意力预测序列相加,得到最终预测序列;
S8:对最终预测序列进行逆标准化处理,得到标准化预测序列;
S9:根据标准化预测序列和真实时间序列计算时间序列预测模型的MSE损失函数;
S10:设置初始学习率,使用分段常数衰减调整学习率;
S11:使用Adam算法优化模型,根据学习率动态调整模型参数,当损失函数最小时,完成模型训练;
S12:利用测试集、验证集对训练好的模型进行测试和验证无误后,对时间序列关系进行预测。
2.根据权利要求1所述的基于分解机制和注意力机制的时间序列预测方法,其特征在于:步骤S2所述对训练集中的时间序列样本进行正标准化处理,公式如下:
其中,表示输入序列的平均值,xi表示第i时刻的时间序列值,N表示输入的时间序列长度;σ表示输入序列的标准差,表示经过正标准化处理后的第i时刻的时间序列值。
3.根据权利要求1所述的基于分解机制和注意力机制的时间序列预测方法,其特征在于:步骤S4中所述将初始季节分量和初始趋势分量输入到线性层,统一输出维度与目标序列相同,得到最终季节分量和最终趋势分量,具体包括以下步骤:
S41:根据平均核大小调整数据两端的补全数据,对补全后的数据进行一维平均池化,获得初始趋势分量;
S42:将补全数据与初始趋势分量相减,获得初始季节分量。
4.根据权利要求1所述的基于分解机制和注意力机制的时间序列预测方法,其特征在于:步骤S5所述的时间卷积网络包括六个串联的时间卷积块,每个时间卷积块包含两个一维扩张卷积层、两个剪切层;
步骤S5中所述将标准化时间序列输入到时间卷积网络中,通过多个时间卷积块得到初始预测序列,具体包括:
将标准化时间序列输入到一维扩张卷积层中,然后经过剪切层剪切首部多余的数据,保证预测的信息流传递是单向的,再依次输入一维扩张卷积层和剪切层;采用时间卷积网络提取长短期特征的计算公式为:
其中,表示经过正标准化处理后的时间序列样本,Conv表示一维扩张卷积,Chomp表示剪切层,Dropout表示随机失活函数,ReLU表示非线性激活函数,Ft表示经过一个基本扩张卷积单元处理过的时间序列,Fc表示经过一个时间卷积块处理过的时间序列,Conv1D表示一维卷积,FT表示经过时间卷积网络提取的时间特征。
5.根据权利要求1所述的基于分解机制和注意力机制的时间序列预测方法,其特征在于:步骤S6所述的将标准化时间序列输入到多头自注意力模块中,得到注意力预测序列,具体包括以下步骤:
S61:将标准化时间序列输入线性层,获得初始时间序列分量;
S62:将初始时间序列分量分别输入三个不同的线性层,获得最终查询分量、最终键值分量、最终数值分量;
S63:对最终查询分量、最终键值分量、最终数值分量进行自注意力运算,得到自注意力预测分量;
S64:将自注意力预测分量输入线性层,调整输出维度,得到注意力预测序列。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于重庆邮电大学,未经重庆邮电大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202211636814.5/1.html,转载请声明来源钻瓜专利网。
- 同类专利
- 专利分类
G06Q 专门适用于行政、商业、金融、管理、监督或预测目的的数据处理系统或方法;其他类目不包含的专门适用于行政、商业、金融、管理、监督或预测目的的处理系统或方法
G06Q10-00 行政;管理
G06Q10-02 .预定,例如用于门票、服务或事件的
G06Q10-04 .预测或优化,例如线性规划、“旅行商问题”或“下料问题”
G06Q10-06 .资源、工作流、人员或项目管理,例如组织、规划、调度或分配时间、人员或机器资源;企业规划;组织模型
G06Q10-08 .物流,例如仓储、装货、配送或运输;存货或库存管理,例如订货、采购或平衡订单
G06Q10-10 .办公自动化,例如电子邮件或群件的计算机辅助管理