[发明专利]一种基于分解机制和注意力机制的时间序列预测方法在审

专利信息
申请号: 202211636814.5 申请日: 2022-12-15
公开(公告)号: CN116579447A 公开(公告)日: 2023-08-11
发明(设计)人: 张林鹏;李正浩 申请(专利权)人: 重庆邮电大学
主分类号: G06Q10/04 分类号: G06Q10/04;G06N3/0464;G06N3/049;G06N3/08
代理公司: 北京同恒源知识产权代理有限公司 11275 代理人: 方钟苑
地址: 400065 *** 国省代码: 重庆;50
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 一种 基于 分解 机制 注意力 时间 序列 预测 方法
【权利要求书】:

1.一种基于分解机制和注意力机制的时间序列预测方法,其特征在于:包括以下步骤:

S1:获取原始时间序列数据集,并对数据集中的数据进行标准化处理,按照比例划分为训练集、验证集、测试集;

S2:对训练集中的时间序列样本进行正标准化处理,得到标准化时间序列;

S3:将标准化时间序列进行时间序列分解,得到初始季节分量和初始趋势分量;

S4:统一输出维度与目标序列相同,将初始季节分量和初始趋势分量处理得到最终季节分量和最终趋势分量;

S5:将标准化时间序列输入到时间卷积网络中,通过多个时间卷积块得到初始预测序列;

S6:将标准化时间序列输入到多头自注意力模块中,得到注意力预测序列;

S7:将最终季节分量、最终趋势分量、初始预测序列、注意力预测序列相加,得到最终预测序列;

S8:对最终预测序列进行逆标准化处理,得到标准化预测序列;

S9:根据标准化预测序列和真实时间序列计算时间序列预测模型的MSE损失函数;

S10:设置初始学习率,使用分段常数衰减调整学习率;

S11:使用Adam算法优化模型,根据学习率动态调整模型参数,当损失函数最小时,完成模型训练;

S12:利用测试集、验证集对训练好的模型进行测试和验证无误后,对时间序列关系进行预测。

2.根据权利要求1所述的基于分解机制和注意力机制的时间序列预测方法,其特征在于:步骤S2所述对训练集中的时间序列样本进行正标准化处理,公式如下:

其中,表示输入序列的平均值,xi表示第i时刻的时间序列值,N表示输入的时间序列长度;σ表示输入序列的标准差,表示经过正标准化处理后的第i时刻的时间序列值。

3.根据权利要求1所述的基于分解机制和注意力机制的时间序列预测方法,其特征在于:步骤S4中所述将初始季节分量和初始趋势分量输入到线性层,统一输出维度与目标序列相同,得到最终季节分量和最终趋势分量,具体包括以下步骤:

S41:根据平均核大小调整数据两端的补全数据,对补全后的数据进行一维平均池化,获得初始趋势分量;

S42:将补全数据与初始趋势分量相减,获得初始季节分量。

4.根据权利要求1所述的基于分解机制和注意力机制的时间序列预测方法,其特征在于:步骤S5所述的时间卷积网络包括六个串联的时间卷积块,每个时间卷积块包含两个一维扩张卷积层、两个剪切层;

步骤S5中所述将标准化时间序列输入到时间卷积网络中,通过多个时间卷积块得到初始预测序列,具体包括:

将标准化时间序列输入到一维扩张卷积层中,然后经过剪切层剪切首部多余的数据,保证预测的信息流传递是单向的,再依次输入一维扩张卷积层和剪切层;采用时间卷积网络提取长短期特征的计算公式为:

其中,表示经过正标准化处理后的时间序列样本,Conv表示一维扩张卷积,Chomp表示剪切层,Dropout表示随机失活函数,ReLU表示非线性激活函数,Ft表示经过一个基本扩张卷积单元处理过的时间序列,Fc表示经过一个时间卷积块处理过的时间序列,Conv1D表示一维卷积,FT表示经过时间卷积网络提取的时间特征。

5.根据权利要求1所述的基于分解机制和注意力机制的时间序列预测方法,其特征在于:步骤S6所述的将标准化时间序列输入到多头自注意力模块中,得到注意力预测序列,具体包括以下步骤:

S61:将标准化时间序列输入线性层,获得初始时间序列分量;

S62:将初始时间序列分量分别输入三个不同的线性层,获得最终查询分量、最终键值分量、最终数值分量;

S63:对最终查询分量、最终键值分量、最终数值分量进行自注意力运算,得到自注意力预测分量;

S64:将自注意力预测分量输入线性层,调整输出维度,得到注意力预测序列。

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于重庆邮电大学,未经重庆邮电大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/202211636814.5/1.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top