[发明专利]一种基于变分模态分解与注意力机制的风速预测方法在审
| 申请号: | 202111583769.7 | 申请日: | 2021-12-22 |
| 公开(公告)号: | CN114218870A | 公开(公告)日: | 2022-03-22 |
| 发明(设计)人: | 章靖凯;顾宏;余向军;秦攀 | 申请(专利权)人: | 大连理工大学 |
| 主分类号: | G06F30/27 | 分类号: | G06F30/27;G06F17/14;G06F17/16;G06N3/04;G06N3/08;G06F111/04;G06F113/08;G06F119/10;G06F119/12 |
| 代理公司: | 辽宁鸿文知识产权代理有限公司 21102 | 代理人: | 苗青 |
| 地址: | 116024 辽*** | 国省代码: | 辽宁;21 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 一种 基于 变分模态 分解 注意力 机制 风速 预测 方法 | ||
1.一种基于变分模态分解与注意力机制的风速预测方法,其特征在于,包括步骤如下:
步骤一:采集历史气象数据,构建原始风速及相关协变量数据集,对数据缺失或异常的情况,采用分权线性插值法填补数据;
步骤二:数据预处理,采用均值-方差归一化方法将数据集中的数据缩放至同一尺度;以8∶1∶1比例划分数据集为训练集、验证集与测试集;
步骤三:变分模态分解;取数据集一定步长的序列作为深度神经网络的输入序列u(t),对输入序列u(t)采用变分模态分解获得K个具有特定模态的序列uk(t),k=1,2...K;
(3.1)将输入序列u(t)各模态经希尔伯特变换后的解析信号混合为一预估中心频率:
其中,δ(t)为狄拉克函数,ωk为第k个模态的中心频率;
K个模态之和为输入序列u(t)且各模态的估计带宽之和最小,即:
其中,{uk}={u1,…,uK},{ωk}={ω1,…,ωK};
(3.2)将式(2)的约束性变分问题变为非约束性变分问题:
式中,α为二次惩罚因子,保证输入序列u(t)在混入噪声信号的情况下的重构精度;λ(t)为拉格朗日乘法算子,保持约束条件严格性;
采用交替方向乘子法通过迭代交替更新和求得式(2)中最优解;各模态新分量中心频率由下式表示:
分解后各模态新分量为:
其中,n为算法迭代次数,与分别代表u(w)、与λn(w)傅里叶变换;
分解后输入序列u(t)经傅里叶逆变换取实部为:
式中,F-1(·)表示傅里叶逆变换,Real(·)表示取复数实部;
步骤四:分解后的K个分量{uk(t)}取实部作为融合注意力机制的深度神经网络的输入信号,以实际风速作为预测目标,对深度神经网络进行参数训练、验证或预测;深度神经网络包括位置编码、编码器与解码器;位置编码为输入信号提供相对位置信息;编码器包括注意力机制层、前馈网络层与归一化残差连接层,用于神经网络模型捕获时序特征间的相互关系;解码器由双层全连接网络构成,用于将编码器获取的时序特征信息进行解构从而输出预测值。
2.根据权利要求1所述的基于变分模态分解与注意力机制的风速预测方法,其特征在于,所述分权线性插值法如下:
其中,u(tmiss)代表序列tmiss时刻待填充的缺失或异常值,u(tprev)为缺失或异常值前距其最近的tprev时刻的有效值,u(tnext)为缺失或异常值后距其最近的tnext时刻的有效值。
3.根据权利要求1或2所述的基于变分模态分解与注意力机制的风速预测方法,其特征在于,所述位置编码的构造方法具体如下:输入序列u(t)的每个单点数据添加特有向量,整个输入序列信号注入位置信息;通过构造与输入序列u(t)维数一致的矩阵,并与输入序列u(t)相加得到下一注意力机制层的输入;
其中,pos表示该单点数据在整个输入序列u(t)中的位置,dmodel是特有向量的维度,i表示特有向量的位置。
4.根据权利要求1或2所述的基于变分模态分解与注意力机制的风速预测方法,其特征在于,所述注意力机制层中,随机初始化三个维度相同的矩阵WQ,WK和WV,使用这三个矩阵分别对输入序列u(t)做线性变换,得到结果记为查询向量Q和键向量K与值向量V,并将三者通过计算映射到一个输出矩阵,其中分配给每个值的权重由查询向量Q与相应键向量K的兼容性函数softmax函数计算;输出矩阵计算为:
其中为矩阵K列维数取平方根,用于防止训练不稳定。
5.根据权利要求1或2所述的基于变分模态分解与注意力机制的风速预测方法,其特征在于,通过设置h个注意力机制层形成多头注意力机制层。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于大连理工大学,未经大连理工大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202111583769.7/1.html,转载请声明来源钻瓜专利网。





