[发明专利]一种基于注意力机制的混沌时间序列嵌入维数的确定方法

说明书

本发明属于混沌时间序列嵌入维数的确定技术，具体涉及一种基于注意力机制的混沌时间序列嵌入维数的确定方法。包括以下步骤：自相关法确定延迟时间τ并初始化最小嵌入维数m，利用延迟时间和嵌入维数重构数据集，将数据集导入基于多层感知机的注意力机制网络进行训练，输出每个维度的权重大小，判断是否符合维度的注意力权重值从低维度到高维度依次递增，若是则令m加1继续重构数据集再次导入网络训练并输出维度注意力权重值，直到维度注意力权重值不符合递增情况时输出最大嵌入维数，此时最大嵌入维数为使得维度注意力权重分布递增的最大嵌入维数。

技术领域

本发明涉及混沌时间序列嵌入维数的确定技术，具体涉及一种基于注意力机制的混沌时间序列嵌入维数的确定方法。

背景技术

混沌时间序列存在于天气气象、农业、金融、雷达信号、太阳黑子等等活动中，对这些领域的时间序列进行预测具有非常重大的意义。通过时间序列对混沌进行研究的工作开始于Packard等人提出的相空间重构理论，重构基础就是相空间嵌入维数和延迟时间的确定，因此对于嵌入维数和延迟时间的选择具有非常重要的意义。

原始的嵌入维数的确定方法有虚假最近邻法(False Nearest Neighbors，FNN)、奇异值分解法(Singular Value Decomposition，SVD)等。对于FNN，在几何形态上，混沌时间序列是高维相空间混沌运动轨迹在时间序列上的一维投影，在高维状态中不相邻的两个点投影到一维会发生轨迹扭曲从而相邻，此即为虚假相邻点，对于嵌入维数的不断由小增大，虚假相邻点也将逐步消失从而使混沌运动的轨迹得到恢复。对于实际的混沌时间序列，从最小嵌入维度开始计算虚假邻点的比例直到达到某一阈值即认为此时混沌轨迹已得到有效的重构，此时的嵌入维度即为混沌时间序列的嵌入维数。对于SVD，则是计算混沌时间序列的嵌入空间进行奇异值分解中的最大奇异值。

发明内容

本发明的目的在于解决在传统嵌入维数求解上复杂求解的弊端，利用注意力机制可以简易的通过注意力权重的合理分布确定混沌时间序列的嵌入维数，提供一种基于注意力机制的混沌时间序列嵌入维数的确定方法，以步骤较为简化，计算简便的方式求解出合理的混沌时间序列的嵌入维数。

本发明是一种基于注意力机制的混沌时间序列嵌入维数的确定方法，如图1所示，包括以下步骤：

S1、对于待确定嵌入维数的混沌时间序列x(t),t＝1,2,…n，n为混沌时间序列长度，设定输入嵌入维数初始值m和延迟时间τ，构建输入数据集和输出标签，输入数据为前m个不同时刻的混沌序列值作为输入，下一时刻混沌序列值作为输出标签：

其中Data为输入数据集结构，每一行即为一次输入，取对应行数的输出label的数值为输出标签值，其中M＝n-(m-1)τ为相点数；

所述延迟时间τ的获取方法为：对于待输入的混沌时间序列，获取其自相关函数关于t的图像后，在自相关函数的值为初值的1-1/e时，对应的横坐标t即为重构混沌序列相空间的延迟τ；e为自然对数函数的底数，约为2.7183；

S2、构建基于多层感知机的注意力机制网络，如图2所示：

网络的输入为Data中的每一行，对输入层权重初始化后，输入数据乘以输入权重后再通过激活函数softmax进行概率归一化输出，具体激活过程为：

上式中，x_i、x_j表示输入序列x中的第i、j个元素，x_i对应的softmax值为经过感知机后激活得到的S_i，经过激活函数的处理后对每个输入维度输出概率值，随后将概率值与输入值进行合并乘积，具体的输出格式如下：