[发明专利]一种基于时空注意力机制的卷积网络交通流预测模型

权利要求书

1.一种基于时空注意力机制的卷积网络交通流预测方法，其特征在于：所述的交通流组合预测方法主要由时空注意力STA-Block，图卷积网络GCN和标准卷积网络CN三个组成，分别对交通流的周期性，空间相关性和时间依赖性进行建模；STA-Block通过时空注意力机制和门控融合机制对不同时间步长之间的时空相关性进行建模，使用GCN和CN分别捕获交通流的空间特征和时间特征；最后，将三个分量的输出通过门控融合机制进行预测；其具体步骤为：

步骤(1)设在交通网络G中每个节点上的第f个时间序列是交通流序列，其中，f表示时间序列，F表示第f个时间序列中的第F个时间片，f∈(1,...,F)；表示节点i在t时刻的第c个特征值，表示节点i在t时刻的所有特征值；表示所有节点在t时刻的所有特征值；D＝(X₁,X₂,...,X_τ)^T∈^N×F×τ表示所有节点的所有特征在τ个时间片上的值；设表示节点i在t时刻的交通流；

通过交通路网上所有节点在过去τ个时间片上的历史测量值，可预测下一个T_p时间片上整个交通网络上所有节点的未来交通流序列其中表示从τ+1到节点i的交通流；

假设检测器每天的采样频率是q次，当前时间和预测窗口大小分别为t₀和T_p，按时间顺序分别截取三个长度为T_h，T_d和T_w的时间序列段，分别作为邻近，每日周期和每周周期分量的输入，其中T_h，T_d和T_w均为T_p的整数倍；三个时间序列段的详细信息如下：

(1)邻近部分：

邻近部分是直接与预测时段相邻的一段历史时间序列；由于交通拥堵的形成是一个渐进的过程，历史交通流不可避免地会对未来的交通流产生影响；

(2)每日周期部分：

由历史时间序列中与预测时段相同的时间段组成；每日时间段部分是对交通流数据的日周期性进行建模；

(3)每周周期部分：

由过去的几个周的时间段组成，它们具有与预测周期相同的周周期属性和时间间隔；

这三个部分具有相同的网络结构，每一部分都是由多个STA-Block、GCN、CN和一个全连接层共同堆叠而成；每个STA-Block中有一个空间注意力机制、时间注意力机制和一个门控融合机制；

步骤(2)预设了一种空间注意力机制来自适应地捕捉道路网络中不同地理位置之间的相关性；空间注意力机制旨在不同的时间点为不同顶点动态分配不同的权重；

以邻近部分的空间注意力机制为例：

其中，是第r个时空块的输入，C_r-1是第r层中输入数据的通道；当r＝1，C₀＝F时，T_r-1是第r层中时间序列的长度；当r＝1时，在邻近部分中T₀＝T_h；其中V_s∈R^N×N，b_s∈R^N×N，是可学习的参数，使用softmax函数来约束节点的注意力权重总和为1；注意力矩阵S由该层的当前输入动态计算；在注意力矩阵S中，S_i,j表示节点i和节点j之间的相关性强度；S′_i,j表示空间注意力矩阵；

步骤(3)预设了一种时间注意力机制来自适应地对不同时间点之间的非线性相关性进行建模；

以邻近部分的时间注意力机制为例：

其中，V_e，U₁∈R^N，是可学习参数；注意力矩阵E由输入确定；在注意力矩阵E中，E_i,j表示时间i和j之间的依赖性强度；通过softmax函数对注意力矩阵E进行归一化处理；并将归一化的注意力矩阵E作为输入，得到通过融合相关信息来动态地调整输入；E′_i,j表示时间注意力矩阵；

步骤(4)预设了一种门控融合机制来自适应地融合空间注意力机制和时间注意力机制；在第L个STA-Block中，空间注意力机制和时间注意力机制的输出分别表示为和和通过等式(8)进行融合：

其中，W_z,1∈R^D×D，W_z,2∈R^D×D，b_z∈R^D是可学习的参数，z是门控机制；门控融合机制自适应地控制每个节点和时间步中交通流的空间相关性和时间依赖性；

步骤(5)在每个时间片上采用基于频谱图理论的图卷积网络直接处理信号，频谱方法将交通网络图转换为代数形式，以分析图的拓扑属性；图卷积是通过使用线性运算符实现的卷积运算，该线性运算符在傅立叶域中通过对角化来替换经典卷积运算符；图G上的信号x由内核gθ滤波：

gθ*Gx＝gθ(L)x＝gθ(UΛU^T)x＝Ugθ(Λ)U^Tx (10)

其中，*G是图卷积运算，其中图傅立叶基U∈R^n×n是归一化图拉普拉斯特征向量的矩阵，I_n是一个单位矩阵，D∈R^n×n是对角度矩阵，其中Λ∈R^n×n是L的特征值的对角矩阵，滤波gθ(Λ)一个对角矩阵；

当图的比例较大时，直接在拉普拉斯矩阵上执行特征值分解是很困难的；使用采用Chebyshev多项式近似有效地解决了这个问题：

其中，参数θ∈R^K是多项式系数的向量，λ_max是拉普拉斯矩阵的最大特征值；Chebyshev多项式的递归定义是T_k(x)＝2xT_k-1(x)-T_k-2(x)，其中T₀(x)＝1，T₁(x)＝x；图卷积使用修正线性单元(ReLU)作为最终的激活函数，即ReLU(gθ*Gx)；

为了动态调整节点之间的相关性，对于Chebyshev多项式的每个项，将与空间注意力矩阵S′∈R^N×N相乘，然后得到其中*表示Hadamard乘积；等式(11)可以重写为等式(12)：

图卷积运算捕获了图上每个节点的邻近信息之后，进一步堆叠标准卷积层，以通过融合相邻时间片上的信息来更新节点的信息；以最近组成部分中第r层上的运算为例：

其中，μ是标准卷积核的参数，ReLU是激活函数；

当融合不同组成部分的输出时，每个节点这三个组成部分的影响权重是不同的，为了提高预测的准确性，从历史数据中学习它们；融合后的最终预测结果为：

其中，W_h，W_d和W_W是可学习的参数，表示邻近部分全连接层的输出值，表示每日周期部分全连接层的输出值，表示每周周期部分全连接层的输出值，反映三个时间维度分量对预测目标的影响程度。