[发明专利]基于时空图自注意力模型的交通预测迁移学习方法

权利要求书

1.基于时空图自注意力模型的交通预测迁移学习方法，其特征在于，包括：

S1：通过数据嵌入层将历史交通数据和城市交通路网结构转化为高维时空表示向量；

S2：将高维时空表示向量输入至第一层时空编码器，具体步骤为：

将高维时空表示向量进行层归一化，得到层归一化后的时空表示向量；

将层归一化后的时空表示向量分别输入至时间感知的空间自注意力机制和趋势感知的时间自注意力机制，对应得到多头空间特征向量和多头时间特征向量；

将多头空间特征向量和多头时间特征向量进行拼接，并和未层归一化时的高维时空表示向量相加得到时空特征向量；

将时空特征向量进行层归一化，得到层归一化后的时空特征向量；

将层归一化后的时空特征向量输入至全连接前馈神经网络，并将输出和未层归一化时的时空特征向量相加，得到时空自注意力块编码后的时空特征向量；

S3：将第一层时空编码器输出的时空自注意力块编码后的时空特征向量作为高维时空表示向量输入至第二层时空编码器，重复S2操作，以此类推，直至得到第L层时空编码器的输出；

S4：将第一层至第L层时空编码器的输出通过跳跃连接，得到最终的时空特征向量；

S5：将最终的时空特征向量输入至输出层，得到时空预测模型；

S6：通过自回归任务和自编码任务在源数据集上同时训练时空预测模型，得到时空图自注意力模型，将时空图自注意力模型应用在目标城市数据集上时，通过预训练好的参数进行初始化，再利用目标城市数据集对模型参数进行微调，实现不同城市之间的迁移学习。

2.根据权利要求1所述的基于时空图自注意力模型的交通预测迁移学习方法，其特征在于，通过数据嵌入层将历史交通数据和城市交通路网结构转化为高维时空表示向量具体包括：

通过交通数据嵌入模块将历史交通数据转换为交通数据嵌入向量；

通过周期性信息嵌入模块将历史交通数据的周内星期信息和日内时间信息对应转换为周内星期嵌入向量和日内时间嵌入向量；

通过序列位置信息编码模块将历史交通数据序列的位置信息输出为序列位置信息编码向量；

通过节点位置信息嵌入模块将城市交通路网结构邻接矩阵的拉普拉斯矩阵进行特征值分解得到图拉普拉斯特征向量，图拉普拉斯特征向量通过全连接层得到节点位置信息嵌入向量；

将交通数据嵌入向量、周内星期嵌入向量、日内时间嵌入向量、序列位置信息编码向量和节点位置信息嵌入向量进行相加得到高维时空表示向量。

3.根据权利要求1所述的基于时空图自注意力模型的交通预测迁移学习方法，其特征在于，将层归一化后的时空表示向量输入至时间感知的空间自注意力机制得到多头空间特征向量具体包括：

时间感知的空间自注意力机制包括h_s个空间注意力头；

在每一个空间注意力头中，通过因果卷积将层归一化后的时空表示向量转换为空间键矩阵K^S和空间值矩阵V^S；

通过全连接操作将层归一化后的时空表示向量转换为空间查询矩阵Q^S；

对空间查询矩阵Q^S和空间键矩阵K^S进行矩阵乘法，再进行缩放，得到原始的空间注意力矩阵A^S；

计算原始的空间注意力矩阵A^S和空间掩码矩阵M^S的哈达玛积，再进行softmax操作，得到最终的空间注意力矩阵；

将最终的空间注意力矩阵和空间值矩阵V^S进行矩阵乘法，得到空间特征向量SSA；

将每个空间注意力头输出的空间特征向量SSA拼接得到多头空间特征向量。