[发明专利]一种时空分布迁移下的动态图神经网络预测方法及产品在审
申请号: | 202211462517.3 | 申请日: | 2022-11-21 |
公开(公告)号: | CN115828987A | 公开(公告)日: | 2023-03-21 |
发明(设计)人: | 朱文武;王鑫;张泽阳 | 申请(专利权)人: | 清华大学 |
主分类号: | G06N3/042 | 分类号: | G06N3/042;G06N3/08 |
代理公司: | 北京润泽恒知识产权代理有限公司 11319 | 代理人: | 苟冬梅 |
地址: | 100084*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 时空 分布 迁移 动态 神经网络 预测 方法 产品 | ||
本申请实施例涉及深度学习中的图神经网络领域,公开了一种时空分布迁移下的动态图神经网络预测方法及产品,包括:将动态图输入解耦的时空注意网络,得到节点的高阶不变时空表征和节点的高阶变化时空表征;按照节点的邻域和节点的时间戳,对节点的高阶变化时空表征进行抽样和随机替换,得到多种干预分布;根据节点的高阶不变时空表征、节点的高阶变化时空表征和多种干预分布对解耦的时空注意网络进行优化。本申请的方法通过捕捉动态图中变化和不变的模式,消除了变化模式的影响,使动态图注意力网络更依赖于不变模式的特征,在处理存在时空分布迁移的动态图时仍然具有良好的预测能力,有效的提高了动态图注意力网络的分布外泛化能力。
技术领域
本申请实施例涉及深度学习中的图神经网络领域,具体而言,涉及一种时空分布迁移下的动态图神经网络预测方法及产品。
背景技术
动态图或网络中具有复杂的数据结构和时间信息,是一种有效的抽象现实世界的数据结构,如引文网络,社交网络,交易网络,交通网络等。近年来,随着深度学习的不断发展,动态图神经网络GNN凭借端对端学习的优势及强有力的推理方法,通过利用动态图的结构和时间动态表现出强大的预测能力。
然而,由于现有的动态图神经网络所利用的模式在分布迁移下是随分布变化的,因此现有的动态图神经网络无法处理动态图中自然存在的分布变化。虽然目前有分布外泛化方法通过差异度量、归一化和分布稳健优化等等方式来处理时间序列数据的分布转移,但是这种方法无法考虑动态图中更为复杂的空间-时间分布迁移(包括图结构的同时表征随时间发生分布变化),使其优化的动态图神经网络在时空分布迁移下的性能下降显著。因此,如何提升时空分布迁移下的动态图神经网络的预测性能,成为当前亟待解决的问题。
发明内容
本申请实施例在于提供一种时空分布迁移下的动态图神经网络预测方法及产品,旨在解决在时空分布迁移下的动态图神经网络的预测性能下降的问题。
本申请实施例第一方面提供一种时空分布迁移下的动态图神经网络预测方法,包括:
将动态图输入解耦的时空注意网络,得到节点的高阶不变时空表征和节点的高阶变化时空表征;
按照节点的邻域和节点的时间戳,对所述节点的高阶变化时空表征进行抽样和随机替换,得到多种干预分布;
根据所述节点的高阶不变时空表征、所述节点的高阶变化时空表征和所述多种干预分布对所述解耦的时空注意网络进行优化,得到动态图注意力网络,其中所述动态图注意力网络用于时空分布迁移下的动态图预测。
可选地,按照节点的邻域和节点的时间戳,对所述节点的高阶变化时空表征进行抽样和随机替换,得到多种干预分布,包括:
从所述节点的高阶变化时空表征中抽取第一节点在第一时间戳的高阶变化时空表征;
以第二节点在第二时间戳的高阶变化时空表征替换所述第一节点在第一时间戳的高阶变化时空表征,得到所述多种干预分布。
可选地,以第二节点在第二时间戳的高阶变化时空表征替换所述第一节点在第一时间戳的高阶变化时空表征,得到所述多种干预分布,包括:
在所述第二节点与所述第一节点相同,且所述第二时间戳与所述第一时间戳不同的情况下,以所述第二节点在第二时间戳的高阶变化时空表征替换所述第一节点在第一时间戳的高阶变化时空表征,得到多种第一类型的干预分布;
在所述第二节点与所述第一节点不同,且所述第二时间戳与所述第一时间戳相同的情况下,以所述第二节点在第二时间戳的高阶变化时空表征替换所述第一节点在第一时间戳的高阶变化时空表征,得到多种第二类型的干预分布;
在所述第二节点与所述第一节点不同,且所述第二时间戳与所述第一时间戳不同的情况下,以所述第二节点在第二时间戳的高阶变化时空表征替换所述第一节点在第一时间戳的高阶变化时空表征,得到多种第三类型的干预分布;
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于清华大学,未经清华大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202211462517.3/2.html,转载请声明来源钻瓜专利网。
- 上一篇:一种隧道求助信息发布的方法
- 下一篇:一种基于丁二胺的高温尼龙生产方法