[发明专利]基于图采样的图注意力网络归纳学习方法在审
申请号: | 202110381819.7 | 申请日: | 2021-04-09 |
公开(公告)号: | CN113077003A | 公开(公告)日: | 2021-07-06 |
发明(设计)人: | 胡海峰;刘潇;吴建盛;朱燕翔 | 申请(专利权)人: | 南京邮电大学 |
主分类号: | G06K9/62 | 分类号: | G06K9/62;G06N3/04;G06N3/08 |
代理公司: | 南京苏科专利代理有限责任公司 32102 | 代理人: | 姚姣阳 |
地址: | 210046 *** | 国省代码: | 江苏;32 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 基于 采样 注意力 网络 归纳 学习方法 | ||
本发明揭示了一种基于图采样的图注意力网络归纳学习方法,主要包含图采样过程和图训练过程两个部分,通过使用随机游走采样器在原数据集大图中采样出多个子图形成mini batch,再输入到图注意力网络中进行训练,将大数据集拆分为小数据集,并增加训练轮数,从而显著地提升了方法性能、保证了方法具有良好的鲁棒性。本发明还能够作为技术思路的依据,对业内研究人员日后设计相关算法而言具有参考价值和部署意义。
技术领域
本发明为一种针对图神经网络的归纳学习方法,具体而言,基于图采样的图注意力网络归纳学习方法,涉及机器学习领域。
背景技术
图作为描述数据结构的数学工具,一直以来被视为表征数据实体内在关系的有效方法,在现阶段对人工智能的研究和应用产品中,对具有图结构数据的研究也占据了非常重要的地位。随着深度学习逐渐成为人类研究与实现人工智能最重要的工具,越来越多的研究开始尝试将深度学习方法应用到图数据领域。
传统的深度学习方法所处理的是欧氏空间下的数据,这类数据一般具有非常规则的空间结构;而图数据通常则是取自于现实生活中、属于非欧氏空间下的数据,在空间结构上并不规则,因此这就对现有的深度学习方法提出了重大挑战。
随着深度学习研究的不断深入,图神经网络(GNN,Graph Neural Network)的概念被提出,图神经网络是指将图数据与神经网络进行结合,在图数据上进行端到端的深度学习。在此后的研究中,业内研究人员也提出了众多的图神经网络模型,其中,图注意力网络(GAT,Graph Attention Network)的应用较为广泛。在图注意力网络中,引入了注意力机制,根据图中每个节点的不同邻居节点的特征,给当前节点的不同邻居节点分配不同的权重,无需依赖于整个图的信息,并且可以适用于归纳学习(Inductive Learning)。而随着现代社会的不断发展,图数据集的规模也越来愈大,为了更好地处理大型数据集,业内研究人员又提出了图采样算法,引入了传统深度学习方法中mini batch的概念,在大图中采样、形成子图,再进行小批次训练,从而更好地学习图的结构信息,提高模型的表达能力。
综上所述,现有技术中对于基于图采样的图注意力网络归纳学习算法如何有效解决大型图数据集分类问题尚没有公开的披露。
发明内容
鉴于现有技术存在上述缺陷,本发明的目的是提出一种基于图采样的图注意力网络归纳学习方法,具体如下。
一种基于图采样的图注意力网络归纳学习方法,包括如下步骤:
S1、输入待采样的图并设置随机游走采样器参数;
S2、利用随机游走采样器对所输入的图进行随机游走采样,获取采样后的子图;
S3、提取子图的邻接矩阵和样本点、经维度变换后输入图注意力网络中;
S4、采用注意力机制计算样本点之间的图注意力系数;
S5、利用图注意力系数计算样本点最后的输出特征;
S6、多次重复执行S4~S5,对多次执行后的输出结果进行串联合并、得到输出特征;
S7、采用多个二分类器进行分类,计算得到输出特征的损失函数;
S8、对每个Epoch的训练规则进行设置,并依据规则执行操作;
S9、对整个训练的停止条件进行设置,并依据规则进行判断,若整个训练已满足停止条件则流程结束,若整个训练未满足停止条件则重复执行S1~S9。
优选地,S1包括如下步骤:
S11、输入待采样的图G(V,E),其中,V表示图G中的样本点集合,E表示图G中样本点间的连接边集合;
S12、设置随机游走采样器参数,所述参数包括根数量r以及随机游走长度h。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于南京邮电大学,未经南京邮电大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110381819.7/2.html,转载请声明来源钻瓜专利网。
- 上一篇:生物样品冷冻保护剂
- 下一篇:一种蓝牙时钟的校准方法和电路结构