[发明专利]一种基于迁移学习和深度学习融合的半监督图表示学习方法及装置在审

专利信息
申请号: 202110261429.6 申请日: 2021-03-10
公开(公告)号: CN112990295A 公开(公告)日: 2021-06-18
发明(设计)人: 刘冰;马永征;李洪涛;杨学 申请(专利权)人: 中国互联网络信息中心
主分类号: G06K9/62 分类号: G06K9/62;G06N3/08;G06N3/04
代理公司: 北京君尚知识产权代理有限公司 11200 代理人: 邱晓锋
地址: 100190 北*** 国省代码: 北京;11
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 一种 基于 迁移 学习 深度 融合 监督 图表 学习方法 装置
【权利要求书】:

1.一种基于迁移学习和深度学习融合的半监督图表示学习方法,其特征在于,包括以下步骤:

通过全局层面和局部层面的两个子任务预训练图神经网络模型,以从未标注的数据中学习输入数据的通用表征;

将预训练的图神经网络模型迁移到目标任务的训练过程中,在预训练的图神经网络模型之后添加一个与目标任务相关的输出层,并利用有标签数据对预训练的图神经网络模型的参数进行微调,得到最终的图神经网络模型。

2.根据权利要求1所述的方法,其特征在于,所述全局层面和局部层面的两个子任务,包括:

中心性评估子任务,用以获得反映各节点在全局中重要性的图节点嵌入表示;

上下文预测子任务,用以将具有相似邻域的节点映射到相近的嵌入表示空间中,使学习到的节点嵌入表示能够捕获其邻域信息。

3.根据权利要求2所述的方法,其特征在于,所述中心性评估子任务对输入的原始图中每个节点从不同粒度评估每个节点的中心性得分,构成输入节点的本地特征向量,并训练图自编码器模型,根据节点位于图中的结构角色来衡量节点在全局网络中的重要性,以学习到图中每个节点在全局中起到的作用,获得图节点嵌入表示提供给下游目标任务。

4.根据权利要求3所述的方法,其特征在于,所述中心性评估子任务对输入的原始图中每个节点计算特征向量中心性、介数中心性、紧密中心性和度中心性,从四个不同粒度评估每个节点的中心性得分。

5.根据权利要求2所述的方法,其特征在于,所述上下文预测子任务在全局网络图中使用上下文子图来预测各节点为中心的局部图结构,并利用图自编码器进行预训练,分别采用节点的k-hop子结构和对应的上下文子特征对节点编码,将出现在相似结构上下文中的节点映射到邻近的嵌入,将上下文编码成固定向量。

6.根据权利要求1所述的方法,其特征在于,所述在预训练的图神经网络模型之后添加一个与目标任务相关的输出层,包括:

去掉预训练的图神经网络模型的输出层,在保留学习到的图嵌入表示和参数矩阵的基础上添加一个与目标任务关联的输出层,并随机初始化该输出层的模型参数。

7.根据权利要求1所述的方法,其特征在于,所述利用有标签数据对预训练的图神经网络模型的参数进行微调,得到最终的图神经网络模型,包括:

利用有标签数据经过梯度下降算法对预训练的图神经网络模型的参数进行微调,得到目标图神经网络模型,训练过程中除输出层以外其它层的参数都是基于预训练的图神经网络模型的参数微调得到的。

8.一种采用权利要求1~7中任一权利要求所述方法的基于迁移学习和深度学习融合的半监督图表示学习装置,其特征在于,包括:

图数据预处理模块,负责对原始图数据进行清洗,过滤掉无效数据;

预训练模块,负责通过全局层面和局部层面的两个子任务预训练图神经网络模型,以从未标注的数据中学习输入数据的通用表征;

目标任务微调模块,负责将预训练的图神经网络模型迁移到目标任务的训练过程中,在预训练的图神经网络模型之后添加一个与目标任务相关的输出层,并利用有标签数据对预训练的图神经网络模型的参数进行微调,得到最终的图神经网络模型。

9.一种电子装置,其特征在于,包括存储器和处理器,所述存储器存储计算机程序,所述计算机程序被配置为由所述处理器执行,所述计算机程序包括用于执行权利要求1~7中任一权利要求所述方法的指令。

10.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质存储计算机程序,所述计算机程序被计算机执行时,实现权利要求1~7中任一权利要求所述的方法。

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中国互联网络信息中心,未经中国互联网络信息中心许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/202110261429.6/1.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top