[发明专利]一种融合上下文语义的知识图谱链路预测模型方法及装置有效

专利信息
申请号: 202110631995.1 申请日: 2021-06-07
公开(公告)号: CN113535972B 公开(公告)日: 2022-08-23
发明(设计)人: 刘露;包铁;高迅;张雪松;彭涛 申请(专利权)人: 吉林大学
主分类号: G06F16/36 分类号: G06F16/36;G06F40/30;G06N3/04;G06N3/08
代理公司: 北京华际知识产权代理有限公司 11676 代理人: 曹书华
地址: 130012 吉*** 国省代码: 吉林;22
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 一种 融合 上下文 语义 知识 图谱 预测 模型 方法 装置
【权利要求书】:

1.一种融合上下文语义的知识图谱链路预测模型方法,其特征在于,包括:

输入采样子图

在输入中每个训练数据都是由n个实体构成的r-子图谱,n指代r-子图谱中的实体个数,根据广度优先搜索这一采样策略可生成一系列的关系序列,即一个r-子图谱即为一条含有n个实体的关系路径,该子图谱可包含三个方面的语义信息:在知识图谱之中的结构信息、子图谱的类型属性元信息和本体信息以及实体和关系所蕴含的上下文自然语义知识信息,其中,特征提取层设计为一个接受m个维数为n×n的邻接矩阵和m个n×f的属性矩阵,这两个矩阵分别表示r-子图谱的结构信息和子图谱的类型属性信息,这里m是指批量尺寸的大小;把m个p×q大小的知识图谱三元组数据输入进长短期记忆网络(LSTM),这里的p指的是知识图谱训练集的实体的个数,q指的是每个实体的初始嵌入维度;

特征提取器层

在特征提取器使用GCN(图卷积神经网络)提取知识图谱中实体节点的隐式特征信息,针对所给定的某一实体节点,特征提取器层的GCN捕获基于此实体对象的知识图谱特征映射,所提出的融合上下文语义信息的知识图谱链路预测模型中在捕获实体对象的隐式特征时,使用的是3个GCN相级联拼接,每个GCN网络的输入有两个部分:实体对象子图的结构信息和实体对象子图元信息、实体属性信息,其中,实体对象子图的结构信息是由实体对象子图的邻接矩阵计算得来的;

给定实体对象子图的邻接矩阵A、元信息和实体属性信息H,GCN将二者表示为与正规化的图Laplaican联系紧密的静态特征矩阵:

这里的A是知识图谱G的邻接矩阵,I是维数与A相同的单位矩阵,表示一个由矩阵每行数值之和计算得到的对角矩阵;计算得到矩阵A(G)后,将该矩阵和实体元信息-属性矩阵H一起作为每个特征提取器GCN的输入;特征提取器用于提取知识图谱的结构和上下文语境特征;

Embedding层

Embedding层目的是将特征提取器层GCN模型输出的D维富含上下文语义信息的实体对象特征表示,其中将D的值设为128,对于不同类型的知识图谱该值有所不同,维数越高所蕴含的语义信息越丰富;

LSTM层

使用LSTM这种门控循环网络对知识图谱的三元组构成的实体-关系路径子图进行序列化表示,将三元组中的实体和关系视为自然语言中的词(term),首先把实体嵌入向量用glove库中的词向量嵌入特征表示进行初始化,初始词向量设置为200,然后将训练集中的初始化后实体向量输入至LSTM模型之中,从LSTM模型输出可得到的富含语义信息的实体嵌入表示,在本模型中这一嵌入维度为128;

GCN

由GCN构成的特征提取器可通过训练集中实体的初始嵌入向量捕获实体间的结构信息,此时每个知识图谱中的实体都有自己的特征表示,经过LSTM模型之后,每个知识图谱中的实体具有了一定的语义信息,将两种实体向量嵌入表示输入至关系预测网络中,关系预测网络可以预测当前实体在LSTM所捕获的语义嵌入向量下,是否还会与已有的其他实体发生链接,从而预测出了当前实体,在当前语境下的尾实体;

输出层

输出的是一个实体嵌入向量所构成的矩阵,表示模型预测的结果;

基准

将上述模型预测得到的结果和标签进行比对,计算损失函数,以此用来优化目标函数,使得模型性能逐步得到提升。

2.根据权利要求1所述的一种融合上下文语义的知识图谱链路预测模型方法,其特征在于:包括如下步骤:

步骤一:首先在训练数据的知识图谱三元组中采样,得到设定尺寸的子图谱作为每个r-ego图的特征图谱,即采集r-特征子图;

步骤二:然后将采样所得的特征子图输入一个批量学习的深度神经网络层中进行模型训练;

步骤三:最后将模型的输出与真实的结果进行计算比较,计算损失数值并最小化负对数似然函数。

3.一种融合上下文语义的知识图谱链路预测装置,其特征在于:包括权利要求1-2任意一项所述的一种融合上下文语义的知识图谱链路预测模型方法。

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于吉林大学,未经吉林大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/202110631995.1/1.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top