[发明专利]基于卷积循环神经网络对知识图谱的推理方法及设备在审
申请号: | 202110341391.3 | 申请日: | 2021-03-30 |
公开(公告)号: | CN112949835A | 公开(公告)日: | 2021-06-11 |
发明(设计)人: | 李灯熬;赵菊敏;苗淑怡 | 申请(专利权)人: | 太原理工大学 |
主分类号: | G06N3/04 | 分类号: | G06N3/04;G06N3/08;G06N5/04 |
代理公司: | 北京一品慧诚知识产权代理有限公司 11762 | 代理人: | 张宇 |
地址: | 030600 山西省*** | 国省代码: | 山西;14 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 基于 卷积 循环 神经网络 知识 图谱 推理 方法 设备 | ||
1.一种基于卷积循环神经网络对知识图谱的推理方法,其特征在于:包括以下步骤:
S1:基于卷积循环神经网络学习对知识图谱的实体及关系的推理,并且提取局部特征;
S2:结合卷积循环神经网络和符号逻辑推理,构建用于共享RNN的关系类型表示和组合矩阵的单个C-RNN参数模型并进行模型训练,用于对知识图谱和文本进行联合推理;
S3:通过在C-RNN模型中引入新的分数池方法,计算知识图谱中实体对之间多条路径的平均值及三元组概率,融合多条路径;
S4:使用知识图谱中提供的实体类型表示、关系,通过对实体类型表示的简单相加获得实体表示,将实体表示及关系作为C-RNN参数模型的输入,对知识图谱进行推理。
2.根据权利要求1所述的基于卷积循环神经网络对知识图谱的推理方法,其特征在于:所述S1包括:
S11:所述卷积循环神经网络为卷积神经网络和单向循环神经网络的结合,卷积循环神经网络通过卷积神经网络提取局部特征;
S12:单层的所述卷积神经网络包括输入路径嵌入层、卷积层与最大池化层,嵌入层的输出传入卷积层进行卷积运算提取局部特征,提取的局部特征利用最大池化层获取有价值的高阶表示。
3.根据权利要求2所述的基于卷积循环神经网络对知识图谱的推理方法,其特征在于:所述S12包括:
S121:所述卷积层通过使用若干个过滤器在输入路径嵌入层的输入路径上进行滑动,提取输入路径上i处的局部特征;
S122:在输入路径的i处定义一个窗口,输入路径上的向量h为Wi=[xi,xi+1,...,xi+h-1],其中逗号表示连续行向量xi,xi+1,...,xi+h-1的串联;
S123:接着将卷积运算大小为h的波滤器C∈Rh×d应用于第i个窗口,产生一个新的特征mi,表达式为:
mi=f(Wi·C+b) 式(1);
S124:通过设计一个大小为s的本大最大池化窗口,然后在特征映射上应用它,生成池化特征表示,卷积层中的n个特性可以得到n个池特性映射,分别为p1,p2,...,pn;
S125:重新组织池特性映射,将新的连续高阶窗口表示Pj(j∈[1,l/s])输入RNN,保留输入路径的原始序列性质。
4.根据权利要求1所述的基于卷积循环神经网络对知识图谱的推理方法,其特征在于:所述S2包括以下步骤:
S21:建立共享C-RNN参数模型的关系类型表示和组合矩阵,通过在所有目标关系中共享RNN的关系类型表示和组合矩阵,为相同的训练数据提供较少数量的参数;
S22:训练C-RNN参数模型,使用知识图谱中已存在观察到的三元组作为正示例,将未观察到的三元组作为负例训练模型,设R{γ1,γ2,...,γn}为训练的所有查询关系类型集合,设为R中所有关系类型的正、负三元组集合,对模型参数进行训练,使负对数似然最小,公式如下:
其中,M为训练样本总数,θ为模型所有参数的集合。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于太原理工大学,未经太原理工大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110341391.3/1.html,转载请声明来源钻瓜专利网。