[发明专利]一种结合文本双曲分段知识嵌入多重知识图谱的问答方法有效
申请号: | 202111069945.5 | 申请日: | 2021-09-13 |
公开(公告)号: | CN113779219B | 公开(公告)日: | 2023-07-21 |
发明(设计)人: | 苏依拉;吕苏艳;梁衍锋;崔少东;仁庆道尔吉;吉亚图 | 申请(专利权)人: | 内蒙古工业大学 |
主分类号: | G06F16/332 | 分类号: | G06F16/332;G06F16/36;G06F40/30;G06F40/295;G06N3/0464;G06N3/0442;G06N3/0455;G06N3/048;G06N3/08 |
代理公司: | 西安智大知识产权代理事务所 61215 | 代理人: | 段俊涛 |
地址: | 010080 内蒙古自治区呼*** | 国省代码: | 内蒙古;15 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 结合 文本 分段 知识 嵌入 多重 图谱 问答 方法 | ||
一种结合文本双曲分段知识嵌入多重知识图谱的问答方法,利用双曲分段嵌入模型,实现知识图谱中实体和关系的初始化,所述实体包括头实体和尾实体;针对自然语言提出的问题,利用RoBERTa模型进行问题嵌入,并构建异构图,融合与问题相关的知识图谱与文本;利用文本中的语义信息丰富知识图谱中实体嵌入的表示,并将文本作为超边,补充不完整知识图谱中的关系;将结合文本的实体嵌入、问题嵌入和候选答案构建新三元组,并采用评分函数进行打分,实现知识图谱问答。本发明可大大提升知识图谱问答的质量,获得更加精准的答案。
技术领域
本发明属于人工智能技术领域,涉及知识图谱问答,特别涉及一种结合文本双曲分段知识嵌入多重知识图谱的问答方法。
背景技术
近年来,大规模知识图谱的发展为回答开放域问题提供了丰富的资源。基于知识图谱来回答自然语言问题已经成为的一种热门趋势。
大多数早期的知识图谱问答采用的是传统的基于语义分析的方法。该类方法使用字典、规则和机器学习,将自然语言问句映射成一种语义表示或逻辑表达式或查询图。基于语义解析的方法通常使用分类模型进行关系的预测,但由于知识图谱中包含数十万种关系,训练集难以覆盖如此庞大规模的关系,使得基于语义解析的方法在知识图谱问答上受到限制。再后来出现了基于信息检索的方法,该类方法首先根据问题得到若干个候选实体,从知识图谱中抽取与候选实体相连的关系作为候选查询路径,再使用文本匹配模型,选择出与问题相似度最高的候选查询路径,到知识图谱中检索答案。此方法需自定义构建特征且对复杂问题处理效果不好。
最近,越来越多的基于神经网络的方法已经被证明是有效的知识图谱问答任务。这些方法只需要简单地查询知识图谱,不需要额外的语法知识和词典,并且隐式地完成了候选答案的搜索和排序功能。然而怎样真正的理解问题并且缩小自然语言和知识图谱的结构化语义之间的差距仍然是非常具有挑战性的。
另外,基于神经网络的知识图谱问答中通常需要通过知识嵌入模型来学习三元组中实体和关系的表示,虽然近年来对知识图谱嵌入问题进行了大量的研究,但现有的研究并没有在模型复杂性(参数的数量)和模型表达性(语义信息捕获性能)之间做出适当的权衡,同时,也不容易保持知识图谱的多重层次结构。
发明内容
为了克服上述现有技术的缺点,本发明的目的在于提供一种结合文本双曲分段知识嵌入多重知识图谱的问答方法。
为了实现上述目的,本发明采用的技术方案是:
一种结合文本双曲分段知识嵌入多重知识图谱的问答方法,包括如下步骤:
步骤1,利用双曲分段嵌入模型,实现知识图谱中实体和关系的初始化,所述实体包括头实体和尾实体;
步骤2,针对自然语言提出的问题,利用RoBERTa模型进行问题嵌入,并构建异构图,融合与问题相关的知识图谱与文本;
步骤3,利用文本中的语义信息丰富知识图谱中实体嵌入的表示,并将文本作为超边,补充不完整知识图谱中的关系;
步骤4,将结合文本的实体嵌入、问题嵌入和候选答案构建新三元组,并采用评分函数进行打分,实现知识图谱问答。
进一步地,所述步骤1中,先训练双曲几何嵌入模型,再训练双曲分段嵌入模型,所述双曲分段嵌入模型是将双曲实体或双曲关系嵌入分割成不同片段,并对其进行多线性点积。
进一步地,所述双曲几何嵌入模型的训练中,采用具有负曲率c的m维庞加莱球模型建模知识图谱,在庞加莱球模型上点X与点Y之间的距离d(X,Y)用双曲空间距离公式表示为:
其中,arccos h(.)表示反双曲余弦函数,‖.‖表示L2范数;
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于内蒙古工业大学,未经内蒙古工业大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202111069945.5/2.html,转载请声明来源钻瓜专利网。