[发明专利]一种基于图推理模型的答案预测方法及装置在审
申请号: | 202110353541.2 | 申请日: | 2021-04-01 |
公开(公告)号: | CN112732888A | 公开(公告)日: | 2021-04-30 |
发明(设计)人: | 赵翔;霍立军;刘逸冰;葛斌;谭真;胡升泽;张翀;肖卫东 | 申请(专利权)人: | 中国人民解放军国防科技大学 |
主分类号: | G06F16/332 | 分类号: | G06F16/332;G06F16/33;G06F40/126;G06F40/30 |
代理公司: | 长沙大珂知识产权代理事务所(普通合伙) 43236 | 代理人: | 伍志祥 |
地址: | 410073 湖*** | 国省代码: | 湖南;43 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 基于 推理 模型 答案 预测 方法 装置 | ||
1.一种基于图推理模型的答案预测方法,其特征在于,包括以下步骤:
步骤1,接收问题和支持文档集和候选集,问题的形式为,其中,是实体对象,是实体对象和未知右实体之间的关系,所述未知右实体就是需要从候选集中选择的答案;
步骤2,通过文本瘦身筛选掉支持文档集中不相关的文档,并对所有的文本进行语义编码;
步骤3,使用多种注意力机制进行多种文本的语义交互和图节点的初始化;
步骤4,基于构建的图,使用图神经网络信息传递算法进行多跳推理;
步骤5,基于更新后的图节点表示,为每个候选计算用于预测答案的分数;
步骤6,根据所述预测答案的分数分布结果,预测未知右实体;
步骤3中所述的图节点的初始化包括以下步骤:
步骤301,通过实体抽取获得所需的实体;
步骤302,把实体、候选、句子分别和问题进行语义交互以更新各自的向量表示;
步骤303,使用一层自注意力来获取基于实体、候选和句子的图节点初始表示。
2.根据权利要求1所述的一种基于图推理模型的答案预测方法,其特征在于,步骤2中所述的文本瘦身是指,在问题的辅助下,使用两层的TF-IDF算法挑选出相关文档,包括以下步骤:
步骤201,在第一层TF-IDF算法中,计算支持文档集中每个文档和问题的TF-IDF余弦相似度并取出具有最大余弦相似度的文档;
步骤202,在第二层TF-IDF算法中,计算上一层取出的文档和所有剩下所有文档的TF-IDF余弦相似度;
步骤203,根据所述余弦相似度的大小给所有文档排序,取出前
步骤204,从支持文档集取出的全部文档组成新的支持文档集,其中,表示第
3.根据权利要求2所述的一种基于图推理模型的答案预测方法,其特征在于,步骤2中所述的语义编码是指,使用预训练的语言模型用作编码器,将支持文档集、问题和候选中的每个词块转化为固定长度的向量,同时文本的语义也在这个过程被编码并存储在向量之中,包括以下步骤:
步骤205,给定一个编码器,文档集和问题通过如下公式被编码:,,其中,返回编码器对输入变量编码后的结果,,分别是文档集和问题的序列表示,表示返回文本序列的长度,是编码器隐状态的维度,表示维度;
步骤206,取出候选在中对应的编码,从而获得的编码表示,其中,为候选集中的任意一个候选,为候选的个数;
步骤207,把文档划分为句子,并取出中相应的向量用作句子的语义编码;
步骤208,获得基于句子的文档集语义编码,其中表示第
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中国人民解放军国防科技大学,未经中国人民解放军国防科技大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110353541.2/1.html,转载请声明来源钻瓜专利网。