[发明专利]实体关系抽取方法、系统、电子设备及存储介质在审
申请号: | 202011330157.2 | 申请日: | 2020-11-24 |
公开(公告)号: | CN112417878A | 公开(公告)日: | 2021-02-26 |
发明(设计)人: | 郑悦;蔡怡蕾;景艳山 | 申请(专利权)人: | 北京明略昭辉科技有限公司 |
主分类号: | G06F40/295 | 分类号: | G06F40/295;G06F40/253;G06N3/04 |
代理公司: | 青岛清泰联信知识产权代理有限公司 37256 | 代理人: | 李红岩 |
地址: | 100089 北京市海淀区*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 实体 关系 抽取 方法 系统 电子设备 存储 介质 | ||
本申请涉及实体关系抽取方法、系统、电子设备及存储介质。该方法包括:对输入的原始文本进行分词操作并输出分词;将分词输入至Embedding层得到对应分词的初始向量表示;将初始向量表示输入至Bi‑LSTM层得到前向和后向两组实体向量表示;将初始向量表示输入至Tree‑based‑LSTM层得到语法树结构的节点向量;将两组实体向量表示输入至Attention层得到第一状态向量,将第一状态向量输入至Q‑Learning网络得到两个实体向量表示对应代表的实体之间存在关系的概率;将节点向量输入至softmax层,得到第二状态向量并将第二状态向量输入至Q‑Learning网络,结合实体之间存在关系的概率输出实体关系。通过考虑命名实体识别和关系抽取之间的依赖关系,解决了实体关系抽取过程中误差延续的问题,实现了实体关系抽取的误差率的提升。
技术领域
本申请涉及自然语言处理领域,特别是涉及实体关系抽取方法、系统、电子设备及存储介质。
背景技术
近年来,随着深度学习的发展,各种前沿技术被应用于自然语言处理中。其中,对话机器人是自然语言处理的一个分支,特别是垂直领域下的对话机器人,如淘宝购物中的阿里小蜜,已在业界有广泛的应用。实体关系抽取(Entity and Relation Extraction,ERE)是对话机器人中一个必不可少的模块,负责从用户的输入中提取重要信息。ERE是一个级联任务,其可分为两个子任务:命名实体识别和关系抽取。
其中,命名实体识别(Named Entity Recognition,NER)是对话机器人中的一个重要模块,它负责从用户的输入中对关键词进行识别,从中提取下游任务需要的信息。假定当前对话机器人建立在数码产品领域,考虑如下句子“我想要买iPhone11”,其中“我”被识别为人,而“iPhone11”被识别为手机型号,因而系统能知道用户的意图为购买手机,之后能根据识别到的实体从图谱中提取出相关的信息(如价格,官网链接等)。
关系抽取(Relation Extraction,RE)在命名实体识别的基础上抽取各个实体之间的关系,如上述例句中的“我”和“iPhone11”的关系为“购买”,该功能在复合句中能帮助系统理解两两实体之间的关系。
由上述描述可知,ERE模块的准确率对后续操作有着重大的影响。
目前现有技术还是通过先做命名实体识别,再做关系抽取。该方法灵活性高,易于实现。但是这样做也存在缺点:当命名实体识别过程中存在误差就会延续到关系抽取部分,影响关系抽取的效果;由于关系抽取需要对所有命名实体进行两两配对。因而会对许多无用实体去预测,提升了误差率;模板匹配只能人工添加模板,灵活性差,泛用性弱;命名实体识别和关系抽取分开导致整个系统忽略了两者之间的内在关系和依赖。
目前针对相关技术中上述问题,尚未提出有效的解决方案。
发明内容
本申请实施例提供了一种实体关系抽取方法、系统、电子设备和计算机可读存储介质,本方法基于深度神经网络,放弃先命名实体后关系的处理方案,使用联合实体关系抽取,同时考虑了命名实体识别和关系抽取两个子任务之间的相关性,并在关系抽取部分使用强化学习,以至少解决相关技术中的灵活性差、泛用性弱以及精度低的问题。
第一方面,本申请实施例提供了一种实体关系抽取方法,其特征在于,包括以下步骤:
获取分词步骤,对输入的原始文本进行分词操作并输出分词;
获取初始向量表示步骤,将所述分词输入至Embedding层得到对应所述分词的初始向量表示;
获取实体向量表示步骤,将所述初始向量表示输入至Bi-LSTM层得到前向和后向两组实体向量表示;
获取节点向量步骤,将所述初始向量表示输入至Tree-based-LSTM层得到语法树结构的节点向量;
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京明略昭辉科技有限公司,未经北京明略昭辉科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202011330157.2/2.html,转载请声明来源钻瓜专利网。