[发明专利]实体关系识别方法、装置、设备及存储介质在审
申请号: | 202210199358.6 | 申请日: | 2022-03-02 |
公开(公告)号: | CN114692617A | 公开(公告)日: | 2022-07-01 |
发明(设计)人: | 谭清宇;何瑞丹;邴立东;黄伟道 | 申请(专利权)人: | 阿里巴巴(中国)有限公司;新加坡国立大学 |
主分类号: | G06F40/279 | 分类号: | G06F40/279;G06F40/211 |
代理公司: | 北京开阳星知识产权代理有限公司 11710 | 代理人: | 张子青 |
地址: | 310052 浙江省杭州市滨江*** | 国省代码: | 浙江;33 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 实体 关系 识别 方法 装置 设备 存储 介质 | ||
1.一种实体关系识别方法,其中,所述方法包括:
获取目标文本;
确定所述目标文本中多个实体分别对应的表示向量;
根据所述多个实体中任意两个实体分别对应的表示向量、以及与所述任意两个实体相关的上下文的表示向量,确定所述任意两个实体构成的实体对的表示向量;
根据所述任意两个实体中的第一实体与所述多个实体中每个实体分别构成的实体对的表示向量、以及所述多个实体中每个实体分别与所述任意两个实体中的第二实体构成的实体对的表示向量,更新所述任意两个实体构成的实体对的表示向量;
根据所述任意两个实体构成的实体对更新后的表示向量,确定所述任意两个实体之间的关系。
2.根据权利要求1所述的方法,其中,所述方法由第一关系抽取模型执行,所述第一关系抽取模型包括预训练语言模型、轴向注意力模型和分类器;
所述预训练语言模型用于确定所述目标文本中多个实体分别对应的表示向量;
所述轴向注意力模型用于根据所述任意两个实体中的第一实体与所述多个实体中每个实体分别构成的实体对的表示向量、以及所述多个实体中每个实体分别与所述任意两个实体中的第二实体构成的实体对的表示向量,更新所述任意两个实体构成的实体对的表示向量;
所述分类器用于根据所述任意两个实体构成的实体对更新后的表示向量,确定所述任意两个实体之间的关系。
3.根据权利要求2所述的方法,其中,所述第一关系抽取模型通过如下步骤训练得到:
通过所述第一关系抽取模型对样本文本进行处理,得到所述样本文本中任意两个实体之间的关系分别为多种预设关系的第一概率分布;
根据所述第一概率分布,确定第一损失函数;
通过第二关系抽取模型对所述样本文本进行处理,得到所述样本文本中所述任意两个实体之间的关系分别为多种预设关系的第二概率分布,所述第二关系抽取模型和所述第一关系抽取模型的结构相同,所述第二关系抽取模型是通过标注数据训练得到的;
根据所述第一概率分布和所述第二概率分布,确定第二损失函数,所述第一损失函数和所述第二损失函数构成第三损失函数;
根据所述第三损失函数,对所述第一关系抽取模型进行训练。
4.根据权利要求3所述的方法,其中,所述多种预设关系包括多种目标关系、以及所述任意两个实体之间无关系;
根据所述第一概率分布,确定第一损失函数,包括:
根据所述第一概率分布,将所述多种目标关系划分为第一类目标关系和第二类目标关系,所述任意两个实体之间的关系为所述第一类目标关系的第一概率大于所述任意两个实体之间无关系的第二概率,所述任意两个实体之间的关系为所述第二类目标关系的第三概率小于所述第二概率;
根据所述第一概率、以及所述第二概率,计算得到所述第一损失函数的第一部分;
根据所述第三概率、以及所述第二概率,计算得到所述第一损失函数的第二部分;
将所述第一部分和所述第二部分构成所述第一损失函数。
5.根据权利要求4所述的方法,其中,根据所述第一概率、以及所述第二概率,计算得到所述第一损失函数的第一部分,包括:
根据所述第一概率、以及所述第二概率,计算第一比值,所述第一比值的分子是根据所述第一概率确定的,所述第一比值的分母是根据所述第一概率和所述第二概率确定的;
根据所述第一比值、以及所述第一比值对应的权重,计算得到所述第一损失函数的第一部分,所述第一比值和所述权重之间呈反向关系。
6.根据权利要求4所述的方法,其中,根据所述第三概率、以及所述第二概率,计算得到所述第一损失函数的第二部分,包括:
根据所述第三概率、以及所述第二概率,计算第二比值,所述第二比值的分子是根据所述第二概率确定的,所述第二比值的分母是根据所述第三概率和所述第二概率确定的;
根据所述第二比值,计算得到所述第一损失函数的第二部分。
7.根据权利要求3所述的方法,其中,根据所述第三损失函数,对所述第一关系抽取模型进行训练之后,所述方法还包括:
根据标注数据对所述第一关系抽取模型进行再次训练。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于阿里巴巴(中国)有限公司;新加坡国立大学,未经阿里巴巴(中国)有限公司;新加坡国立大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202210199358.6/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种基于时空图卷积的人体交互行为识别方法
- 下一篇:一种铝材表面氧化处理方法