[发明专利]一种实体精细分类方法有效

专利信息
申请号: 201711366934.7 申请日: 2017-12-18
公开(公告)号: CN108052625B 公开(公告)日: 2020-05-19
发明(设计)人: 刘知远;辛极;林衍凯;孙茂松 申请(专利权)人: 清华大学
主分类号: G06F16/35 分类号: G06F16/35;G06F16/36
代理公司: 北京路浩知识产权代理有限公司 11002 代理人: 苗青盛;马英迪
地址: 100084 北京市海*** 国省代码: 北京;11
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 一种 实体 精细 分类 方法
【权利要求书】:

1.一种实体精细分类方法,其特征在于,包括:

S1,基于目标实体文本中各单词对应的单词向量,计算所述目标实体文本的实体表示向量;

S2,基于句子中所述目标实体文本两侧各单词分别对应的语境单词向量,利用双向循环神经网络,获取所述目标实体文本的基础语境向量;

S3,基于所述目标实体文本的知识库表示向量和所述基础语境向量,计算所述两侧各单词分别对应的知识库相关注意力值;

S4,基于所述两侧各单词分别对应的知识库相关注意力值,以及所述目标实体文本的基础语境向量,计算所述目标实体文本的知识库相关语境向量;

S5,合并所述目标实体文本的实体表示向量和知识库相关语境向量,获取所述句子对应的句子表示向量,并基于所述句子表示向量,利用预先建立的目标分类器模型,获取所述目标实体文本属于各给定类别的概率;

所述S1的步骤进一步具体包括:

求取所述各单词对应的单词向量的平均值,作为所述目标实体文本的实体表示向量;

S2的步骤进一步具体包括:将所述句子中所述目标实体文本前侧各单词分别对应的前向单词向量以及后侧各单词分别对应的后侧单词向量分别输入所述双向循环神经网络,获取所述前侧各单词分别对应的前向基础语境向量和所述后侧各单词分别对应的后向基础语境向量;

步骤S3中所述目标实体文本的知识库表示向量的获取步骤进一步具体包括:

S301,利用文本信息重构知识库表示的初始神经网络,并利用所述给定训练样本训练所述知识库表示的初始神经网络,获取知识库表示的近似神经网络;

S302,利用所述知识库表示的近似神经网络,获取所述目标实体文本对应的近似知识库表示向量,作为所述目标实体文本的知识库表示向量。

2.根据权利要求1所述的方法,其特征在于,建立步骤S5中所述目标分类器模型的步骤进一步包括:

基于所述句子表示向量,根据非线性层函数和逻辑斯蒂函数(Logistic Function)建立初始分类器模型;

以所述初始分类器模型所有维度的交叉熵作为优化目标,利用给定训练样本训练所述初始分类器模型,通过梯度下降法优化所述优化目标,获取所述目标分类器模型。

3.根据权利要求1所述的方法,其特征在于,所述利用文本信息重构知识库表示的初始神经网络的步骤进一步包括:

搜索真实知识库中与未定位的所述文本信息近似的多个真实实体,选取所述多个真实实体中真实知识库表示与所述未定位的文本信息的近似知识库表示的差值小于设定阈值且取值最小的真实实体作为最接近真实实体,以所述最接近真实实体的真实知识库表示作为所述未定位的文本信息的初始近似知识库表示;

其中,所述近似的多个真实实体表示以所述目标实体文本为搜索关键词,在给定知识库中搜索到的相关实体。

4.根据权利要求3所述的方法,其特征在于,所述S3的步骤进一步具体包括:

基于所述前向基础语境向量和所述目标实体文本的知识库表示向量,利用给定非负函数公式,计算所述前侧各单词分别对应的前向知识库相关注意力值;

基于所述后向基础语境向量和所述目标实体文本的知识库表示向量,利用所述给定非负函数公式,计算所述后侧各单词分别对应的后向知识库相关注意力值。

5.根据权利要求4所述的方法,其特征在于,所述给定非负函数公式进一步具体为二次函数公式。

6.根据权利要求4所述的方法,其特征在于,所述S4的步骤进一步具体包括:

以所述前向知识库相关注意力值和所述后向知识库相关注意力值作为相应权值,对所述前向基础语境向量和所述后向基础语境向量加权求平均,计算所述目标实体文本的知识库相关语境向量。

7.根据权利要求1所述的方法,其特征在于,所述双向循环神经网络进一步具体为双向LSTM循环神经网络。

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于清华大学,未经清华大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/201711366934.7/1.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top