[发明专利]一种基于路径扩展的非连续实体识别方法有效
| 申请号: | 202111070443.4 | 申请日: | 2021-09-13 |
| 公开(公告)号: | CN113886522B | 公开(公告)日: | 2022-12-02 |
| 发明(设计)人: | 胡岩峰;胡政;潘宇顺;陈诗旭;乔雪;宋路杰;丁士伟;吕东帅 | 申请(专利权)人: | 苏州空天信息研究院 |
| 主分类号: | G06F16/33 | 分类号: | G06F16/33;G06F16/31;G06F16/35;G06F40/126;G06F40/295 |
| 代理公司: | 南京理工大学专利中心 32203 | 代理人: | 封睿 |
| 地址: | 215000 江苏省*** | 国省代码: | 江苏;32 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 一种 基于 路径 扩展 连续 实体 识别 方法 | ||
1.一种基于路径扩展的非连续实体识别方法,其特征在于,具体步骤如下:
步骤1,对文本序列使用Transformer-1编码器编码;
步骤2,将Transformer-1编码器的输出通过一层线性映射层映射为实体首字符判别向量,并使用softmax函数得到字符标签预测值,以获得实体首字符的索引值;
步骤3,针对预测的每个实体首字符,将其对应的Transformer-1编码器输出向量与其后字符的Transformer-1编码器输出向量拼接,使用Transformer-2编码器进行编码,接着通过一层线性映射层映射为实体尾字符判别向量,并使用softmax函数得到字符标签预测值,以获得对应实体首字符的实体尾字符索引值;
步骤4,针对每对实体首字符和实体尾字符区间字符使用路径扩展方法,得到实体表示的路径;
步骤5,解码获得的实体表示路径,得到识别出的实体;
步骤4中,针对首字符为xk尾字符为xj的实体区间[xk,...,xj]使用路径扩展方法,得到实体表示的路径,具体方法为:
将路径扩展视为字符的多分类问题,同时对每条路径设置记忆向量,将记忆向量与Transformer-1编码后的字符输出向量拼接,通过一层线性映射层进行路径扩展分类,具体公式如下:
其中,表示向量拼接操作,W3是线性映射层的权重矩阵,b3是线性映射层的偏置量,表示第p条路径第i个字符的记忆向量,hi是第i个字符的Transformer-1编码器输出,是一个多维向量,表示第p条路径第i个字符的分类向量,第一维向量为1表示该字符不是当前实体表示路径上的点,其余维向量为1表示该字符是对应类别实体表示路径上的点,当在多个维度上的值都为1,第p条路径分支出多个新路径,新路径的初始记忆向量等于
2.根据权利要求1所述的基于路径扩展的非连续实体识别方法,其特征在于,步骤1中,对文本序列使用Transformer-1编码器编码,具体公式如下:
H=Transformer-1(X) (1)其中,H={h1,h2,...,hn}表示Transformer-1编码器的输出,X={x1,x2,...,xn}表示文本序列,n表示文本序列长度。
3.根据权利要求1所述的基于路径扩展的非连续实体识别方法,其特征在于,步骤2中,将Transformer-1编码器的输出通过一层线性映射层映射为实体首字符判别向量,并使用softmax函数得到第i个字符标签预测值具体公式如下:
其中,W1是Transformer-1编码器的权重矩阵,b1是Transformer-1编码器的偏置量,hi是第i个字符的Transformer-1编码器输出,表示该字符是实体首字符,表示该字符不是实体首字符。
4.根据权利要求1所述的基于路径扩展的非连续实体识别方法,其特征在于,步骤3中,针对预测的每个实体首字符xk,将其对应的Transformer-1编码器输出向量与其后字符对应的Transformer-1编码器输出向量拼接,使用Transformer-2编码器进行编码,接着通过一层线性映射层映射为实体尾字符判别向量,并使用softmax函数得到第j个字符标签预测值具体公式如下:
其中,表示向量拼接操作,W2是Transformer-2编码器的权重矩阵,b2是Transformer-2编码器的偏置量,是第j个字符与hk拼接后通过Transformer-2编码的向量,表示该字符是首字符序号为k的实体的尾字符,表示该字符不是首字符序号为k的实体的尾字符。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于苏州空天信息研究院,未经苏州空天信息研究院许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202111070443.4/1.html,转载请声明来源钻瓜专利网。





