[发明专利]序列标注方法、系统、计算机设备及计算机可读存储介质有效
申请号: | 201910984286.4 | 申请日: | 2019-10-16 |
公开(公告)号: | CN110866115B | 公开(公告)日: | 2023-08-08 |
发明(设计)人: | 金戈;徐亮 | 申请(专利权)人: | 平安科技(深圳)有限公司 |
主分类号: | G06F16/35 | 分类号: | G06F16/35;G06F18/2411;G06F18/214;G06N3/0464;G06N3/08 |
代理公司: | 北京英特普罗知识产权代理有限公司 11015 | 代理人: | 邓小玲 |
地址: | 518000 广东省深圳市福田区福*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 序列 标注 方法 系统 计算机 设备 可读 存储 介质 | ||
本发明实施例公开了一种序列标注方法,包括:获取训练样本集,所述训练样本集包括多个训练样本数据,每个训练样本数据包括一输入文本序列以及输入文本序列对应的标签;对每个所述训练样本数据进行预处理,以得到各个所述训练样本数据对应的向量数据;将各个所述训练样本数据对应的向量数据输入到一阶隐马尔可夫模型中,以构建各个训练样本数据匹配的特征向量;将各个所述样本数据对应的特征向量输入到神经网络模型中进行训练,以生成序列标注模型;将待标注序列输入至序列标注模型中,以得到待标注序列对应的目标标签序列。本发明实施例还公开了一种序列标注系统、计算机设备及可读存储介质。本发明实施例的有效果在于使得序列标注更加准确。
技术领域
本发明实施例涉及自然语音处理技术领域,尤其涉及一种序列标注方法、系统、计算机设备及计算机可读存储介质。
技术背景
目前,序列标注是自然语言处理中一项基本且重要的问题,它包括分词,词性标注,命名实体识别,关系抽取等任务。序列标注问题也是结构学习中的一个经典问题,其通过找到来得到对于序列x的标注y。
结构支持向量机是结构学习的一种经典方法,结构支持向量机的目标不仅是最大化正确标签序列的分数,而且要最大化正确标签序列的分数与最近的不正确标签序列的分数之间的差距。结构支持向量机序列标注中取得了不错的效果,但是始终受限于自身的线性假设,因此不够准确。
发明内容
有鉴于此,本发明实施例的目的是提供一种序列标注方法、系统、计算机设备及计算机可读存储介质,采用了一阶隐马尔科夫对特征向量进行构建及神经网络模型进行评分值的运算,使得序列标注更加准确。
为实现上述目的,本发明实施例提供了一种序列标注方法,包括:
获取训练样本集,所述训练样本集包括多个训练样本数据,每个所述训练样本数据包括一输入文本序列以及所述输入文本序列对应的标签;
对每个所述训练样本数据进行预处理,以得到各个所述训练样本数据对应的向量数据;
将各个所述训练样本数据对应的向量数据输入到一阶隐马尔可夫模型中,以构建各个训练样本数据匹配的特征向量Ψ(X,Y);
将各个所述样本数据对应的特征向量Ψ(X,Y)输入到神经网络模型中进行训练,以生成序列标注模型;
将待标注序列输入至所述序列标注模型中,以得到所述待标注序列对应的目标标签序列,所述目标标签序列包括所述待标注序列及对应的目标标签。
进一步地,对每个所述训练样本数据进行预处理,以得到各个所述训练样本数据对应的向量数据的步骤,包括:
将所述训练样本数据的输入文本序列使用word2vec模型进行分词处理,得到所述输入文本序列的词向量;
将每个所述输入文本序列的词向量根据对应的标签进行OneHot编码,得到对应的标注向量;若标签有m种类别,相应的输入文本序列的词向量进行OneHot编码后对应为m维标注向量;
其中,所述向量数据包括词向量和m维标注向量。
进一步地,所述一阶隐马尔可夫模型构建各个训练样本数据匹配的特征向量Ψ(X,Y)的计算公式为:
其中,张量乘积的定义为:RP×RQ→RPQ,M表示标注向量的维度,x、y表示坐标值,j表示隐马尔可夫模型的阶数。
进一步地,将各个所述样本数据对应的特征向量Ψ(X,Y)输入到神经网络模型中进行训练,以生成序列标注模型的步骤,包括:
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于平安科技(深圳)有限公司,未经平安科技(深圳)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910984286.4/2.html,转载请声明来源钻瓜专利网。