[发明专利]一种文本分词方法、装置、存储介质及电子设备有效
申请号: | 202110494883.6 | 申请日: | 2021-05-07 |
公开(公告)号: | CN113177410B | 公开(公告)日: | 2023-04-25 |
发明(设计)人: | 徐欢春 | 申请(专利权)人: | 多点(深圳)数字科技有限公司 |
主分类号: | G06F40/289 | 分类号: | G06F40/289 |
代理公司: | 北京超凡宏宇专利代理事务所(特殊普通合伙) 11463 | 代理人: | 何少岩 |
地址: | 518000 广东省深圳市福田区福田街*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 文本 分词 方法 装置 存储 介质 电子设备 | ||
1.一种文本分词方法,其特征在于,所述方法包括;
依据输入文本中的标识符号,对所述输入文本进行分割,以获得预分词集合,其中,所述预分词集合包括至少一组待确认短语,所述待确认短语为所述输入文本的一部分;
依次提取所述预分词集合中的待确认短语;
依据标准词性链条集合和所述待确认短语的词性链,从所述待确认短语中筛选出目标短语,其中,所述标准词性链条集合包括至少一条标准词性链,所述目标短语的词性链为所述标准词性链,所述目标短语为所述待确认短语中的连续的一部分;
将所述目标短语添加至分词结果集合中;
在所述预分词集合为空的情况下,输出所述分词结果集合;
所述依据标准词性链条集合和所述待确认短语的词性链,从所述待确认短语中筛选出目标短语的步骤,包括:
判断所述待确认短语的词性链的长度是否大于第一长度,其中,所述第一长度为最长的标准词性链的长度;
若小于或等于,则判断所述待确认短语的词性链是否与任意一组标准词性链相同;
若相同,则确定所述待确认短语为所述目标短语;
若不同,则去除所述待确认短语的词性链中首位或末尾词性对应的词汇,以得到新的待确认短语;
重复判断待确认短语的词性链是否与任意一组标准词性链相同,直至所述待确认短语的词性链为空;
所述依据标准词性链条集合和所述待确认短语的词性链,从所述待确认短语中筛选出目标短语的步骤,还包括:
若所述待确认短语的词性链的长度大于所述第一长度,则从所述待确认短语中提取第一子短语,其中,所述第一子短语的词性链长度为所述第一长度,所述第一子短语中的第一个词汇为所述待确认短语中的第一个词汇;
判断所述第一子短语的词性链是否与任意一组标准词性链相同;
若相同,则将所述第一子短语作为一组目标短语;
判断第一分割词汇对应的词性与所述待确认短语的词性链的末端之间的长度是否大于所述第一长度,其中,所述第一分割词汇为所述待确认短语中与所述第一子短语末端相邻的词汇;
若大于,则将所述第一分割词汇作为新的第一子短语的第一个词汇;
重复判断所述第一子短语的词性链是否与任意一组标准词性链相同,直至新的第一分割词汇对应的词性与所述待确认短语的词性链的末端之间的长度小于或等于所述第一长度;
若小于或等于,则将所述第一分割词汇到所述待确认短语的末端作为新的待确认短语;
重复判断待确认短语的词性链是否与任意一组标准词性链相同,直至所述待确认短语的词性链为空。
2.如权利要求1所述的文本分词方法,其特征在于,所述依据标准词性链条集合和所述待确认短语的词性链,从所述待确认短语中筛选出目标短语的步骤,还包括:
若所述第一子短语的词性链与任意一组标准词性链均不同,判断第二分割词汇对应的词性与所述待确认短语的词性链的末端之间的长度是否大于所述第一长度,其中,所述第二分割词汇为所述第一子短语中的第二位词汇;
若大于,则将所述第二分割词汇作为新的第一子短语的第一个词汇;
重复判断所述第一子短语的词性链是否与任意一组标准词性链相同,直至新的第二分割词汇对应的词性与所述待确认短语的词性链的末端之间的长度小于或等于所述第一长度;
若第一计数的数值等于所述第一长度的数值,获得第二子短语,并将所述第一计数清零,其中,所述第一计数表征判断结果连续为第一子短语的词性链与任意一组标准词性链均不相同的累加次数,所述第二子短语的末位词汇为当前的第一子短语的首位词汇,所述第二子短语的长度为所述第一长度;
将所述第二子短语作为新的待确认短语;
重复判断待确认短语的词性链是否与任意一组标准词性链相同,直至所述待确认短语的词性链为空。
3.如权利要求2所述的文本分词方法,其特征在于,所述依据标准词性链条集合和所述待确认短语的词性链,从所述待确认短语中筛选出目标短语的步骤,还包括:
若第二分割词汇对应的词性与所述待确认短语的词性链的末端之间的长度小于或等于所述第一长度,则将所述第二分割词汇到所述待确认短语的末端作为新的待确认短语;
重复判断待确认短语的词性链是否与任意一组标准词性链相同,直至所述待确认短语的词性链为空。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于多点(深圳)数字科技有限公司,未经多点(深圳)数字科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110494883.6/1.html,转载请声明来源钻瓜专利网。
- 上一篇:婴幼儿眼部雾化给药装置
- 下一篇:一种废水浓缩系统