[发明专利]文本分类方法和装置在审
| 申请号: | 201910354212.2 | 申请日: | 2019-04-29 |
| 公开(公告)号: | CN111858917A | 公开(公告)日: | 2020-10-30 |
| 发明(设计)人: | 郑宇宇 | 申请(专利权)人: | 京东数字科技控股有限公司 |
| 主分类号: | G06F16/35 | 分类号: | G06F16/35;G06F16/33;G06F40/30;G06F40/289 |
| 代理公司: | 中原信达知识产权代理有限责任公司 11219 | 代理人: | 张一军;冯培培 |
| 地址: | 100176 北京市北京经济*** | 国省代码: | 北京;11 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 文本 分类 方法 装置 | ||
1.一种文本分类方法,其特征在于,所述方法包括:
将待分类文本切分为多个语义单元,然后基于所述多个语义单元构建第一词序树;其中,所述第一词序树包括多个分支,每个分支存储有一个语义单元组合,并且所述语义单元组合中的各个语义单元按照其在待分类文本中出现的先后顺序进行排列;
将第一词序树与分类语料库中已知类别的文本对应的第二词序树进行对比,然后根据对比结果确定所述待分类文本与所述已知类别的文本的相似度;
根据所述待分类文本与所述已知类别的文本的相似度确定所述待分类文本的类别。
2.根据权利要求1所述的方法,其特征在于,所述基于所述多个语义单元构建第一词序树的步骤包括:
基于所述多个语义单元构建多个语义单元组合,并且确定所述语义单元组合中的各个语义单元的层次号;所述层次号是通过对同一语义单元组合中的语义单元按照其在待分类文本中出现的先后顺序进行排序得到的;按照所述层次号将所述多个语义单元组合中的语义单元存储至多叉树中对应层次的节点中,并令同一语义单元组合中的各个语义单元位于多叉树的同一分支中,以得到所述第一词序树。
3.根据权利要求1所述的方法,其特征在于,所述对比结果包括:第二词序树中存在的与第一词序树匹配的语义单元组合;
所述将第一词序树与分类语料库中已知类别的文本对应的第二词序树进行对比的步骤包括:从第一词序树中获取所有的语义单元组合,然后根据获取的每个语义单元组合对所述已知类别的文本对应的第二词序树进行遍历、比对,以确定第二词序树中存在的与第一词序树匹配的语义单元组合。
4.根据权利要求3所述的方法,其特征在于,所述根据对比结果确定所述待分类文本与所述已知类别的文本的相似度的步骤包括:确定第二词序树中存在的与第一词序树匹配的语义单元组合的最大长度,然后根据所述最大长度以及所述已知类别的文本的长度计算所述待分类文本与所述已知类别的文本的相似度。
5.根据权利要求1所述的方法,其特征在于,所述根据所述待分类文本与所述已知类别的文本的相似度确定所述待分类文本的类别的步骤包括:
根据所述待分类文本与同一已知类别下的各个文本的相似度确定待分类文本属于该已知类别的第一权重值和第二权重值;其中,第一权重值为所述待分类文本与同一已知类别下的各个文本的相似度的最大值,第二权重值为所述待分类文本与同一已知类别下的各个文本的相似度的均值;在满足一个已知类别的第一权重值大于第一阈值的情况下,将该已知类别作为所述待分类文本的类别;否则,对所有已知类别的第二权重值由大到小排序,并将排序结果中的前N位已知类别作为所述待分类文本的类别;其中,N为大于等于1的整数。
6.一种文本分类装置,其特征在于,所述装置包括:
构建模块,用于将待分类文本切分为多个语义单元,然后基于所述多个语义单元构建第一词序树;其中,所述第一词序树包括多个分支,每个分支存储有一个语义单元组合,并且所述语义单元组合中的各个语义单元按照其在待分类文本中出现的先后顺序进行排列;
确定模块,用于将第一词序树与分类语料库中已知类别的文本对应的第二词序树进行对比,然后根据对比结果确定所述待分类文本与所述已知类别的文本的相似度;
分类模块,用于根据所述待分类文本与所述已知类别的文本的相似度确定所述待分类文本的类别。
7.根据权利要求6所述的装置,其特征在于,所述构建模块基于所述多个语义单元构建第一词序树包括:
所述构建模块基于所述多个语义单元构建多个语义单元组合,并且确定所述语义单元组合中的各个语义单元的层次号;所述层次号是通过对同一语义单元组合中的语义单元按照其在待分类文本中出现的先后顺序进行排序得到的;所述构建模块按照所述层次号将所述多个语义单元组合中的语义单元存储至多叉树中对应层次的节点中,并令同一语义单元组合中的各个语义单元位于多叉树的同一分支中,以得到所述第一词序树。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于京东数字科技控股有限公司,未经京东数字科技控股有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910354212.2/1.html,转载请声明来源钻瓜专利网。





