[发明专利]文本分类器的构建方法、构建装置及文本分类方法有效
申请号: | 201710779864.1 | 申请日: | 2017-09-01 |
公开(公告)号: | CN107491554B | 公开(公告)日: | 2018-12-04 |
发明(设计)人: | 李德彦;晋耀红;席丽娜 | 申请(专利权)人: | 北京神州泰岳软件股份有限公司 |
主分类号: | G06F17/30 | 分类号: | G06F17/30;G06F17/27 |
代理公司: | 北京弘权知识产权代理事务所(普通合伙) 11363 | 代理人: | 逯长明;许伟群 |
地址: | 100089 北京市海淀区*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 文本 分类 构建 方法 装置 | ||
本申请实施例公开了一种文本分类器的构建方法,包括以下步骤:获取分类体系,以多叉树数据结构存储所述分类体系,生成本体树;从所述本体树的本体节点中提取关键词;获取本体表达式,所述本体表达式根据分类规则和语义模型生成,所述分类规则根据所述关键词和逻辑算子生成,所述语义模型根据所述关键词生成;将所述本体节点与相应的所述本体表达式建立关联,得到文本分类器,所述文本分类器包括所述本体树以及与所述本体树各个本体节点相应关联的本体表达式。利用上述方法所构建的文本分类器对未知文本进行分类,可以精确地对特征交叉严重的文本进行分类,同时,避免了训练语料不均衡导致分类出错的问题。
技术领域
本申请涉及文本挖掘技术领域,尤其涉及一种文本分类器的构建方法。此外,本申请还涉及一种文本分类器的构建装置,以及一种文本分类方法。
背景技术
随着互联网资源的迅猛发展,各种各样的文本快速增加。文本包括结构化文本和非结构化文本,从非结构化文本中获取用户感兴趣或者有用的文本信息的过程,被称为文本挖掘。文本分类是文本挖掘技术中重要的一种。
常见的文本分类主要采用统计方法,包括k近邻法、朴素贝叶斯法、神经网络法及支持向量机方法等。基于统计方法的文本分类,采用预先标记好的训练语料来训练获取各类别的模板,再利用模板对未知文本进行分类。当文本分类要求为细粒度分类时,类别与类别之间的语料内容存在相同的特征,即产生特征交叉现象。当特征交叉现象较为严重时,就会显著降低文本分类的精度。
发明内容
现有的文本分类器不能适用于特征交叉严重的文本,为解决这个技术问题,第一方面,本申请提供一种文本分类器的构建方法,包括以下步骤:
获取分类体系,以多叉树数据结构存储所述分类体系,生成本体树;
从所述本体树的本体节点中提取关键词;
获取本体表达式,所述本体表达式根据分类规则和语义模型生成,所述分类规则根据所述关键词和逻辑算子生成,所述语义模型根据所述关键词生成;
将所述本体节点与相应的所述本体表达式建立关联,得到文本分类器,所述文本分类器包括所述本体树以及与所述本体树各个本体节点相应关联的本体表达式。
结合第一方面,在第一方面第一种可能的实现方式中,从所述本体树的本体节点中提取关键词的步骤,包括:
从本体节点的名称中提取主题词;
根据所述主题词获取扩展词,得到包括所述主题词和所述扩展词的所述关键词。
结合第一方面及上述可能的实现方式,在第一方面第二种可能的实现方式中,根据所述主题词获取扩展词的步骤包括:
将预设的样本文本进行分词得到第一字符;
根据第一字符构建倒排索引,得到索引库;
将所述主题词进行分词得到第二字符;
将第二字符与所述索引库匹配;
根据匹配的结果计算样本文本与主题词的相关度;
按照相关度由大至小降序显示相关度大于零的所述样本文本;
在显示的样本文本中高亮标记与所述第二字符匹配的第一字符;
根据显示的样本文本中与所述主题词部分匹配的字符获取扩展词。
结合第一方面及上述可能的实现方式,在第一方面第三种可能的实现方式中,利用所述文本分类器确定预设的测试文本的预测分类标签;
当准确率小于预设阈值时,调整所述文本分类器中的本体表达式,所述准确率为与测试文本的原始分类标签匹配的预测分类标签的数量占预测分类标签总数的比值。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京神州泰岳软件股份有限公司,未经北京神州泰岳软件股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201710779864.1/2.html,转载请声明来源钻瓜专利网。
- 上一篇:一种数据挖掘方法及系统
- 下一篇:知识图谱构建方法和系统