[发明专利]一种文本分类的控制方法有效
申请号: | 201710943645.2 | 申请日: | 2017-10-11 |
公开(公告)号: | CN107908649B | 公开(公告)日: | 2020-07-28 |
发明(设计)人: | 赵冲 | 申请(专利权)人: | 北京智慧星光信息技术有限公司 |
主分类号: | G06F16/35 | 分类号: | G06F16/35 |
代理公司: | 北京国昊天诚知识产权代理有限公司 11315 | 代理人: | 许志勇;刘昕 |
地址: | 100080 北京市海*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 文本 分类 控制 方法 | ||
本发明公开了一种文本分类的控制方法,包括:对训练集中随机选择的待分类文档进行第一训练处理;对训练集中已筛选的待分类文档进行第二训练处理;将第一次训练处理的文本分类特征和第二次训练处理后的文本分类特征进行特征交集组合操作后,生成新的文本分类特征并纳入总体特征库中;对训练集中新增语料进行增量训练,其中按序进行第一次训练处理和第二次训练处理后,对两次训练后的文本分类特征进行特征交集组合操作生成新的文本分类特征的增量特征,同时将新的文本分类特征的增量特征纳入到总体特征库中,完成文本分类的控制。本发明解决了当前分类方法中只经过一次分类训练,导致文本分类准确率低、相似类别区分效果差、效率低的问题。
技术领域
本发明涉及计算机和通信技术领域,尤其涉及一种文本分类的控制方法。
背景技术
随着互联网的广泛应用,海量的信息呈指数式爆炸增长。在人们所面临的信息中有大量的文本信息,因此,对文本信息的处理技术尤为重要。其中,对文本信息进行分类是组织和管理文本信息的一个有效手段,将文本信息进行分类可以方便人们对文本信息的浏览、查找和使用。文本分类是指由计算机将互联网数据进行自动分类计算,通过集中可管理的映射模型,由映射模型对待计算数据进行分类与整合,并且在输入内容时,可以快速找到正确类目,使得文本随意数据规范化。
目前现有的技术是经过一次分类训练,就开始进行计算。由于目前的技术方法都是经过一次分类训练,然后经过计算将文本进行分类。目前这样的分类方法存在明显的缺陷:文本分类准确率低、相似类别区分效果差、效率低。
因此,如何提供一种文本分类的控制的技术方案,就成为了当前需要解决的问题。
发明内容
本发明所要解决的技术问题在于提供一种文本分类的控制方法,以解决当前分类方法中只经过一次分类训练,导致文本分类准确率低、相似类别区分效果差、效率低的问题。
为了解决上述问题,本发明提供了一种文本分类的控制方法,包括:
对训练集中随机选择的待分类文档进行第一训练处理,其中通过对各指定类别中出现的所有单词根据TF-IDF算法计算各单词的权重值W1,并根据各单词的权重值的排序获取到第一训练处理后的文本分类特征;
对训练集中已筛选的待分类文档进行第二训练处理,其中通过对各指定类别中出现的所有单词根据以下公式计算各单词的权重值W2,并根据各单词的权重值的排序获取到第二训练处理后的文本分类特征;
W2=N×(A×D-B×C)2/((A+B)×(C+D)×(A+C)×(B+D)),
其中,N为训练集中已筛选的待分类文档总数;A为某指定类别中出现一单词W的文档数目;B为除该指定类别外,其他所有指定类别中出现单词W的文档数目,C为该指定类别中没有出现单词W的文档数目;D为除该指定类别外,其他所有指定类别中没有出现单词W的文档数目;
将第一次训练处理的文本分类特征和第二次训练处理后的文本分类特征进行特征交集组合操作后,生成新的文本分类特征并纳入总体特征库中;
对训练集中新增语料进行增量训练,其中按序进行第一次训练处理和第二次训练处理后,对两次训练后的文本分类特征进行特征交集组合操作生成新的文本分类特征的增量特征,同时将新的文本分类特征的增量特征纳入到总体特征库中,完成文本分类的控制。
进一步地,上述方法还可包括:所述对训练集中随机选择的待分类文档进行第一训练处理,其中通过对各指定类别中出现的所有单词根据TF-IDF算法计算各单词的权重值W1,并根据各单词的权重值的排序获取到第一训练处理后的文本分类特征的步骤,包括:
对训练集中所有随机选择的待分类文档进行分词后,将分词后的文件名以.seg为扩展名进行保存,其中不进行词性标注操作;
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京智慧星光信息技术有限公司,未经北京智慧星光信息技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201710943645.2/2.html,转载请声明来源钻瓜专利网。