[发明专利]一种文本分类的方法和装置有效
申请号: | 201510364152.4 | 申请日: | 2015-06-26 |
公开(公告)号: | CN105005589B | 公开(公告)日: | 2017-12-29 |
发明(设计)人: | 邹缘孙 | 申请(专利权)人: | 腾讯科技(深圳)有限公司 |
主分类号: | G06F17/30 | 分类号: | G06F17/30 |
代理公司: | 北京三高永信知识产权代理有限责任公司11138 | 代理人: | 刘映东 |
地址: | 518000 广东省深圳*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 文本 分类 方法 装置 | ||
1.一种文本分类的方法,其特征在于,所述方法包括:
获取待分类的文本包括的每个词语的词向量、词频、权重和逆文档频率,其中,词向量指基于词嵌入技术构造的词语向量的描述;
获取第一类别对应的词语集合中的各词语的词向量,计算所述获取到词向量的平均词向量并将所述平均词向量作为所述第一类别的词向量,分别计算所述每个词语的词向量与所述第一类别的词向量之间的距离,将所述每个词语的词向量与所述第一类别的词向量之间的距离分别作为所述每个词语与所述第一类别之间的第一隶属度,所述第一类别为类别集合中的任一类别;
分别计算所述每个词语的词频、权重、逆文档频率以及与所述第一类别之间的第一隶属度的乘积,得到所述每个词语与所述第一类别之间的第三隶属度,将所述每个词语与所述第一类别之间的第三隶属度进行累加,得到所述文本与所述第一类别之间的第二隶属度;
从所述类别集合中选择与所述文本之间的第二隶属度满足预设条件的类别,将所述选择的类别确定为所述文本的类别。
2.如权利要求1所述的方法,其特征在于,所述方法还包括:
获取多个文本样本;
将所述多个文本样本中的每个文本样本进行分词,将得到的词语组成训练集合;
对所述训练集合中的词语进行聚类,得到多个词语集合以及所述多个词语集合中的每个词语集合的类别。
3.如权利要求2所述的方法,其特征在于,所述对所述训练集合中的词语进行聚类,得到多个词语集合以及所述多个词语集合中的每个词语集合的类别,包括:
获取所述训练集合中的各词语的词向量;
根据所述各词语的词语向量,计算所述各词语中的任意两词语之间的距离;
将距离小于预设距离的多个词语组成一个词语集合,以及获取所述词语集合的类别,所述词语集合的类别为用户标注的。
4.一种文本分类的装置,其特征在于,所述装置包括:
第一获取模块,用于获取待分类的文本包括的每个词语的词向量、词频、权重和逆文档频率,其中,词向量指基于词嵌入技术构造的词语向量的描述;
第一计算模块,用于获取第一类别对应的词语集合中的各词语的词向量,计算所述获取到词向量的平均词向量并将所述平均词向量作为所述第一类别的词向量,分别计算所述每个词语的词向量与所述第一类别的词向量之间的距离,将所述每个词语的词向量与所述第一类别的词向量之间的距离分别作为所述每个词语与所述第一类别之间的第一隶属度,所述第一类别为类别集合中的任一类别;
第二计算模块,用于分别计算所述每个词语的词频、权重、逆文档频率以及与所述第一类别之间的第一隶属度的乘积,得到所述每个词语与所述第一类别之间的第三隶属度,将所述每个词语与所述第一类别之间的第三隶属度进行累加,得到所述文本与所述第一类别之间的第二隶属度;
分类模块,用于从所述类别集合中选择与所述文本之间的第二隶属度满足预设条件的类别,将所述选择的类别确定为所述文本的类别。
5.如权利要求4所述的装置,其特征在于,所述装置还包括:
第二获取模块,用于获取多个文本样本;
分词模块,用于将所述多个文本样本中的每个文本样本进行分词,将得到的词语组成训练集合;
聚类模块,用于对所述训练集合中的词语进行聚类,得到多个词语集合以及所述多个词语集合中的每个词语集合的类别。
6.如权利要求5所述的装置,其特征在于,所述聚类模块,包括:
第二获取单元,用于获取所述训练集合中的各词语的词向量;
第三计算单元,用于根据所述各词语的词语向量,计算所述各词语中的任意两词语之间的距离;
聚类单元,用于将距离小于预设距离的多个词语组成一个词语集合;
第三获取单元,用于获取所述词语集合的类别,所述词语集合的类别为用户标注的。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于腾讯科技(深圳)有限公司,未经腾讯科技(深圳)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201510364152.4/1.html,转载请声明来源钻瓜专利网。