[发明专利]短文本的分类方法、装置、电子设备和存储介质在审
申请号: | 201711157884.1 | 申请日: | 2017-11-20 |
公开(公告)号: | CN110069627A | 公开(公告)日: | 2019-07-30 |
发明(设计)人: | 潘钢 | 申请(专利权)人: | 中国移动通信集团上海有限公司;中国移动通信集团公司 |
主分类号: | G06F16/35 | 分类号: | G06F16/35;G06F17/27 |
代理公司: | 北京路浩知识产权代理有限公司 11002 | 代理人: | 王莹;李相雨 |
地址: | 200060 *** | 国省代码: | 上海;31 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 目标短文本 有效词 类别信息 向量 短文本 存储介质 电子设备 向量表示 重要度 分类 预处理 量化处理 向量化 准确率 概率 | ||
1.一种短文本的分类方法,其特征在于,所述方法包括:
对目标短文本进行预处理,得到多个有效词;
对所述有效词进行第一向量化处理,获取第一向量,所述第一向量表示每一有效词在所述目标短文本的重要度;
根据所述第一向量,确定所述目标短文本的第一类别信息,所述第一类别信息包括所述目标短文本为每一类别的概率;
对所述有效词进行第二向量化处理,获取第二向量,所述第二向量表示每一有效词在所述目标短文本的词序;
根据所述第二向量,确定所述目标短文本的第二类别信息,所述第二类别信息包括所述目标短文本为每一类别的概率;
根据所述第一类别信息和所述第二类别信息,确定所述目标短文本的类别。
2.根据权利要求1所述的方法,其特征在于:所述第一向量的列数是索引词典的维度,所述索引词典的维度是预先确定的训练集的样本短文本的有效词的总数。
3.根据权利要求1所述的方法,其特征在于:所述有效词的重要度是根据词频反文档频率的方式得到的。
4.根据权利要求1所述的方法,其特征在于:根据所述第一向量,确定所述目标短文本的第一类别信息的步骤具体为:
将所述第一向量输入至预先确定的词袋模型,输出所述第一类别信息,所述词袋模型基于随机森林分类器或基于支持向量机分类器。
5.根据权利要求1所述的方法,其特征在于:对所述有效词进行第二向量化处理,获取第二向量的步骤具体为:
对每一有效词进行处理,得到词向量,所述词向量的行数是有效词的个数,列数是预先确定的最大长度;
根据所述词向量,得到第二向量。
6.根据权利要求1所述的方法,其特征在于:根据所述第二向量,确定所述目标短文本的第二类别信息的步骤具体为:
将所述第二向量输入至预先确定的词序模型,输出所述第二类别信息,所述词序模型基于长短期记忆网络分类器或循环神经网络分类器。
7.根据权利要求1所述的方法,其特征在于:根据所述第一类别信息和所述第二类别信息,确定所述目标短文本的类别的步骤具体为:
将所述第一类别信息以及对应的第一权重,所述第二类别信息以及对应的第二权重输入至预先确定的线性回归模型,确定所述目标短文本的类别,所述线性回归模型是根据词袋模型和词序模型融合得到的。
8.一种短文本的分类装置,其特征在于,所述装置包括:
预处理模块,用于对目标短文本进行预处理,得到多个有效词;
第一获取模块,用于对所述有效词进行第一向量化处理,获取第一向量,所述第一向量表示每一有效词在所述目标短文本的重要度;
第一确定模块,用于根据所述第一向量,确定所述目标短文本的第一类别信息,所述第一类别信息包括所述目标短文本为每一类别的概率;
第二获取模块,用于对所述有效词进行第二向量化处理,获取第二向量,所述第二向量表示每一有效词在所述目标短文本的词序;
第二确定模块,用于根据所述第二向量,确定所述目标短文本的第二类别信息,所述第二类别信息包括所述目标短文本为每一类别的概率;
第三确定模块,用于根据所述第一类别信息和所述第二类别信息,确定所述目标短文本的类别。
9.一种电子设备,其特征在于,包括存储器、处理器、总线以及存储在存储器上并可在处理器上运行的计算机程序,其特征在于,所述处理器执行所述程序时实现如权利要求1-7任意一项的步骤。
10.一种存储介质,其上存储有计算机程序,其特征在于:所述程序被处理器执行时实现如权利要求1-7任意一项的步骤。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中国移动通信集团上海有限公司;中国移动通信集团公司,未经中国移动通信集团上海有限公司;中国移动通信集团公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201711157884.1/1.html,转载请声明来源钻瓜专利网。