[发明专利]文本分类方法和装置在审
| 申请号: | 202010466025.6 | 申请日: | 2020-05-28 |
| 公开(公告)号: | CN111611386A | 公开(公告)日: | 2020-09-01 |
| 发明(设计)人: | 孟亚洲;史腾飞 | 申请(专利权)人: | 北京学之途网络科技有限公司 |
| 主分类号: | G06F16/35 | 分类号: | G06F16/35;G06N3/08 |
| 代理公司: | 北京超成律师事务所 11646 | 代理人: | 刘静 |
| 地址: | 100000 北京市海淀区*** | 国省代码: | 北京;11 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 文本 分类 方法 装置 | ||
1.一种文本分类方法,其特征在于,所述方法包括:
获取待测文本;
将所述待测文本输入预先训练的分类模型,所述分类模型包括特征提取网络和分类网络,所述分类网络包括多个分类器;
利用所述特征提取网络从所述待测文本中提取得到多个文本特征信息;
将所述多个文本特征信息一一对应输入所述分类网络的多个分类器进行分类处理,得到每个所述分类器的概率值;
依据每个所述分类器的概率值得到所述待测文本的分类结果。
2.根据权利要求1所述的文本分类方法,其特征在于,所述分类模型还包括全连接网络,所述将所述待测文本输入预先训练的分类模型的步骤,还包括:
将所述多个文本特征信息输入所述全连接网络,利用所述全连接网络将所述多个文本特征信息处理成多个一维向量;
将所述多个一维向量一一对应输入所述多个分类器进行分类处理,得到每个所述分类器的概率值。
3.根据权利要求1所述的文本分类方法,其特征在于,所述分类模型是按照以下方式进行训练的:
获取训练样本;
将所述训练样本输入预先构建的分类模型;
利用所述特征提取网络从所述训练样本中提取得到多个训练文本特征信息;
将所述多个训练文本特征信息一一对应输入所述分类网络的多个分类器进行分类处理,得到每个所述分类器的概率值;其中,每个所述分类器预先对应设置有标签信息;
根据每个分类器的标签信息和输出的概率值,对所述特征提取网络和每个所述分类器的参数更新,得到训练后的分类模型。
4.根据权利要求3所述的文本分类方法,其特征在于,所述根据每个分类器的标签信息和输出的概率值,对所述特征提取网络和每个所述分类器的参数更新,得到训练后的分类模型的步骤,包括:
将每个分类器的标签信息和输出的概率值进行计算,获得与每个分类器对应的交叉熵损失函数;
对多个所述交叉熵损失函数进行加权平均计算,获得目标损失函数;
依据所述目标损失函数对所述特征提取网络的参数和每个所述分类器的权重进行更新,直至所述目标损失函数满足预设收敛条件,得到所述训练后的分类模型。
5.根据权利要求4所述的文本分类方法,其特征在于,所述对多个所述交叉熵损失函数进行加权平均计算,获得目标损失函数的步骤,包括:
利用公式Loss=1/N(w1﹡CrossEntropy1+w2﹡CrossEntropy2+…+wN﹡CrossEntropyN),对多个所述交叉熵损失函数进行加权平均计算,得到所述目标损失函数;其中,Loss表示所述目标损失函数,w表示预先设置的初始权重,CrossEntropy表示所述交叉熵损失函数,N表示所述分类器的数量。
6.根据权利要求1所述的文本分类方法,其特征在于,所述特征提取网络包括bert预训练网络、循环神经网络和长短期记忆网络中的一种。
7.根据权利要求1所述的文本分类方法,其特征在于,所述分类器包括Sigmoid函数和归一化指数函数中的一种。
8.一种文本分类装置,其特征在于,所述装置包括:
获取模块,用于获取待测文本;
文本特征输入模块,用于将所述待测文本输入预先训练的分类模型,所述分类模型包括特征提取网络和分类网络,所述分类网络包括多个分类器;
第一处理模块,用于利用所述特征提取网络从所述待测文本中提取得到多个文本特征信息;
第二处理模块,用于将所述多个文本特征信息一一对应输入所述分类网络的多个分类器进行分类处理,得到每个所述分类器的概率值;
结果获得模块,用于依据每个所述分类器的概率值得到所述待测文本的分类结果。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京学之途网络科技有限公司,未经北京学之途网络科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010466025.6/1.html,转载请声明来源钻瓜专利网。





