[发明专利]文本分类方法、模型训练方法、装置、设备以及存储介质在审
申请号: | 202110301953.1 | 申请日: | 2021-03-22 |
公开(公告)号: | CN113064964A | 公开(公告)日: | 2021-07-02 |
发明(设计)人: | 黄深能;赵茜;利啟东;佟博;叶凯亮;高玮;胡盼盼 | 申请(专利权)人: | 广东博智林机器人有限公司 |
主分类号: | G06F16/33 | 分类号: | G06F16/33;G06F16/35;G06F40/289;G06K9/62 |
代理公司: | 北京品源专利代理有限公司 11332 | 代理人: | 孟金喆 |
地址: | 528000 广东省佛山市顺德区*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 文本 分类 方法 模型 训练 装置 设备 以及 存储 介质 | ||
1.一种文本分类模型训练方法,其特征在于,包括:
获取训练样本,对所述训练样本进行预处理,得到所述训练样本对应的样本文本向量;
基于所述样本文本向量,对待训练的文本分类模型进行迭代训练,直到所述文本分类模型满足预设条件,得到训练完成的文本分类模型;
其中,所述对待训练的文本分类模型进行迭代训练,包括:
将所述样本文本向量输入所述文本分类模型,得到所述样本文本向量的关键句预测结果以及文本分类预测结果;基于所述关键句预测结果、所述文本分类预测结果以及所述训练样本的关键句标签和分类标签生成损失函数,并基于所述损失函数对所述文本分类模型进行参数调节。
2.根据权利要求1所述的方法,其特征在于,所述文本分类模型包括特征提取子模型,关键句提取子模型和文本分类子模型;
其中,所述特征提取子模型用于提取所述样本文本向量的特征信息;
所述关键句提取子模型,用于基于所述特征信息确定所述训练样本中的关键句预测结果;
所述文本分类子模型,用于基于所述特征信息确定所述训练样本的文本分类预测结果。
3.根据权利要求1所述的方法,其特征在于,所述对所述训练样本进行预处理,得到所述训练样本对应的样本文本向量,包括:
预先建立所述训练样本对应的样本语料库;
根据所述样本语料库对所述训练样本进行分词,生成所述训练样本中的各句子的第一预设长度的句向量;
基于所述各预设长度的句向量生成第二预设长度的文本向量。
4.根据权利要求1所述的方法,其特征在于,所述损失函数包括关键句第一损失函数、关键句第二损失函数和文本分类损失函数;
所述关键句第一损失函数根据各训练样本中各句子的关键句预测结果与关键句标签生成;
所述关键句第二损失函数根据各训练样本中的关键句预测结果中关键句数量与关键句标签中的关键句数量生成;
所述文本分类损失函数根据各训练样本中的文本分类预测结果与类别标签生成。
5.根据权利要求4所述的方法,其特征在于,所述损失函数还包括困难样本损失函数,所述困难样本损失函数根据困难样本的关键句预测结果与关键句标签生成;
在所述基于所述关键句预测结果、所述文本分类预测结果以及所述训练样本的关键句标签和分类标签生成损失函数之前,还包括:
基于关键句预测结果与关键句标签确定困难样本。
6.根据权利要求5所述的方法,其特征在于,所述基于关键句预测结果与关键句标签确定困难样本,包括:
确定所述训练样本的关键句预测结果中的预测负样本,并基于所述预测负样本的预测结果与关键句标签的差异值确定预设数量的困难样本。
7.一种文本分类方法,其特征在于,包括:
获取待分类文本,确定所述待分类文本的文本向量;
基于文本分类模型对所述文本向量进行分类,得到所述文本分类模型输出的关键句提取结果与文本分类结果,其中,所述文本分类模型由权利要求1-6任一所述的文本分类模型训练方法训练得到;
根据所述关键句提取结果与文本分类结果确定所述待分类文本的分类结果。
8.根据权利要求7所述的方法,其特征在于,所述基于文本分类模型对所述文本向量进行分类,得到所述文本分类模型输出的关键句提取结果与文本分类结果,包括:
所述特征提取子模型提取所述样本文本向量的特征信息;
所述关键句提取子模型确定所述文本向量的关键句,生成所述文本向量的至少一个关键句;
所述文本分类子模型用于确定所述基础特征向量中各句特征向量的类别信息。
9.根据权利要求8所述的方法,其特征在于,所述根据所述关键句提取结果与文本分类结果确定所述待分类文本的分类结果,包括:
基于所述文本向量的各句特征向量的类别信息以及所述各句特征向量中的关键句向量的位置信息确定所述文本向量的至少一个文本类别。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于广东博智林机器人有限公司,未经广东博智林机器人有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110301953.1/1.html,转载请声明来源钻瓜专利网。
- 上一篇:图像处理方法以及装置
- 下一篇:一种马铃薯黄萎病病原菌致病性测定方法