[发明专利]一种文本分类模型的训练方法、装置、设备以及可读介质在审
申请号: | 202110210276.2 | 申请日: | 2021-02-25 |
公开(公告)号: | CN112883193A | 公开(公告)日: | 2021-06-01 |
发明(设计)人: | 黄海龙 | 申请(专利权)人: | 中国平安人寿保险股份有限公司 |
主分类号: | G06F16/35 | 分类号: | G06F16/35;G06F40/247;G06F40/279;G06F40/30;G06F40/58;G06N3/04;G06N3/08 |
代理公司: | 广州三环专利商标代理有限公司 44202 | 代理人: | 熊永强 |
地址: | 518000 广东省深圳市福田区益田路5033号*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 文本 分类 模型 训练 方法 装置 设备 以及 可读 介质 | ||
1.一种文本分类模型的训练方法,其特征在于,包括:
获取初始分类模型的训练样本集,所述训练样本集包括有标记样本集和无标记样本集,所述有标记样本集包括多个第一文本数据,每个第一文本数据携带有类别标签,所述无标记样本集包括多个第二文本数据;
对所述无标记样本集中的每个第二文本数据进行文本增强处理,得到增强的无标记文本数据;
将所述有标记样本集、所述无标记样本集和所述增强的无标记文本数据分别输入所述初始分类模型,得到所述有标记样本集中每个第一文本数据的预测类别标签的第一概率分布、所述无标记样本集中每个第二文本数据的预测类别标签的第二概率分布、以及所述增强的无标记文本数据的预测类别标签的第三概率分布;
根据所述第一概率分布、所述第二概率分布和所述第三概率分布,确定第一损失函数,并根据所述第一损失函数和所述训练样本集,对所述初始分类模型进行迭代训练;
当所述第一损失函数满足训练结束条件时,确定所述第一损失函数满足训练结束条件时的初始分类模型为目标文本分类模型。
2.根据权利要求1所述的方法,其特征在于,所述根据所述第一概率分布、所述第二概率分布和所述第三概率分布,确定第一损失函数,包括:
根据预设的交叉熵计算所述第一概率分布和所述有标记样本集中每个第一文本数据对应的预设概率分布的第一差异度,并根据所述第一差异度确定第二损失函数;
根据所述预设的交叉熵计算所述第二概率分布和所述第三概率分布之间的第二差异度,并根据所述第二差异度确定第三损失函数;
根据所述第二损失函数和所述第三损失函数,确定所述第一损失函数。
3.根据权利要求2所述的方法,其特征在于,所述根据所述第二损失函数和所述第三损失函数,确定所述第一损失函数,包括:
根据预设的第一比例系数和所述第二损失函数,计算所述第一比例系数和所述第二损失函数的积,得到第一结果,所述第一比例系数为正数;
根据预设的第二比例系数和所述第三损失函数,计算所述第二比例系数和所述第三损失函数的积,得到第二结果,所述第二比例系数为正数;
确定所述第一结果与所述第二结果的和为所述第一损失函数。
4.根据权利要求2所述的方法,其特征在于,所述根据所述预设的交叉熵计算所述第二概率分布和所述第三概率分布之间的第二差异度,并根据所述第二差异度确定第三损失函数之后,所述方法还包括:
在所述第三损失函数小于预设阈值的情况下,将所述第三概率分布中的最大概率对应的类别标签确定为所述增强的无标记文本数据对应的类别标签;
将所述增强的无标记文本数据和所述第三概率分布中的最大概率对应的类别标签加入所述有标记样本集;
根据加入所述增强的无标记文本数据和所述第三概率分布中的最大概率对应的类别标签后的有标记样本集,对所述初始分类模型进行训练。
5.根据权利要求1所述的方法,其特征在于,所述第二文本数据包括第一语言文本数据;所述对所述无标记样本集中的每个第二文本数据进行文本增强处理,得到增强的无标记文本数据,包括:
对所述第一语言文本数据进行语言转换处理,得到第二语言文本数据;
随机抽取所述第二语言文本数据中的单词,并根据预设单词与同义词的对应关系从预设的同义词集合中获取与所述单词对应的同义词,以及利用所述同义词替换所述第二语言文本数据中的所述单词;
将替换后的第二语言文本数据进行语言转换处理,得到更新后的第一语言文本数据,并确定所述更新后的第一语言文本数据为所述增强的无标记文本数据。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中国平安人寿保险股份有限公司,未经中国平安人寿保险股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110210276.2/1.html,转载请声明来源钻瓜专利网。
- 上一篇:建筑物太阳能板体组装系统
- 下一篇:一种多功能膝关节康复训练器