[发明专利]模型的训练方法、文本分类方法和装置、设备、介质在审
申请号: | 202210253301.X | 申请日: | 2022-03-15 |
公开(公告)号: | CN114637847A | 公开(公告)日: | 2022-06-17 |
发明(设计)人: | 王彦;谢淋;马骏;王少军 | 申请(专利权)人: | 平安科技(深圳)有限公司 |
主分类号: | G06F16/35 | 分类号: | G06F16/35;G06F40/284;G06F40/295;G06N3/04;G06N3/08 |
代理公司: | 广州嘉权专利商标事务所有限公司 44205 | 代理人: | 廖慧贤 |
地址: | 518000 广东省深圳市福田区福*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 模型 训练 方法 文本 分类 装置 设备 介质 | ||
1.一种模型的训练方法,其特征在于,所述方法用于训练目标分类模型,所述方法包括:
获取原始训练数据,其中,所述原始训练数据包括第一原始数据和第二原始数据;
对所述第二原始数据进行上采样处理,得到初始训练数据;
根据预设的增强参数对所述初始训练数据进行增强处理,得到增强训练数据;
对所述增强训练数据进行编码处理,得到目标词嵌入向量;
对所述目标词嵌入向量进行扰动处理,得到目标训练数据;
根据所述第一原始数据和所述目标训练数据对预设的神经网络模型进行训练,得到目标分类模型,其中,所述目标分类模型为文本分类模型,用于对目标文本数据进行分类。
2.根据权利要求1所述的训练方法,其特征在于,所述增强参数包括第一扰动比率,所述根据预设的增强参数对所述初始训练数据进行增强处理,得到增强训练数据的步骤,包括:
获取所述初始训练数据的第一句子长度;
根据所述第一句子长度和所述第一扰动比率,计算第一扰动量;
根据所述第一扰动量对所述初始训练数据进行删减处理,得到所述增强训练数据。
3.根据权利要求1所述的训练方法,其特征在于,所述增强参数包括第二扰动比率,所述根据预设的增强参数对所述初始训练数据进行增强处理,得到增强训练数据的步骤,包括:
获取所述初始训练数据的第二句子长度;
根据所述第二句子长度和所述第二扰动比率,计算第二扰动量;
根据所述第二扰动量和预设的标点符号对所述初始训练数据进行扩充处理,得到所述增强训练数据。
4.根据权利要求1至3任一项所述的训练方法,其特征在于,所述根据所述第一原始数据和所述目标训练数据对预设的神经网络模型进行训练,得到目标分类模型的步骤,包括:
通过预设函数对所述第一原始数据和所述目标训练数据进行扰动计算,得到文本扰动值;
根据所述文本扰动值对所述神经网络模型的损失函数进行计算,得到损失值;
将所述损失值作为反向传播量,调整所述神经网络模型的模型参数,以训练所述神经网络模型,得到所述文本分类模型。
5.一种文本分类方法,其特征在于,所述方法包括:
获取待分类的目标文本数据;
将所述目标文本数据输入至目标分类模型进行标签分类处理,得到标签文本数据,其中,所述目标分类模型根据如权利要求1至4任一项所述的训练方法训练得到。
6.根据权利要求5所述的文本分类方法,其特征在于,所述将所述目标文本数据输入至目标分类模型进行标签分类处理,得到标签文本数据的步骤,包括:
通过所述目标分类模型的全连接层将所述目标文本数据映射到预设的向量空间,得到目标文本向量;
通过所述全连接层的分类函数和预设文本类别标签对所述目标文本向量进行标签分类处理,得到所述标签文本数据。
7.一种模型的训练装置,其特征在于,所述装置包括:
训练数据获取模块,用于获取原始训练数据,其中,所述原始训练数据包括第一原始数据和第二原始数据;
上采样模块,用于对所述第二原始数据进行上采样处理,得到初始训练数据;
数据增强模块,用于根据预设的增强参数对所述初始训练数据进行增强处理,得到增强训练数据;
编码模块,用于对所述增强训练数据进行编码处理,得到目标词嵌入向量;
扰动模块,用于对所述目标词嵌入向量进行扰动处理,得到目标训练数据;
模型训练模块,用于根据所述第一原始数据和所述目标训练数据对预设的神经网络模型进行训练,得到目标分类模型,其中,所述目标分类模型为文本分类模型,用于对目标文本数据进行分类。
8.一种文本分类装置,其特征在于,所述装置包括:
文本数据获取模块,用于获取待分类的目标文本数据;
标签分类模块,用于将所述目标文本数据输入至目标分类模型进行标签分类处理,得到标签文本数据,其中,所述目标分类模型根据如权利要求1至4任一项所述的训练方法训练得到。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于平安科技(深圳)有限公司,未经平安科技(深圳)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202210253301.X/1.html,转载请声明来源钻瓜专利网。