[发明专利]模型训练方法、分析方法、装置、设备及介质在审
申请号: | 202210005005.8 | 申请日: | 2022-01-05 |
公开(公告)号: | CN114357170A | 公开(公告)日: | 2022-04-15 |
发明(设计)人: | 陈芳 | 申请(专利权)人: | 中国工商银行股份有限公司 |
主分类号: | G06F16/35 | 分类号: | G06F16/35;G06K9/62 |
代理公司: | 中科专利商标代理有限责任公司 11021 | 代理人: | 樊晓 |
地址: | 100140 北*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 模型 训练 方法 分析 装置 设备 介质 | ||
1.一种基于用户评论的模型训练方法,包括:
按照不同的倾向性情绪类型对第一目标数量的用户评论文本进行分类处理,得到含有分类标签的训练文本集,其中,所述训练文本集中包括多条具有分类标签的用户评论文本;
将所述训练文本集中的所述用户评论文本输入至预训练的语言表征模型,以便输出每条所述用户评论文本的特征向量;
将每条所述用户评论文本的特征向量输入逻辑回归模型,以便输出每条所述用户评论文本的分类结果;以及
根据每条所述用户评论文本的分类结果和分类标签调整所述预训练的语言表征模型的模型参数。
2.根据权利要求1所述的方法,其中,所述语言表征模型包括预训练模型和微调模型,所述将所述训练文本集中的所述用户评论文本输入至预训练的语言表征模型,以便输出每条所述用户评论文本的特征向量包括:
根据所述预训练模型的模型参数,初始化所述微调模型的模型参数,得到已调参的初始微调模型;
将所述训练文本集中的所述用户评论文本输入至所述已调参的初始微调模型,通过数字化编码提取单词特征、单词属性特征、单词位置特征;
将所述单词特征、所述单词属性特征和所述单词位置特征进行融合,输出融合后的特征向量;
将所述融合后的特征向量输入所述语言表征模型的隐藏层,输出所述每条所述用户评论文本的特征向量。
3.根据权利要求1所述的方法,其中,在所述按照不同的倾向性情绪类型对第一目标数量的用户评论文本进行分类处理,得到含有分类标签的训练文本集之前,还包括:
对获取的预设数量的用户评论文本,进行预处理,得到所述目标数量的用户评论文本;
从所述目标数量的用户评论文本中进行筛选,得到所述第一目标数量的用户评论文本。
4.根据权利要求3所述的方法,其中,所述对获取的预设数量的用户评论文本,进行预处理,得到所述目标数量的用户评论文本包括:
将所述预设数量的用户评论文本中的表情符号转换为文本,得到所述目标数量的用户评论文本;和/或
将所述预设数量的用户评论文本中的无效数据进行剔除,得到所述目标数量的用户评论文本。
5.根据权利要求3所述的方法,还包括:
基于所述用户评论文本的分类结果,对训练得到的所述预训练的语言表征模型进行评估。
6.根据权利要求5所述的方法,其中,所述基于所述用户评论文本的分类结果,对训练得到的所述预训练的语言表征模型进行评估包括:
从所述目标数量的用户评论文本中进行筛选,得到第二目标数量的用户评论文本;
将每条所述第二目标数量的用户评论文本输入至训练得到的所述预训练的语言表征模型,以便输出每条所述用户评论文本的测试分类结果;
通过计算所述测试分类结果的准确率,对训练得到的所述预训练的语言表征模型进行评估。
7.一种基于用户评论的分析方法,包括:
获取与目标产品关联的用户评论文本集,其中,所述用户评论文本集中包括多条用户评论文本;
将所述用户评论文本集中的所述用户评论文本输入至预先训练好的模型;以及
输出每条所述用户评论文本的分类结果;
其中,所述预先训练好的模型根据权利要求1~6任一项所述的方法训练得到。
8.一种基于用户评论的分类模型训练装置,包括:
数据处理模块,用于按照不同的倾向性情绪类型对第一目标数量的用户评论文本进行分类处理,得到含有分类标签的训练文本集,其中,所述训练文本集中包括多条具有分类标签的用户评论文本;
特征提取模块,用于将所述训练文本集中的所述用户评论文本输入至预训练的语言表征模型,以便输出每条所述用户评论文本的特征向量;
分类模块,用于将每条所述用户评论文本的特征向量输入逻辑回归模型,以便输出每条所述用户评论文本的分类结果;以及
参数调整模块,用于根据每条所述用户评论文本的分类结果和分类标签调整所述预训练的语言表征模型的模型参数。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中国工商银行股份有限公司,未经中国工商银行股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202210005005.8/1.html,转载请声明来源钻瓜专利网。