[发明专利]文本分析模型的训练方法、文本分析方法、设备及介质在审
| 申请号: | 202310075450.6 | 申请日: | 2023-01-18 |
| 公开(公告)号: | CN116226380A | 公开(公告)日: | 2023-06-06 |
| 发明(设计)人: | 过弋;胡益峰 | 申请(专利权)人: | 华东理工大学 |
| 主分类号: | G06F16/35 | 分类号: | G06F16/35;G06F16/33;G06F40/30;G06N20/00 |
| 代理公司: | 上海晨皓知识产权代理事务所(普通合伙) 31260 | 代理人: | 成丽杰 |
| 地址: | 200237 *** | 国省代码: | 上海;31 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 文本 分析 模型 训练 方法 设备 介质 | ||
本申请实施例涉及文本分析领域,公开了一种文本分析模型的训练方法、文本分析方法、设备及介质。训练方法包括:在原始文本的指定位置添加标志字得到文本信息,并对文本信息中各字进行编码得到的字向量进行拼接得到文本向量;将文本向量输入到特征提取模型中,并将多个提取网络输出的、与指定位置对应的多个输出向量输入到权重提取模型中,得到多个输出权重;通过多个输出权重对多个输出向量进行加权处理,得到文本信息的语义表征向量;将语义表征向量输入到与多个主题类别一一对应的多个分类模型中,得到文本信息所属主题类别和所属情感类别的预测标签;利用预设的分类损失函数对特征提取模型、权重提取模型和多个分类模型进行训练。
技术领域
本申请实施例涉及文本分析技术领域,特别涉及一种文本分析模型的训练方法、文本分析方法、设备及介质。
背景技术
目前,越来越多的民众通过社交媒体了解社会热点新闻,并以评论的形式表达态度和意见,而对各种信息进行文本分析,如:对热点新闻进行主题类别和情感极性分析、对评论进行情感倾向分析等等,有助于了解热点事件的舆论情况,从而进行舆情管控。
目前常用的文本分析方法是采用一种串形的方式先抽取出文本中包含的主题类别的类别词,再针对抽取出的每个类别进行文本的情感分类。然而这种方法由于是先抽取出文本中包含的类别词,再做基于类别词的情感分类,这很容易导致错误从上游任务传递到下游任务,影响整个文本分析的准确率。
发明内容
本申请实施方式的目的在于提供一种模型训练方法、文本分析方法、电子设备及存储介质,利用特征提取模型中各层提取网络输出的、与指定位置对应的输出向量,并对输出向量在训练过程中动态地赋予对应的输出权重,以此得到更为准确且完整的语义表征向量,大大提高了文本分析的准确率。
为解决上述技术问题,本申请的实施方式提供了一种文本分析模型的训练方法,包括:在原始文本的指定位置添加标志字,得到文本信息,并对所述文本信息中各字进行编码得到的字向量进行拼接得到文本向量;将所述文本向量输入到由多个提取网络级联组成的特征提取模型中,并将多个提取网络输出的、与所述指定位置对应的多个输出向量输入到权重提取模型中,得到与所述多个输出向量一一对应的多个输出权重;通过所述多个输出权重对所述多个输出向量进行加权处理,得到所述文本信息的语义表征向量;将所述语义表征向量输入到与多个主题类别一一对应的多个分类模型中,得到所述文本信息所属主题类别和所属情感类别的预测标签;利用预设的分类损失函数对所述特征提取模型、所述权重提取模型和所述多个分类模型进行训练。
本申请的实施方式还提供了一种文本分析方法,包括:在待分析原始文本的指定位置添加标志字,得到待分析文本信息,并对所述待分析文本信息中各字进行编码得到的字向量进行拼接得到文本向量;将所述文本向量输入到训练好的文本分析模型中,得到所述待分析原始文本所属的主题类别和情感类别;其中,所述训练好的文本分析模型包括:特征提取模型、权重提取模型和多个分类模型;所述特征提取模型、权重提取模型和分类模型通过上述实施方式所描述的文本分析模型的训练方法得到。
本申请的实施方式还提供了一种电子设备,包括:至少一个处理器;以及,与至少一个处理器通信连接的存储器;其中,存储器存储有可被至少一个处理器执行的指令,指令被至少一个处理器执行,以使至少一个处理器能够执行如上述实施方式提及的文本分析模型的训练方法,或者能够执行上述实施方式提及的文本分析方法。
本申请的实施方式还提供了一种计算机可读存储介质,存储有计算机程序,计算机程序被处理器执行时实现上述实施方式提及的文本分析模型的训练方法,或者能够执行上述实施方式提及的文本分析方法。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于华东理工大学,未经华东理工大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202310075450.6/2.html,转载请声明来源钻瓜专利网。





