[发明专利]融入情感信息的意图识别方法及装置、存储介质、计算机设备在审
申请号: | 202110326605.X | 申请日: | 2021-03-26 |
公开(公告)号: | CN115129856A | 公开(公告)日: | 2022-09-30 |
发明(设计)人: | 不公告发明人 | 申请(专利权)人: | 上海乐言科技股份有限公司 |
主分类号: | G06F16/35 | 分类号: | G06F16/35;G06K9/62;G06N3/04;G06N3/08;G06F40/284 |
代理公司: | 北京集佳知识产权代理有限公司 11227 | 代理人: | 张振军 |
地址: | 200050 上海市长*** | 国省代码: | 上海;31 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 融入 情感 信息 意图 识别 方法 装置 存储 介质 计算机 设备 | ||
1.一种融入情感信息的意图识别方法,其特征在于,所述方法包括:
获取目标文本,将所述目标文本通过编码器得到文本表示,所述编码器用于将所述目标文本中的字符转换为对应的向量表示,以得到所述文本表示;通过情感分类模型对所述文本表示进行情感分类,以得到所述文本表示对应的情感表示,其中,所述情感分类模型是基于各个文本与其对应的情感表示训练得到;
结合所述文本表示和所述情感表示,通过意图分类器对所述目标文本进行意图识别。
2.根据权利要求1所述的方法,其特征在于,所述文本表示包括文本表示矩阵,所述情感表示包括情感表示矩阵,所述结合所述文本表示和所述情感表示,通过意图分类器对所述目标文本进行意图识别,包括:
将所述文本表示矩阵和所述情感表示矩阵相加/拼接,将相加/拼接结果输入意图分类器中以得到意图识别结果。
3.根据权利要求1所述的方法,其特征在于,所述情感分类模型和意图分类器的训练方法包括:
以若干个第一样本文本和各个第一样本文本对应的情感标签作为第一训练样本,经过训练得到所述情感分类模型和所述意图分类器。
4.根据权利要求1所述的方法,其特征在于,所述情感分类模型的训练方法包括:
以若干个第二样本文本和各个第二样本文本对应的情感标签作为第二训练样本;
通过所述第二训练样本得到初始模型;
获取若干个无监督的第三样本文本,将各个第三样本文本输入所述初始情感分类模型中得到各个第三样本文本对应的情感表示;
获取得到的各个第三样本文本对应的情感表示对应的模型置信度;
将所述模型置信度高于预设值的第三样本文本和其对应的情感表示作为第二训练样本;
通过所述第二训练样本对所述初始模型进行调整,得到所述情感分类模型。
5.根据权利要求4所述的方法,其特征在于,所述文本表示对应的情感表示包括多种情感表示以及各种情感表示的概率。
6.根据权利要求1所述的方法,其特征在于,所述情感分类模型的训练方法包括:
获取若干个无监督的第四样本文本,为各个第四样本文本生成初始的情感标签,所述初始情感标签包括多种情感以及各种情感的概率;
对若干个第四样本文本的初始情感标签进行聚类,得到第一聚类结果;
对若干个第四样本文本进行意图识别,并对所述第四样本文本的意图识别结果进行聚类,得到第二聚类结果;
根据所述第一聚类结果和第二聚类结果的差异,调整所述初始情感标签各种情感的概率,得到所述第四样本文本对应的情感标签;
以若干个第四样本文本和各个第四样本文本对应的情感标签作为第三训练样本,经过训练得到所述情感分类模型。
7.根据权利要求6所述的方法,其特征在于,根据所述第一聚类结果和第二聚类结果的差异,调整所述初始情感标签各种情感的概率,包括:
计算第一聚类结果的KL散度和第二聚类结果的交叉熵之和;
所述调整所述初始情感标签各种情感的概率,得到所述第四样本文本对应的情感标签,包括:
调整所述初始情感标签各种情感的概率以使得所述和的值最小,将此时的初始情感标签作为所述第四样本对应的情感标签。
8.根据权利要求6或7所述的方法,其特征在于,通过自适应模型调整所述初始情感标签各种情感的概率。
9.根据权利要求1所述的方法,其特征在于,所述编码器通过BERT实现。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于上海乐言科技股份有限公司,未经上海乐言科技股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110326605.X/1.html,转载请声明来源钻瓜专利网。
- 信息记录介质、信息记录方法、信息记录设备、信息再现方法和信息再现设备
- 信息记录装置、信息记录方法、信息记录介质、信息复制装置和信息复制方法
- 信息记录装置、信息再现装置、信息记录方法、信息再现方法、信息记录程序、信息再现程序、以及信息记录介质
- 信息记录装置、信息再现装置、信息记录方法、信息再现方法、信息记录程序、信息再现程序、以及信息记录介质
- 信息记录设备、信息重放设备、信息记录方法、信息重放方法、以及信息记录介质
- 信息存储介质、信息记录方法、信息重放方法、信息记录设备、以及信息重放设备
- 信息存储介质、信息记录方法、信息回放方法、信息记录设备和信息回放设备
- 信息记录介质、信息记录方法、信息记录装置、信息再现方法和信息再现装置
- 信息终端,信息终端的信息呈现方法和信息呈现程序
- 信息创建、信息发送方法及信息创建、信息发送装置