[发明专利]意图识别模型的训练与意图识别的方法、装置有效
申请号: | 202110736458.3 | 申请日: | 2021-06-30 |
公开(公告)号: | CN113407698B | 公开(公告)日: | 2022-08-23 |
发明(设计)人: | 张红阳;焦振宇;孙叔琦;常月;李婷婷 | 申请(专利权)人: | 北京百度网讯科技有限公司 |
主分类号: | G06F16/332 | 分类号: | G06F16/332;G06F16/33;G06F40/30;G06N3/04;G06N3/08 |
代理公司: | 北京鸿德海业知识产权代理有限公司 11412 | 代理人: | 田宏宾 |
地址: | 100085 北京市*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 意图 识别 模型 训练 方法 装置 | ||
1.一种意图识别模型的训练方法,包括:
获取包含多个训练文本与多个训练文本的第一标注意图的训练数据;
构建包含特征提取层与第一识别层的神经网络模型,所述第一识别层用于根据候选意图的语义向量与所述特征提取层输出的训练文本中每个分词的第一语义向量,输出训练文本的第一意图结果与训练文本中每个分词与候选意图之间的分数,所述神经网络模型中所述候选意图的语义向量用于表示候选意图的语义,其会随着所述神经网络模型的训练而进行更新;
根据多个训练文本的分词结果与多个训练文本的第一标注意图,训练所述神经网络模型,得到意图识别模型。
2.根据权利要求1所述的方法,其中,所述特征提取层输出训练文本中每个分词的第一语义向量包括:
针对每个训练文本,得到该训练文本中每个分词的词向量;
根据每个分词的词向量,分别得到每个分词的编码结果与注意力计算结果;
对每个分词的编码结果与注意力计算结果之间的拼接结果进行解码,将解码结果作为每个分词的第一语义向量。
3.根据权利要求1所述的方法,其中,所述第一识别层根据候选意图的语义向量与所述特征提取层输出的训练文本中每个分词的第一语义向量,输出训练文本的第一意图结果与训练文本中每个分词与候选意图之间的分数包括:
针对每个训练文本,根据该训练文本中每个分词的第一语义向量与候选意图的语义向量,得到每个分词的第二语义向量以及每个分词与候选意图之间的分数;
根据每个分词的第二语义向量进行分类,将分类结果作为训练文本的第一意图结果。
4.根据权利要求1所述的方法,其中,所述根据多个训练文本的分词结果与多个训练文本的第一标注意图,训练所述神经网络模型,得到意图识别模型包括:
分别将多个训练文本的分词结果输入所述神经网络模型,得到所述神经网络模型针对每个训练文本输出的第一意图结果;
根据多个训练文本的第一意图结果与多个训练文本的第一标注意图,计算损失函数值;
根据计算得到的损伤函数值调整所述神经网络模型的参数与所述候选意图的语义向量,直至所述神经网络模型收敛,得到所述意图识别模型。
5.根据权利要求1所述的方法,其中,所述获取多个训练文本与多个训练文本的第一标注意图的训练数据包括:
获取包含多个训练文本、多个训练文本的第一标注意图与多个训练文本的第二标注意图的训练数据。
6.根据权利要求5所述的方法,其中,所述构建包含特征提取层与第一识别层的神经网络模型包括:
构建包含特征提取层、第一识别层与第二识别层的神经网络模型,所述第二识别层用于根据所述特征提取层输出的训练文本中每个分词的第一语义向量,输出训练文本的第二意图结果。
7.根据权利要求6所述的方法,其中,所述根据多个训练文本的分词结果与多个训练文本的第一标注意图,训练所述神经网络模型,得到意图识别模型包括:
分别将多个训练文本的分词结果输入所述神经网络模型,得到所述神经网络模型针对每个训练文本输出的第一意图结果与第二意图结果;
根据多个训练文本的第一意图结果与多个训练文本的第一标注意图计算第一损失函数值,根据多个训练文本的第二意图结果与多个训练文本的第二标注意图计算第二损失函数值;
根据计算得到的第一损伤函数值与第二损失函数值调整所述神经网络模型的参数与所述候选意图的语义向量,直至所述神经网络模型收敛,得到所述意图识别模型。
8.一种意图识别的方法,包括:
获取待识别文本;
将所述待识别文本的分词结果输入意图识别模型,根据所述意图识别模型的输出结果,得到所述待识别文本的第一意图结果与第二意图结果;
其中,所述意图识别模型是根据权利要求1-7中任一项方法预先训练得到的。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京百度网讯科技有限公司,未经北京百度网讯科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110736458.3/1.html,转载请声明来源钻瓜专利网。