[发明专利]一种基于异构图神经网络的用户意图识别方法及装置在审
申请号: | 202110502094.2 | 申请日: | 2021-05-08 |
公开(公告)号: | CN113158062A | 公开(公告)日: | 2021-07-23 |
发明(设计)人: | 郑海涛;王栋;李自然;沈颖;肖喜;江勇;夏树涛 | 申请(专利权)人: | 清华大学深圳国际研究生院 |
主分类号: | G06F16/9535 | 分类号: | G06F16/9535;G06F40/211;G06N3/04;G06N3/08 |
代理公司: | 深圳新创友知识产权代理有限公司 44223 | 代理人: | 江耀纯 |
地址: | 518055 广东省深圳市*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 基于 构图 神经网络 用户 意图 识别 方法 装置 | ||
1.一种基于异构图神经网络的用户意图识别方法,其特征在于:包括如下步骤:
S1、根据用户的对话内容直接识别用户意图得到初步的识别结果;
S2、根据对话内容以及步骤S1得到的初步的识别结果对用户历史信息进行筛选,得到与对话内容相关的用户历史信息;
S3、采用异构图神经网络对当前对话内容以及步骤S2得到的与对话内容相关的用户历史信息进行编码,进而对步骤S1得到的初步的识别结果进行调整,识别最终的用户意图。
2.根据权利要求1所述的一种基于异构图神经网络的用户意图识别方法,其特征在于:步骤S1中所述的根据对话内容直接识别用户意图得到初步的识别结果,具体如下:将对话内容转化为对应的特征向量,并对对话内容中每句话得到一个初步的识别结果。
3.根据权利要求2所述的一种基于异构图神经网络的用户意图识别方法,其特征在于:所述的将对话内容转化为对应的特征向量,并对对话内容中每句话得到一个初步的识别结果,具体如下:采用卷积神经网络和双向长短期记忆网络得到包含上下文语境信息的句子特征向量,使用全连接层作为分类器,对对话内容中的每句话进行分类,进而为对话内容中的每句话得到一个初步的识别结果。
4.根据权利要求3所述的一种基于异构图神经网络的用户意图识别方法,其特征在于:所述的用户历史信息是指用户在其他对话中的历史发言。
5.根据权利要求4所述的一种基于异构图神经网络的用户意图识别方法,其特征在于:步骤S2所述的根据对话内容以及初步的识别结果对用户历史信息进行筛选,得到与对话内容相关的用户历史信息,具体如下:使用一种粗粒度历史选择模块对用户历史信息进行筛选,首先,利用预训练词编码将文本中离散的词转换为连续的词向量表示,通过最大池化操作分别得到当前对话内容的向量表示和用户历史发言的向量表示;通过计算两者之间的余弦相似度得到用户历史发言与当前对话内容的相关性分数,同时,根据意图类别对用户历史发言进行归类,并根据相关性分数为每个类别选择前K个与当前对话内容最相关的历史发言。
6.根据权利要求5所述的一种基于异构图神经网络的用户意图识别方法,其特征在于:利用相关性重计算方法来计算当前对话内容中每一句话与每个类别里K个历史发言之间的相关性分数,得到一个相似度矩阵;利用初步的识别结果和相似度矩阵,为每个类别里的K个历史发言重新计算与当前对话内容整体的相关性分数。
7.根据权利要求6所述的一种基于异构图神经网络的用户意图识别方法,其特征在于:所述的异构图神经网络包含两种节点:句子节点和标签节点,其中,句子节点的向量表示来自于步骤S1得到的句子特征向量表示,标签节点利用步骤S2得到的与当前对话内容最相关的K个历史发言的向量表示,根据相关性分数加权平均来得到标签节点的向量表示。
8.根据权利要求7所述的一种基于异构图神经网络的用户意图识别方法,其特征在于:所述的异构图神经网络包含两种边:用户边和标签边,其中,用户边用来表示句子节点之间的关系,采用一种基于相似度的注意力模块对用户边的权重进行初始化;标签边用来连接标签节点和句子节点,标签边的权重表示句子节点与不同标签之间的关系,利用步骤S1得到的初步的识别结果作为标签边权重的初始化,使用一种特定于边关系的消息传递策略对节点表示进行更新,根据异构图神经网络得到的句子节点表示,利用全连接层对每个句子节点进行分类,进而为每个句子得到调整后的意图识别结果。
9.根据权利要求8所述的一种基于异构图神经网络的用户意图识别方法,其特征在于:在对话内容中,根据用户以及发言顺序,将用户边分为4类,即自己前、自己后、他人前、他人后。
10.根据权利要求1所述的一种基于异构图神经网络的用户意图识别方法的装置,其特征在于:包括意图识别装置、历史信息筛选装置和识别结果调整装置;
所述意图识别装置根据用户的对话内容直接识别用户意图得到初步的识别结果;
所述历史信息筛选装置根据对话内容以及初步的识别结果对用户历史信息进行筛选,得到与对话内容相关的用户历史信息;
所述识别结果调整装置采用异构图神经网络对当前对话内容以及与对话内容相关的用户历史信息进行编码,进而对所述初步的识别结果进行调整,识别最终的用户意图。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于清华大学深圳国际研究生院,未经清华大学深圳国际研究生院许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110502094.2/1.html,转载请声明来源钻瓜专利网。