[发明专利]多轮口语理解的结构化记忆图网络模型

说明书

本发明公开了一种多轮口语理解的结构化记忆图网络模型，由输入编码层、记忆编码层、特征聚合层和输出分类层组成，使用由口语理解任务产生的对话行为代替文本作为记忆节点进行编码，对话行为是包含语义框架信息的格式化表示，将非结构化的文字转化为结构化的三元组。使用图注意力网络代替循环神经网络和注意力机制实现特征聚合，保留了注意力机制和对话节点间的顺序信息，有助于模型学习如何有效利用结构化记忆节点。该网络模型用编码对话行为代替历史对话文本作为记忆单元，最大程度保留语义框架原始信息，解决了现有技术中上文信息依赖模型在复杂场合会产生噪音以及运算效率低下的问题。

技术领域

本发明属于人机对话技术领域，涉及一种多轮口语理解的结构化记忆图网络模型。

背景技术

随着各种智能设备的快速发展，人机对话近年来引起了学术界和产业界的广泛关注。任务型对话系统相关技术已经在许多产品中得到运用，例如微软公司的“小娜”(Cortana)，苹果公司的智能语音助手Siri等。在任务型对话系统中，一个重要的模块是口语理解(Spoken Language Understanding,SLU)，该模块会将用户以自然语言形式输入的话语识别为特定结构的语义表示，包括领域、意图、槽位等，之后再由下游的其他模块进行处理。

以往对口语理解任务的研究大多关注单轮对话场景。在单轮SLU任务中，系统仅接收并处理当前时刻用户输入的话语，忽略上下文的对话环境。然而在实际应用中，任务型对话系统大多都需要进行多轮连续的对话才能完成目标。与单轮SLU相比，多轮SLU任务更加复杂，如果仅依靠当前用户输入的话语容易引起歧义，需要上文对话中的信息作为补充。

图1展示了一个多轮SLU任务示例，示例中“明天”一词既可以代表预定酒店时用户提供的入住日期，也可以代表预定机票时用户提供的出发日期。在此轮对话中，系统仅依靠句子u2或u3无法进行判断，需要借助上文语境进行区分。已有研究也证明使用上文对话信息有助于解决歧义问题，例如，Hori C, Hori T, Watanabe S, et al. Contextsensitive spoken language uhderstanding using role dependent LSTM layers[C]//Proceedings of the NIPS 2015 Workshop on Machine Learning for Spoken LanguageUnderstanding and Interaction,Montreal,QC,Canada.2015,11. 中提出了一种对话角色相关的长短期记忆网络(Long Short Term Memory,LSTM)，通过Seq2Seq模型对上文进行建模以完成多轮SLU任务。Chen Y N, Hakkani-Tür D, Tür G,et al. End-to-end memorynetworks with knowledge carryover for multi-turn spoken languageunderstanding[C]//Interspeech.2016:3245-3249.提出一种基于上下文知识的记忆网络，通过编码历史对话文本获得记忆嵌入，再利用注意力机制帮助完成SLU任务。Bapna A,Tür G, Hakkani-Tür D, et al. Sequential dialogue context modeling for spokenlanguage understanding[J]arXivpreprintarXiv:1705.03455,2017.提出了序列对话编码网络，通过添加一个结合当前话语编码与历史存储向量的双向循环神经网络(Bidirectional Recurrent Neural Network,BiRNN)对话编码器来增强记忆网络。