[发明专利]一种人机对话模型的训练方法及人机对话方法

说明书

本发明提供了一种人机对话模型的训练方法及人机对话方法，该人机对话模型将流水线型对话系统的子模块整合为整体的端到端的结构框架，通过获取用户本轮对话数据以及上一轮历史数据，并编码为向量序列，最后依次通过自然语言理解、对话状态追踪、对话策略学习和自然语言生成四个子模块，得到系统本轮回复。本发明还提供了一种人机对话方法，适于利用前述的模型进行人机交互。本发明中的人机对话模型在训练时可根据训练数据包含的监督标签类型灵活地选择子模块的结构，并且可以对所有子模块同时进行优化，避免了错误不断累积传播的问题，能够提高系统回复的准确性，训练时使用的样本数量也大大减少。

技术领域

本发明涉及人工智能技术领域，特别涉及一种人机对话模型的训练方法及人机对话方法。

背景技术

任务型对话系统是在特定条件下，能够为具有明确目的的用户提供信息或服务的人机对话系统，可以应用在机票、餐馆预订，费用、地址查询等诸多领域。

传统的任务型对话系统模型可以分为端对端型和流水线型，二者都具有各自的优势，但也有明显的不足。端对端型的对话模型往往需要大量的语料进行训练，但收集语料的过程耗时、耗力，成本较高；流水线型的模型通常具备多个单独的模块，进行独立的更新与优化，但必须按照流水线的走向，必须获取前一个模块的结果才能运行后一模块，这样很容易造成错误在模块间不断地累积传播，此外，当获得新的训练数据时，必须在上一模块训练完成后才能进行后续的训练。

发明内容

为了解决上述问题，本发明提出一种人机对话模型的训练方法，其特征在于：

获取训练样本，所述训练样本包括输入数据和对应不同解码网络的监督标签序列，所述输入数据包括本轮用户对话数据和上一轮系统回复，所述监督标签序列至少包括本轮对话状态累积标签序列和本轮系统回复标签序列；

对所述输入数据进行编码，根据所述本轮用户对话数据获取本轮用户对话序列；

根据所述监督标签序列的类型，选择不同的训练处理方式训练所述模型：

若所述监督标签序列包括本轮对话理解标签序列和本轮系统动作标签序列，则按照第一训练处理方式训练所述人机对话模型；

若所述监督标签序列包括本轮对话理解标签序列，不包括本轮系统动作标签序列，则按照第二训练处理方式训练所述人机对话模型；

若所述监督标签序列不包括本轮对话理解标签序列，包括本轮系统动作标签序列，则按照第三训练处理方式训练所述人机对话模型；

若所述监督标签序列均不包括本轮对话理解标签序列和本轮系统动作标签序列，则按照第四训练处理方式训练所述人机对话模型；

判断所述各解码网络的输出序列与对应的所述监督标签序列的误差，若所述误差不满足训练要求，则从所述对所述输入数据进行编码开始，重复上述步骤；直至所有所述解码网络的所述误差都满足训练要求，结束训练，得到所述人机对话模型；

其中，根据所述训练处理方式不同，所述解码网络包括自然语言理解网络、对话状态追踪网络、对话策略学习网络和自然语言生成网络中的多种组合，分别对应所述本轮对话理解标签序列、所述本轮对话状态累积标签序列、所述本轮系统动作标签序列和所述本轮系统回复标签序列，分别获取本轮对话理解序列、本轮对话状态累积序列、本轮系统动作序列和本轮系统回复序列，所述自然语言生成网络还获取本轮系统回复数据；

在各所述训练处理方式中，分别根据所述输入数据、对应的所述监督标签序列和上一网络的输出结果训练各所述解码网络，其中，所述对话策略学习网络和自然语言生成网络还利用模型数据库进行训练；

其中，所述第一训练处理方式中，所述输入数据还包括上一轮对话历史累积，所述上一轮对话历史累积包括上一轮对话状态累积和上一轮系统动作；