[发明专利]一种人机对话模型的训练方法及人机对话方法

权利要求书

1.一种人机对话模型的训练方法，其特征在于，包括以下步骤：

获取训练样本，所述训练样本包括输入数据和对应不同解码网络的监督标签序列，所述输入数据包括本轮用户对话数据和上一轮系统回复，所述监督标签序列至少包括本轮对话状态累积标签序列和本轮系统回复标签序列；

对所述输入数据进行编码，根据所述本轮用户对话数据获取本轮用户对话序列；

根据所述监督标签序列的类型，选择不同的训练处理方式训练所述模型：

若所述监督标签序列包括本轮对话理解标签序列和本轮系统动作标签序列，则按照第一训练处理方式训练所述人机对话模型；

若所述监督标签序列包括本轮对话理解标签序列，不包括本轮系统动作标签序列，则按照第二训练处理方式训练所述人机对话模型；

若所述监督标签序列不包括本轮对话理解标签序列，包括本轮系统动作标签序列，则按照第三训练处理方式训练所述人机对话模型；

若所述监督标签序列均不包括本轮对话理解标签序列和本轮系统动作标签序列，则按照第四训练处理方式训练所述人机对话模型；

判断所述各解码网络的输出序列与对应的所述监督标签序列的误差，若所述误差不满足训练要求，则从所述对所述输入数据进行编码开始，重复上述步骤；直至所有所述解码网络的所述误差都满足训练要求，结束训练，得到所述人机对话模型；

其中，根据所述训练处理方式不同，所述解码网络包括自然语言理解网络、对话状态追踪网络、对话策略学习网络和自然语言生成网络中的多种组合，分别对应所述本轮对话理解标签序列、所述本轮对话状态累积标签序列、所述本轮系统动作标签序列和所述本轮系统回复标签序列，分别获取本轮对话理解序列、本轮对话状态累积序列、本轮系统动作序列和本轮系统回复序列，所述自然语言生成网络还获取本轮系统回复数据；

在各所述训练处理方式中，分别根据所述输入数据、对应的所述监督标签序列和上一网络的输出结果训练各所述解码网络，其中，所述对话策略学习网络和自然语言生成网络还利用模型数据库进行训练；

其中，所述第一训练处理方式中，所述输入数据还包括上一轮对话历史累积，所述上一轮对话历史累积包括上一轮对话状态累积和上一轮系统动作；

所述解码网络依次包括自然语言理解网络、对话状态追踪网络、对话策略学习网络和自然语言生成网络；

所述第二训练处理方式中，所述输入数据还包括上一轮对话状态累积；

所述解码网络依次包括自然语言理解网络、对话状态追踪网络和自然语言生成网络；

所述第三训练处理方式中，所述输入数据还包括上一轮对话历史累积，所述上一轮对话历史累积序列包括上一轮对话状态累积和上一轮系统动作；

所述解码网络依次包括对话状态追踪网络、对话策略学习网络和自然语言生成网络；

所述第四训练处理方式中，所述输入数据还包括上一轮对话状态累积；

所述解码网络依次包括对话状态追踪网络和自然语言生成网络。

2.如权利要求1所述的人机对话模型的训练方法，其特征在于，所述自然语言理解网络在获取所述本轮对话理解序列的同时，还输出本轮对话理解数据；和/或

所述对话状态追踪网络在获取所述本轮对话状态累积序列的同时，还输出本轮对话状态累积数据；和/或

所述对话策略学习网络在获取所述本轮系统动作序列的同时，还输出本轮系统动作数据。

3.如权利要求1所述的人机对话模型的训练方法，其特征在于，在对所述输入数据进行编码时，判断所述上一轮系统回复是否为向量序列，若否，则对所述上一轮系统回复进行编码，得到上一轮系统回复序列；和/或

在所述第一训练处理方式和所述第三训练处理方式中，在对所述输入数据进行编码时，判断所述上一轮对话历史累积是否为向量序列，若否，则对所述上一轮对话历史累积进行编码，得到上一轮对话历史累积序列；

在所述第二训练处理方式和所述第四训练处理方式中，在对所述输入数据进行编码时，判断所述上一轮对话状态累积是否为向量序列，若否，则对所述上一轮对话状态累积进行编码，得到上一轮对话状态累积序列。

4.如权利要求1所述的人机对话模型的训练方法，其特征在于，所述根据所述本轮用户对话数据获取本轮用户对话序列的同时，获取编码器隐状态，所述编码器隐状态用于辅助本轮所述各所述解码网络进行初始化。