[发明专利]训练话术生成模型、生成应答话术的方法和装置

说明书

本说明书实施例提供一种训练话术生成模型、生成应答话术的方法和装置。训练话术生成模型的方法包括：针对用户与人工客服的第一历史对话，得到第一意图关键词对应的第一应答话术；将第一意图关键词以字为单位按照各字的位置关系输入待训练的话术生成模型，话术生成模型包括编码器和解码器，编码器根据位置关系以及第一意图关键词中的各字对第一意图关键词进行编码，得到第一意图关键词对应的第一语义向量，并将第一语义向量输入到解码器进行多次迭代解码，得到话术预测结果；根据第一应答话术和话术预测结果,对话术生成模型进行训练。能够在给定用户意图下生成应答话术，极大减轻了运营人员的工作量，提升运营效率。

技术领域

本说明书一个或多个实施例涉及计算机领域，尤其涉及训练话术生成模型、生成应答话术的方法和装置。

背景技术

随着互联网和服务业的发展，越来越多的公司需要通过在线或者热线的方式服务自己的客户群体，这就积累了大量的人工对话记录。服务日志中含有很多有用的信息，例如用户意图、优质服务话术等。希望能够从大量的人工对话记录中挖掘出优质话术，供运营人员为机器人配置使用，但是运营人员在配置话术的时候并不一定清楚好的话术是什么样子，并且运营人员从大量的人工对话记录中筛选优质话术的工作量极大，运营效率低。

因此，希望能有改进的方案，能够在给定用户意图下生成应答话术，极大减轻了运营人员的工作量，提升运营效率。

发明内容

本说明书一个或多个实施例描述了一种训练话术生成模型、生成应答话术的方法和装置，能够在给定用户意图下生成应答话术，极大减轻了运营人员的工作量，提升运营效率。

第一方面，提供了一种训练话术生成模型的方法，方法包括：

针对用户与人工客服的第一历史对话，对所述第一历史对话中的用户对话，进行关键词抽取以得到所述第一历史对话中的表征用户意图的第一意图关键词；

将所述第一历史对话中的客服对话作为所述第一意图关键词对应的第一应答话术，以得到一组训练样本；

将一组训练样本中的所述第一意图关键词以字为单位按照各字的位置关系输入待训练的话术生成模型，所述话术生成模型包括编码器和解码器，所述编码器根据所述位置关系以及所述第一意图关键词中的各字对所述第一意图关键词进行编码，得到所述第一意图关键词对应的第一语义向量，并将所述第一语义向量输入到所述解码器进行多次迭代解码，每次迭代解码包括，根据本次迭代中输入的所述第一应答话术中当前位置的字对应的向量，以及解码器在上次迭代中针对之前位置的处理结果，确定针对下一位置的字的预测结果；针对各个位置的字的预测结果构成话术预测结果；

根据所述第一应答话术和所述话术预测结果,确定预测损失；

以最小化预测损失为目标对所述话术生成模型进行训练。

在一种可能的实施方式中，所述对所述话术生成模型进行训练，包括：

对所述话术生成模型进行分阶段训练，得到各阶段分别对应的训练后的话术生成模型；其中，各阶段对应不同的训练样本集合；

依据所述话术生成模型在给定验证集上面的困惑度指标，从各阶段分别对应的训练后的话术生成模型中选择最优的话术生成模型，作为训练后的话术生成模型。

在一种可能的实施方式中，所述多次迭代解码包括初次迭代解码，所述初次迭代解码，包括：

将缺省向量作为初始位置对应的向量，将第一语义向量作为所述上次迭代中的输出，确定所述话术预测结果中的第一个字。

在一种可能的实施方式中，所述编码器基于转换器(transformer)单元形成，所述编码器根据所述位置关系以及所述第一意图关键词中的各字对所述第一意图关键词进行编码，包括：

对所述第一意图关键词中各个字进行嵌入，得到各个字的嵌入向量；