[发明专利]一种客服多轮对话意图、槽位识别方法和系统

权利要求书

1.一种客服多轮对话意图、槽位识别方法，其特征在于，所述方法包括如下步骤：

构建话术的词序列的训练集，将所述训练集输入到BiLSTM模型中得到具有上下文信息的输出层向量H；

将BiLSTM模型的输出层向量输入到Intent Attention层和Slot Attention层分别获得意图上下文向量和槽位上下文向量；

根据所述意图上下文向量和槽位上下文向量结合激活函数进行话术意图预测和槽位预测；

根据所述意图上下文向量和槽位上下文向量构建权重向量；

将意图上下文向量、权重向量和输出层向量输入到激活函数中输出词序列对应的槽位标签。

2.根据权利要求1所述一种客服多轮对话意图、槽位识别方法，其特征在于，所述BiLSTM模型的输出层和Intent Attention层结合得到意图上下文向量的方法包括：将所述BiLSTM模型输出层的最后一个隐藏层状态向量H_T输入到所述Intent Attention层得到意图上下文向量。

3.根据权利要求1所述一种客服多轮对话意图、槽位识别方法，其特征在于，所述BiLSTM模型的输出层和Slot Attention层结合得到槽位上下文向量的方法包括：将所述BiLSTM模型输出层向量输入到所述Slot Attention层，通过Slot Attention层输出对应的槽位上下文向量。

4.根据权利要求1所述一种客服多轮对话意图、槽位识别方法，其特征在于，所述话术的意图预测方法包括：

将Intent Attention层输出得到意图上下文向量和BiLSTM模型输出层向量中的最后一个隐藏层状态向量H_T向输入到softmax函数中：

其中表示神经网络的权值矩阵，随机初始化，通过学习不断更新，y^I为意图预测结果。

5.根据权利要求1所述一种客服多轮对话意图、槽位识别方法，其特征在于，所述槽位上下文向量的计算方法包括：

将BiLSTM模型输出层向量输入到Intent Attention层经过激活函数σ得到第一激活值e_i，k：

e_i，k＝σ(W_heH_k)；

其中W_he表示神经网络的权值矩阵，随机初始化，通过学习不断更新，H_k为所述输出层向量H。

6.根据权利要求5所述一种客服多轮对话意图、槽位识别方法，其特征在于，获取所述第一激活值e_i，k后，通过所述第一激活值e_i，k得到权值α_i，j，所述权值的计算公式如下：

其中T为向量总数，j为表示T中的一个元素，以求取中的j相同

使用α_i，j与输出层向量H通过下列公式得出Slot Attention层的槽位上下文向量

其中H_j为BiLSTM模型输出层向量。

7.根据权利要求1所述一种客服多轮对话意图、槽位识别方法，其特征在于，所述权重向量g的构建方法包括：

获取当前构建的意图上下文向量和槽位上下文向量，在Solt-Gate层中构建所述权重向量g：

中v和W分别是可训练的向量和矩阵，初始值随机初始化，并通过学习不断更新。

8.根据权利要求7所述一种客服多轮对话意图、槽位识别方法，其特征在于，在获取所述权重向量g后，根据所述权重向量g计算每个词语对应的槽位标签

其中表示第i个词语对应的槽位标签，h_i为输出层单个字词的向量。

9.一种客服多轮对话意图、槽位识别系统，其特征在于，所述系统执行权利要求1-8中任意一项所述的一种客服多轮对话意图、槽位识别方法。

10.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质存储有计算机程序，所述计算机程序可被处理器执行权利要求1-8中任意一项所述的一种客服多轮对话意图、槽位识别方法。