[发明专利]一种意图识别系统及方法

权利要求书

1.一种意图识别系统，其特征是，包括数据处理模块、表征模块、特征抽取模块、目标函数模块，其中：

数据处理模块用以对输入文本进行处理，得到输入数据；

表征模块用以对输入数据进行映射，得到字向量、字位置向量、字所在的句子索引向量；

特征抽取模块用以对字向量、字位置向量、字所在的句子索引向量进行分析，得到模型分析需要的特征；

目标函数模块设置合适意图识别系统的目标函数，用以评价意图识别系统。

2.如权利要求1所述的意图识别系统，其特征是，所述数据处理模块用以将文本进行处理，得到输入数据包括：

将输入文本转化成训练数据格式的训练文本；

对部分训练文本进行标注，得到不同意图的标签数据。

3.如权利要求1所述的意图识别系统，其特征是，表征模块用以对输入数据进行映射，得到字向量、字位置向量、字所在的句子索引向量，包括：

对输入的句子进行分字；

对每个字、每个字的位置信息和字所在的句子索引信息分别用X维的语义向量进行表示，得到字向量、字位置向量、字所在的句子索引向量；

将字向量、字位置向量、字所在的句子索引向量相加，得到每个字的综合表征向量。

4.如权利要求1所述的意图识别系统，其特征是，特征抽取模块包括抽取单元、生成单元，噪声生成单元以及判别单元，其中：

所述抽取单元用以对字向量、字位置向量、字所在的句子索引向量进行分析；

噪声生成单元用以随机产生噪声；

生成单元用以根据噪声生成单元产生的噪声，生成假样本；

所述判别单元用以对抽取单元以及生成单元输出的特征进行判断。

5.如权利要求4所述的意图识别系统，其特征是：

所述判别单元为三层的神经网络，加上一层的全连接层构成；

所述生成单元为三层的神经网络，加上一层的全连接层构成。

6.如权利要求4所述的意图识别系统，其特征是，所述抽取单元由多层的编码器串联而成，最后一层的编码器获取得到的特征输出至判别单元，其中，每个编码器的结构为由依次连接的自注意力层、归一化层、前馈神经网络层以及归一化层组成。

7.如权利要求1所述的意图识别系统，其特征是，所述目标函数为损失函数，所述损失函数由判别单元和生成单元的损失加权求和得到，其中：

判别单元的损失由真实样本损失log损失，假样本log损失和真实样本的交叉熵组成，其损失函数的公式为：

D_LOSS＝-log(1-DRC)-log(DRF)+label*DRL/有标签样本数

DRF为真实无标签样本的输出特征，DRC为真实无标签样本的置信度，DRL为真实有标签样本的分类特征；

生成单元的损失由假样本的log损失加上真假样本的平方误差，其损失函数的公式为：

G_LOSS＝-log(1-DFC)+(DRF-DFF)*(DRF-DFF)/假样本数

DFF为无标签假样本的特征，DFC为假样本的置信度用，DFL为假样本的分类特征。

8.一种意图识别方法，应用于意图识别系统，包括步骤：

对数对输入文本进行处理，得到输入数据；

对输入数据进行映射，得到字向量、字位置向量、字所在的句子索引向量；

对字向量、字位置向量、字所在的句子索引向量进行分析，得到模型分析需要的特征；

设置目标函数，用以评价意图识别系统；

其特征在于，所述的意图识别系统为权利要求1-7任一所述的意图识别系统。

9.一种电子设备，其特征在于，包括：处理器、存储介质和总线，所述存储介质存储有所述处理器可执行的机器可读指令，当电子设备运行时，所述处理器与所述存储介质之间通过总线通信，所述处理器执行所述机器可读指令，以执行如权利要求8所述的意图识别方法。

10.一种存储介质，其特征在于，所述存储介质上存储有计算机程序，所述计算机程序被处理器运行时执行如权利要求8所述的意图识别方法。