[发明专利]一种基于聚类预分析的多意图与语义槽联合识别方法

说明书

本发明提出了一种基于聚类预分析的多意图识别与语义槽填充联合建模方法：实时获取当前用户输入的多意图文本并进行预处理；基于聚类预分析构建多意图识别模型，用来识别用户的多个意图；基于Slot‑Gated关联门机制构建BiLSTM‑CRF语义槽填充模型，充分利用意图识别的结果指导语义槽的填充；对构建的多意图识别与语义槽填充的联合模型进行优化。本发明充分考虑了意图识别与语义槽填充之间的联系，提出了一种联合建模的方法，将两个语义分析子任务合并为一个语义分析任务，在提高多意图识别准确性的同时也提高语义槽填充的准确性，从而提高自然语言语义分析的质量；在实际应用中，可以有效提升人机对话中机器理解人类语言的能力，提高解决问题的能力和人机对话的体验。

技术领域

本发明涉及自然语言处理领域，尤其涉及人机对话系统中的自然语言语义分析方法。

背景技术

随着人工智能的快速发展，人们对许多应用场景智能性的要求日益增加，要满足智能性的要求，良好的人机交互是必不可少的。目前，人机交互的方式呈现多样化，其中，最方便的方式莫过于使用自然语言。因此，利用自言语言实现人机对话的呼声也越来越高，人机对话系统受到了学术界和工业界的广泛关注，具有非常广泛的应用场景。

要实现人机对话系统中离不开自然语言语义分析技术。语义分析的好坏将直接影响人机交互的效果。由于自然语言的复杂性、抽象性以及词语的多义性等，这都增加了自然语言语义分析的难度。语义分析分为意图识别与语义槽填充两个基本子任务。对于这两个子任务，传统的研究方法是将这两个任务看做两个独立的问题去解决，之后再将两个任务的结果进行连接。但实际上，意图识别是对用户需求类型的判断，而语义槽填充是将用户需求具体化。因此，用户意图和待识别的槽位是强相关的，意图识别的目的是为了更好的进行语义槽的填充。而传统的单独建模的方法没有充分考虑两个任务之间的联系，使得语义信息没能得到有效的利用。此外，人机对话系统中常面临多意图识别问题，即用户输入的意图文本可能不仅只包含一种意图，也可能会出现多种意图。目前对于意图识别问题的研究主要集中在单意图的识别上，多意图识别相对于单意图识别来说，识别起来不仅更为复杂而且对语义理解的程度要求更高。

综上所述，针对人机对话系统中的语义分析问题，如何在现有技术的基础上提出有效解决多意图识别与语义槽填充的联合建模方法，也就成为了本领域内技术人员亟待解决的问题。

发明内容

鉴于人机对话系统中的语义分析存在上述问题，本发明提出了一种基于聚类预分析的多意图与语义槽联合识别方法，用于解决人机对话中多意图识别与语义槽填充的联合识别问题，所述方法具体过程如下：

步骤1，实时获取当前用户输入的多意图文本并进行预处理；

步骤2，基于聚类预分析构建多意图识别模型，用来识别用户的多个意图；

步骤3，基于Slot-Gated关联门机制构建BiLSTM-CRF语义槽填充模型，充分利用意图识别的结果指导语义槽的填充；

步骤4，对构建的多意图识别与语义槽填充的联合模型进行优化，并利用优化后的模型进行识别。

步骤1中，对当前用户输入的多意图文本进行预处理，就是将多意图文本进行向量化表示，以便输入神经网络模型中进行语义特征提取。本文的向量化表示方法为，首先使用同领域海量中文无监督语料预训练BERT模型。然后，利用得到的BERT预训练模型来对多意图文本进行向量化表示。

步骤2中，构建基于聚类预分析的多意图识别模型的目的是为了指导语义槽的填充，多意图识别的准确与否会直接影响语义槽的填充。为了提高多意图识别的准确率，针对用户输入的意图的不确定性，提出了一种基于聚类预分析的方法，即在意图识别之前先对意图文本进行分析，判断意图属于单意图还是多意图。

整个意图识别分为两个阶段：首先第一阶段用K-means聚类算法对输入的意图文本进行判断。一般情况下意图主要分为单意图和多意图两种，因此，聚类中心K为两个；第二阶段，根据判断的意图个数分别进行分类。