[发明专利]基于注意力的对话文本分类方法、系统、设备及存储介质

说明书

本发明提供了基于注意力的对话文本分类方法、系统、设备及存储介质，该方法包括：将待分类的对话进行分割获得子语句，通过分词模型输出对子语句进行分词后的词序列，将每个子语句的词序列作为双向长短期记忆LSTM网络的输入进行语义特征提取，获得正向的第一隐层特征和反向的第二隐层特征；将每个子语句的将第一隐层特征和第二隐层特征分别作为第一类词向量和第二类词向量，分别进行交互注意力对齐；将每个子语句的二次交互注意力对齐分别获得的隐层特征拼接在一起，作为子语句的第三隐层特征；对具有第三隐层特征的子语句进行文本分类。本发明能够在保证速度的前提下，有效地提升文本分类的准确率，提高了生产效率，减小了人力物力的损耗。

技术领域

本发明涉及自然语言处理领域，具体地说，涉及基于注意力的对话文本分类方法、系统、设备及存储介质。

背景技术

自然语言处理(Natural Language Processing，NLP)是计算机科学领域与人工智能领域中的一个重要方向。它研究能实现人与计算机之间用自然语言进行有效通信的各种理论和方法。自然语言处理是一门融语言学、计算机科学、数学于一体的科学。因此，这一领域的研究将涉及自然语言，即人们日常使用的语言，所以它与语言学的研究有着密切的联系，但又有重要的区别。自然语言处理并不是一般地研究自然语言，而在于研制能有效地实现自然语言通信的计算机系统，特别是其中的软件系统。因而它是计算机科学的一部分。自然语言处理主要应用于机器翻译、舆情监测、自动摘要、观点提取、文本分类、问题回答、文本语义对比、语音识别、中文OCR等方面。

在OTA网站(在线旅游公司)的客人客服对话场景中，实时性是一个非常大的要求，这也意味着保证实时性的同时无法使用大型的模型结果(会拖慢推理速度)，因此主要的技术难点在于如何既使用小型的模型结构，保证速度的前提下，又能够提升模型性能。

因此，本发明提供了一种基于注意力的对话文本分类方法、系统、设备及存储介质。

发明内容

针对现有技术中的问题，本发明的目的在于提供基于注意力的对话文本分类方法、系统、设备及存储介质，克服了现有技术的困难，能够在保证速度的前提下，有效地提升文本分类的准确率，提高了生产效率，减小了人力物力的损耗。

本发明的实施例提供一种基于注意力的对话文本分类方法，包括以下步骤：

S110、将待分类的对话进行分割获得子语句；

S120、将所述子语句作为分词模型的输入，通过所述分词模型输出对所述子语句进行分词后的词序列；

S130、将每个所述子语句的所述词序列作为双向长短期记忆LSTM网络的输入进行语义特征提取，获得正向的第一隐层特征和反向的第二隐层特征；

S140、将每个所述子语句的将第一隐层特征和第二隐层特征分别作为第一类词向量和第二类词向量，分别进行交互注意力对齐；

S150、将每个所述子语句的第一次交互注意力对齐和第二次交互注意力对齐获得的隐层特征拼接在一起，作为所述子语句的第三隐层特征；

S160、对具有所述第三隐层特征的子语句进行文本分类。

优选地，所述步骤S110之前还包括：

S100、去掉所述待分类的对话文本中的预设无意义字符，并将所述待分类的对话文本中的句子拼接在一起，形成拼接文本，所述预设无意义字符至少包括标点符号和杂乱字符。

优选地，所述步骤S110包括：

S111、判断当前句子的字数是否小于等于预设字数，若是，则执行步骤S112；若否，则执行步骤S113；

S112、将当前句子作为子语句，执行步骤S114；

S113、按照所述预设字数对所述当前句子进行分割，获得至少两子语句；