[发明专利]一种基于注意力机制的多通道卷积与门控循环单元的文本情感分析方法

说明书

本发明公开一种基于注意力机制的多通道卷积与门控循环单元的文本情感分析方法，包括：步骤1：对获得的文本数据进行预处理，将预处理后的数据作为模型的输入；步骤2：使用不同大小的滑动窗口来提取浅层的文本信息，使用融合Concatenate操作将文本特征信息合并；步骤3：分别使用残差单元和门控循环单元对文本的抽象特征进行提取，并使用连接操作将提取到的特征信息进行合并；步骤4：引入注意力机制，对句子中的单词给予不同的权重，使用批标准化处理和全连接层最终完成分类。本发明利用一维卷积结合残差单元和门控循环单元连接以及注意力机制完成文本分类，提高了文本分类精度。

技术领域

本发明涉及文本分类技术领域，尤其涉及一种基于注意力机制的多通道卷积与门控循环单元的文本情感分析方法。

背景技术

情感分析是对人们发表的文本进行分析，了解他们的情绪或观点。情感分析长期以来一直是自然语言处理领域的活跃研究领域之一，它可以识别文本中积极的、消极的或中性的情感倾向。情感分析大致可以分为新闻评论分析、产品评论分析、电影评论分析等。其中，对新闻评论的分析，可以了解公众对热门事件的态度，帮助政府对热门事件做出快速反应；对产品的回顾和分析，了解消费者对产品的态度，帮助商家及时调整产品；对影评进行分析，可以了解影迷对电影的满意度。因此，情感分析不仅可以从表达观点的文本中识别情感或态度，而且在舆论分析、产品推荐、市场预测等方面都有很大的帮助。

随着Twitter、Facebook等社交媒体平台的迅速发展，越来越多的人喜欢在互联网上表达自己的观点。互联网上的评论数量正在迅速增加，使用传统的方法很难快速、手动的进行分析。在大数据时代，通过人工智能技术挖掘网络平台的情感倾向具有重要的社会意义。

目前，文本情感分析主要基于情感词典、机器学习以及深度学习的情感分析方法。传统的情感分析方法通常采用情感词典和机器学习相结合的方法，但需要人工标注，消耗大量人力物力。深度学习方法已广泛应用于文本情感分类。卷积神经网络和循环神经网络在文本分类中的应用已成为了研究热点。深度学习方法极大地减少了人工的成本，避免了特征提取的繁琐，能取得较好的性能。但是，文本特征的提取通常相对简单。因此，我们尝试使用各种方法提取情感特征，以获得更好的分类结果。

发明内容

本发明针对传统分类算法导致文本分类精度低的问题，提出一种基于注意力机制的多通道卷积与门控循环单元的文本情感分析方法，利用一维卷积结合残差单元和门控循环单元连接以及注意力机制完成文本分类，提高了文本分类精度。

为了实现上述目的，本发明采用以下技术方案：

一种基于注意力机制的多通道卷积与门控循环单元的文本情感分析方法，包括以下步骤：

步骤1：对获得的文本数据进行预处理，通过预处理后的数据作为模型的输入；对文本数据预处理的目的是为了对文本进行清洗，然后将文本数据转化为可以进行训练的词向量数据；

步骤2：分别使用不同大小的滑动窗口来提取浅层的文本信息，使用融合Concatenate操作将文本特征信息合并；

步骤3：分别使用残差单元和门控循环单元对文本的抽象特征进行提取，并使用连接操作将提取到的特征信息进行合并；

步骤4：引入注意力机制，对句子中的单词给予不同的权重，使用批标准化处理和全连接层最终完成分类；

进一步地，所述步骤1中的预处理具体包括以下几个步骤：

步骤1.1：输入文本的标记样本进行归一化操作，归一化是清理数据以获得标注的文本数据，通过使用正则表达式删除@user、链接、标点符号、数字和特殊字符，这些都是没有意义的数据，不会影响后面模型的分析，另外当单词长度小于3时，例如：‘a’、‘oh’、‘hmm’、……，这些单词对句子的整体语义倾向没有影响，因此将其删除；