[发明专利]一种基于中文数据集的文本情感分析方法

说明书

本发明针对目前文本情感分析任务中所使用的神经网络结构无法提取文本重要特征的问题，提出了一种基于中文数据集的文本情感分析方法，包括步骤：首先对语料进行预处理，将其转换为词向量矩阵；然后使用卷积神经网络(CNN)进行局部信息特征的提取，接着将其作为长短时记忆网络(LSTM)的输入，学习文本词语，句子之间的序列关系；在其后引入注意力机制，来学习重要的文本特征；最后使用分类层对输出进行分类。本发明所提方法在中文数据集上具有可行性和优越性。

技术领域

本发明提出一种基于中文数据集的文本情感分析方法，涉及文本情感分析领域。

背景技术

随着互联网的快速发展，大多数人都有在微博，论坛等各种社交网络发表意见的经历，这种情况带来了大量带有人们情感色彩的文本，对于这些文本情感的分析与分类，是自然语言处理(NLP)的一个重要分支。

文本情感分析的主要任务就是对带有感情色彩的文本进行分析，处理，归纳，判断。传统机器学习算法需要使用大量的人工选择的数据特征，耗费大量人力且迁移性不强，而且不论是有监督还是无监督的学习方法，都属于浅层学习，无法学习到文本的更深层信息，在有限的文本数据和计算单元的情况下，机器学习对于复杂问题的处理以及复杂功能的实现上会受到一定程度的限制。

为了克服传统机器学习算法的缺陷，很多工作开始利用深度学习算法来处理NLP任务，CNN（Convolutional Neural Network )和RNN( Recurrent Neural Networks)是文本情感分析任务中使用最广泛的网络模型。但是由于文本中，每个词或者句子对整个文本的情感极性有着不同的决定作用，而以上两种神经网络都是学习文本的整体特征，无法识别文本重要的信息。

本发明提出一种基于中文数据集的文本情感分析方法，构建了一种基于注意力机制的混合神经网络模型(ConvLSTM-Attention)，先对中文语料进行分词和去停用词的处理，通过词向量工具将其转变为词向量矩阵；然后使用卷积神经网络(CNN)进行局部信息特征的提取，将其作为长短时记忆网络(LSTM)的输入，来学习文本词语，句子之间的序列关系；在其后引入注意力机制，来学习重要的文本特征；最后将得到的文本特征表示输入softmax分类层进行分类。该方法相较于一般深度学习网络，能够充分地提取文本的局部特征与序列信息，并能够通过注意力机制学习文本的重要信息特征，其正确率在中文数据集上可以达到91.76%。

发明内容

有鉴于此，本发明的主要目的在于将CNN网络与LSTM相结合，并在其后加入注意力层，提取重要的文本信息特征，提高文本情感分析的正确率。

为了达到上述目的，本发明提出的技术方案为：

一种基于中文数据集的文本情感分析方法，所述方法包括如下步骤:

步骤1、对语料进行预处理，将文本转换为固定大小的词向量矩阵；

步骤2、使用卷积神经网络(CNN)进行局部信息特征的提取，将其作为长短时记忆网络(LSTM)的输入，来学习文本词语，句子之间的序列关系；

步骤3、引入注意力机制，将步骤2得到的特征作为输入，进一步学习重要的文本特征；

步骤4、将得到的文本特征表示输入softmax分类层进行分类，积极为1，消极为0，并与文本标签进行对比计算，得出文本分类正确率。

综上所述，本发明使用CNN结合LSTM，并引入注意力机制来学习重要的文本信息，实质上就是使用LSTM对序列信息的学习能力来取代传统卷积神经网络的池化层，保留重要的文本特征信息，然后使用注意力层识别重要的特征，提升分类准确率。

附图说明

图1为本发明所述的一种基于中文数据集的文本情感分析方法的总体流程示意图；