[发明专利]语句文本方面级情感分类方法及系统

说明书

本发明提供一种语句文本方面级情感分类方法及系统，属于文本情感分类技术领域，包括：将每个单词进行序列化表示，获取序列的上下文序列信息，通过结构化自注意力机制生成结构化方面表示和结构化上下文表示；根据结构化方面表示和结构化上下文表示，利用依存关系树的句法依存信息，结合平均池化聚合方面向量的信息，提取最终嵌入，结合反向传播算法，计算不同情感极性的概率分布，预测句子最终情感极性。本发明解决了多个词之间的长距离单词依存问题，考虑了上下文依赖关系；利用结构化的自我注意机制，将句子编码成一个多维矩阵，每个向量可以被视为与方面词相关的上下文，生成方面的上下文表示，揭示了多个语义片段与方面词的关系。

技术领域

本发明涉及文本情感分类技术领域，具体涉及一种基于注意力网络的深度学习的语句文本方面级情感分类方法及系统。

背景技术

方面级的情感分类是一项流行的确认情感极性的任务，其目的是识别句子中给定方面词的情感极性。针对某一事物的文本评论，判断文本句子的情感极性主要包括两个方面，分别是积极和消极。将出现在输入语句中的名词短语作为确认情感极性的方面词，由于某些句子可能会同时存在几个方面，而这些方面又可能代表不同的情感极性，所以进行情感分类是很重要的。

传统的处理方法是为模型构建特征工程，并选择一系列良好的特征。通常使用传统的方法，如情感词典和机器学习。由于深度学习方法在自动学习文本特征方面具有明显的优势，可以避免依赖手工设计特征，并且可以将特征映射成连续的低维向量。因此，它被广泛应用于方面级的情感分类中。

基于神经网络的分类模型，如递归神经网络(RNN)、卷积神经网络(CNN)已经被广泛应用于方面级的情感分类。基于注意力机制的RNN模型增强了上下文词汇和方面词之间的语义连接被广泛应用于最近的方法中，用于搜索与给定方面词所相关的潜在相关词。基于CNN的注意力方法也被提出用于增强短语级表示，并取得了不错的结果。尽管基于注意的模型在多项任务中取得了良好的成绩，但由于注意力模块可能会因句法缺失而突出不相关的单词，这可能会导致情绪极性预测错误，其局限性仍然很明显。

发明内容

本发明的目的在于提供一种文本情感极性分类准确的基于注意力网络的深度学习的语句文本方面级情感分类方法及系统，以解决上述背景技术中存在的至少一项技术问题。

为了实现上述目的，本发明采取了如下技术方案：

第一方面，本发明提供一种语句文本方面级情感分类方法，包括：

将每个单词进行序列化表示，获取序列的上下文序列信息，通过结构化自注意力机制生成结构化方面表示和结构化上下文表示；

根据结构化方面表示和结构化上下文表示，利用依存关系树的句法依存信息，结合平均池化聚合方面向量的信息，提取分类任务的最终嵌入；

根据最终嵌入，结合反向传播算法，计算不同情感极性的概率分布，预测语句文本的最终情感极性。

优选的，利用GloVE词嵌入进行预处理操作，将每个单词进行序列化表示，得到文本的词嵌入表示；

利用双向长短时记忆网络Bi-LSTM从前后两个方向提取序列的特征，获取捕捉序列的上下文序列信息。

优选的，构造基于依存关系树的图注意力神经网络，利用依存关系树的句法依存信息对依赖关系构建提取模型；

利用构建的提取模型，结合平均池化聚合方面向量的信息，提取分类任务的最终嵌入；

将提取的最终嵌入经过全连接层后输入到最终的softmax分类器中，从而预测最终的情感极性。

优选的，针对上下序列信息中文记忆和方面记忆，提取与方面词相关的语义片段，并利用自我注意操作将方面记忆转换为结构化的方面表示，获得方面矩阵；

添加一个惩罚项获取方面表示中加权和向量的多样性；