[发明专利]一种基于深度学习的电商评论情感分析系统

权利要求书

1.一种基于深度学习的电商评论情感分析系统，其特征在于，包括评论提取模块、极性分类模块、深度学习模块、词向量匹配模块、情感属性词提取模块、情感属性词融合模块、词义语序损失修正模块和属性情感标签提取模块；

评论提取模块，用于提取产品的评论数，并生成产品评论集；

极性分类模块，用于评论集的情感极性分类，建立产品属性情感标签；

深度学习模块，采用bert的Transformer的算法框架捕捉语句中的双向关系，使用MaskLanguage Model(MLM)[3]和Next Sentence Prediction(NSP)的多任务训练目标，通过在海量的语料的基础上运行自监督学习方法为单词学习一个好的特征表示，生成词向量预训练词典；

词向量匹配模块，用于对评论集与词向量预训练词典进行关键词匹配，确定对词向量语言表示模型；

情感属性词提取模块，神经网络模型对评论集的情感属性词进行提取；

情感属性词融合模块，用于将情感属性词和词向量语言表示模型进行词义融合；

词义语序损失修正模块，用于对融合后属性情感初始化标签进行词义和语序的修正，修正生成属性情感预选标签合集；

属性情感标签提取模块，用于对属性情感预选标签合集进行情感度计算，并对情感度进行对比，同时对产品符合度进行匹配，进行属性情感标签的筛选提取。

2.根据权利要求1所述的一种基于深度学习的电商评论情感分析系统，其特征在于：所述极性分类模块，在进行评论集的情感极性分类时，包括对产品词的提取、属性词的提取和情感词的提取，其中对产品词与产品本身进行匹配度对比，确定评论正确值，对评论集极性分类及净化处理。

3.根据权利要求1所述的一种基于深度学习的电商评论情感分析系统，其特征在于：所述深度学习模块采用bert的Transformer的算法框架捕捉语句中的双向关系，使用MaskLanguage Model(MLM)[3]和Next Sentence Prediction(NSP)的多任务训练目标，通过在海量的语料的基础上运行自监督学习方法为单词学习一个好的特征表示，主要包括：

表层词集输入，建立算法框架；

隐藏层结构扩展，对相邻框架和多层结构进行神经元相互连接，建立卷积神经网络模型、循环神经网络模型和长短期记忆神经网络模型，完成词向量的预训练；

输出层完成对生成词向量的输出，生成词向量预训练词典。

4.根据权利要求1所述的一种基于深度学习的电商评论情感分析系统，其特征在于：所述情感属性词提取模块，运用bert的神经网络模型对评论集的情感属性词进行提取，其中包括：

对带有情感属性的目标词进行标记，建立深度学习模型，学习蕴含属性情感信息的词语词向量表示，训练描述过程；

预测各个情感标签的概率分布，对概率值最高的标签类标记为预测目标；

建立多任务模型，对预测目标进行bert微调，生成标志特征量，根据任务类型建立损失函数，并进一步通过一层任务模型全连接的微调，确定情感属性词向量。

5.根据权利要求4所述的一种基于深度学习的电商评论情感分析系统，其特征在于：所述bert微调包括：

给定一个前提，根据这个前提去推断假设与前提的关系，该任务的关系分为三种，蕴含关系、矛盾关系和中立关系，发掘前提和假设两个句子之间的交互信息；

基于Quora，判断Quora上的两个问题句是否表示的是一样的意思；

判断文本是否包含问题的答案；

预测两个句子的相似性，判断两个句子是否等阶；

对只是蕴含关系的二分类判断，减少数据集，确定情感属性词向量。

6.根据权利要求1所述的一种基于深度学习的电商评论情感分析系统，其特征在于：所述情感属性词融合模块，将情感属性词和词向量语言表示模型进行词义融合，融合时，对融合过程进行初步计算，确定词向量语言表示模型的词义属性，确定情感属性词的词义定位，将情感属性词和词向量语言表示模型进行词义叠加，形成新的属性情感初始化标签。

7.根据权利要求1所述的一种基于深度学习的电商评论情感分析系统，其特征在于：所述词义语序损失修正模块读取属性情感初始化标签，通过逻辑计算确定属性情感初始化标签的语序和词义的正确性，确定词义或语序存在逻辑错误，则进行词义和语序的修订。