[发明专利]一种融合多特征的双向循环神经网络细粒度意见挖掘方法

权利要求书

1.一种融合多特征的双向循环神经网络细粒度意见挖掘方法，其特征在于，包括以下步骤：

S1)、抓取特定网站的评论数据作为训练样本集；

S2)、通过人工标注训练样本集中每条评论数据中所需要的属性或实体，根据人工标注结果使用实体标记方法(BIO)标记每条评论数据的属性或实体后，并进行情感极性标注，即(B₁,I₁,O)表示评论数据的情感极性为正面，(B₂,I₂,O)表示评论数据的情感极性为负面，(B₃,I₃,O)表示评论数据的情感极性为中性，从而得到评论数据中每个词的7个情感极性标记分类结果，即其中，B、I、O分别表示实体的开始、内部、外部；

S3)、对训练样本集进行分词，词性标注和依存关系标注预处理；

S4)、选取一个汉语的维基百科语料库，并对其进行分词，词性标注和依存关系标注预处理，使用Word2Vec或Glove模型算法，输入预处理后的训练样本集与预处理后的维基百科语料库，训练输出评论数据与维基百科语料库中每个词的词向量Vec_Model；

S5)、将预处理后的训练样本集中的每一条评论数据转化为序列X＝{x₁,x₂,…,x_n}，其中，x_i表示该条评论数据的第i个词，并将序列X＝{x₁,x₂,…,x_n}对应的词性标注Part-of-Speech序列记为P＝{p₁,p₂,…,p_n}，其中，p_i表示x_i的词性，以及对应的依存关系标注(Dependency Relation)序列记为D＝{d₁,d₂,…,d_n}，依存关系对记为R＝{r₁,r₂,…,r_n}，其中，r_i表示第i个词对应的依存关系对；

对于每一条评论数据，在t时刻，任意词x_t、词性标注d_t、依存关系标注p_t、依存关系对r_t四个特征向量化后融合拼接得到向量其中，在t时刻，词性标注d_t、依存关系标注p_t向量化采用One-Hot模型，若依存关系对r_t＝(x_t,x_j)，取x_t的词向量依存关系对向量

S6)、将向量输入双向循环神经网络构建得到双向循环神经网络序列标注模型，其网络的前后向隐藏层的循环计算为：

将前、后向隐藏层接入到输出层，最后接一个激活函数得到预测值y_t，即

其中，N为词向量纬度，N₁为依存关系种类个数，N₂为词性标签种类个数，U为权重矩阵，c为偏置；

S7)、将预测值y_i与真实值通过计算交叉熵作为损失函数loss，从而最小化损失函数值，其计算式为：

其中，i表示每条评论数据中每个词的索引，j表示每条评论数据的7类情感极性标记分类的索引；

并通过梯度下降算法更新网络中的权重矩阵U和偏置c，然后依据更新后的权重矩阵U和偏置c重新计算上述损失函数loss的值，重复迭代多次直至损失函数loss的值不再减小，从而得到训练好的双向循环神经网络细粒度意见挖掘模型；

S8)、获取新的评论数据作为测试语料集，并对测试语料集按照步骤S2-S5进行相应的处理后输入步骤S7)中训练好的双向循环神经网络序列标注模型，对测试语料集进行情感极性分类。