[发明专利]结合情感原因发现的文本情感预测学习系统

权利要求书

1.一种文本情感原因发现装置，其特征在于，该装置包括词-子句层级结构，包含有四部分：词级别编码器、词级别注意力、子句级别注意力、子句级别编码器；其中，

词级别编码器，将文本送入词级别编码器，用于捕获词与词之间的序列特征；

词级别注意力，通过当前词语的隐状态表示和与之对应的情绪表达之间的关系来获得词级别的注意力值，用来指示当前词在其所在的子句中所占的重要程度，然后通过权重和累加操作获得每个子句的表示，其中，所述词级别注意力的计算公式如下：

其中，w为参数矩阵，为情绪表达e^w的向量表示，α_it指示单词，w_it在子句c_i中的重要程度，为子句c_i的输出标识，g_it和g_it'为不同时间步中计算注意力值的中间值，h_it为第i个子句的向量表示；

子句级别注意力，利用一个分类器来获得当前子句是情感原因的概率以此作为子句的注意力值，在子句层级将当前子句距离情绪表达词的距离与子句表示拼接；

子句级别编码器，通过子句级别编码器获取不同子句之间的结构性信息更新子句表示，通过softmax来获得分类特征的概率分布。

2.根据权利要求1所述的文本情感原因发现装置，其特征在于：所述词级别编码器采用门限循环单元。

3.根据权利要求1所述的情感原因发现装置，其特征在于：子句级别注意力中，在子句层级将当前子句距离情感表达词的距离与子句表示拼接，计算公式如下：

其中，W_v为参数矩阵，l_i为位置信息向量表示，q_i为子句c_i是情感原因的概率，同时也表示将有多少信息被保留到

4.根据权利要求3所述的情感原因发现装置，其特征在于：子句级别编码器中的计算公式如下：

其中，和是子句GRU单元，l_i为位置信息向量表示，和为子句的c_i前向和后向隐状态表示，W_m为参数矩阵，为不同子句的情感原因概率分布。

5.一种结合情感原因发现的情感预测学习系统，该系统包括如权利要求1-4任一项所述的情感原因发现装置以及共享模块、情感预测模块。

6.如权利要求5所述的情感预测学习系统，其特征在于：共享模块捕获两个任务间的共享信息，并通过一共享GRU单元实现，其计算公式如下：

其中，和为前向和后向GRU单元，x_st为情感原因发现文本或者情感预测文本，和为情感文本的前向和后向表示，h_st为和的连接表示。

7.如权利要求5所述的情感预测学习系统，其特征在于：所述情感预测模块利用GRU单元捕获情感预测文本的序列特征，并通过注意力机制获取文本的隐状态表示，最后和共享层的输出一起用于情感预测。

8.如权利要求5所述的情感预测学习系统，其特征在于：对情感原因发现和情感预测分别进行优化，将交叉熵作为损失函数，

L＝-∑_D∑_c∈Cy^clogf^c(x；θ)

其中，D是训练数据，C是样例的所有类别，y^c是真实类别的分布，f^c(x；θ)是模型预测为c-th类别的概率分布。