[发明专利]一种基于emoji的跨语言情感分析方法和装置

权利要求书

1.一种基于emoji的跨语言情感分析方法，其特征在于，包括以下步骤：

1)基于收集的大量源语言和目标语言的未标记文本创建词向量；

2)基于所述词向量选出未标记文本中包含emoji的文本，通过所述包含emoji的文本建立emoji预测任务，从而获得句表征模型；

3)将标记过情感极性的源语言语料翻译成目标语言，利用所述句表征模型得到原文本和翻译得到的文本的文档表征，然后利用所述文档表征训练情感分类模型；

4)利用训练得到的所述情感分类模型，对目标语言的新文本进行情感分类，得到其情感极性。

2.根据权利要求1所述的方法，其特征在于，步骤1)为无监督学习阶段，在该阶段中使用大规模的推特文本和Word2Vec方法来训练得到词向量。

3.根据权利要求1所述的方法，其特征在于，步骤2)为远程监督学习阶段，在emoji预测任务中使用相同的emoji的句子在向量空间被相似地表征；所述emoji预测任务使用两个双向LSTM层和一个Attention层来进行句子层面的文本编码，并通过使用Skip-connection的机制，使得Attention层的输入为词向量层加上两个LSTM层的输出，以实现信息在整个模型中无阻碍传递，最后Attention层的输出用于Softmax层的分类。

4.根据权利要求3所述的方法，其特征在于，所述双向LSTM层按照以下公式进行网络中节点状态的计算：

i^(t)＝δ(U_ix^(t)+W_ih^(t-1)+b_i),

f^(t)＝δ(U_fx^(t)+W_fh^(t-1)+b_f),

o^(t)＝δ(U_ox^(t)+W_oh^(t-1)+b_o),

c^(t)＝f_t⊙c^(t-1)+i^(t)⊙tanh(U_cx^(t)+W_ch^(t-1)+b_c),

h^(t)＝o^(t)⊙tanh(c^(t)),

其中，x^(t),i^(t),f^(t),o^(t),c^(t)及h^(t)分别表示LSTM在步骤t下的输入向量、输入门状态、遗忘门状态、输出门状态、内存单元状态及隐藏层状态；W、U、b分别代表循环网络结构的参数、输入结构的参数及偏差项参数；符号⊙表示元素积。

5.根据权利要求4所述的方法，其特征在于，所述双向LSTM层将前向及后向LSTM得到的词序列的第i个元素的表征向量直接连接得到最终的表征向量h_i，使表征向量h_i同时捕获到对应的第i个词语前向及后向的上下文信息。