[发明专利]一种引入源语组块信息编码的神经机器翻译方法

权利要求书

1.一种引入源语组块信息编码的神经机器翻译方法，其特征在于包括以下步骤：

1)输入双语句子级平行数据，分别对源语和目标语分词，得到分词后的双语平行句对；

2)用神经机器翻译系统对分词后的双语平行句对中的源语句子按时序进行编码，获取最后一层隐藏层上每个时序的状态，即每个时序下的编码信息；

3)在神经机器翻译的编码端的最上面构建一个识别层，对输入的源语句按块进行切分；

4)根据步骤2)、3)得到的源语句的每个时序状态以及源语句的切分信息，获得源语句的块编码信息；

5)将步骤2)和4)产生的时序的编码信息与块编码信息联合起来，获得最终的源语句记忆信息；

6)得到最终的源语句记忆信息后，解码器网络通过动态地查询源语句的记忆信息，利用注意力机制产生每一个时刻的上下文向量，并抽取特征向量，进行词汇预测；

步骤4)中根据步骤2)、3)得到的源语句的每个时序状态以及源语句的切分信息，获得源语句的块编码信息，具体为：

假设所有可能的分块为X为输入的源语句，i和j分别为块的起始和结束位置，Ls代表源语句单词的数目；

取一个子集来表示源语句的分块集合，其中|S(X)|＝m表示源语句中存在m个分块，源语句的块编码为S＝(s₁，...，s_m)，其中s_i代表的是第i(1≤i≤m)个块的编码信息；

通过RNN-MINUS方法对块进行编码，即：假设对分块进行编码之前的记忆信息是I_s，经过分块之后的编码的记忆信息是I_e，将这个分块所代表的信息表示成I_e-I_s；

给定双向循环神经网络编码采用RNN-MINUS方法对块进行编码，得到：

2.根据权利要求1所述的引入源语组块信息编码的神经机器翻译方法，其特征在于步骤2)中，用神经机器翻译系统对分词后的双语平行句对中的源语句子按时序进行编码，获取最后一层隐藏层上每个时序的状态，具体如下：

H是源语句的记忆信息，通过双向循环神经网络得到，H＝(h₁，...，h_Ls)，其中由两个记忆单元拼接而成，为第i个单词记忆单元，即编码信息，Ls为源语句的单词个数，为正向标注向量，为反向标注向量；

其中和为两个独立的门循环单元，为源语句单词序列中第i个单词的词向量。