[发明专利]一种基于词向量连接技术的神经机器翻译方法及装置

摘要

本发明公开了一种基于词向量连接技术的神经机器翻译方法，包括：在编码阶段，编码器获得源语句的词向量序列，根据确定的前向向量序列和反向向量序列确定源语句对应的隐层向量序列，每个源单词对应的含有上下文信息的向量表示包括该源单词对应的前向隐层状态、反向隐层状态及单词向量，可以获得上下文向量，在解码阶段，解码器预测相应源单词的目标单词，从而生成源语句的目标语句。应用本发明实施例所提供的技术方案，缩短了源端单词向量和目标端单词向量之间的信息通道，增强了单词向量之间的连接和映射，增强了翻译系统性能，提高了翻译质量。本发明还公开了一种基于词向量连接技术的神经机器翻译装置，具有相应技术效果。

主权项

一种基于词向量连接技术的神经机器翻译方法，其特征在于，包括：在编码阶段，编码器对读取到的源语句进行编码，获得所述源语句的词向量序列x＝＜x1,x2,…,xj,…,xT＞；其中，xj为所述源语句中第j个源单词的单词向量，T表示所述源语句包含的源单词的数量；所述编码器的前向循环神经网络RNN根据所述词向量序列，确定由隐层向量组成的前向向量序列其中，为第j个源单词的前向隐层状态，f为非线性激活函数；所述编码器的反向RNN根据所述词向量序列，确定由隐层向量组成的反向向量序列其中，为第j个源单词的反向隐层状态；根据所述前向向量序列和所述反向向量序列，确定所述源语句对应的隐层向量序列＜h1,h2,…,hj,…,hT＞；其中，为所述源语句中每个源单词对应的含有上下文信息的向量表示；根据所述隐层向量序列，利用attention网络获得上下文向量ct＝q({h1,h2,…,hj,…,hT})；其中，q为非线性激活函数；在解码阶段，解码器根据所述上下文向量ct和当前已预测得到的目标单词{y1,y2,…,yt‑1}，预测相应源单词的目标单词yt，生成所述源语句的目标语句Ty表示所述目标语句包含的目标单词的数量。