[发明专利]一种基于融合统计机器翻译模型的蒙汉神经机器翻译方法

说明书

本发明公开了一种基于融合统计机器翻译模型的蒙汉神经机器翻译方法，具体包括以下步骤：S1、NMT分类器继承标准的基于注意力的NMT后在规则词表上估计单词的预测概率；S2、SMT分类器计算由辅助SMT模型生成的SMT建议的概率；S3、将SMT建议整合到NMT中；本发明涉及神经机器翻译技术领域。该基于融合统计机器翻译模型的蒙汉神经机器翻译方法，通过将统计机器翻译模型合并到神经机器翻译框架中，以利用统计机器翻译和神经机器翻译模型的优点来实现更好的翻译，SMT分类器和门控函数在NMT结构中以端到端方式联合训练，此外，为了更好地缓解测试阶段的UNK问题，通过联合考虑NMT模型的注意概率和SMT模型的覆盖率信息，选择合适的SMT建议来代替目标UNK单词。

技术领域

本发明涉及神经机器翻译技术领域，具体为一种基于融合统计机器翻译模型的蒙汉神经机器翻译方法。

背景技术

机器翻译技术是计算语意学与自然语言信息处理的一个重要应用领域，也是一项跨人工智能学、语言学、计算语言学等多学科综合性研究课题，属于国际前沿研究领域，它是指利用计算机将一种自然语言转化为具有完全相同语义的另一种自然语言的过程，而蒙汉机器翻译就是利用计算机程序将蒙古语源语言文本自动翻译成汉语目标语言文本，机器翻译作为突破不同国家和民族之间信息传递所面临的“语言屏障”问题的关键技术，对于促进民族团结、加强文化交流和推动对外贸易具有重要意义。

神经机器翻译是近年来发展较快的一种机器翻译新方法，对于神经网络机器翻译而言，通常使用的基本网络模型是循环神经网络机器翻译模型，目前基于注意力机制的循环神经网络翻译模型的翻译效果较好，特别是翻译长句子时更为明显，最初的神经网络机器翻译并没有考虑到翻译时源端和目标端的翻译对齐信息，而在基于注意力机制的翻译模型中改进了这一缺陷，该模型中不再利用同一个向量生成目标语言句子中的所有单词，而是考虑到了目标语言句子中单词与源语言句子中单词之间的对齐权重，基于注意力机制的神经网络在编码器和解码器之间加入注意力权重，用于计算目标语言句子中单词与源语言句子中单词之间的对齐权重。

NMT通常会产生流利但不充分的翻译，首先，NMT缺乏记录源语言单词是否被翻译的机制，导致“过翻译”或“翻译不足”问题；其次，翻译不准确问题，NMT容易生成看似自然，实则未反应源句子原本语义的单词；最后，未登录词问题，NMT使用一个固定的中等规模的词汇表来表示最常见的单词，并使用一个替换词替换其他单词。

发明内容

针对现有技术的不足，本发明提供了一种基于融合统计机器翻译模型的蒙汉神经机器翻译方法，解决了NMT缺乏记录源语言单词是否被翻译的机制，翻译不准确，未登录词的问题。

为实现以上目的，本发明通过以下技术方案予以实现：一种基于融合统计机器翻译模型的蒙汉神经机器翻译方法，具体包括以下步骤：

S1、NMT分类器继承标准的基于注意力的NMT后在规则词表上估计单词的预测概率；

S2、SMT分类器计算由辅助SMT模型生成的SMT建议的概率；

S3、将SMT建议整合到NMT中。

优选的，所述S1中标准的基于注意力的NMT的翻译过程为，给定源句子NMT将其编码为一个向量序列，之后使用该向量序列生成目标句子

优选的，所述基于注意力的NMT使用一个由正向RNN和反向RNN组成的双向RNN对源句子进行编码，其中正向RNN顺序阅读源句子x，生成一个正向的隐藏状态序列反向RNN则反向阅读源句子x并生成一个反向的隐藏状态序列将每个位置的隐藏状态对串联起来，形成该位置的单词注释，从而得到整个源句的注释，其中