[发明专利]一种基于强化学习的蒙汉双语种互译方法

说明书

编码器‑解码器架构的神经机器翻译(NMT)在当前的标准机器翻译基准上实现了最佳的结果，但由于训练该模型需要大量平行语料数据，对于少数民族语言翻译领域而言，普遍面临双语对齐语料不足，资源稀少，因此本发明提供一种基于强化学习的蒙汉双语种互译方法。系统接受一个蒙语句子来翻译，生成一个汉语句子，并且得到一个标量分数作为反馈。利用强化学习技术，从反馈中有效地学习。在强化学习中定义解法的数学框架叫做马尔科夫决策过程。目标是找到一个策略使得预期的翻译质量最大化。在训练过程中，如果某个行为策略导致环境大的奖赏，那么以后产生这个行为策略的趋势便会加强，最终找到最优策略以使期望的折扣奖赏和最大，使得翻译质量提高。

技术领域

本发明属于机器学习技术领域，特别涉及一种基于强化学习的蒙汉双语种互译方法。

背景技术

随着Internet的普遍应用，世界经济一体化进程的加速以及国际社会交流日渐频繁，机器翻译技术在促进政治、经济、文化交流等方面起到越来越重要的作用。

在我国经济快速发展与社会不断进步的背景下，蒙古族与汉族的之间的交流日益频繁，而蒙古语是我国蒙古族同胞使用的主要语言，并且蒙语作为蒙古国的官方语言，因此蒙汉机器翻译的研究对于两种文化的价值观相互渗透，凝聚民族的核心文化，促进良好民族关系的建立以及促进和蒙古国之间的对外贸易和文化交流都具有重要意义。

目前，编码器-解码器架构的神经机器翻译(NMT)在当前的标准机器翻译基准上实现了最佳的结果，并且也已经在业界的翻译服务核心得到了应用。NMT模型由编码器和解码器两者组成，二者均采用循环神经网络(Recurrent Neural Network,RNN)结构。可使用双向的RNN作为编码器和单向的RNN作为解码器，这个框架从源语言句子a＝{a₁,a₂,...,a_n}到正确的双语库目标语言句子b＝{b₁,b₂,...,b_m}学习了一个概率映射Pθ(b|a)，其中a_n和b_m分别是源语言句子a的第n个词和正确双语库目标语言句子b的第m个词。

注：b_t:双语库中目标语言句子b的第t个词。

b<t:b_t先前的词。

每一个局部分布式P_θ(b|b_<t,a)通过目标词汇建模成一个多项式分布。根据softmax函数，把公式(1)线性转化，解码器输出矢量

c_t＝attend(s'_1:n,s_t) (4)

注：attend(.,.)：一种注意力机制

τ：softmax函数的参数

s：解码器生成的隐藏向量

s'：编码器生成的隐藏向量

在一个监督的学习框架中，一个NMT模型通常是在最大的逻辑可能性下进行训练的，但由于训练该模型需要大量平行语料数据，才能得到比较好的结果。但是对于少数民族语言翻译领域而言，此类翻译任务普遍面临双语对齐语料不足，资源稀少，翻译研究时间短，成果少等困难。并且平行语料库的获得成本非常之高，且需要相对应的专业知识。

发明内容