[发明专利]一种基于局部短语句法增强机制的神经机器翻译方法

摘要

本发明涉及一种基于局部短语句法增强机制的神经机器翻译方法，属于自然语言处理机器翻译技术领域。首先构建各个元素的局部短语序列，通过局部短语序列构建相对短语位置向量矩阵。然后，识别冗余头，根据句法注意力的平均权重动态确定训练过程中每个头的重要性。最后使用基于局部短语的句法增强的注意力机制代替原本的冗余头，以激活其潜在能力。本发明能够准确地识别多头注意力机制中的重要头和冗余头，并通过基于局部短语的句法增强机制来对冗余头进行修改，所构建的自注意力网络可用于机器翻译研究，取得了良好的效果。