[发明专利]语言处理方法及装置、语言处理系统的训练方法及装置

权利要求书

1.一种语言处理系统的训练方法，其特征在于，所述方法包括：

将样本段落中的多个待翻译样本语句及对应的翻译样本语句作为平行语料输入至翻译模型进行训练，直至满足翻译模型的训练停止条件；

将所述样本段落中包含连接词的翻译样本语句中的连接词更换为连接标记，将未包含连接词的所述翻译样本语句中插入所述连接标记，生成每个翻译样本语句对应的标记翻译样本语句；

将多个所述标记翻译样本语句输入至语言模型进行训练，直至满足语言模型的训练停止条件，其中，所述语言模型将所述连接标记删除或替换为对应的最终连接词，得到每个标记翻译样本语句对应的最终翻译样本语句。

2.如权利要求1所述的方法，其特征在于，所述语言模型的训练停止条件，包括：

根据所述最终翻译样本语句计算所述语言模型的困惑度，直至所述困惑度小于阈值。

3.一种语言处理方法，其特征在于，所述方法包括：

将包括多个待翻译语句的目标段落输入翻译模型，得到每个待翻译语句对应的翻译语句；

将包含连接词的翻译语句中的所述连接词替换为连接标记，将不包含连接词的翻译语句中插入所述连接标记，生成每个翻译语句对应的标记翻译语句；

将多个所述标记翻译语句输入语言模型，所述语言模型将所述连接标记删除或替换为对应的最终连接词，得到每个标记翻译语句对应的最终翻译语句，其中，所述语言模型根据权利要求1—2任一项所述的语言处理系统的训练方法而得到；

根据每个标记翻译语句对应的最终翻译语句拼接得到翻译段落。

4.如权利要求3所述的方法，其特征在于，所述翻译模型包括编码器和解码器；

将包括多个待翻译语句的目标段落输入翻译模型，得到每个待翻译语句对应的翻译语句，包括：

将每个待翻译语句输入编码器，得到编码器输出的编码向量；

将所述编码向量和参考解码向量输入至解码器，得到解码器输出的解码向量；

将所述解码向量进行线性化和归一化处理，生成对应的翻译语句。

5.如权利要求3所述的方法，其特征在于，将包含连接词的翻译语句中的所述连接词替换为连接标记，将不包含连接词的翻译语句中插入所述连接标记，包括：

对所述翻译语句进行预处理，判断所述翻译语句是否包含连接词；

若是，将包含连接词的翻译语句中的所述连接词替换为所述连接标记；

若否，在所述不包含连接词的翻译语句的起始位置插入所述连接标记。

6.如权利要求3所述的方法，其特征在于，将多个所述标记翻译语句输入语言模型，所述语言模型将所述连接标记删除或替换为对应的最终连接词，得到每个标记翻译语句对应的最终翻译语句，包括：

S1、所述语言模型依次根据所述连接标记的相邻标记翻译语句，判断所述连接标记是否对应有连接词；

S2、若是，所述语言模型将所述连接标记替换为对应的最终连接词；

S3、若否，所述语言模型将所述连接标记删除；

S4、所述语言模型判断连接标记是否处理完毕，若否，执行步骤S1，若是，执行步骤S5；

S5、根据处理后的连接标记，得到每个标记翻译语句对应的最终翻译语句。

7.一种语言处理系统的训练装置，其特征在于，包括：

第一训练模块，被配置为将样本段落中的多个待翻译样本语句及对应的翻译样本语句作为平行语料输入至翻译模型进行训练，直至满足翻译模型的训练停止条件；

翻译样本语句标记模块，被配置为将所述样本段落中包含连接词的翻译样本语句中的连接词更换为连接标记，将未包含连接词的所述翻译样本语句中插入所述连接标记，生成每个翻译样本语句对应的标记翻译样本语句；

第二训练模块，被配置为将多个所述标记翻译样本语句输入至语言模型进行训练，直至满足语言模型的训练停止条件，其中，所述语言模型将所述连接标记删除或替换为对应的最终连接词，得到每个标记翻译样本语句对应的最终翻译样本语句。