[发明专利]语句翻译方法、装置、设备及介质在审
申请号: | 202110548019.X | 申请日: | 2021-05-19 |
公开(公告)号: | CN113761951A | 公开(公告)日: | 2021-12-07 |
发明(设计)人: | 孟凡东;苗孟琦;刘宜进 | 申请(专利权)人: | 腾讯科技(深圳)有限公司 |
主分类号: | G06F40/58 | 分类号: | G06F40/58;G06F40/126;G06K9/62;G06N3/08 |
代理公司: | 北京同达信恒知识产权代理有限公司 11291 | 代理人: | 朱佳 |
地址: | 518044 广东省深圳*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 语句 翻译 方法 装置 设备 介质 | ||
本申请提供了一种语句翻译方法、装置、设备及介质,涉及机器翻译技术领域,用于提高翻译结果的忠实度。该方法包括:借助第一翻译辅助模型模拟第一翻译模型的过度自信翻译过程,从而根据第一翻译辅助模型和第一翻译模型各自输出的概率之间的差异,对第一翻译模型的忠实度训练损失进行量化,基于忠实度训练损失直接有效地调整第一翻译模型的模型参数,从而提高了训练得到的目标翻译模型输出的翻译语句的翻译忠实度。
技术领域
本申请涉及人工智能技术领域,尤其涉及机器翻译技术领域,提供一种语句翻译方法、装置、设备及介质。
背景技术
翻译模型被普遍地应用在自动翻译领域,翻译模型本质上可以理解为一个联合语言模型,其根据待译语句和已经翻译出的翻译文本预测下一个元素,直到获得待译语句的翻译结果。
目前,翻译模型的忠实度是评价翻译模型训练效果的一个重要指标,忠实度是指翻译模型输出的翻译结果与待译语句的相符程度,而如何提高翻译模型的忠实度是亟需解决的问题。
发明内容
本申请实施例提供一种语句翻译方法、装置、设备及介质,用于提高翻译结果的忠实度。
一方面,提供一种语句翻译方法,包括:
获得待翻译的目标语句;
将所述目标语句,输入已训练的目标翻译模型,获得目标翻译语句;
其中,所述目标翻译模型是采用第一样本训练数据集合,对待训练的第一翻译模型进行训练的过程中,基于忠实度训练损失值对所述第一翻译模型进行参数调整后获得的,每个第一样本训练数据包括第一样本待译语句和相应的第一样本翻译语句,所述忠实度训练损失值是基于各个输出位置各自对应的第一概率与第二概率之间的差异获得的,每个输出位置对应的第一概率为基于所述第一翻译模型,以相应的第一样本训练数据为条件,获得的第一目标元素的输出概率,每个输出位置对应的第二概率为基于第一翻译辅助模型,以相应的第一样本翻译语句为条件,获得的第一目标元素的输出概率。
一方面,提供一种语句翻译装置,包括:
语句获得模块,用于获得待翻译的目标语句;
语句翻译模块,用于将所述目标语句,输入已训练的目标翻译模型,获得目标翻译语句;
其中,所述目标翻译模型是采用第一样本训练数据集合,对待训练的第一翻译模型进行训练的过程中,基于忠实度训练损失值对所述第一翻译模型进行参数调整后获得的,每个第一样本训练数据包括第一样本待译语句和相应的第一样本翻译语句,所述忠实度训练损失值是基于各个输出位置各自对应的第一概率与第二概率之间的差异获得的,每个输出位置对应的第一概率为基于所述第一翻译模型,以相应的第一样本训练数据为条件,获得的第一目标元素的输出概率,每个输出位置对应的第二概率为基于第一翻译辅助模型,以相应的第一样本翻译语句为条件,获得的第一目标元素的输出概率。
在一种可能的实施例中,所述装置还包括模型训练模块,所述模型训练模块,具体用于采用以下方式训练获得的目标翻译模型:
基于所述第一样本训练数据集合,对待训练的第一翻译模型进行多次迭代训练,直到满足第一模型收敛条件为止,将所述多次迭代训练中满足第一预设条件的第一翻译模型作为目标翻译模型,其中,一次迭代训练包括以下操作:
从所述第一样本训练数据集合中选取第一样本训练数据;
将所述第一样本训练数据,输入所述第一翻译模型,获得各个输出位置各自对应的第一概率,其中,所述每个输出位置对应的第一概率是基于所述第一样本训练数据中的第一样本待译语句,以及相应输出位置关联的历史翻译文本确定的,其中,所述第一样本训练数据中的第一样本翻译语句中各个元素与所述各个输出位置一一对应,所述历史翻译文本为所述第一样本翻译语句中,位于所述相应输出位置对应的元素之前的文本内容;
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于腾讯科技(深圳)有限公司,未经腾讯科技(深圳)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110548019.X/2.html,转载请声明来源钻瓜专利网。