[发明专利]翻译模型的训练方法、装置、电子设备、及存储介质在审
申请号: | 202010026456.0 | 申请日: | 2020-01-10 |
公开(公告)号: | CN111259676A | 公开(公告)日: | 2020-06-09 |
发明(设计)人: | 俞春龙 | 申请(专利权)人: | 苏州交驰人工智能研究院有限公司 |
主分类号: | G06F40/58 | 分类号: | G06F40/58;G06F40/289;G06K9/62;G06N3/08 |
代理公司: | 北京品源专利代理有限公司 11332 | 代理人: | 孟金喆 |
地址: | 215000 江苏省苏州市中国(江苏)自由贸*** | 国省代码: | 江苏;32 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 翻译 模型 训练 方法 装置 电子设备 存储 介质 | ||
本公开实施例公开了一种翻译模型的训练方法、装置、电子设备、及存储介质,方法包括:基于训练用的第一平行语对集合进行模型训练得到正向翻译模型和反向翻译模型;将测试用的第二平行语对集合进行分类划分为多个测试子集,分别采用测试子集测试正向翻译模型和反向翻译模型,根据测试结果确定低质类别集;将第一平行语对集合拆分为属于低质类别集的第三平行语对子集和不属于低质类别集的第四平行语对子集;基于第三平行语对子集分别采用正向翻译模型和反向翻译模型进行翻译得到伪平行语对,与第四平行语对子集混合后再对正向翻译模型和反向翻译模型进行训练。本公开实施例能够利用反向翻译技术提升低质领域语料质量,能提升模型质量。
技术领域
本公开实施例涉及自然语言处理技术领域,具体涉及一种翻译模型的训练方法、装置、电子设备、及存储介质。
背景技术
目前机器翻译领域主要运用基于神经网络的机器翻译算法。算法模型主体由编码器(encoder)和解码器(decoder)组成。在该类算法中,以谷歌在2017年发表的Transformer模型最为流行。
虽然基于神经网络的翻译模型准确性很高,但是需要大量平行语料来训练模型,在低资源情况下,经训练后的翻译模型的性能可能会比较差。
发明内容
有鉴于此,本公开实施例提供一种翻译模型的训练方法、装置、电子设备、及存储介质,以提升模型质量。
本公开实施例的其他特性和优点将通过下面的详细描述变得显然,或部分地通过本公开实施例的实践而习得。
第一方面,本公开实施例提供了一种翻译模型的训练方法,包括:
基于训练用的第一平行语对集合的正向语言对训练第一初始翻译模型得到正向翻译模型,以及基于所述第一平行语对集合的反向语言对训练第二初始翻译模型得到反向翻译模型,其中,所述平行语对包括源语言的源语句和目标语言的目标语句;
将测试用的第二平行语对集合进行分类划分为多个测试子集,分别采用所述测试子集测试所述正向翻译模型和所述反向翻译模型,根据测试结果确定翻译效果指标最差的至少一个测试子集,获取所述至少一个测试子集对应的至少一个分类作为低质类别集;
将所述第一平行语对集合拆分为第三平行语对子集和第四平行语对子集,其中,所述第三平行语对子集中的平行语对属于所述低质类别集,所述第四平行语对子集中的平行语对不属于所述低质类别集;
将所述第三平行语对子集中的平行语对的源语句采用所述正向翻译模型进行翻译,以及将所述第三平行语对子集中的平行语对的目标语句采用所述反向翻译模型进行翻译,根据翻译结果生成平行语对集合,根据所生成的平行语对集合和所述第四平行语对子集,对所述正向翻译模型和所述反向翻译模型进行训练。
于一实施例中:
基于训练用的第一平行语对集合的正向语言对训练第一初始翻译模型得到正向翻译模型包括:
利用机器学习的方法,将基于训练用的第一平行语对集合中任一平行语对的源语句作为第一初始翻译模型的输入,将该平行语对的目标语句作为所述第一初始翻译模型的期望输出,训练得到正向翻译模型;
基于所述第一平行语对集合的反向语言对训练第二初始翻译模型得到反向翻译模型包括:
利用机器学习的方法,将所述第一平行语对集合中任一平行语对的目标语句作为第二初始翻译模型的输入,将该平行语对的源语句作为所述第二初始翻译模型的期望输出,训练得到反向翻译模型。
于一实施例中,将测试用的第二平行语对集合进行分类划分为多个测试子集包括:
通过用于识别平行语对所属领域的领域分类模型,将测试用的第二平行语对集合进行领域分类划分为多个测试子集。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于苏州交驰人工智能研究院有限公司,未经苏州交驰人工智能研究院有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010026456.0/2.html,转载请声明来源钻瓜专利网。