[发明专利]文本翻译方法、装置、设备及计算机可读存储介质有效
申请号: | 202110287301.7 | 申请日: | 2021-03-17 |
公开(公告)号: | CN112668347B | 公开(公告)日: | 2021-06-22 |
发明(设计)人: | 张祥文 | 申请(专利权)人: | 腾讯科技(深圳)有限公司 |
主分类号: | G06F40/58 | 分类号: | G06F40/58;G06F40/56;G06F40/268;G06F16/35;G06N3/08;G06N20/00 |
代理公司: | 北京派特恩知识产权代理有限公司 11270 | 代理人: | 李昂;张颖玲 |
地址: | 518000 广东省深圳*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 文本 翻译 方法 装置 设备 计算机 可读 存储 介质 | ||
本申请实施例提供一种文本翻译方法、装置、设备及计算机可读存储介质,涉及人工智能技术领域。方法包括:调用编码器对待翻译文本中的每个待翻译词依次进行映射处理,得到待翻译文本的隐状态表示,根据待翻译文本的隐状态表示,预测得到候选词集合;在调用解码器对隐状态表示进行解码翻译过程中,针对于每个待翻译词,获取在待翻译词之前的已翻译词对应的中间向量表示;根据中间向量表示,预测待翻译词的未来词向量表示;调用解码器依次基于每一待翻译词的词向量表示和未来词向量表示,在候选词集合中预测出与待翻译文本对应的译文。通过本申请,能够充分利用预测得到的全局信息和局部未来信息来辅助翻译过程,从而有效提升文本翻译的效率。
技术领域
本申请实施例涉及互联网技术领域,涉及但不限于一种文本翻译方法、装置、设备及计算机可读存储介质。
背景技术
在传统机器翻译模型中,对于给定的源端输入(即待翻译文本),机器翻译模型通常以从左向右的方式,逐个生成机器译文中的词,这一过程被称为是“自回归式”的建模。在自回归式建模中,每个解码步骤只能看到过去已经生成的译文片段(即完整译文的前缀),而无法看到尚未生成的译文片段(即完整译文的后缀)。显然,这使得机器翻译模型在解码时能获得的信息,受限于已翻译的局部上下文。
相关技术中,针对全局上下文的利用,主要采用以下技术方案:迭代式翻译、异步双向解码、词袋预测、建模已翻译和未翻译的上下文;针对局部未来上下文的利用,主要采用以下技术方案:同步双向解码和预测当前词的词性。
但是,相关技术中无论是针对全局上下文的利用,还是针对局部未来上下文的利用,均存在效率低下,且没有将预测结果用于辅助翻译过程,模型提升有限的问题。
发明内容
本申请实施例提供一种文本翻译方法、装置、设备及计算机可读存储介质,涉及人工智能技术领域。对编码器得到的隐状态表示进行预测得到候选词集合,实现建模全局上下文,并对解码器翻译得到的中间向量表示进行预测得到未来词向量表示,从而实现提前预测并建模未来上下文,如此,在对待翻译文本进行翻译时,能够充分利用全局信息和局部未来信息,从而有效提升文本翻译的效率。
本申请实施例的技术方案是这样实现的:
本申请实施例提供一种文本翻译方法,所述方法包括:
调用编码器对待翻译文本中的每个待翻译词依次进行映射处理,得到所述待翻译文本的隐状态表示,所述隐状态表示包括每个所述待翻译词的词向量表示;
根据所述待翻译文本的隐状态表示,预测得到候选词集合;
在调用解码器对所述隐状态表示进行解码翻译过程中,针对于每个所述待翻译词,获取在所述待翻译词之前的已翻译词对应的中间向量表示;
根据所述中间向量表示,预测所述待翻译词的未来词向量表示;
调用所述解码器依次基于每一所述待翻译词的词向量表示和所述未来词向量表示,在所述候选词集合中预测出与所述待翻译文本对应的译文。
本申请实施例提供一种文本翻译装置,所述装置包括:
映射处理模块,用于调用编码器对待翻译文本中的每个待翻译词依次进行映射处理,得到所述待翻译文本的隐状态表示,所述隐状态表示包括每个所述待翻译词的词向量表示;
第一预测模块,用于根据所述待翻译文本的隐状态表示,预测得到候选词集合;
获取模块,用于在调用解码器对所述隐状态表示进行解码翻译过程中,针对于每个所述待翻译词,获取在所述待翻译词之前的已翻译词对应的中间向量表示;
第二预测模块,用于根据所述中间向量表示,预测所述待翻译词的未来词向量表示;
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于腾讯科技(深圳)有限公司,未经腾讯科技(深圳)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110287301.7/2.html,转载请声明来源钻瓜专利网。