[发明专利]翻译模型训练方法、翻译方法、装置、设备以及存储介质有效
申请号: | 202210161027.3 | 申请日: | 2022-02-22 |
公开(公告)号: | CN114580439B | 公开(公告)日: | 2023-04-18 |
发明(设计)人: | 张力文;孙萌;何中军;李芝 | 申请(专利权)人: | 北京百度网讯科技有限公司 |
主分类号: | G06F40/58 | 分类号: | G06F40/58;G06F40/30;G06F40/211;G06N3/0455;G06N3/047;G06N3/08 |
代理公司: | 北京易光知识产权代理有限公司 11596 | 代理人: | 金爱静;武晨燕 |
地址: | 100085 北京市*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 翻译 模型 训练 方法 装置 设备 以及 存储 介质 | ||
本公开提供了一种翻译模型的训练方法、翻译方法、装置、设备以及存储介质,涉及计算机技术领域,尤其涉及自然语言处理、机器翻译等人工智能领域。具体实现方案为:对样本文档进行处理,得到该样本文档的依存形式的RST篇章结构树,该依存形式的RST篇章结构树的边表示该样本文档的篇章中的RST关系;基于该依存形式的RST篇章结构树中的RST关系,确定待训练的翻译模型的注意力机制;将该依存形式的RST篇章结构树和该样本文档输入该待训练的翻译模型进行训练,得到训练后的翻译模型。本公开实施例可以使得翻译模型的翻译结果更加准确。
技术领域
本公开涉及计算机技术领域,尤其涉及自然语言处理、机器翻译等人工智能领域。
背景技术
机器翻译包括将一种源语言翻译成目标语言的过程。目前,基于Transformer的神经机器翻译(Neural Machine Translation,NMT)模型在各个翻译任务中取得了很好的翻译效果。但机器翻译通常是以句子为单位进行翻译的。在实际场景中,常常需要翻译一个完整的段落或者文档。文档具有衔接性和连贯性,文档中的句子之间存在指代、省略、重复等衔接现象和语义的连贯关系。在翻译时如果不考虑文档上下文的影响,难以生成准确、连贯的译文。
发明内容
本公开提供了一种翻译模型的训练方法、翻译方法、装置、设备以及存储介质。
根据本公开的一方面,提供了一种翻译模型的训练方法,包括:
对样本文档进行处理,得到该样本文档的依存形式的RST篇章结构树,该依存形式的RST篇章结构树的边表示该样本文档的篇章中的RST关系;
基于该依存形式的RST篇章结构树中的RST关系,确定待训练的翻译模型的注意力机制;
将该依存形式的RST篇章结构树和该样本文档输入该待训练的翻译模型进行训练,得到训练后的翻译模型。
根据本公开的另一方面,提供了一种翻译方法,包括:
对待处理文档,得到该待处理文档的依存形式的RST篇章结构树,该依存形式的RST篇章结构树的边表示该待处理文档的篇章中的RST关系;
将该依存形式的RST篇章结构树和该待处理文档输入训练后的翻译模型进行翻译,得到目标文档;
其中,该训练后的翻译模型采用本公开任一实施例的翻译模型的训练方法训练得到。
根据本公开的另一方面,提供了一种翻译模型的训练装置,包括:
处理模块,用于对样本文档进行处理,得到该样本文档的依存形式的RST篇章结构树,该依存形式的RST篇章结构树的边表示该样本文档的篇章中的RST关系;
确定模块,用于基于该依存形式的RST篇章结构树中的RST关系,确定待训练的翻译模型的注意力机制;
训练模块,用于将该依存形式的RST篇章结构树和该样本文档输入该待训练的翻译模型进行训练,得到训练后的翻译模型。
根据本公开的另一方面,提供了一种翻译装置,包括:
第二处理模块,用于对待处理文档,得到该待处理文档的依存形式的RST篇章结构树,该依存形式的RST篇章结构树的边表示该待处理文档的篇章中的RST关系;
翻译模块,用于将该依存形式的RST篇章结构树和该待处理文档输入训练后的翻译模型进行翻译,得到目标文档;
其中,该训练后的翻译模型采用本公开任一实施例的翻译模型的训练装置训练得到。
根据本公开的另一方面,提供了一种电子设备,包括:
至少一个处理器;以及
与该至少一个处理器通信连接的存储器;其中,
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京百度网讯科技有限公司,未经北京百度网讯科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202210161027.3/2.html,转载请声明来源钻瓜专利网。
- 上一篇:一种柔软丁腈手套的制备工艺
- 下一篇:挤压式左心耳封堵器