[发明专利]翻译模型的处理方法、装置和计算机可读存储介质在审
| 申请号: | 202210150760.5 | 申请日: | 2022-02-18 |
| 公开(公告)号: | CN114595701A | 公开(公告)日: | 2022-06-07 |
| 发明(设计)人: | 张海楠;陈宏申;邹炎炎;丁卓冶;龙波 | 申请(专利权)人: | 北京沃东天骏信息技术有限公司;北京京东世纪贸易有限公司 |
| 主分类号: | G06F40/58 | 分类号: | G06F40/58;G06F40/211;G06F40/289;G06F40/30;G06F40/51 |
| 代理公司: | 中国贸促会专利商标事务所有限公司 11038 | 代理人: | 孙玉;许蓓 |
| 地址: | 100176 北京市大兴区北京经济*** | 国省代码: | 北京;11 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 翻译 模型 处理 方法 装置 计算机 可读 存储 介质 | ||
1.一种翻译模型的处理方法,包括:
获取多组训练语句,其中,每组训练语句包括:原语句和目标翻译语句;
针对每组训练语句,将原语句输入翻译模型的编码器,得到所述原语句的特征向量,并将所述原语句的特征向量输入所述翻译模型的解码器;
针对所述解码器生成的除句尾之外每个位置的词语,确定该词语和该词语之前的各个词语组成的已生成语句与所述目标翻译语句之间的语义相似度;
根据所述语义相似度选取该词语或者所述目标翻译语句中与该词语相同位置的词语生成下一位置的词语;
根据所述解码器生成的各个位置的词语组成的翻译语句与所述目标翻译语句的差异,对所述翻译模型进行训练。
2.根据权利要求1所述的处理方法,其中,所述确定该词语和该词语之前的各个词语组成的已生成语句与所述目标翻译语句之间的语义相似度包括:
将该词语和该词语之前的各个词语组成的已生成语句与所述目标翻译语句作为语句对,输入基于转换器的双向编码表征BERT模型,得到输出所述语句对的特征向量;
将所述语句对的特征向量输入激活函数模块,得到所述已生成语句与所述目标翻译语句的语义相似度。
3.根据权利要求1所述的处理方法,其中,所述确定该词语和该词语之前的各个词语组成的已生成语句与所述目标翻译语句之间的语义相似度包括:
生成随机数,并将所述随机数与参考值对比,其中,所述参考值位于所述随机数的取值范围内;
确定所述随机数是否小于所述参考值,在小于所述参考值的情况下,确定该词语和该词语之前的各个词语组成的已生成语句与所述目标翻译语句之间的语义相似度。
4.根据权利要求3所述的处理方法,其中,
所述参考值随训练次数的增大而增大。
5.根据权利要求1所述的处理方法,其中,所述根据所述语义相似度选取该词语或者所述目标翻译语句中与该词语相同位置的词语生成下一位置的词语包括:
在所述语义相似度高于阈值的情况下,根据该词语生成下一位置的词语;
在所述语义相似度低于阈值的情况下,根据所述目标翻译语句中与该词语相同位置的词语生成下一位置的词语。
6.根据权利要求5所述的处理方法,其中,
所述阈值随训练次数的增加而增大。
7.根据权利要求1所述的处理方法,其中,所述解码器包括多个解码模块,所述根据所述语义相似度选取该词语或者所述目标翻译语句中与该词语相同位置的词语生成下一位置的词语包括:
根据所述语义相似度选取该词语或者所述目标翻译语句中与该词语相同位置的词语,作为输入词语;
将该词语对应的解码模块输出的状态,所述输入词语的词向量输入下一位置的词语对应的解码模块,得到输出的下一位置的词语。
8.根据权利要求1-7任一项所述的处理方法,还包括:
将待翻译语句输入训练完成的翻译模型,得到对应的翻译语句。
9.根据权利要求8所述的处理方法,其中,所述将待翻译语句输入训练完成的翻译模型,得到对应的翻译语句包括:
将所述待翻译语句输入翻译模型的编码器,得到待翻译语句的特征向量,并将待翻译语句的特征向量输入所述翻译模型的解码器;根据所述解码器输出的每个位置上各个词语的概率值,选取预设数量的词语作为所述每个位置的多个备选词语;
根据所述每个位置的多个备选词语,生成所述每个位置的下一位置的多个备选词语,直至达到句尾,其中,每个位置的备选词语的数量相同;
利用所述解码器生成各个位置的备选词语组成多个备选翻译语句,其中,每个备选翻译语句中的词语之间的生成是相关联的;
根据各个备选翻译语句的概率值选取一个备选翻译语句,作为所述待翻译语句的翻译语句。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京沃东天骏信息技术有限公司;北京京东世纪贸易有限公司,未经北京沃东天骏信息技术有限公司;北京京东世纪贸易有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202210150760.5/1.html,转载请声明来源钻瓜专利网。





