[发明专利]一种面向GPU设备的神经机器翻译系统解码加速方法有效
申请号: | 202011212796.9 | 申请日: | 2020-11-03 |
公开(公告)号: | CN112257467B | 公开(公告)日: | 2023-06-30 |
发明(设计)人: | 杜权 | 申请(专利权)人: | 沈阳雅译网络技术有限公司 |
主分类号: | G06F40/58 | 分类号: | G06F40/58;G06F40/284;G06F40/211;G06N3/04;G06N3/08 |
代理公司: | 沈阳新科知识产权代理事务所(特殊普通合伙) 21117 | 代理人: | 李晓光 |
地址: | 110004 辽宁省沈阳市*** | 国省代码: | 辽宁;21 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明涉及一种面向GPU设备的神经机器翻译系统解码加速方法,步骤为:处理训练数据并训练得到神经机器翻译模型;将神经机器翻译模型的参数转换为16位浮点数进行存储和表示;在限制最大单词数量和句子数量的情况下构造翻译模型的输入;在解码的搜索过程中根据候选句子的得分和预设的阈值对候选句子进行裁剪;在解码过程中动态删除已经预测出终止符的句子直到所有的句子都解完。本发明在不改变神经机器翻译模型结构的前提下,降低了翻译模型的存储大小和内存占用,减少了解码过程的冗余计算,完全不影响机器翻译的精度,有效地提升了基于标准束搜索的神经机器翻译解码的速度。 | ||
搜索关键词: | 一种 面向 gpu 设备 神经 机器翻译 系统 解码 加速 方法 | ||
【主权项】:
暂无信息
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于沈阳雅译网络技术有限公司,未经沈阳雅译网络技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/202011212796.9/,转载请声明来源钻瓜专利网。
- 上一篇:一种建筑材料存储装置
- 下一篇:一种多语言神经机器翻译性能提升方法