[发明专利]一种基于熵的神经机器翻译动态解码方法及系统有效
| 申请号： | 202010151246.4 | 申请日： | 2020-03-06 |
| 公开（公告）号： | CN111428519B | 公开（公告）日： | 2022-03-29 |
| 发明（设计）人： | 程学旗;郭嘉丰;范意兴;王素 | 申请（专利权）人： | 中国科学院计算技术研究所 |
| 主分类号： | G06F40/58 | 分类号： | G06F40/58;G06N3/08 |
| 代理公司： | 北京律诚同业知识产权代理有限公司 11006 | 代理人： | 祁建国 |
| 地址： | 100080 北*** | 国省代码： | 北京;11 |
| 权利要求书： | 查看更多 | 说明书： | 查看更多 |
| 摘要： | 本发明提出一种基于熵的神经机器翻译动态解码方法及系统，通过分析句子的熵值与BLEU值之间的关系，发现BLEU值高的句子中单词的平均熵值比BLEU值低的句子中单词的平均熵值小，且熵值低的句子的BLEU值普遍比熵值高的句子的BLEU值高。通过计算句子的熵值与BLEU值之间的Pearson系数，发现两者之间存在相关性。因此，本发明提出在训练过程解码阶段的每个时间步，不仅要以一定的概率采样选择真实单词或预测单词获取上下文信息，还要根据上一个时间步的预测结果计算熵值，然后根据熵值动态调整上下文信息的权重。解决了神经机器翻译模型在解码过程中因训练和推断之间的上下文信息差异而导致的错误累积问题。 | ||
| 搜索关键词： | 一种 基于 神经 机器翻译 动态 解码 方法 系统 | ||
【主权项】：
暂无信息
下载完整专利技术内容需要扣除积分，VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息，商用须获得专利权人授权。该专利全部权利属于中国科学院计算技术研究所，未经中国科学院计算技术研究所许可，擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作，请联系【客服】
本文链接：http://www.vipzhuanli.com/patent/202010151246.4/，转载请声明来源钻瓜专利网。
