[发明专利]篇章翻译网络的数据增强方法有效
| 申请号: | 202010432277.7 | 申请日: | 2020-05-20 |
| 公开(公告)号: | CN111767742B | 公开(公告)日: | 2023-07-25 |
| 发明(设计)人: | 陈巍华 | 申请(专利权)人: | 云知声智能科技股份有限公司;厦门云知芯智能科技有限公司 |
| 主分类号: | G06F40/42 | 分类号: | G06F40/42;G06F40/58 |
| 代理公司: | 北京冠和权律师事务所 11399 | 代理人: | 安琪 |
| 地址: | 100000 北京市海*** | 国省代码: | 北京;11 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 篇章 翻译 网络 数据 增强 方法 | ||
1.篇章翻译网络的数据增强方法,其特征在于,所述篇章翻译网络的数据增强方法包括如下步骤:
步骤T1,根据关于源语言的源语料S1和目标语料S2对预设生成网络进行训练,以此对应得到源生成网络模型M1和目标生成网络模型M2;
步骤T2,通过所述源语料S1和所述目标语料S2,使用2步法对篇章翻译网络进行训练,以此得到翻译模型M3,再根据所述翻译模型M3,生成初级篇章翻译网络模型M4;
步骤T3,通过所述源生成网络模型M1和所述目标生成网络模型M2,分别将所述源语料S1和所述目标语料S2转换成源篇章数据C1和目标篇章数据C2;
步骤T4,通过所述源篇章数据C1和所述目标篇章数据C2,对所述初级篇章翻译网络模型M4进行处理,以此生成期望篇章翻译网络模型M5;
在所述步骤T1中,根据关于源语言的源语料S1和目标语料S2对预设生成网络进行训练,以此对应得到源生成网络模型M1和目标生成网络模型M2,包括:
步骤T101,根据所述源语料S1,对关于NLU领域的生成网络进行第一单语训练;
步骤T102,根据所述目标语料S2,对关于NLU领域的生成网络进行第二单语训练;
步骤T103,根据所述第一单语训练和所述第二单语训练的结果,以此得到所述源生成网络模型M1和所述目标生成网络模型M2;
在所述步骤T101中,根据所述源语料S1,对关于NLU领域的生成网络进行第一单语训练,包括:
将所述源语料S1进行单语形式摘选,以此获得单语源语料,再根据所述单语源语料对关于GPT的生成网络或者GPT-2的生成网络进行所述第一单语训练;
在所述步骤T102中,根据所述目标语料S2,对关于NLU领域的生成网络进行第二单语训练,包括:
将所述目标语料S2进行单语形式摘选,以此获得单语目标语料,再根据所述单语目标语料对关于GPT的生成网络或者GPT-2的生成网络进行所述第二单语训练;
在所述步骤T2中,通过所述源语料S1和所述目标语料S2,使用2步法对篇章翻译网络进行训练,以此得到翻译模型M3,再根据所述翻译模型M3,生成初级篇章翻译网络模型M4,包括:
步骤T201,通过所述源语料S1和所述目标语料S2,使用2步法对篇章翻译网络的源端和目标端进行重复训练,以此得到所述翻译模型M3;
步骤T202,根据所述翻译模型M3的源端编码器Encoder1和目标端解码器Decoder1的网络权值,生成所述初级篇章翻译网络模型M4;
在所述步骤T201中,通过所述源语料S1和所述目标语料S2,使用2步法对篇章翻译网络的源端和目标端进行重复训练,以此得到所述翻译模型M3,包括:
通过所述源语料S1和所述目标语料S2,对所述篇章翻译网络的源端和目标端分别进行关于数据重复训练和框架评估的2步法训练,以此得到所述翻译模型M3;
在所述步骤T202中,根据所述翻译模型M3的源端编码器Encoder1和目标端解码器Decoder1的网络权值,生成所述初级篇章翻译网络模型M4,包括:
步骤T2021,根据翻译网络演变算法,计算获得所述翻译模型M3的源端编码器Encoder1和目标端解码器Decoder1各自的第一网络权值和第二网络权值;
步骤T2022,将所述第一网络权值和所述第二网络权值拷贝至所述篇章翻译网络对应的源端编码器Encoder2和目标端解码器Decoder2,以此生成所述初级篇章翻译网络模型M4;
在所述步骤T3中,通过所述源生成网络模型M1和所述目标生成网络模型M2,分别将所述源语料S1和所述目标语料S2转换成源篇章数据C1和目标篇章数据C2,包括:
步骤T301,通过所述源生成网络模型M1对句级别化的所述源语料S1进行数据处理,以此得到与所述源语料S1相关的源篇章数据C1;
步骤T302,通过所述目标生成网络模型M2对句级别化的所述目标语料S2进行数据处理,以此得到与所述目标语料S2相关的目标篇章数据C2。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于云知声智能科技股份有限公司;厦门云知芯智能科技有限公司,未经云知声智能科技股份有限公司;厦门云知芯智能科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010432277.7/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种鲍鱼酥自动生产流水线
- 下一篇:自动分选存钱罐
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置





