[发明专利]双语语料句对齐方法、装置、可读存储介质和计算机设备有效
申请号: | 202010084543.1 | 申请日: | 2020-02-10 |
公开(公告)号: | CN111259652B | 公开(公告)日: | 2023-08-15 |
发明(设计)人: | 鲁思祈 | 申请(专利权)人: | 腾讯科技(深圳)有限公司 |
主分类号: | G06F40/211 | 分类号: | G06F40/211;G06F40/242;G06F40/279;G06F40/58;G06F40/103 |
代理公司: | 华进联合专利商标代理有限公司 44224 | 代理人: | 毛丹 |
地址: | 518000 广东省深圳*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本申请涉及一种双语语料句对齐方法、装置、计算机可读存储介质和计算机设备,所述方法包括:获取待对齐平行文本及原文文本的语种类型和译文文本的语种类型;对待对齐平行文本进行预处理,获得待对齐平行句对;从通过SentencePiece算法训练的单语分词模型组中调用与原文文本和译文文本的语种类型对应的单语分词模型,进行分词处理,获得待对齐原文的句片段组和待对齐译文的句片段组;根据预设的格式处理方式对待对齐原文和待对齐译文的句片段组进行格式处理,获得双语句对组,调用句对齐工具,根据双语词典,对双语句对组进行句对齐处理,获得句对齐平行语料。通过SentencePiece算法训练的各个语种的单语分词模型,降低了代码的耦合度与维护难度,降低了维护成本。 | ||
搜索关键词: | 双语 语料 对齐 方法 装置 可读 存储 介质 计算机 设备 | ||
【主权项】:
暂无信息
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于腾讯科技(深圳)有限公司,未经腾讯科技(深圳)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/202010084543.1/,转载请声明来源钻瓜专利网。
- 上一篇:一种自动分离式红外烘干炉及烘干系统
- 下一篇:一种光模块