[发明专利]平行语料的挖掘方法、装置、计算机设备及存储介质有效
申请号: | 202110930495.8 | 申请日: | 2021-08-13 |
公开(公告)号: | CN113836192B | 公开(公告)日: | 2022-05-03 |
发明(设计)人: | 林余楚;黄辉 | 申请(专利权)人: | 深译信息科技(横琴)有限公司 |
主分类号: | G06F16/2458 | 分类号: | G06F16/2458;G06F16/35;G06F40/58;G06F40/211;G06F40/30;G06N3/04;G06N3/08 |
代理公司: | 深圳众鼎汇成知识产权代理有限公司 44566 | 代理人: | 朱业刚 |
地址: | 519031 广东省珠海市横琴新区环*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明公开了一种平行语料的挖掘方法,包括:基于多语翻译模型,分别对源句子与每个目标句子进行编码,得到源句子对应的向量和每个目标句子对应的目标编码向量,并将目标编码向量映射到向量空间;针对每个目标句子,计算目标句子对应的相似度分数;基于Top‑K算法,从所有目标句子中,选取K个相似度分数符合预设条件的目标句子,并分别将每个选取的目标句子与源句子组成候选句子对;对候选句子对对应的相似度分数进行正则化处理,并基于得到的正则化处理结果更新候选句子对对应的相似度分数;基于预训练语言模型,对所有候选句子对进行分类,得到候选句子对对应的分类概率,若分类概率大于预设阈值,则将候选句子对作为平行句子。 | ||
搜索关键词: | 平行 语料 挖掘 方法 装置 计算机 设备 存储 介质 | ||
【主权项】:
暂无信息
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于深译信息科技(横琴)有限公司,未经深译信息科技(横琴)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/202110930495.8/,转载请声明来源钻瓜专利网。