[发明专利]数据生成方法、装置、电子设备和存储介质在审

专利信息
申请号: 202310026051.0 申请日: 2023-01-09
公开(公告)号: CN115983289A 公开(公告)日: 2023-04-18
发明(设计)人: 伍星;林梓佳 申请(专利权)人: 北京达佳互联信息技术有限公司
主分类号: G06F40/42 分类号: G06F40/42;G06F40/151;G06F18/22
代理公司: 华进联合专利商标代理有限公司 44224 代理人: 冯右明
地址: 100085 北京市海淀*** 国省代码: 北京;11
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 数据 生成 方法 装置 电子设备 存储 介质
【权利要求书】:

1.一种数据生成方法,其特征在于,所述方法包括:

获取原始数据集合,以及基于所述原始数据集合得到的扩增数据集合;所述扩增数据集合包括与所述原始数据集合中每个原始数据分别对应的扩增数据,所述扩增数据通过对所述原始数据进行数据增强得到;

根据每个原始数据进行语言转换后的原始转译数据,得到原始转译数据集合,以及根据每个扩增数据进行语言转换后的扩增转译数据,得到扩增转译数据集合;

根据所述原始转译数据集合和所述扩增转译数据集合,确定多个转译数据对;每个转译数据对包括原始转译数据和扩增转译数据;

从所述多个转译数据对中确定出至少一个目标转译数据对;每个目标转译数据对中的两个转译数据的语义相似度大于或等于预设相似度阈值;

基于所述至少一个目标转译数据对,从所述原始数据集合和所述扩增数据集合中,筛选出至少一个目标数据对;所述目标数据对中的原始数据与所述目标转译数据对中的原始转译数据具有对应关系,所述目标数据对中的扩增数据与所述目标转译数据对中的扩增转译数据具有对应关系。

2.根据权利要求1所述的方法,其特征在于,所述获取原始数据集合,以及基于所述原始数据集合得到的扩增数据集合,包括:

获取原始数据集合;所述原始数据集合中包含多个原始数据;

按照预设的数据增强方式对每个原始数据进行处理,得到所述每个原始数据对应的扩增数据;所述数据增强方式包括同义词替换、随机插入、随机互换、随机删除中的至少一种;

基于所述每个原始数据对应的所述扩增数据,生成所述扩增数据集合。

3.根据权利要求1所述的方法,其特征在于,所述根据每个原始数据进行语言转换后的原始转译数据,得到原始转译数据集合,以及根据每个扩增数据进行语言转换后的扩增转译数据,得到扩增转译数据集合,包括:

将所述每个原始数据输入至预训练的翻译模型,得到所述每个原始数据进行语言转换后的原始转译数据,并基于各所述原始转译数据,得到所述原始转译数据集合;

将所述每个扩增数据输入至所述预训练的翻译模型,得到所述每个扩增数据进行语言转换后的扩增转译数据,并基于各所述扩增转译数据,得到所述扩增转译数据集合。

4.根据权利要求1所述的方法,其特征在于,所述根据所述原始转译数据集合和所述扩增转译数据集合,确定多个转译数据对,包括:

针对所述原始转译数据集合中的每个原始转译数据,从所述扩增转译数据集合中获取与其对应的扩增转译数据;

将任一原始转译数据以及所述任一原始转译数据对应的扩增转译数据,确定为所述转译数据对;

所述从所述多个转译数据对中确定出至少一个目标转译数据对,包括:

确定各所述转译数据对中两个数据之间的语义相似度;

将所述语义相似度大于或等于所述预设相似度阈值的转译数据对,确定为所述目标转译数据对。

5.根据权利要求1所述的方法,其特征在于,所述基于所述至少一个目标转译数据对,从所述原始数据集合和所述扩增数据集合中,筛选出至少一个目标数据对,包括:

确定各所述目标转译数据对中扩增转译数据对应的数据标识;

从所述扩增数据集合中获取所述数据标识对应的目标扩增数据;其中,在所述扩增数据集合和所述扩增转译数据集合中,扩增数据与其语言转换后的扩增转译数据对应有相同的数据标识;

针对每个目标扩增数据,从所述原始数据集合中获取与其对应的目标原始数据,作为一个所述目标数据对;所述目标数据对用于在语义匹配任务中作为对比学习的样本正例对。

6.根据权利要求1至5任一项所述的方法,其特征在于,所述方法还包括:

获取多个候选相似度阈值;

针对任一候选相似度阈值,确定所述任一候选相似度阈值对应的目标数据对,作为样本正例对,并采用所述样本正例对执行语义匹配任务,得到所述语义匹配任务中语义匹配模型对应的性能表征值;其中,基于不同的候选相似度阈值确定出的样本正例对对应有不同的性能表征值;

将目标性能表征值对应的样本正例对所对应的候选相似度阈值,作为所述预设相似度阈值。

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京达佳互联信息技术有限公司,未经北京达佳互联信息技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/202310026051.0/1.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top