[发明专利]一种语料处理的方法、相关装置及设备在审
申请号: | 202110774306.2 | 申请日: | 2021-07-08 |
公开(公告)号: | CN113821593A | 公开(公告)日: | 2021-12-21 |
发明(设计)人: | 王明;包恒耀 | 申请(专利权)人: | 腾讯科技(深圳)有限公司 |
主分类号: | G06F16/33 | 分类号: | G06F16/33;G06F40/30;G06F40/289 |
代理公司: | 深圳市深佳知识产权代理事务所(普通合伙) 44285 | 代理人: | 李杭 |
地址: | 518057 广东省深圳*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 语料 处理 方法 相关 装置 设备 | ||
1.一种语料处理方法,其特征在于,包括:
获取待扩充语料;
根据所述待扩充语料获取K个候选语料,其中,每个候选语料与所述待扩充语料之间的语义相似度大于或等于相似度阈值,所述K为大于1的整数;
将所述K个候选语料以及所述待扩充语料输入至语义识别模型,以得到K个语义识别结果,其中,每个语义识别结果为相似度分值或相似度分类,所述相似度分值表示候选语料与所述待扩充语料之间的语义相似程度,所述相似度分类表示候选语料与所述待扩充语料之间的语义所属类别;
若所述K个语义识别结果中存在至少一个语义识别结果满足语料提取条件,则将所述至少一个语义识别结果所对应的候选语料确定为目标语料,以得到属于所述待扩充语料的至少一个目标语料。
2.根据权利要求1所述的方法,其特征在于,所述方法还包括:
获取语料样本集,其中,所述语料样本集包括正样本语料以及负样本语料,所述正样本语料对应于标注标签;
对所述正样本语料进行特征提取,得到正样本语料特征,并对所述负样本语料进行特征提取,得到负样本语料特征;
将所述正样本语料特征以及所述负样本语料特征输入至所述语义识别模型,以得到语义预测结果;
根据所述语义预测结果以及所述标注标签,对所述语义识别模型进行训练。
3.根据权利要求2所述的方法,其特征在于,所述对所述正样本语料进行特征提取,得到正样本语料特征,对所述负样本语料进行特征提取,得到负样本语料特征,包括:
对所述正样本语料以及所述负样本语料分别进行分词处理,得到至少两个待处理正样本词语,以及至少两个待处理负样本词语;
将所述至少两个待处理正样本词语,以及所述至少两个待处理负样本词语,转换为至少两个正样本词向量,以及至少两个负样本词向量;
将所述至少两个正样本词向量进行向量拼接,得到所述正样本语料特征,并将所述至少两个负样本词向量进行向量拼接,得到所述负样本语料特征。
4.根据权利要求1所述的方法,其特征在于,所述将所述K个候选语料以及所述待扩充语料输入至语义识别模型,以得到K个语义识别结果之后,所述方法还包括:
若所述K个语义识别结果中不存在语义识别结果满足语料提取条件,则将所述待扩充语料翻译为N个语种对应的N个语种语料;
根据所述待扩充语料的语种,将所述N个语种语料翻译为至少N个回译语料。
5.根据权利要求4所述的方法,其特征在于,所述根据所述待扩充语料的语种,将所述N个语种语料翻译为N个回译语料之后,所述方法还包括:
将所述至少一个目标语料以及所述至少N个回译语料确定为多个待标注语料;
对每个待标注语料进行槽位匹配,得到每个待标注语料对应的槽位匹配结果,其中,所述槽位匹配结果为匹配相似度分值,所述匹配相似度分值表示预设槽位与所述每个待标注语料中的每个待标注词语之间的语义相似程度;
若所述匹配相似度分值大于或等于预设的匹配阈值,则将所述匹配相似度分值所对应的预设槽位确定为目标槽位,以及将所述匹配相似度分值所对应的待标注词语确定为目标槽位值,其中,所述目标槽位用于表示目标槽位值的属性;
将所述待标注语料、所述待标注语料对应的目标槽位以及目标槽位值进行去重复处理,得到目标标注语料。
6.根据权利要求1所述的方法,其特征在于,所述将所述K个候选语料以及所述待扩充语料输入至语义识别模型,以得到K个语义识别结果之后,所述方法还包括:
若所述K个语义识别结果中不存在语义识别结果满足语料提取条件,则将所述K个候选语料进行分类,得到第一候选语料集合以及第二候选语料集合,其中,所述第一候选语料集合中包括i个第一候选语料,所述第二候选语料集合包括j个第二候选语料,所述i以及所述j均为大于1小于K的整数;
将所述i个第一候选语料分别与所述j个第二候选语料进行两两组合,得到i*j个目标语料对。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于腾讯科技(深圳)有限公司,未经腾讯科技(深圳)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110774306.2/1.html,转载请声明来源钻瓜专利网。