[发明专利]一种基于小样本学习的badcase发现方法及系统在审
申请号: | 202010173479.4 | 申请日: | 2020-03-13 |
公开(公告)号: | CN111046979A | 公开(公告)日: | 2020-04-21 |
发明(设计)人: | 郭涛;江岭 | 申请(专利权)人: | 成都晓多科技有限公司 |
主分类号: | G06K9/62 | 分类号: | G06K9/62 |
代理公司: | 成都睿道专利代理事务所(普通合伙) 51217 | 代理人: | 李红 |
地址: | 610000 四川省成都市天府新区华*** | 国省代码: | 四川;51 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 基于 样本 学习 badcase 发现 方法 系统 | ||
1.一种基于小样本学习的badcase发现方法,其特征在于:包括如下步骤:
S1:数据预处理,从已标注训练语料中随机获取多个小样本,并将样本分为支持集和目标集;
S2:模型预训练,将样本输入基础模型与两种注意力机制的结合,训练得到badcase发现模型;
S3:预测数据组装,根据线上预测结果语义,从已标注训练语料中获取线上预测结果语义下的小样本,并与待预测句子组成预测数据;
S4:数据预测,将预测数据输入badcase发现模型,预测得到待预测句子的预测语义,对比预测语义和线上预测结果语义,判断待预测句子是否为badcase。
2.根据权利要求1所述的基于小样本学习的badcase发现方法,其特征在于:所述的小样本采用N-way K-shot的数据形式,N表示每个小训练批次包括的语义个数,K表示每个语义下的训练样本个数。
3.根据权利要求1所述的基于小样本学习的badcase发现方法,其特征在于:所述的基础模型为原型网络Prototypical Networks或Siamese Network,所述的两种注意力机制为实例级注意力机制和特征级注意力机制。
4.根据权利要求3所述的基于小样本学习的badcase发现方法,其特征在于:所述的模型预训练具体包括:
S201:将支持集和目标集分别输入基础网络;
S202:支持集和目标集的样本各自经过encoder模块的编码,得到统一维度的向量,目标集产出向量为X;
S203:支持集内各个样本的向量分别计算特征级注意力F并经过权重求和得到输出每个支持集的向量Zi;
S204:支持集内各个样本的向量分别与目标集的向量X一起计算实例级注意力I并经过权重求和得到每个支持集的输出向量Ci;
S205:进行距离度量计算,得到和目标集向量X最接近的支持集;
S206:根据最接近的支持集与目标集的真实标签进行损失函数计算,更新模型参数;
S207:迭代循环,直到损失函数值趋于稳定,得到badcase发现模型。
5.根据权利要求4所述的基于小样本学习的badcase发现方法,其特征在于:所述的距离度量计算采用距离度量公式di=Zi*[Ci-x]2进行计算。
6.根据权利要求1所述的基于小样本学习的badcase发现方法,其特征在于:所述的预测数据包括支持集和目标集,支持集为从已标注训练语料中获取的线上预测结果语义下的小样本,目标集为待预测句子。
7.根据权利要求6所述的基于小样本学习的badcase发现方法,其特征在于:所述的预测数据的支持集来自三个方向,分别为以词为单位,与分词后的预测句子重合频次最多的样本、主动学习样本或随机样本。
8.根据权利要求1所述的基于小样本学习的badcase发现方法,其特征在于:所述的判断待预测句子是否为badcase的依据为:当预测语义和线上预测结果语义不一致时,则待预测句子为badcase。
9.基于权利要求1-8中任意一项所述的基于小样本学习的badcase发现方法的系统,其特征在于:包括训练数据处理单元、模型训练单元、待预测数据组装单元和数据预测单元,所述的训练数据处理单元从已标注训练预料中随机获取多个小样本,并将样本分为支持集和目标集;所述的模型训练单元将样本输入基础模型与两种注意力机制的结合,训练得到badcase发现模型;所述的待预测数据组装单元根据线上预测结果语义,从已标注训练语料中获取线上预测结果语义下的小样本,并与待预测句子组成预测数据;所述的数据预测单元将预测数据输入badcase发现模型,预测得到待预测句子的预测语义,对比预测语义和线上预测结果语义,判断待预测句子是否为badcase。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于成都晓多科技有限公司,未经成都晓多科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010173479.4/1.html,转载请声明来源钻瓜专利网。