[发明专利]用于生成模型的方法和装置有效
申请号: | 201910312916.3 | 申请日: | 2019-04-18 |
公开(公告)号: | CN110046254B | 公开(公告)日: | 2022-03-08 |
发明(设计)人: | 陈飞标 | 申请(专利权)人: | 阿波罗智联(北京)科技有限公司 |
主分类号: | G06F16/35 | 分类号: | G06F16/35;G06N20/00 |
代理公司: | 北京英赛嘉华知识产权代理有限责任公司 11204 | 代理人: | 王达佐;马晓亚 |
地址: | 100176 北京市大兴区经济*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 用于 生成 模型 方法 装置 | ||
1.一种用于生成模型的方法,包括:
获取第一训练样本集合,所述第一训练样本集合中的训练样本包括样本文本;
统计所述第一训练样本集合中不同长度的样本文本在所述第一训练样本集合中所占的比例;
根据统计出的比例,从所述第一训练样本集合中抽取训练样本得到第二训练样本集合,包括:根据统计出的比例,从所述第一训练样本集合中抽取训练样本;去除所抽取的训练样本中包括预设关键词的训练样本,得到第二训练样本集合;
利用机器学习算法,将第二训练样本集合包括的样本文本作为输入,将与输入的样本文本对应的标注信息作为期望输出,训练得到针对目标文本的文本处理模型,所述目标文本与所述第一训练样本集合中的样本文本来源相同,所述文本处理模型包括二分类模型,所述第一训练样本集合中的训练样本包括正样本和负样本;
其中,所述去除所抽取的训练样本中包括预设关键词的训练样本,得到第二训练样本集合,包括:去除所抽取的正样本中包括负样本中的关键词的训练样本,去除所抽取的负样本中包括正样本中的关键词的训练样本,得到第二训练样本集合。
2.根据权利要求1所述的方法,其中,所述统计所述第一训练样本集合中不同长度的样本文本在所述第一训练样本集合中所占的比例,包括:
统计所述第一训练样本集合中不同长度的样本文本在正样本中所占的比例,并统计所述第一训练样本集合中不同长度的样本文本在负样本中所占的比例;以及
所述根据统计出的比例,从所述第一训练样本集合中抽取训练样本得到第二训练样本集合,包括:
根据统计出的不同长度的样本文本在正样本中所占的比例,从所述第一训练样本集合包括的正样本中抽取正样本,并根据统计出的不同长度的样本文本在负样本中所占的比例,从所述第一训练样本集合包括的负样本中抽取负样本,得到第二训练样本集合。
3.一种用于生成模型的装置,包括:
获取单元,被配置成获取第一训练样本集合,所述第一训练样本集合中的训练样本包括样本文本;
统计单元,被配置成统计所述第一训练样本集合中不同长度的样本文本在所述第一训练样本集合中所占的比例;
抽取单元,被配置成根据统计出的比例,从所述第一训练样本集合中抽取训练样本得到第二训练样本集合,其中,所述抽取单元,包括:抽取子单元,被配置成根据统计出的比例,从所述第一训练样本集合中抽取训练样本;去除单元,被配置成去除所抽取的训练样本中包括预设关键词的训练样本,得到第二训练样本集合;
训练单元,被配置成利用机器学习算法,将第二训练样本集合包括的样本文本作为输入,将与输入的样本文本对应的标注信息作为期望输出,训练得到针对目标文本的文本处理模型,所述目标文本与所述第一训练样本集合中的样本文本来源相同,所述文本处理模型包括二分类模型,所述第一训练样本集合中的训练样本包括正样本和负样本;
其中,所述去除单元,进一步被配置成:去除所抽取的正样本中包括负样本中的关键词的训练样本,去除所抽取的负样本中包括正样本中的关键词的训练样本,得到第二训练样本集合。
4.根据权利要求3所述的装置,其中,所述统计单元,进一步被配置成:
统计所述第一训练样本集合中不同长度的样本文本在正样本中所占的比例,并统计所述第一训练样本集合中不同长度的样本文本在负样本中所占的比例;以及
所述抽取单元,进一步被配置成:
根据统计出的不同长度的样本文本在正样本中所占的比例,从所述第一训练样本集合包括的正样本中抽取正样本,并根据统计出的不同长度的样本文本在负样本中所占的比例,从所述第一训练样本集合包括的负样本中抽取负样本,得到第二训练样本集合。
5.一种电子设备,包括:
一个或多个处理器;
存储装置,其上存储有一个或多个程序;
当所述一个或多个程序被所述一个或多个处理器执行时,使得所述一个或多个处理器实现如权利要求1-2中任一所述的方法。
6.一种计算机可读介质,其上存储有计算机程序,该程序被处理器执行时实现如权利要求1-2中任一所述的方法。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于阿波罗智联(北京)科技有限公司,未经阿波罗智联(北京)科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910312916.3/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种语言冲突的预测方法
- 下一篇:一种基于抗噪移动时间势能聚类的文本分类方法