[发明专利]数据特征处理方法及数据特征处理装置有效
| 申请号: | 202010998380.8 | 申请日: | 2020-09-22 |
| 公开(公告)号: | CN111859057B | 公开(公告)日: | 2020-12-04 |
| 发明(设计)人: | 顾凌云;谢旻旗;段湾;刘辉;陶帅;潘峻;张涛 | 申请(专利权)人: | 上海冰鉴信息科技有限公司 |
| 主分类号: | G06F16/906 | 分类号: | G06F16/906;G06K9/62 |
| 代理公司: | 成都顶峰专利事务所(普通合伙) 51224 | 代理人: | 匡睿 |
| 地址: | 200000 上海市浦东新区*** | 国省代码: | 上海;31 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 数据 特征 处理 方法 装置 | ||
1.一种数据特征处理方法,其特征在于,应用于数据处理服务器,所述方法包括:
获取多组业务数据;其中,每组业务数据包括n个数据特征,n为正整数;
按照业务数据的获取时刻由近到远的顺序对所述多组业务数据进行排序得到业务数据排序序列;确定排序靠前的第一设定比例的业务数据作为跨时间验证集并确定排序靠后的第二设定比例的业务数据作为建模样本数据;以所述建模样本数据对应的数据特征为模型特征,采用预设分类器建立识别模型;其中,所述第一设定比例和所述第二设定比例的和值为一;
根据所述识别模型及其增益指标计算所述n个数据特征的特征重要性数值,以所述建模样本数据为基准,计算所述n个数据特征中各个数据特征的相关性系数矩阵;其中,所述相关性系数矩阵为n*n矩阵;
从所述相关性系数矩阵中确定出多个目标集合;其中,不同的目标集合之间不存在重复的元素;
删除每个目标集合中具有最大特征重要性数值的数据特征,并将每个目标集合中的剩余的数据特征合并为一个特征集合,将所述n个数据特征中与所述特征集合中的数据特征相同的数据特征剔除,得到模型待选特征;其中,所述特征集合中的数据特征为m个,所述模型待选特征为n-m个,m为小于n的正整数;
将所述模型待选特征按照特征重要性数值由高到低的顺序分批次导入所述预设分类器,获取预设分类器计算出的相邻两个第一性能指标数据的差值;判断所述差值是否符合预设条件;在所述差值符合所述预设条件时,从所述模型待选特征中确定出自动化模型特征并计算所述识别模型在所述跨时间验证集上的第二性能指标数据;根据所述差值以及所述第二性能指标数据确定模型基准性能数据;
将所述自动化模型特征以及所述模型基准性能数据进行关联存储。
2.根据权利要求1所述的方法,其特征在于,从所述相关性系数矩阵中确定出多个目标集合,包括:
从所述相关性系数矩阵中选取出相关性系数位于设定数值区间内的行名称和列名称并建立多个第一集合;
将具有相同元素的第一集合进行合并以得到多个目标集合。
3.根据权利要求1所述的方法,其特征在于,将所述模型待选特征按照特征重要性数值由高到低的顺序分批次导入所述预设分类器,获取预设分类器计算出的相邻两个第一性能指标数据的差值,包括:
将所述模型待选特征按照特征重要性数值由高到低的顺序进行排序得到模型待选特征序列;
将所述序列中的前x个模型待选特征导入所述预设分类器并计算所述预设分类器在设定验证方式下测试集上的x个模型待选特征对应的第一性能指标数据;将所述序列中的前2x个模型待选特征导入所述预设分类器并计算所述预设分类器在设定验证方式下测试集上的2x个模型待选特征对应的第一性能指标数据;其中,x为正整数;
计算所述2x个模型待选特征对应的第一性能指标数据与所述x个模型待选特征对应的第一性能指标数据之间的差值。
4.根据权利要求3所述的方法,其特征在于,判断所述差值是否符合预设条件,包括:
判断所述差值是否大于设定阈值;
若所述差值大于所述设定阈值,则判定所述差值不符合所述预设条件;
若所述差值小于等于所述设定阈值,则判定所述差值符合所述预设条件。
5.根据权利要求4所述的方法,其特征在于,根据所述差值以及所述第二性能指标数据确定模型基准性能数据,包括:
计算所述预设分类器在设定验证方式下训练集上的x个模型待选特征对应的第三性能指标数据;
将所述预设分类器在设定验证方式下训练集上的x个模型待选特征对应的第三性能指标数、所述预设分类器在设定验证方式下测试集上的x个模型待选特征对应的第一性能指标数据以及所述第二性能指标数据确定为所述模型基准性能数据。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于上海冰鉴信息科技有限公司,未经上海冰鉴信息科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010998380.8/1.html,转载请声明来源钻瓜专利网。
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置





