[发明专利]针对数据缺失的数据特征挖掘方法及其相关设备在审
申请号: | 202011056328.7 | 申请日: | 2020-09-29 |
公开(公告)号: | CN112199374A | 公开(公告)日: | 2021-01-08 |
发明(设计)人: | 陈远波 | 申请(专利权)人: | 中国平安人寿保险股份有限公司 |
主分类号: | G06F16/22 | 分类号: | G06F16/22;G06F16/2458;G06F16/27;G06K9/62 |
代理公司: | 深圳市世联合知识产权代理有限公司 44385 | 代理人: | 汪琳琳 |
地址: | 518000 广东省深圳市福田区益田路5033号*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 针对 数据 缺失 特征 挖掘 方法 及其 相关 设备 | ||
1.一种针对数据缺失的数据特征挖掘方法,其特征在于,包括下述步骤:
根据特征挖掘指令获取数据表,将所述数据表中的特征字段名称进行数值化处理,生成数值化查询表;
从原始数据中获取预设数量的样本生成第一样本集,基于存在数据缺失的特征对所述第一样本集中的样本进行剔除,生成第二样本集;
根据所述第一样本集和所述第二样本集分别进行树模型训练,在分别得到第一树模型和第二树模型后进行树模型解析,根据所述第一树模型和所述第二树模型的解析结果分别生成第一KB模型和第二KB模型;
基于所述数值化查询表更新所述第一KB模型和所述第二KB模型,通过更新后的所述第一KB模型和所述第二KB模型分别对各样本的数据进行处理;
将所述第一样本集和所述第二样本集中处理后的样本数据分别输入预设的DNN模型中,分别输出第一预测结果和第二预测结果并进行比较,根据比较结果判定是否将所述存在数据缺失的特征作为目标特征。
2.根据权利要求1所述的针对数据缺失的数据特征挖掘方法,其特征在于,基于所述数值化查询表更新所述第一KB模型和所述第二KB模型,通过更新后的所述第一KB模型和所述第二KB模型分别对各样本的数据进行处理包括:
结合所述数值化查询表,通过所述第一KB模型和所述第二KB模型分别对所述第一样本集和所述第二样本集中的样本数据进行编码处理,得到第一样本编码数据;
根据所述第一样本编码数据对所述第一树模型和所述第二树模型的解析结果进行筛选,并基于筛选结果生成更新的第一KB模型和更新的第二KB模型;
结合所述数值化查询表,通过所述更新的第一更新KB模型和所述更新的第二KB模型分别对所述第一样本集和所述第二样本集中的样本数据进行编码处理,得到第二样本编码数据;
其中所述第二样本编码数据用作所述DNN模型的输入。
3.根据权利要求2所述的针对数据缺失的数据特征挖掘方法,其特征在于,所述通过所述第一KB模型和所述第二KB模型分别对所述第一样本集和所述第二样本集中的样本数据进行编码处理包括:
对所述第一样本集和所述第二样本集进行拆分,生成多个第一样本子集和多个第二样本子集;
通过所述第一KB模型和所述第二KB模型分别对所述第一样本子集和所述第二样本子集中的样本数据进行编码处理。
4.根据权利要求1至3任一项所述的针对数据缺失的数据特征挖掘方法,其特征在于,所述基于存在数据缺失的特征对所述第一样本集中的样本进行剔除,生成第二样本集包括:
确定存在数据缺失的多个特征,依次基于各个存在数据缺失的特征对所述第一样本集中的样本进行剔除,得到多个所述第二样本集;或者
确定存在数据缺失的多个特征,将所述多个特征进行组合,得到多组特征,依次基于各组特征对所述第一样本集中的样本进行剔除,得到多个所述第二样本集。
5.根据权利要求1至3任一项所述的针对数据缺失的数据特征挖掘方法,其特征在于,在所述根据所述第一样本集和所述第二样本集分别进行树模型训练之前,所述方法还包括:
判断所述第二样本集的正负样本比例与所述第一样本集的正负样本比例是否一致,若不一致则调整所述第二样本集中的正样本或负样本的数量,使所述第二样本集与所述第一样本集的正负样本比例保持一致。
6.根据权利要求1至3任一项所述的针对数据缺失的数据特征挖掘方法,其特征在于,所述方法还包括获取预设的多个时间区间;
所述根据所述第一样本集和所述第二样本集分别进行树模型训练包括:
根据所述第一样本集和所述第二样本集在各所述时间区间的样本数据分别进行树模型训练,得到与各所述时间区间对应的多个上述第一树模型和多个所述第二树模型,以得到第一树模型集和第二树模型集。
7.根据权利要求1至3任一项所述的针对数据缺失的数据特征挖掘方法,其特征在于,当根据比较结果判定将所述存在数据缺失的特征作为目标特征时,输出获取所述目标特征的缺失值的提示信息。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中国平安人寿保险股份有限公司,未经中国平安人寿保险股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202011056328.7/1.html,转载请声明来源钻瓜专利网。
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置