[发明专利]针对数据缺失的数据特征挖掘方法及其相关设备在审
申请号: | 202011056328.7 | 申请日: | 2020-09-29 |
公开(公告)号: | CN112199374A | 公开(公告)日: | 2021-01-08 |
发明(设计)人: | 陈远波 | 申请(专利权)人: | 中国平安人寿保险股份有限公司 |
主分类号: | G06F16/22 | 分类号: | G06F16/22;G06F16/2458;G06F16/27;G06K9/62 |
代理公司: | 深圳市世联合知识产权代理有限公司 44385 | 代理人: | 汪琳琳 |
地址: | 518000 广东省深圳市福田区益田路5033号*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 针对 数据 缺失 特征 挖掘 方法 及其 相关 设备 | ||
本申请属于人工智能领域,涉及针对数据缺失的数据特征挖掘方法、装置、计算机设备及存储介质,所述方法包括:根据数据表生成数值化查询表;从原始数据中获取样本生成第一样本集,基于第一样本集生成第二样本集;根据第一样本集和第二样本集进行树模型训练和解析,根据解析结果生成第一KB模型和第二KB模型;基于数值化查询表更新第一KB模型和第二KB模型,更新后对各样本的数据进行处理并输入预设的DNN模型中,输出第一预测结果和第二预测结果进行比较,根据比较结果判定是否将存在数据缺失的特征作为目标特征。本申请还涉及区块链技术,获取的目标特征的特征值可存储于区块链中。本方案可应用于医疗数据库的数据挖掘,推动智慧医疗的建设。
技术领域
本申请涉及人工智能技术领域,尤其涉及针对数据缺失的数据特征挖掘方法、装置、计算机设备及存储介质。
背景技术
在利用数据进行回归或者分类建模时,经常碰到数据缺失的情况,造成数据缺失的原因很多,包括:
1、数据暂时无法获取。例如在医疗数据库中,并非所有病人的所有临床检验结果都能在给定的时间内得到,致使一部分属性值空缺。
2、数据被遗漏。例如因为输入时认为不重要、忘记填写或对数据理解错误而人为遗漏,或者由于数据采集设备的故障、存储介质的故障、传输媒体的故障等原因丢失而遗漏。
3、数据中有些对象的某个或某些属性不可用。例如未婚者的配偶姓名。
4、数据与给定语境无关,且获取这些数据信息的代价太大。
5、系统实时性能要求较高,要求得到这些数据前迅速做出判断或决策。
然而这些缺失的数据对模型的建立有时会有很大影响。没有高质量的数据,就没有高质量的分析结果。当缺失比例很小时,可直接对缺失记录进行舍弃或进行手工处理。但在实际数据中,往往缺失数据占有相当的比重。这时如果手工处理非常低效,如果舍弃缺失记录,则会丢失大量信息,基于这样的数据构建模型进行分析和预测,将会得出错误的分析和预测结果,因此如何在数据存在缺失时确定具有稳定预测效果的特征成为亟待解决的问题。
发明内容
本申请实施例的目的在于提出一种针对数据缺失的数据特征挖掘方法、装置、计算机设备及存储介质,以解决现有技术中如何在数据存在缺失时确定具有稳定预测效果的特征的问题。
为了解决上述技术问题,本申请实施例提供一种针对数据缺失的数据特征挖掘方法,采用了如下所述的技术方案:
一种针对数据缺失的数据特征挖掘方法,包括下述步骤:
根据特征挖掘指令获取数据表,将所述数据表中的特征字段名称进行数值化处理,生成数值化查询表;
从原始数据中获取预设数量的样本生成第一样本集,基于存在数据缺失的特征对所述第一样本集中的样本进行剔除,生成第二样本集;
根据所述第一样本集和所述第二样本集分别进行树模型训练,在分别得到第一树模型和第二树模型后进行树模型解析,根据所述第一树模型和所述第二树模型的解析结果分别生成第一KB模型和第二KB模型;
基于所述数值化查询表更新所述第一KB模型和所述第二KB模型,通过更新后的所述第一KB模型和所述第二KB模型分别对各样本的数据进行处理;
将所述第一样本集和所述第二样本集中处理后的样本数据分别输入预设的DNN模型中,分别输出第一预测结果和第二预测结果并进行比较,根据比较结果判定是否将所述存在数据缺失的特征作为目标特征。
为了解决上述技术问题,本申请实施例还提供一种针对数据缺失的数据特征挖掘装置,采用了如下所述的技术方案:
一种针对数据缺失的数据特征挖掘装置,包括:
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中国平安人寿保险股份有限公司,未经中国平安人寿保险股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202011056328.7/2.html,转载请声明来源钻瓜专利网。
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置