[发明专利]针对数据缺失的数据特征挖掘方法及其相关设备在审

专利信息
申请号: 202011056328.7 申请日: 2020-09-29
公开(公告)号: CN112199374A 公开(公告)日: 2021-01-08
发明(设计)人: 陈远波 申请(专利权)人: 中国平安人寿保险股份有限公司
主分类号: G06F16/22 分类号: G06F16/22;G06F16/2458;G06F16/27;G06K9/62
代理公司: 深圳市世联合知识产权代理有限公司 44385 代理人: 汪琳琳
地址: 518000 广东省深圳市福田区益田路5033号*** 国省代码: 广东;44
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 针对 数据 缺失 特征 挖掘 方法 及其 相关 设备
【说明书】:

本申请属于人工智能领域,涉及针对数据缺失的数据特征挖掘方法、装置、计算机设备及存储介质,所述方法包括:根据数据表生成数值化查询表;从原始数据中获取样本生成第一样本集,基于第一样本集生成第二样本集;根据第一样本集和第二样本集进行树模型训练和解析,根据解析结果生成第一KB模型和第二KB模型;基于数值化查询表更新第一KB模型和第二KB模型,更新后对各样本的数据进行处理并输入预设的DNN模型中,输出第一预测结果和第二预测结果进行比较,根据比较结果判定是否将存在数据缺失的特征作为目标特征。本申请还涉及区块链技术,获取的目标特征的特征值可存储于区块链中。本方案可应用于医疗数据库的数据挖掘,推动智慧医疗的建设。

技术领域

本申请涉及人工智能技术领域,尤其涉及针对数据缺失的数据特征挖掘方法、装置、计算机设备及存储介质。

背景技术

在利用数据进行回归或者分类建模时,经常碰到数据缺失的情况,造成数据缺失的原因很多,包括:

1、数据暂时无法获取。例如在医疗数据库中,并非所有病人的所有临床检验结果都能在给定的时间内得到,致使一部分属性值空缺。

2、数据被遗漏。例如因为输入时认为不重要、忘记填写或对数据理解错误而人为遗漏,或者由于数据采集设备的故障、存储介质的故障、传输媒体的故障等原因丢失而遗漏。

3、数据中有些对象的某个或某些属性不可用。例如未婚者的配偶姓名。

4、数据与给定语境无关,且获取这些数据信息的代价太大。

5、系统实时性能要求较高,要求得到这些数据前迅速做出判断或决策。

然而这些缺失的数据对模型的建立有时会有很大影响。没有高质量的数据,就没有高质量的分析结果。当缺失比例很小时,可直接对缺失记录进行舍弃或进行手工处理。但在实际数据中,往往缺失数据占有相当的比重。这时如果手工处理非常低效,如果舍弃缺失记录,则会丢失大量信息,基于这样的数据构建模型进行分析和预测,将会得出错误的分析和预测结果,因此如何在数据存在缺失时确定具有稳定预测效果的特征成为亟待解决的问题。

发明内容

本申请实施例的目的在于提出一种针对数据缺失的数据特征挖掘方法、装置、计算机设备及存储介质,以解决现有技术中如何在数据存在缺失时确定具有稳定预测效果的特征的问题。

为了解决上述技术问题,本申请实施例提供一种针对数据缺失的数据特征挖掘方法,采用了如下所述的技术方案:

一种针对数据缺失的数据特征挖掘方法,包括下述步骤:

根据特征挖掘指令获取数据表,将所述数据表中的特征字段名称进行数值化处理,生成数值化查询表;

从原始数据中获取预设数量的样本生成第一样本集,基于存在数据缺失的特征对所述第一样本集中的样本进行剔除,生成第二样本集;

根据所述第一样本集和所述第二样本集分别进行树模型训练,在分别得到第一树模型和第二树模型后进行树模型解析,根据所述第一树模型和所述第二树模型的解析结果分别生成第一KB模型和第二KB模型;

基于所述数值化查询表更新所述第一KB模型和所述第二KB模型,通过更新后的所述第一KB模型和所述第二KB模型分别对各样本的数据进行处理;

将所述第一样本集和所述第二样本集中处理后的样本数据分别输入预设的DNN模型中,分别输出第一预测结果和第二预测结果并进行比较,根据比较结果判定是否将所述存在数据缺失的特征作为目标特征。

为了解决上述技术问题,本申请实施例还提供一种针对数据缺失的数据特征挖掘装置,采用了如下所述的技术方案:

一种针对数据缺失的数据特征挖掘装置,包括:

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中国平安人寿保险股份有限公司,未经中国平安人寿保险股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/202011056328.7/2.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top