[发明专利]一种提高数据清洗效率的方法、装置及设备有效
| 申请号: | 201710834301.8 | 申请日: | 2017-09-15 |
| 公开(公告)号: | CN107784070B | 公开(公告)日: | 2020-10-30 |
| 发明(设计)人: | 李治 | 申请(专利权)人: | 平安科技(深圳)有限公司 |
| 主分类号: | G06F16/215 | 分类号: | G06F16/215;G06F16/2453;G06F16/245 |
| 代理公司: | 深圳中一专利商标事务所 44237 | 代理人: | 陈宇 |
| 地址: | 518000 广东省深*** | 国省代码: | 广东;44 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 一种 提高 数据 清洗 效率 方法 装置 设备 | ||
1.一种提高数据清洗效率的方法,其特征在于,所述提高数据清洗效率的方法包括:
接收数据清洗请求,所述数据清洗请求包括用户输入的查询关键字;所述数据清洗是指过滤不符合要求的数据;所述数据清洗请求,为用户在输入查询关键字后触发的异常数据查询请求;
根据查询关键字与查询字段所具有的相同的字数占查询字段总字数的比例,确定所述查询关键字与查询字段的相似度,根据所述相似度确定所述查询关键字所对应的查询字段;
根据预设的联合索引中的查询字段的查询顺序,对所述查询关键字进行排序;
根据排序后的查询关键字,对数据进行查询和清洗,包括:获取接收所述数据清洗请求时的请求时间;根据预设的请求时间与预定时段数据的对应关系,查找所述数据清洗请求所对应的预定时段数据;对所述预定时段数据进行对比分析,设定输入的查询关键字所对应的标准数据结果;将所述查询关键字对应的数据结果与标准数据结果进行比较,记录出现差异的数据结果所对应的单号;
统计所述查询关键字所对应的查询字段的查询频率;
根据所述查询字段的查询频率,调整所述联合索引中的查询字段的顺序。
2.根据权利要求1所述的提高数据清洗效率的方法,其特征在于,所述对数据进行查询和清洗的步骤包括:
将查找的相似业务的数据结果进行统计,得到不同数据结果的项数所占的比例值;
将统计的比例值与预定的比例阈值进行比较,记录小于预定的比例阈值的比例值所对应的数据结果的单号。
3.一种提高数据清洗效率的装置,其特征在于,所述提高数据清洗效率的装置包括:
请求接收单元,用于接收数据清洗请求,所述数据清洗请求包括用户输入的查询关键字;所述数据清洗是指过滤不符合要求的数据;所述数据清洗请求,为用户在输入查询关键字后触发的异常数据查询请求;
查询字段查找单元,用于根据查询关键字与查询字段所具有的相同的字数占查询字段总字数的比例,确定所述查询关键字与查询字段的相似度,根据所述相似度确定所述查询关键字所对应的查询字段;
排序单元,用于根据预设的联合索引中的查询字段的查询顺序,对所述查询关键字进行排序;统计所述查询关键字所对应的查询字段的查询频率;根据所述查询字段的查询频率,调整所述联合索引中的查询字段的顺序;
清洗单元,用于根据排序后的查询关键字,对数据进行查询和清洗,包括:获取接收所述数据清洗请求时的请求时间;根据预设的请求时间与预定时段数据的对应关系,查找所述数据清洗请求所对应的预定时段数据;对所述预定时段数据进行对比分析;所述清洗单元包括:标准数据结果设定子单元,用于设定输入的查询关键字所对应的标准数据结果;第二单号记录子单元,用于将所述查询关键字对应的数据结果与标准数据结果进行比较,记录出现差异的数据结果所对应的单号。
4.根据权利要求3所述的提高数据清洗效率的装置,其特征在于,所述清洗单元包括:
比例值确定子单元,用于将查找的相似业务的数据结果进行统计,得到不同数据结果的项数所占的比例值;
第一单号记录子单元,用于将统计的比例值与预定的比例阈值进行比较,记录小于预定的比例阈值的比例值所对应的数据结果的单号。
5.一种提高数据清洗效率的设备,包括存储器、处理器以及存储在所述存储器中并可在所述处理器上运行的计算机程序,其特征在于,所述处理器执行所述计算机程序时实现如权利要求1或2所述提高数据清洗效率的方法的步骤。
6.一种计算机可读存储介质,所述计算机可读存储介质存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现如权利要求1或2所述提高数据清洗效率的方法的步骤。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于平安科技(深圳)有限公司,未经平安科技(深圳)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201710834301.8/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种轻质针织面料
- 下一篇:一种阻燃型聚丙烯网状填充绳及其制备方法
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置





