[发明专利]数据一致性比对的方法、装置、电子设备和可读存储介质在审
申请号: | 201710239508.0 | 申请日: | 2017-04-13 |
公开(公告)号: | CN108733662A | 公开(公告)日: | 2018-11-02 |
发明(设计)人: | 高平;孔文杰;冷维伟;邢磊 | 申请(专利权)人: | 北京京东尚科信息技术有限公司;北京京东世纪贸易有限公司 |
主分类号: | G06F17/30 | 分类号: | G06F17/30 |
代理公司: | 中原信达知识产权代理有限责任公司 11219 | 代理人: | 张一军;姜劲 |
地址: | 100195 北京市海淀区杏石口路6*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 比对 数据一致性 可读存储介质 抽象数据 电子设备 数据对象 数据源 可扩展性 可维护性 统一格式 映射规则 原始数据 可复用 映射 解析 | ||
本发明实施例提供一种数据一致性比对的方法、装置、电子设备和可读存储介质,能够提高数据一致性比对工具的可复用性、可维护性和可扩展性。本发明实施例的数据一致性比对方法包括:将获取自数据源的原始数据解析并赋值给数据对象;根据映射规则将所述数据对象映射为具有统一格式的抽象数据;比对不同所述数据源的所述抽象数据的一致性。
技术领域
本发明涉及计算机技术领域,尤其涉及一种数据一致性比对的方法、装置、电子设备和可读存储介质。
背景技术
针对数据一致性比对的场景,目前比较简单的方式是从对应的端下载数据,然后通过比对工具或比对算法来实现比对。例如图1所示,为现有技术中数据一致性比对方法的流程示意图。分别从数据源A和数据源B获取到数据后,由比对工具/算法对数据一致性进行比对,并得到一致性结果。
当前一般的数据一致性比对方法,都是根据业务场景定制得到的。首先通过数据源提供的接口实现相应的逻辑获取数据源数据,然后再加工数据,实现相应的比对算法以获得一致性的比对结果,最后输出一致性结果。
在实现本发明过程中,发明人发现现有技术中至少存在如下问题:
1.比对方法根据业务定制得到,可复用性得不到保证,需要根据不同的业务定制不同的工具以实现数据一致性的比对;
2.方法的逻辑未解耦,在新增业务时,需要根据新业务逻辑对老业务逻辑做适应性修改,可维护性、可扩展性差,牵一发动全身,任何一点业务的调整都可能面临工具的大范围改动。
发明内容
有鉴于此,本发明实施例提供一种数据一致性比对的方法、装置、电子设备和可读存储介质,能够提高数据一致性比对工具的可复用性、可维护性和可扩展性。
为实现上述目的,根据本发明实施例的一个方面,提供了一种数据一致性比对的方法。
本发明实施例的数据一致性比对方法包括:将获取自数据源的原始数据解析并赋值给数据对象;根据映射规则将所述数据对象映射为具有统一格式的抽象数据;比对不同所述数据源的所述抽象数据的一致性。
可选的,将获取自数据源的原始数据解析并赋值给数据对象,包括:分别定义各所述数据源的数据处理规则;根据所述数据处理规则,将获取自所述数据源的原始数据解析并赋值给所述数据对象。
可选的,根据映射规则将所述数据对象映射为具有统一格式的抽象数据,包括:获取待比对字段,以所述待比对字段的字段名作为键、以与所述字段名对应的内容作为值,建立键值对;解析所述数据对象以得到所述数据对象中包含的全部字段;从所述全部字段中选择与所述待比对字段的字段名相同的字段并存入所述键值对中。
可选的,比对不同所述数据源的所述抽象数据的一致性,包括:比对不同数据源的所述键值对中,相同键所对应的值的一致性。
可选的,所述方法还包括:根据比对结果生成报表数据。
为实现上述目的,根据本发明实施例的另一个方面,提供了一种数据一致性比对的装置。
本发明实施例的数据一致性比对的装置,包括:数据处理模块,用于将获取自数据源的原始数据解析并赋值给数据对象;数据映射模块,用于根据映射规则将所述数据对象映射为具有统一格式的抽象数据;数据比对模块,用于比对不同所述数据源的所述抽象数据的一致性。
可选的,所述数据处理模块还用于:分别定义各所述数据源的数据处理规则;根据所述数据处理规则,将获取自所述数据源的原始数据解析并赋值给所述数据对象。
可选的,所述数据映射模块还用于:获取待比对字段,以所述待比对字段的字段名作为键、以与所述字段名对应的内容作为值,建立键值对;解析所述数据对象以得到所述数据对象中包含的全部字段;从所述全部字段中选择与所述待比对字段的字段名相同的字段并存入所述键值对中。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京京东尚科信息技术有限公司;北京京东世纪贸易有限公司,未经北京京东尚科信息技术有限公司;北京京东世纪贸易有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201710239508.0/2.html,转载请声明来源钻瓜专利网。
- 上一篇:一种面向非侵入式监测的在线负荷特征库维护方法
- 下一篇:网页抓取方法及设备