[发明专利]一种跨机房数据比对系统及方法有效
申请号: | 201910431040.4 | 申请日: | 2019-05-22 |
公开(公告)号: | CN110147470B | 公开(公告)日: | 2023-01-03 |
发明(设计)人: | 田野;冯前;罗小磊;杨犀;李巍;徐龙 | 申请(专利权)人: | 武汉市公安局;武汉烽火众智数字技术有限责任公司 |
主分类号: | G06F16/83 | 分类号: | G06F16/83;G06F9/54 |
代理公司: | 北京汇泽知识产权代理有限公司 11228 | 代理人: | 秦曼妮 |
地址: | 430022 湖北*** | 国省代码: | 湖北;42 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 机房 数据 系统 方法 | ||
1.一种跨机房数据比对系统,其特征在于,所述系统包括数据采集模块、分布式比对子系统、消息队列和数据中心,其中,数据采集模块、分布式比对子系统和消息队列以机房为单位进行部署;
每一机房的数据采集模块,用于获得各业务系统的实时数据,对所获得的实时数据进行数据清洗并标准化转化为预设格式的字符串;将所得的字符串存储至该机房的消息队列;
每一机房的分布式比对子系统,用于向所述数据中心发送用于请求比对规则的比对请求,接收所述数据中心针对所述比对请求返回的比对规则;从该机房的消息队列中获得字符串,按照所接收的比对规则对所得的字符串进行比对,将比对结果存储至该机房的消息队列;
所述数据中心,用于在接收到比对请求后,向该比对请求的发送者返回该比对请求所请求的比对规则;从每一机房的消息队列中获得比对结果。
2.根据权利要求1所述的系统,其特征在于,所述数据中心还用于:
在接收到比对请求后,在向该比对请求的发送者返回该比对请求所请求的比对规则之前,判断该比对请求是否通过审批;
若判定通过审批,则向该比对请求的发送者返回该比对请求所请求的比对规则;若判定未通过审批,则不向该比对请求的发送者返回该比对请求所请求的比对规则。
3.根据权利要求1所述的系统,其特征在于,所述数据中心还用于:
在接收到比对请求后,判断该比对请求的发送者所处机房的计算资源是否大于预设阈值;
若不大于预设阈值,则从该机房的消息队列中获得字符串,并确定该比对请求所请求的比对规则;按照所确定的比对规则对所得的字符串进行比对,得到比对结果,并将所得的比对结果推送至该机房的消息队列。
4.根据权利要求3所述的系统,其特征在于,所述数据中心还用于:
将所得的比对结果存储至自身的数据库。
5.根据权利要求1所述的系统,其特征在于,所述系统还包括数据统计模块,用于:
统计不同机房的比对流程异常总量、每天采集的实时数据总量、所获得的比对规则总量、比对结果总量中的至少一种,其中,比对流程异常总量为超过预设时长没有获得比对结果的次数。
6.根据权利要求1所述的系统,其特征在于,每一机房的分布式比对子系统还用于:
在检测到查询指令后,显示本地已录入的比对规则和来自数据中心的比对规则;
在检测到删除指令后,从本地已存储的比对规则中删除所述删除指令所指定的比对规则。
7.根据权利要求1所述的系统,其特征在于,每一机房的分布式比对子系统从该机房的消息队列中获得字符串,按照所接收的比对规则对所得的字符串进行比对,具体为:
通过Spout组件从该机房的消息队列中读取字符串,通过Bolt组件按照所接收的比对规则对所得的字符串进行比对。
8.根据权利要求1或7所述的系统,其特征在于,所述字符串为json串。
9.一种跨机房数据比对方法,其特征在于,应用于权利要求1所述的系统,所述方法包括:
获得各业务系统的实时数据,对所获得的实时数据进行数据清洗并标准化转化为预设格式的字符串;将所得的字符串存储至消息队列;
向数据中心发送用于请求比对规则的比对请求,接收所述数据中心针对所述比对请求返回的比对规则;从消息队列中获得字符串,按照所接收的比对规则对所得的字符串进行比对,将比对结果存储至该消息队列,以使所述数据中心从消息队列中获得比对结果。
10.根据权利要求9所述的方法,其特征在于,从消息队列中获得字符串,按照所接收的比对规则对所得的字符串进行比对,包括:
通过Spout组件从消息队列中读取字符串,通过Bolt组件按照所接收的比对规则对所得的字符串进行比对。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于武汉市公安局;武汉烽火众智数字技术有限责任公司,未经武汉市公安局;武汉烽火众智数字技术有限责任公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910431040.4/1.html,转载请声明来源钻瓜专利网。
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置