[发明专利]一种分布式系统数据一致性处理方法、装置和系统在审
申请号: | 201410443886.7 | 申请日: | 2014-09-02 |
公开(公告)号: | CN105447046A | 公开(公告)日: | 2016-03-30 |
发明(设计)人: | 杨俊;喻登呼;袁永光 | 申请(专利权)人: | 阿里巴巴集团控股有限公司 |
主分类号: | G06F17/30 | 分类号: | G06F17/30;H04L29/08 |
代理公司: | 北京集佳知识产权代理有限公司 11227 | 代理人: | 王玲;王宝筠 |
地址: | 英属开曼群岛大开曼*** | 国省代码: | 开曼群岛;KY |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 分布式 系统 数据一致性 处理 方法 装置 | ||
1.一种分布式系统数据一致性处理装置,其特征在于,所述装置包括配置模块、数据库消息生成模块和数据一致性比对任务模块,其中:
所述配置模块,用于预先配置监控对象以及对应所述监控对象的监控规则;
所述数据库消息生成模块,用于解析对应所述监控对象的事务日志文件,当确定所述监控对象发生变化时,实时生成业务数据变更消息,向所述数据一致性比对任务模块发送所述业务数据变更消息;其中,所述业务数据变更消息包含对应所述监控对象的待比对业务数据;
所述数据一致性比对任务模块,用于接收所述数据库消息生成模块发送的所述业务数据变更消息,根据所述对应所述监控对象的监控规则对所述业务数据变更消息中包含的所述待比对业务数据实时进行比对,获得比对结果。
2.根据权利要求1所述的装置,其特征在于,所述数据库消息生成模块具体用于:
当预置的所述监控对象来源于不同数据库时,分别解析各数据库对应所述监控对象的事务日志文件,当确定所述监控对象在任一数据库对应的事务日志文件中发生变化时,实时生成业务数据变更消息,向所述数据一致性比对任务模块发送所述业务数据变更消息;其中,所述业务数据变更消息包含所述监控对象在各数据库中的事务日志文件对应的业务数据。
3.根据权利要求1或2所述的装置,其特征在于,所述数据一致性比对任务模块具体用于:
当接收到所述数据库消息生成模块发送的业务数据变更消息时,将所述数据变更消息包含的所述待比对业务数据存储至本地数据库,利用所述本地数据库根据所述对应所述监控对象的监控规则对所述待比对业务数据实时进行一致性比对,获得比对结果。
4.根据权利要求1所述的装置,其特征在于,所述数据一致性比对任务模块还用于:
对所述待比对业务数据进行哈希运算,根据哈希运算结果对所述待比对业务数据进行分组,将不同组的业务数据分配到不同的任务机上以根据预置的所述监控规则对所述业务数据实时进行比对。
5.根据权利要求1所述的装置,其特征在于,所述装置还包括:
海量存储模块,用于接收并存储所述数据一致性比对任务模块发送的比对结果;以及,接收查询请求,返回与所述查询请求对应的比对数据。
6.根据权利要求1所述的装置,其特征在于,所述装置还包括:
一致性恢复模块,用于当所述比对结果表明业务数据存在不一致时,实现业务数据的一致性恢复;
其中,所述一致性恢复模块具体用于:
根据所述配置模块预先配置的业务应用的远程接口和调用参数,调用所述业务应用以实现业务数据的一致性恢复。
7.根据权利要求1所述的装置,其特征在于,所述装置还包括:
监控模块,配置用于监控所述数据一致性比对任务模块的运行状态,当所述运行状态表明未比对数据的数量超过预设阈值时,输出报警信息。
8.一种分布式系统,其特征在于,所述分布式系统包括数据一致性处理装置和业务数据库,其中:
所述业务数据库用于存储业务数据;
所述数据一致性处理装置用于预先配置监控对象以及对应所述监控对象的监控规则;解析对应所述监控对象的业务数据库的事务日志文件,当确定所述监控对象发生变化时,实时生成业务数据变更消息;其中,所述业务数据变更消息包含对应所述监控对象的待比对业务数据;以及,根据所述对应所述监控对象的监控规则对所述业务数据变更消息中包含的所述待比对业务数据实时进行比对,获得比对结果。
9.根据权利要求8所述的系统,其特征在于,所述数据一致性处理装置具体用于:
当预置的所述监控对象来源于不同数据库时,分别解析各数据库对应所述监控对象的事务日志文件,当确定所述监控对象在任一数据库对应的事务日志文件中发生变化时,实时生成业务数据变更消息,向所述数据一致性比对任务模块发送所述业务数据变更消息;其中,所述业务数据变更消息包含所述监控对象在各数据库中的事务日志文件对应的业务数据。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于阿里巴巴集团控股有限公司,未经阿里巴巴集团控股有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201410443886.7/1.html,转载请声明来源钻瓜专利网。
- 上一篇:数据处理方法及系统
- 下一篇:在复制初始化中生成初始副本的方法和装置