[发明专利]一种数据回流方法、装置、设备及系统有效
申请号: | 201910232725.6 | 申请日: | 2019-03-26 |
公开(公告)号: | CN110008269B | 公开(公告)日: | 2023-08-01 |
发明(设计)人: | 陈治 | 申请(专利权)人: | 创新先进技术有限公司 |
主分类号: | G06F16/25 | 分类号: | G06F16/25;G06F16/23;G06F16/21 |
代理公司: | 北京博思佳知识产权代理有限公司 11415 | 代理人: | 林祥 |
地址: | 开曼群岛大开曼岛*** | 国省代码: | 暂无信息 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 数据 回流 方法 装置 设备 系统 | ||
本说明书实施例提供一种数据回流方法、装置、设备及系统。离线数据处理平台在将业务数据回流至数据库服务器后,生成与业务数据对应的回流控制数据并回流至数据库服务器,实时在线业务服务器以预设的时间间隔从数据库服务器中获取回流控制数据,并根据回流控制数据判断最新版本的业务数据是否回流完成,以及获取最新版本的业务数据,实时在线业务服务器可以及时地感知最新版本的业务数据回流完成,并且获取的最新版本的数据为同一批次的业务数据。
技术领域
本说明书涉及数据处理技术领域,尤其涉及一种回流方法、装置、设备及系统。
背景技术
互联网行业产生的数据量非常大,这些数据的计算量也非常大,因而无法在实时在线服务器上进行实时地处理,而是要借助于一些大型的分布式离线数据处理平台来处理。比如ODPS(OpenData Processing Service)开放数据处理服务就是一种通用的离线数据处理平台,向用户提供了完善的数据导入方案以及多种经典的分布式计算模型,能够更快速的解决用户海量数据计算问题。通常各种业务数据,比如相关的日志数据、浏览数据、用户数据、交易数据、商品数据等通过离线数据处理平台处理后,需将处理后的业务数据回流到数据库服务器,以便在用户查询这些业务数据时,实时在线服务器可以从数据库服务器中读取处理后的业务数据显示给用户。由于业务数据一直在更新,如何让实时在线服务器在第一时间感知到业务数据回流完成,并获取最新的业务数据给用户十分关键。
发明内容
基于此,本说明书提供了一种数据回流方法、装置、设备及系统。
根据本说明书实施例的第一方面,提供一种数据回流系统,所述数据回流系统包括:离线数据处理平台、数据库服务器以及实时在线业务服务器;
所述离线数据处理平台用于在将业务数据回流到数据库服务器后,根据所述业务数据生成回流控制数据,其中,所述回流控制数据包括业务数据的类型、业务数据的回流时间以及业务数据的版本标识;将所述回流控制数据回流至所述数据库服务器;
所述实时在线业务服务器用于以预设的时间间隔从所述数据库服务器中获取所述回流控制数据,并根据所述回流控制数据获取最新版本的业务数据。
根据本说明书实施例的第二方面,提供一种数据回流方法,所述方法用于离线数据处理平台,包括:
在将业务数据回流到数据库服务器后,根据所述业务数据生成回流控制数据,其中,所述回流控制数据包括所述业务数据的类型、所述业务数据的版本标识以及所述业务数据的回流时间;
将所述回流控制数据回流至所述数据库服务器,以使实时在线业务服务器以预设的时间间隔从所述数据库服务器中获取所述回流控制数据,并根据所述回流控制数据获取最新版本的业务数据。
根据本说明书实施例的第三方面,提供一种数据回流方法,所述方法用于实时在线业务服务器,包括:
以预设的时间间隔从数据库服务器中获取回流控制数据,其中,所述回流控制数据由离线数据处理平台将业务数据回流到数据库服务器之后,根据所述业务数据生成并回流至所述数据库服务器,所述回流控制数据包括所述业务数据的类型、所述业务数据的版本标识以及所述业务数据的回流时间;
根据所述回流控制数据获取最新版本的业务数据。
根据本说明书实施例的第四方面,提供一种数据回流装置,包括:
回流控制数据生成模块,用于在将业务数据回流到数据库服务器后,根据所述业务数据生成回流控制数据,其中,所述回流控制数据包括所述业务数据的类型、所述业务数据的版本标识以及所述业务数据的回流时间;
回流模块,用于将所述回流控制数据回流至所述数据库服务器,以使实时在线业务服务器以预设的时间间隔从所述数据库服务器中获取所述回流控制数据,并根据所述回流控制数据获取最新版本的业务数据。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于创新先进技术有限公司,未经创新先进技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910232725.6/2.html,转载请声明来源钻瓜专利网。
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置