[发明专利]实时计算结果的离线校正方法、系统、设备及介质在审
申请号: | 202210177307.3 | 申请日: | 2022-02-25 |
公开(公告)号: | CN114547039A | 公开(公告)日: | 2022-05-27 |
发明(设计)人: | 洪浩锐 | 申请(专利权)人: | 中国平安人寿保险股份有限公司 |
主分类号: | G06F16/22 | 分类号: | G06F16/22;G06F16/21;G06F16/23;G06F9/54 |
代理公司: | 深圳市精英专利事务所 44242 | 代理人: | 丁宇龙 |
地址: | 518000 广东省深圳市福田区福田街道益田路5033号平安*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 实时 计算 结果 离线 校正 方法 系统 设备 介质 | ||
1.一种实时计算结果的离线校正方法,其特征在于,包括:
第一服务器响应于数据计算指令,获取与所述数据计算指令对应的待处理数据;
通过所述第一服务器中实时处理层对所述待处理数据进行对应的运算,得到实时计算结果,并由所述第一服务器将待处理数据发送至第二服务器的批处理层中;
HBase数据库服务器接收并存储所述实时计算结果;其中,所述HBase数据库服务器中每一列数据均存储有预设版本个数的计算结果,且所述预设版本个数大于或等于2;
若所述第二服务器确定当前系统时间与所述实时计算结果的获取时间之间的日期间隔等于预设的日期阈值,且确定当前系统时间满足批处理层对应预设的计算启动条件,获取所述待处理数据;
通过所述第二服务器的批处理层对所述待处理数据进行对应的运算,得到离线计算结果;以及
所述HBase数据库服务器获取所述实时计算结果的目标列数,将所述离线计算结果根据所述目标列数存储在HBase数据库服务器中对应列数。
2.根据权利要求1所述的实时计算结果的离线校正方法,其特征在于,所述HBase数据库服务器接收并存储所述实时计算结果,包括:
所述HBase数据库服务器获取所述实时计算结果的第一获取时间戳,将所述第一获取时间戳作为所述实时计算结果的第一版本号并与所述实时计算结果存储于HBase数据库服务器中。
3.根据权利要求2所述的实时计算结果的离线校正方法,其特征在于,所述若所述第二服务器确定当前系统时间与所述实时计算结果的获取时间之间的日期间隔等于预设的日期阈值,且确定当前系统时间满足批处理层对应预设的计算启动条件,获取所述待处理数据之前,还包括:
所述第二服务器获取批处理层中与所述第一获取时间戳对应日期的第一全量数据;
所述第二服务器获取批处理层中与所述第一获取时间戳对应日期前一日的第二全量数据;
所述第二服务器获取所述第一全量数据与所述第二全量数据之间的差异数据,将所述差异数据存储至批处理层中的数据集市层。
4.根据权利要求1所述的实时计算结果的离线校正方法,其特征在于,所述通过所述第二服务器的批处理层对所述待处理数据进行对应的运算,得到离线计算结果,包括:
所述第二服务器获取在所述批处理层的操作数据层中对应创建的大数据计算逻辑;
所述第二服务器根据所述大数据计算逻辑对所述待处理数据进行运算,得到离线计算结果。
5.根据权利要求4所述的实时计算结果的离线校正方法,其特征在于,所述通过所述第二服务器的批处理层对所述待处理数据进行对应的运算,得到离线计算结果之后,还包括:
所述第二服务器获取所述离线计算结果的第二获取时间戳,将所述第二获取时间戳根据预设时间戳调整策略进行调整,以更新第二获取时间戳。
6.根据权利要求5所述的实时计算结果的离线校正方法,其特征在于,所述时间戳调整策略用于将待处理获取时间戳对应日期减一且将待处理获取时间戳对应时间置为第一预设时间。
7.根据权利要求1所述的实时计算结果的离线校正方法,其特征在于,所述第一服务器响应于数据计算指令,获取与所述数据计算指令对应的待处理数据之后,还包括:
所述第一服务器将所述待处理数据发送至消息中间件并保存。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中国平安人寿保险股份有限公司,未经中国平安人寿保险股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202210177307.3/1.html,转载请声明来源钻瓜专利网。