[发明专利]一种数据模型抽取方法及系统、终端、介质在审
申请号: | 202310361512.X | 申请日: | 2023-04-07 |
公开(公告)号: | CN116089518A | 公开(公告)日: | 2023-05-09 |
发明(设计)人: | 吴华夫;黄浩;黄潮勇;张亿仙;刘芳 | 申请(专利权)人: | 广州思迈特软件有限公司 |
主分类号: | G06F16/25 | 分类号: | G06F16/25;G06F16/215;G06F16/23;G06F16/2455;G06F16/28 |
代理公司: | 上海恒慧知识产权代理事务所(特殊普通合伙) 31317 | 代理人: | 徐红银;张琳 |
地址: | 510663 广东省广州市天*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 数据模型 抽取 方法 系统 终端 介质 | ||
1.一种数据模型抽取方法,其特征在于,包括:
将ETL任务和数据模型抽取任务串行执行;
所述数据模型抽取任务完成后,更新高速缓存库中的数据;
查询当前数据模型的数据时,直接从所述高速缓存库中获取。
2.根据权利要求1所述的一种数据模型抽取方法,其特征在于,所述将ETL任务和数据模型抽取任务串行执行,包括:
建立若干个ETL任务;
建立作业流;
将所述作业流与所述ETL任务串联;
将所述数据模型抽取任务与所述ETL任务串联;
设置所述作业流的定时任务;
执行所述作业流的定时任务,若执行成功,执行所述ETL任务,即ETL灌数到指定数据库表,并进行所述数据模型抽取任务;若执行失败,根据重试机制,再次执行所述作业流。
3.根据权利要求2所述的一种数据模型抽取方法,其特征在于,所述作业流由多个任务组成,包括所述ETL任务和所述数据模型抽取任务。
4.根据权利要求2所述的一种数据模型抽取方法,其特征在于,所述重试机制为通过监听所述作业流定时执行的状态,判断是否在给定的时间后自动重新运行当前运行失败的作业流。
5.根据权利要求2所述的一种数据模型抽取方法,其特征在于,若是所述作业流的定时任务执行失败,能够直接判断是所述ETL任务还是所述数据模型抽取任务的执行失败。
6.根据权利要求1所述的一种数据模型抽取方法,其特征在于,从所述高速缓存库中获取数据时,能够秒级获取亿级数据结果。
7.根据权利要求1所述的一种数据模型抽取方法,其特征在于,一个数据模型执行同个作业流多次或者执行多个不同的作业流。
8.一种数据模型抽取系统,其特征在于,包括:
串行模块,该模块将ETL任务和数据模型抽取任务串行执行;
更新模块,所述数据模型抽取任务完成后,更新高速缓存库中的数据;
查询模块,查询当前数据模型的数据时,直接从所述高速缓存库中获取。
9.一种终端,包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序,其特征在于,所述处理器执行所述程序时用于执行权利要求1-7中任一项所述的数据模型抽取方法,或,运行权利要求8所述的数据模型抽取系统。
10.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,该程序被处理器执行用于执行权利要求1-7中任一项所述的数据模型抽取方法,或,运行权利要求8所述的数据模型抽取系统。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于广州思迈特软件有限公司,未经广州思迈特软件有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202310361512.X/1.html,转载请声明来源钻瓜专利网。
- 上一篇:编织支架输送系统
- 下一篇:同步转动装置、转轴机构及折叠式电子设备