[发明专利]一种基于Spark的离线任务执行进度计算与获取方法及装置在审
| 申请号： | 202311018195.8 | 申请日： | 2023-08-14 |
| 公开（公告）号： | CN116737512A | 公开（公告）日： | 2023-09-12 |
| 发明（设计）人： | 梁伟雄;陈吉平;杨思枢 | 申请（专利权）人： | 杭州玳数科技有限公司 |
| 主分类号： | G06F11/30 | 分类号： | G06F11/30;G06F11/32 |
| 代理公司： | 杭州裕阳联合专利代理有限公司 33289 | 代理人： | 张解翠 |
| 地址： | 310000 浙江省杭州市余杭区仓*** | 国省代码： | 浙江;33 |
| 权利要求书： | 暂无信息 | 说明书： | 暂无信息 |
| 摘要： | 本申请涉及数据处理技术领域，解决了用户在使用Spark SQL运行离线任务时不能直观的获取到离线任务整体运行进度的问题，公开了一种基于Spark的离线任务执行进度计算与获取方法及装置，包括：计算离线任务中运行的SQL总数，通过自定义JobProgressSource来新增用于描述离线任务进度的指标，将所述指标注册到Spark内部管理系统中的指标管理系统中，自定义JobProgressListener，并将所述JobProgressListener注册到Spark内部管理系统中的ListenerBus，能够将Spark离线任务执行进度情况更细粒度的计算，并将计算结果交由Spark的指标管理系统进行统一管理。 | ||
| 搜索关键词： | 一种 基于 spark 离线 任务 执行 进度 计算 获取 方法 装置 | ||
【主权项】：
暂无信息
下载完整专利技术内容需要扣除积分，VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息，商用须获得专利权人授权。该专利全部权利属于杭州玳数科技有限公司，未经杭州玳数科技有限公司许可，擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作，请联系【客服】
本文链接：http://www.vipzhuanli.com/patent/202311018195.8/，转载请声明来源钻瓜专利网。
