[发明专利]一种分布式定时任务调度方法及系统在审

专利信息
申请号: 202111462653.8 申请日: 2021-12-02
公开(公告)号: CN114168283A 公开(公告)日: 2022-03-11
发明(设计)人: 金凯峰;孔颖 申请(专利权)人: 北京千帆阅文科技有限公司
主分类号: G06F9/48 分类号: G06F9/48;G06F9/50;G06F9/54
代理公司: 北京知呱呱知识产权代理有限公司 11577 代理人: 胡乐
地址: 100043 北京市石景*** 国省代码: 北京;11
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 一种 分布式 定时 任务 调度 方法 系统
【权利要求书】:

1.一种分布式定时任务调度方法,其特征在于,所述方法包括:

获取用户提交的目标任务集合,生成对应的目标任务集合标识,其中所述目标任务集合中包含至少一个任务;

将所述目标任务集合解析并写入进数据库,并将目标任务集合标识通过消息队列发送给任务调度器集群;

任务调度器集群获取Zookeeper中注册的当前可用的任务执行器地址,通过所述目标任务集合标识将所述数据库中的目标任务集合下发到任务执行器集群中,并将所述任务调度器集群的负载状态上报给监听器集群;

任务执行器集群获取并执行所述目标任务集合中的各个任务,并将所述任务执行器集群的负载状态上报给监听器集群;

监听器集群根据所述任务调度器集群的负载状态与预设调度阈值对所述任务调度器集群进行扩缩容;根据所述任务执行器集群的负载状态与预设执行阈值对所述任务执行器集群进行扩缩容。

2.根据权利要求1所述的方法,其特征在于,将所述目标任务集合解析写入进数据库,包括:

通过parse engine对所述目标任务集合进行配置文件解析,并将解析后的目标任务集合存入数据库。

3.根据权利要求1所述的方法,其特征在于,在任务调度器集群获取Zookeeper中注册的当前可用的任务执行器地址之前,所述方法还包括:

监听器集群通过Zookeeper的API接口在Zookeeper中注册的当前可用的任务执行器列表,所述任务执行器列表中包括任务执行器地址。

4.根据权利要求3所述的方法,其特征在于,所述Zookeeper通过Watcher机制监控任务执行器列表里数据的变化,并始终将最新的任务执行器列表下发到任务调度器集群,任务调度器集群根据最新的任务执行器列表中的可用任务执行器进行任务指派。

5.根据权利要求1所述的方法,其特征在于,所述目标任务集合包括集合状态,目标任务集合中的任务包括任务状态,通过所述集合状态和所述任务状态上报任务执行进度;

其中,所述集合状态和任务状态均至少包括初始状态、接受状态,执行中状态、失败状态、取消状态以及成功状态。

6.根据权利要求1所述的方法,其特征在于,监听器集群根据所述任务执行器集群的负载状态与预设执行阈值对所述任务执行器集群进行扩缩容,包括:

通过任务执行器备用池对所述任务执行器集群进行扩缩容。

7.根据权利要求1所述的方法,其特征在于,所述数据库中包括Job表和Task表,所述Job表用于存放任务集合数据,所述Task表用于存放任务数据。

8.一种分布式定时任务调度系统,其特征在于,所述系统包括:

获取模块,用于获取用户提交的目标任务集合,生成对应的目标任务集合标识,其中所述目标任务集合中包含至少一个任务;

解析模块,用于将所述目标任务集合解析并写入进数据库,并将目标任务集合标识通过消息队列发送给任务调度器集群;

任务调度器集群,用于获取Zookeeper中注册的当前可用的任务执行器地址,通过所述目标任务集合标识将所述数据库中的目标任务集合下发到任务执行器集群中,并将所述任务调度器集群的负载状态上报给监听器集群;

任务执行器集群,用于获取并执行所述目标任务集合中的各个任务,并将所述任务执行器集群的负载状态上报给监听器集群;

监听器集群,用于根据所述任务调度器集群的负载状态与预设调度阈值对所述任务调度器集群进行扩缩容;根据所述任务执行器集群的负载状态与预设执行阈值对所述任务执行器集群进行扩缩容。

9.根据权利要求8所述的系统,其特征在于,所述监听器集群,还用于:

通过Zookeeper的API接口在Zookeeper中注册的当前可用的任务执行器列表,所述任务执行器列表中包括任务执行器地址。

10.根据权利要求9所述的系统,其特征在于,所述Zookeeper通过Watcher机制监控任务执行器列表里数据的变化,并始终将最新的任务执行器列表下发到任务调度器集群,任务调度器集群根据最新的任务执行器列表中的可用任务执行器进行任务指派。

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京千帆阅文科技有限公司,未经北京千帆阅文科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/202111462653.8/1.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top