[发明专利]一种分布式广告数据计算任务管理系统及方法在审
申请号: | 201611188392.4 | 申请日: | 2016-12-20 |
公开(公告)号: | CN108205470A | 公开(公告)日: | 2018-06-26 |
发明(设计)人: | 王晓伟 | 申请(专利权)人: | 北京奇虎科技有限公司 |
主分类号: | G06F9/50 | 分类号: | G06F9/50;H04L29/08;G06Q30/02 |
代理公司: | 北京市隆安律师事务所 11323 | 代理人: | 权鲜枝;何立春 |
地址: | 100088 北京市西城区新*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 广告数据 任务库 分布式服务器集群 任务创建 客户端 服务器 任务管理系统 分布式广告 数据计算 单个客户端 任务保存 系统负载 系统运行 系统资源 有效分配 存储 发送 均衡 瘫痪 创建 保证 | ||
1.一种分布式广告数据计算任务管理系统,其中,该广告数据计算任务管理系统包括:任务创建服务器、任务库、分布式服务器集群和多个客户端;
任务创建服务器,适于将广告数据计算任务保存到任务库中;
任务库,适于存储所述任务创建服务器所创建的广告数据计算任务;
客户端,适于从任务库提取广告数据计算任务,并将所提取的广告数据计算任务发送给分布式服务器集群;
分布式服务器集群,适于运行客户端发送的广告数据计算任务。
2.如权利要求1所述的方法,其中,所述分布式服务器集群包括:分布式资源管理器YARN,适于对客户端发送的广告数据计算任务进行调度,以分配到集群中的相应服务器上运行。
3.如权利要求2所述的系统,其中,
所述分布式服务器集群中,YARN利用容器DOCKER在集群中服务器上为不同的广告数据计算任务构建运行所需的不同的运行环境。
4.如权利要求1所述的系统,其中,
所述分布式资源管理器YARN,适于将集群中的广告数据计算任务运行资源分为多组,其中一组为优先组,对应标记了指定优先级信息的广告数据计算任务;当接收到标记了指定优先级信息的广告数据计算任务时,分配到优先组进行运行;如果优先组中暂时无广告数据计算任务运行,则将优先组中的部分广告数据计算任务运行资源分配到其他组帮助其他组运行广告数据计算任务,一旦优先组中有广告数据计算任务运行,回收分配到其他组的运行资源到优先组。
5.如权利要求1所述的系统,其中,
所述任务创建服务器,适于通过前端页面接收新建的广告数据计算任务,将接收到广告数据计算任务保存到任务库中;以及还适于通过前端页面接收修改广告数据计算任务的指令,根据该指令对任务库中的相应广告数据计算任务进行修改操作。
6.一种分布式广告数据计算任务管理方法,其中,
任务创建服务器将广告数据计算任务保存到任务库中;
任务库存储所述任务创建服务器所创建的广告数据计算任务;
客户端从任务库提取广告数据计算任务,并将所提取的广告数据计算任务发送给分布式服务器集群;
分布式服务器集群运行客户端发送的广告数据计算任务。
7.如权利要求6所述的方法,其中,
由所述分布式服务器集群中的分布式资源管理器YARN对客户端发送的广告数据计算任务进行调度,以分配到集群中的相应服务器上运行。
8.如权利要求7所述的方法,其中,
所述分布式资源管理器YARN利用容器DOCKER在集群中服务器上为不同的广告数据计算任务构建运行所需的不同的运行环境。
9.如权利要求6所述的方法,其中,
所述分布式资源管理器YARN将集群中的广告数据计算任务运行资源分为多组,其中一组为优先组,对应标记了指定优先级信息的广告数据计算任务;YARN当接收到标记了指定优先级信息的广告数据计算任务时,分配到优先组进行运行;如果优先组中暂时无广告数据计算任务运行,则YARN将优先组中的部分广告数据计算任务运行资源分配到其他组帮助其他组运行广告数据计算任务,一旦优先组中有广告数据计算任务运行,回收分配到其他组的运行资源到优先组。
10.如权利要求6所述的方法,其中,
所述任务创建服务器通过前端页面接收新建的广告数据计算任务,将接收到的广告数据计算任务保存到任务库中;
所述任务创建服务器还通过前端页面接收修改广告数据计算任务的指令,根据该指令对任务库中的相应广告数据计算任务进行修改操作。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京奇虎科技有限公司,未经北京奇虎科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201611188392.4/1.html,转载请声明来源钻瓜专利网。