[发明专利]Spark-SQL调度的方法、系统、设备及存储介质有效
申请号: | 201711283361.1 | 申请日: | 2017-12-07 |
公开(公告)号: | CN107944004B | 公开(公告)日: | 2020-09-29 |
发明(设计)人: | 吴志龙 | 申请(专利权)人: | 深圳乐信软件技术有限公司 |
主分类号: | G06F16/2455 | 分类号: | G06F16/2455;G06F16/2453 |
代理公司: | 北京品源专利代理有限公司 11332 | 代理人: | 潘登 |
地址: | 518000 广东省深圳市南山区*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明实施例公开了一种Spark‑SQL调度的方法、系统、设备及存储介质。该方法包括:Spark执行引擎接收用户的SQL查询请求;Spark执行引擎根据用户配置信息查找对应的SparkThriftServer配置角色信息;将查找到的配置角色信息与用户配置信息一致的待调度的SparkThriftServer;调度待调度的SparkThriftServer执行SQL查询请求。本发明实施例通过根据用户配置信息查找对应的配置角色信息确定待调度的SparkThriftServer执行SQL查询请求,以实现解决多用户同时执行SQL任务造成Spark拥堵的问题,帮助分析人员快速的完成业务。 | ||
搜索关键词: | spark sql 调度 方法 系统 设备 存储 介质 | ||
【主权项】:
一种Spark‑SQL调度的方法,其特征在于,包括:Spark执行引擎接收用户的SQL查询请求,所述SQL查询请求包括用户配置信息;所述Spark执行引擎根据用户配置信息查找对应角色下的SparkThriftServer的SparkThriftServer配置角色信息;所述Spark执行引擎将查找到的配置角色信息与所述用户配置信息一致的SparkThriftServer通过最小值算法确定待调度的SparkThriftServer;所述Spark执行引擎调度所述待调度的SparkThriftServer执行所述SQL查询请求。
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于深圳乐信软件技术有限公司,未经深圳乐信软件技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201711283361.1/,转载请声明来源钻瓜专利网。
- 上一篇:一种古诗词收集和数据分析方法
- 下一篇:一种数据展示方法及装置