[发明专利]一种数据处理方法及装置有效
申请号: | 201410505500.0 | 申请日: | 2014-09-26 |
公开(公告)号: | CN104281491B | 公开(公告)日: | 2018-01-09 |
发明(设计)人: | 单利伟 | 申请(专利权)人: | 北京音之邦文化科技有限公司 |
主分类号: | G06F9/46 | 分类号: | G06F9/46 |
代理公司: | 北京鸿德海业知识产权代理事务所(普通合伙)11412 | 代理人: | 袁媛 |
地址: | 100027 北京市海淀区*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 数据处理 方法 装置 | ||
1.一种数据处理方法,其特征在于,所述方法包括:
依据数据的描述信息,获得针对所述数据的数据处理任务,包括:接收输入的所述数据的描述信息,所述数据的描述信息包括所述数据所在字段信息和所述数据对应的分类信息;利用数据处理语言描述所述数据的描述信息,以获得针对所述数据的数据处理任务;
将所述数据处理任务发送给第一终端,以使得所述第一终端执行所述数据处理任务;
若所述第一终端执行所述数据处理任务出现异常,向第二终端发送所述数据处理任务,以使得所述第二终端执行所述数据处理任务。
2.根据权利要求1所述的方法,其特征在于,
所述数据处理语言包括微软M语言、R语言、Hive查询语言HQL或者结构化查询语言SQL。
3.根据权利要求1所述的方法,其特征在于,所述将所述数据处理任务发送给第一终端,以使得所述第一终端执行所述数据处理任务,包括:
获得所述数据处理任务对应的数据源信息;
获得所述数据源信息所指示的数据源所在的第一终端;
将所述数据处理任务发送给所述第一终端,以使得所述第一终端利用所述数据源执行所述数据处理任务,以获得用于提供给用户的所述数据。
4.根据权利要求3所述的方法,其特征在于,所述数据处理任务的数目为M个,M为大于或者等于1的整数;所述获得所述数据处理任务对应的数据源信息,包括:
依据每个所述数据处理任务的属性信息,从M个所述数据处理任务中提取N个所述数据处理任务,N为大于或者等于1,且小于或者等于M的整数;
对N个所述数据处理任务中每个所述数据处理任务进行解析,以获得每个所述数据处理任务对应的数据源信息,每个所述数据源信息所指示的数据源用于存储对应的数据处理任务所针对的数据。
5.根据权利要求1所述的方法,其特征在于,所述若所述第一终端执行所述数据处理任务出现异常,向第二终端发送所述数据处理任务之前,所述方法还包括:
获得所述第一终端执行所述数据处理任务的效率信息;若所述效率信息小于预设的效率门限,确定所述第一终端执行所述数据处理任务出现异常;或者,
获得所述第一终端执行所述数据处理任务的执行结果;若所述执行结果为执行失败,确定所述第一终端执行所述数据处理任务出现异常。
6.根据权利要求3至5中任一项所述的方法,其特征在于,所述若所述第一终端执行所述数据处理任务出现异常,向第二终端发送所述数据处理任务,以使得所述第二终端执行所述数据处理任务,包括:
获得所述数据源信息所指示的数据源所在的第二终端,向所述第二终端发送所述数据处理任务,以便于所述第二终端利用所述数据源执行所述数据处理任务,以获得用于提供给用户的所述数据;或者,
确定第二终端,向所述第二终端发送所述数据处理任务和所述第一终端的标识,以便于所述第二终端依据所述第一终端的标识从所述第一终端获得所述数据源,以及利用所述数据源执行所述数据处理任务,以获得用于提供给用户的所述数据。
7.一种数据处理装置,其特征在于,所述装置包括:
任务生成单元,用于依据数据的描述信息,获得针对所述数据的数据处理任务,包括:接收输入的所述数据的描述信息,所述数据的描述信息包括所述数据所在字段信息和所述数据对应的分类信息;利用数据处理语言描述所述数据的描述信息,以获得针对所述数据的数据处理任务;
任务分发单元,用于将所述任务生成单元获得的所述数据处理任务发送给第一终端,以使得所述第一终端执行所述数据处理任务;
所述任务分发单元,还用于若所述第一终端执行所述数据处理任务出现异常,向第二终端发送所述任务生成单元获得的所述数据处理任务,以使得所述第二终端执行所述数据处理任务。
8.根据权利要求7所述的装置,其特征在于,
所述数据处理语言包括微软M语言、R语言、Hive查询语言HQL或者结构化查询语言SQL。
9.根据权利要求7所述的装置,其特征在于,所述任务分发单元,具体用于:
获得所述数据处理任务对应的数据源信息;
获得所述数据源信息所指示的数据源所在的第一终端;
将所述数据处理任务发送给所述第一终端,以使得所述第一终端利用所述数据源执行所述数据处理任务,以获得用于提供给用户的所述数据。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京音之邦文化科技有限公司,未经北京音之邦文化科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201410505500.0/1.html,转载请声明来源钻瓜专利网。