[发明专利]一种数据处理方法、装置、电子设备及存储介质在审
申请号: | 202111273881.0 | 申请日: | 2021-10-29 |
公开(公告)号: | CN114020508A | 公开(公告)日: | 2022-02-08 |
发明(设计)人: | 钱佳;张蕤 | 申请(专利权)人: | 北京达佳互联信息技术有限公司 |
主分类号: | G06F11/07 | 分类号: | G06F11/07;G06F9/48;G06F16/215;G06F16/242;G06F16/22;G06F16/2455 |
代理公司: | 北京中博世达专利商标代理有限公司 11274 | 代理人: | 申健 |
地址: | 100085 北京市海淀*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 数据处理 方法 装置 电子设备 存储 介质 | ||
1.一种数据处理方法,其特征在于,包括:
获取补数事件的恢复信息,所述恢复信息包括至少两个任务实例的标识以及所述至少两个任务实例之间的依赖关系;
获取所述至少两个任务实例的数据信息,其中,一个任务实例的数据信息包括所述任务实例的输入信息和所述任务实例的输出信息;
根据所述至少两个任务实例之间的依赖关系和所述至少两个任务实例的数据信息,从所述至少两个任务实例中确定至少一个问题任务实例,所述问题任务实例用于表征生成的数据存在质量问题的任务实例,所述至少一个问题任务实例的数量小于所述至少两个任务实例的数量;
对所述至少一个问题任务实例执行数据生成操作。
2.根据权利要求1所述的数据处理方法,其特征在于,所述获取所述至少两个任务实例的数据信息,包括:
获取所述至少两个任务实例各自对应的任务详情,其中,一个任务实例对应的任务详情包括所述任务实例对应的查询语句;
对所述至少两个任务实例各自对应的查询语句进行哈希处理,得到所述至少两个任务实例各自对应的哈希值;
在已存储的目标对应关系中存在第一哈希值的情况下,从所述目标对应关系表中获取第一任务实例的数据信息,所述目标对应关系中包括多个任务实例的数据信息以及所述多个任务实例各自对应的哈希值,所述第一哈希值为所述第一任务实例对应的哈希值,所述第一任务实例为所述至少两个任务实例中的一个。
3.根据权利要求2所述的数据处理方法,其特征在于,所述方法还包括:
在所述目标对应关系中不存在所述第一哈希值的情况下,解析所述第一任务实例对应的查询语句,以得到所述第一任务实例的数据信息;
将所述第一哈希值和所述第一任务实例的数据信息添加至所述目标对应关系中。
4.根据权利要求1所述的数据处理方法,其特征在于,一个任务实例的输入信息中包括输入字段,所述任务实例的输出信息中包括输出字段,所述根据所述至少两个任务实例之间的依赖关系和所述至少两个任务实例的数据信息,从所述至少两个任务实例中确定至少一个问题任务实例,包括:
当当前任务实例为问题任务实例时,确定所述当前任务实例的直接下游任务实例对应的输入字段中,是否存在所述当前任务实例对应的输出字段,所述当前任务实例为所述至少两个任务实例中的一个,所述直接下游任务实例为与所述当前任务实例存在依赖关系的下游任务实例;
当所述直接下游任务实例对应的输入字段中存在所述当前任务实例对应的输出字段时,确定所述直接下游任务实例为问题任务实例。
5.根据权利要求4所述的数据处理方法,其特征在于,所述方法还包括:
当所述直接下游任务实例对应的输入字段中不存在所述前任务实例对应的输出字段时,确定对所述直接下游任务实例执行剪枝操作。
6.根据权利要求4所述的数据处理方法,其特征在于,所述方法还包括:
将所述至少一个问题任务实例中每一个问题任务实例的标识和所述每一个问题任务实例对应的输出字段添加至目标队列,所述目标队列用于表征所述每一个问题任务实例的确定顺序。
7.一种数据处理装置,其特征在于,包括:获取模块、确定模块以及处理模块;
所述获取模块,被配置为获取补数事件的恢复信息,所述恢复信息包括至少两个任务实例的标识以及所述至少两个任务实例之间的依赖关系;
所述获取模块,还被配置为获取所述至少两个任务实例的数据信息,其中,一个任务实例的数据信息包括所述任务实例的输入信息和所述任务实例的输出信息;
所述确定模块,被配置为根据所述至少两个任务实例之间的依赖关系和所述至少两个任务实例的数据信息,从所述至少两个任务实例中确定至少一个问题任务实例,所述问题任务实例用于表征生成的数据存在质量问题的任务实例,所述至少一个问题任务实例的数量小于所述至少两个任务实例的数量;
所述处理模块,被配置为对所述至少一个问题任务实例执行数据生成操作。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京达佳互联信息技术有限公司,未经北京达佳互联信息技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202111273881.0/1.html,转载请声明来源钻瓜专利网。