[发明专利]数据处理方法、装置、电子设备及存储介质在审
申请号: | 202310331207.6 | 申请日: | 2023-03-24 |
公开(公告)号: | CN116243913A | 公开(公告)日: | 2023-06-09 |
发明(设计)人: | 孙志;李敏;徐介夫 | 申请(专利权)人: | 平安科技(深圳)有限公司 |
主分类号: | G06F8/36 | 分类号: | G06F8/36;G06F8/41;G06F8/71;G06F9/54 |
代理公司: | 深圳市赛恩倍吉知识产权代理有限公司 44334 | 代理人: | 陈敬华 |
地址: | 518000 广东省深圳市福田区福*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 数据处理 方法 装置 电子设备 存储 介质 | ||
1.一种数据处理方法,其特征在于,所述方法包括:
解析实时接收到的指标计算任务获得任务参数;
依据所述任务参数设置指标计算组件,所述指标计算组件为可执行的程序代码;
对所述指标计算组件进行编译获得可执行程序包;
将所述可执行程序包封装为指标计算请求,并将所述指标计算请求存储为消息队列;
运行所述消息队列中的可执行程序包,获得指标计算结果;
将所述指标计算结果存储于数据下沉地址中以完成指标计算。
2.如权利要求1所述的数据处理方法,其特征在于,所述解析实时接收到的指标计算任务获得任务参数,包括:
利用预设的分词工具对所述指标计算任务进行分词处理,获得多个任务词汇;
依据预先训练的语义分类模型判别每个所述任务词汇的类别,所述类别至少包括数据源、数据处理和下沉地址;
依据类别为数据源的所述任务词汇查询待处理数据的存储地址;
将类别为数据处理的所述任务词汇作为对源数据进行指标计算的规则;
将类别为下沉地址的所述任务词汇作为数据下沉地址,并将所述待处理数据的存储地址、指标计算的规则与所述数据下沉地址统一作为任务参数。
3.如权利要求2所述的数据处理方法,其特征在于,所述依据所述任务参数设置指标计算组件,包括:
依据所述待处理数据的存储地址设置源数据查询程序;
依据所述指标计算的规则设置至少一个指标计算任务;
依据所述数据下沉地址设置数据下沉程序;
将所述源数据查询程序、所述指标计算任务与所述数据下沉程序联合作为指标计算组件,并将所述指标计算组件存储至预设的备份数据库。
4.如权利要求1所述的数据处理方法,其特征在于,所述对所述指标计算组件进行编译获得可执行程序包,包括:
利用预设的编译工具对所述指标计算组件进行编译以生成可执行程序包;
记录所述可执行程序包编译完成的时间以作为所述可执行程序包的第一索引。
5.如权利要求4所述的数据处理方法,其特征在于,所述将所述可执行程序包封装为指标计算请求,并将所述指标计算请求存储为消息队列,包括:
依据预设的数据传输协议将所述可执行程序包封装为指标计算请求;
依据所述可执行程序包的第一索引由早至晚的顺序对所述指标计算请求进行排序以获得消息队列。
6.如权利要求1所述的数据处理方法,其特征在于,所述运行所述消息队列中的可执行程序包,获得指标计算结果,包括:
利用预设的数据计算平台中默认的数据请求工具编写传输接口;
利用所述传输接口以所述可执行程序包在所述消息队列中的顺序依次调用所述可执行程序包,以获取指标计算结果;
将获取所述指标计算结果的时间作为所述指标计算结果的第二索引。
7.如权利要求6所述的数据处理方法,其特征在于,所述将所述指标计算结果存储于数据下沉地址中以完成指标计算,包括:
将所述指标计算任务作为键,并将所述指标计算结果和所述第二索引作为值以构建键值对;
将所述键值对存储于所述数据下沉地址以完成指标计算。
8.一种数据处理装置,其特征在于,所述装置包括:
实时接收单元,用于解析实时接收到的指标计算任务获得任务参数;
设置单元,用于依据所述任务参数设置指标计算组件,所述指标计算组件为可执行的程序代码;
编译单元,用于对所述指标计算组件进行编译获得可执行程序包;
第一存储单元,用于将所述可执行程序包封装为指标计算请求,并将所述指标计算请求存储为消息队列;
执行单元,用于运行所述消息队列中的可执行程序包,获得指标计算结果;
第二存储单元,用于将所述指标计算结果存储于数据下沉地址中以完成指标计算。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于平安科技(深圳)有限公司,未经平安科技(深圳)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202310331207.6/1.html,转载请声明来源钻瓜专利网。