[发明专利]一种数据处理的方法及装置有效
申请号: | 202010051880.0 | 申请日: | 2020-01-17 |
公开(公告)号: | CN111274269B | 公开(公告)日: | 2023-07-07 |
发明(设计)人: | 曾文清;邹易 | 申请(专利权)人: | 广州至真信息科技有限公司 |
主分类号: | G06F16/2453 | 分类号: | G06F16/2453;G06F16/25;G06F16/242 |
代理公司: | 广州佳睿知识产权代理事务所(普通合伙) 44610 | 代理人: | 徐燕萍;朱彩银 |
地址: | 510000 广东省广州*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 数据处理 方法 装置 | ||
1.一种数据处理的方法,其特征在于,所述方法包括:
将待解析的结构化查询语言SQL语句或者非SQL语句,转化成对应的数据模型,其中,所述数据模型包括指定的指标信息、维度信息、链表信息以及功能配置信息;
执行所述数据模型,以实现所述功能配置信息对应的功能;
所述功能包括:跨库查询功能;所述数据模型包括第一数据模型以及第二数据模型;
所述执行所述数据模型,以实现所述功能配置信息对应的功能,包括:
执行所述第一数据模型,获取所述第一数据模型在对应的第一数据库中查询的第一查询结果;
执行所述第二数据模型,获取所述第二数据模型在对应的第二数据库中查询的第二查询结果;
根据所述第一数据模型的维度信息与所述第二数据模型的维度信息,确定所述第一数据模型与所述第二数据模型之间的关联维度;
基于所述关联维度,将所述第一查询结果与所述第二查询结果进行拼接,获得最终的查询结果。
2.根据权利要求1所述的方法,其特征在于,所述将待解析的结构化查询语言SQL语句或者非SQL语句,转化成对应的数据模型,包括:
接收用户输入或配置的SQL语句或者非SQL语句,作为待解析的SQL语句或者非SQL语句;
提取所述SQL语句或者非SQL语句中的目标特征信息,所述目标特征信息包括指标信息、维度信息、链表信息;
采用预设的模型生成方法,根据所述目标特征信息生成对应的数据模型。
3.根据权利要求2所述的方法,其特征在于,所述根据所述第一数据模型的维度信息与所述第二数据模型的维度信息,确定所述第一数据模型与所述第二数据模型之间的关联维度,包括:
将所述第一数据模型的维度信息与所述第二数据模型的维度信息中相同的维度信息作为关联维度;
或者,
将所述第一数据模型的维度信息与所述第二数据模型的维度信息中用户指定的维度信息作为关联维度。
4.根据权利要求1或2所述的方法,其特征在于,所述功能包括:ETL过程监控功能;所述数据模型包括各ETL步骤对应的第三数据模型;
所述执行所述数据模型,以实现所述功能配置信息对应的功能,包括:
执行所述第三数据模型,以监控对应ETL步骤的数据;
当监控到所述数据符合预设规则时,则执行预设操作,所述预设操作包括:报警、生成数据报表。
5.根据权利要求1或2所述的方法,其特征在于,所述功能包括:数据打标功能;
所述执行所述数据模型,以实现所述功能配置信息对应的功能,包括:
把所述数据模型嵌入到kafka的连接器中,所述连接器用于在初始化创建任务的时候初始化所述数据模型,所述数据模型在初始化后添加了打标的方法,用于对指定字段进行打标。
6.根据权利要求1所述的方法,其特征在于,所述方法还包括:
展示配置界面;
确定用户在所述配置界面中选定的模型标识、指标标识或维度标识、以及选择的条件;
根据模型标识确定对应的目标模型,并在所述目标模型中查找所述指标标识或维度标识;
根据查找结果以及所述条件,拼接SQL语句。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于广州至真信息科技有限公司,未经广州至真信息科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010051880.0/1.html,转载请声明来源钻瓜专利网。