[发明专利]一种基于数据虚拟化引擎的数据模型及其构建方法有效
申请号: | 202210244811.0 | 申请日: | 2022-03-14 |
公开(公告)号: | CN114328471B | 公开(公告)日: | 2022-07-12 |
发明(设计)人: | 陈细平;杨萱;邓荣平 | 申请(专利权)人: | 杭州半云科技有限公司 |
主分类号: | G06F16/21 | 分类号: | G06F16/21;G06F16/22;G06F16/242 |
代理公司: | 杭州山泰专利代理事务所(普通合伙) 33438 | 代理人: | 张飞 |
地址: | 310000 浙江省杭州市*** | 国省代码: | 浙江;33 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 基于 数据 虚拟 引擎 数据模型 及其 构建 方法 | ||
1.一种基于数据虚拟化引擎的数据模型系统,其特征在于,包括数据预处理模块、数据模型装配模块、数据模型执行模块、数据模型输出模块、数据虚拟引擎查询器和业务数据库,所述数据虚拟引擎查询器是基于数据虚拟化引擎的查询功能执行需要查询的SQL语句,并分析SQL语句的血缘关系生成血缘关系图,业务数据库,用于保存数据模型执行的数据结果和血缘关系图,并将它们存储在业务数据库中;
所述数据预处理模块,用于对数据虚拟化引擎下的不同数据源表的字段进行中英文注释和表达式配置,配置后生成一个数据表对象;
所述数据模型装配模块包括运算组件,所述运算组件包括连接组件、字段设置组件、交集组件、并集组件、差集组件、聚合组件和筛选组件,通过运算组件连接一个或者多个数据表,使其装配成数据模型;
所述数据模型执行模块包括SQL语句构造器,所述SQL语句构造器用于分析数据模型中数据表和运算组件的所有连接关系,把图形化的连接关系转换为SQL查询语句,并通过数据虚拟化引擎执行该SQL查询语句,实现不同数据来源的数据库表查询并得到数据结果;
所述数据模型输出模块包括数据结果列表输出和血缘关系输出,数据结果列表输出把数据模型运行完毕后查询的数据结果集以列表的形式进行前端输出展示,血缘关系以关系图谱的方式展示数据的流向和来源,所述血缘关系图包括依次连接的数据源节点、运算组件节点和结果节点,且每个节点的信息框显示有对应节点的信息内容,以便查看数据的生成关系。
2.根据权利要求1所述的一种基于数据虚拟化引擎的数据模型系统,其特征在于,还包括数据存储器,所述数据存储器是用来保存数据模型的数据表、运算组件和连接关系,以及保存数据模型执行的数据结果和血缘关系图,并将它们存储在业务数据库中。
3.根据权利要求1所述的一种基于数据虚拟化引擎的数据模型系统,其特征在于,所述连接组件和字段设置组件均用于连接两个数据表或运算组件,且字段设置组件用于配置数据表对象过滤或者注释字段,所述交集组件、并集组件和差集组件是以连接的数据表的所有字段做整体的数据比对输出,所述聚合组件用来进行分组排列输出,所述筛选组件用来配置连接的数据表对象需要过滤的字段条件。
4.一种基于数据虚拟化引擎的数据模型构建方法,其特征在于,包括以下步骤:
S1、数据源表选择:选择数据虚拟化引擎包含的某个数据库中的一个数据表作为一个数据对象,数据对象用来与其他的数据表进行运算处理;
S2、数据预处理:S21、设置字段注释:对数据表中的字段添加中文或者英文注释;
S22、设置字段表达式:通过表达式配置进行字段的函数转换,包括数字转换字符串、时间格式转换,以及对敏感字段进行局部或者全局脱敏设置;
S3、数据模型装配:S31、建立数据模型:设置模型的名称、标签和执行模式,执行模式分为离线任务和实时任务:
S32、推拽数据表对象:模型建立完成后,进入到数据模型的编辑页面,将已经配置好的数据表对象拖拽到编辑页面进行模型的业务配置;
S33、配置数据处理组件:通过运算组件进行数据表对象的处理,实现数据表对象的交并差关联、聚合排序、字段和行数筛选功能,构建零语句的数据模型;
S4、执行模型:先通过SQL语句构造器,把图形化的模型连接关系转换为数据库的SQL查询语句,再通过数据虚拟化引擎查询器执行该SQL查询语句,实现跨不同来源的数据库表查询,并得到数据结果以及生成数据的血缘关系图,最后将数据结果和血缘关系图通过数据存储器存储在业务数据库中;
S5、数据输出:S51、在预览数据结果时取其前n条数据进行展示;
S52、数据以血缘关系图的方式进行展示,以便追溯数据流向。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于杭州半云科技有限公司,未经杭州半云科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202210244811.0/1.html,转载请声明来源钻瓜专利网。
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置