[发明专利]元数据统一管理方法、系统、介质、设备及程序在审

专利信息
申请号: 202111642439.0 申请日: 2021-12-29
公开(公告)号: CN114328533A 公开(公告)日: 2022-04-12
发明(设计)人: 邹普 申请(专利权)人: 深圳前海微众银行股份有限公司
主分类号: G06F16/22 分类号: G06F16/22;G06F16/25;G06F16/27
代理公司: 北京同立钧成知识产权代理有限公司 11205 代理人: 虞浩;臧建明
地址: 518027 广东省深圳市*** 国省代码: 广东;44
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 数据 统一管理 方法 系统 介质 设备 程序
【权利要求书】:

1.一种元数据统一管理方法,其特征在于,应用于元数据统一管理系统,所述元数据统一管理系统包括:Hbase集群、元数据管理中心以及多条数据通路,其中,各条数据通路通过不同的代码实现,所述方法,包括:

所述多条数据通路中的任一数据通路在向目标Hbase进行数据导入操作的过程中,调用所述元数据管理中心,所述目标Hbase为所述Hbase集群中进行所述数据导入操作的数据库;

获取所述元数据管理中心中所述目标Hbase所对应的元数据模型;

根据所述元数据模型对进行所述数据导入操作的数据进行处理,以将处理后的数据写入至所述目标Hbase。

2.根据权利要求1所述的元数据统一管理方法,其特征在于,所述多条数据通路包括:第一数据通路、第二数据通路以及第三数据通路;

其中,所述第一数据通路与所述第三数据通路用于输入实时数据,所述第二数据通路用于输入预设时长前的数据,以通过所述第二数据通路所输入的数据对通过所述第一数据通路或所述第三数据通路所输入的数据进行补充。

3.根据权利要求2所述的元数据统一管理方法,其特征在于,根据所述元数据模型对进行所述数据导入操作的数据进行处理,以将处理后的数据写入至所述目标Hbase,包括:

若进行所述数据导入操作的数据通路为所述第一数据通路,则在核心联机系统产生交易数据后,由所述核心联机系统通过异步任务将所述交易数据发送至预设流处理平台;

通过预设数据源提取工具消费所述预设流处理平台中的交易数据,并根据所述元数据模型将所述交易数据写入至所述目标Hbase;或者,

若进行所述数据导入操作的数据通路为所述第二数据通路,则由核心联机系统生成交易数据至联机库,并通过预设数据传递工具以抽数的形式将所述交易数据抽取至预设数据仓库工具;

通过所述数据仓库工具对所述交易数据进行清洗与加工,并读取所述元数据模型进行数据组装;

通过预设数据导入工具将组装后的交易数据写入至所述目标Hbase;或者,

若进行所述数据导入操作的数据通路为所述第三数据通路,则在核心联机系统产生交易数据后,调用预设远程调用工具;

通过所述预设远程调用工具,并根据所述元数据模型将所述交易数据写入至所述目标Hbase。

4.根据权利要求1-3中任意一项所述的元数据统一管理方法,其特征在于,在所述根据所述元数据模型对进行所述数据导入操作的数据进行处理之后,还包括:

根据预设信息摘要算法对各条数据通路中进行所述数据导入操作后的数据所对应的列定义进行一致性校验,并确认各条数据通路中所写入的数据的列具有相同顺序后,将处理后的数据写入至所述目标Hbase。

5.根据权利要求4所述的元数据统一管理方法,其特征在于,还包括:

若所述元数据管理中心中元数据模型发生变化,则所述元数据管理中心向各个数据源发送元数据模型改变通知;

其中,所述元数据管理中心中的元数据模型包括:Hbase行键规则,所述Hbase行键规则包括:Hbase列簇、Hbase列结构以及Hbase列校验字段;其中,所述Hbase列簇用于对HBase中的列簇进行约束,所述Hbase列结构用于对HBase中的列结构进行约束,所述Hbase列校验字段用于对HBase中的列进行校验。

6.根据权利要求5所述的元数据统一管理方法,其特征在于,在所述根据所述元数据模型对进行所述数据导入操作的数据进行处理,以将处理后的数据写入至所述目标Hbase之后,还包括:

从所述元数据管理中心的元数据中心中读取元数据,并根据所述元数据生成数据代码;

对所述数据代码进行打包编译,以生成相应的功能类,所述功能类用于为所述元数据统一管理系统提供业务能力。

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于深圳前海微众银行股份有限公司,未经深圳前海微众银行股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/202111642439.0/1.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top