[发明专利]全业务指标的数据质量监控方法、电子设备及存储介质在审

专利信息
申请号: 202110358163.7 申请日: 2021-04-01
公开(公告)号: CN113128848A 公开(公告)日: 2021-07-16
发明(设计)人: 于泽;郑钦瀚;黄亮;邱智敏;解翔 申请(专利权)人: 广州虎牙科技有限公司
主分类号: G06Q10/06 分类号: G06Q10/06;G06F16/242;G06F16/27
代理公司: 深圳市威世博知识产权代理事务所(普通合伙) 44280 代理人: 黎坚怡
地址: 511400 广东省广州市番禺*** 国省代码: 广东;44
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 业务 指标 数据 质量 监控 方法 电子设备 存储 介质
【权利要求书】:

1.一种全业务指标的数据质量监控方法,其特征在于,包括:

获取业务指标;

基于所述业务指标选取对应的监控规则;

对所述对应的监控规则进行有效性校验;

若校验成功,则利用所述监控规则的配置数据对所述业务指标进行校验。

2.根据权利要求1所述的数据质量监控方法,其特征在于,所述监控规则包括查询语言表达式是否能正常运行,所述对所述对应的监控规则进行有效性校验包括:

获取与所述业务指标对应的查询语言表达式,并构建第一分布式数据集;

判断所述第一分布式数据集对应的物理执行计划是否可执行;

如果所述物理执行计划可执行,则校验通过;

若所述物理执行计划不可执行,则校验不通过,返回语法错误信息。

3.根据权利要求2所述的数据质量监控方法,其特征在于,所述监控规则包括进一步包括是否全表扫描,所述对所述对应的监控规则进行有效性校验包括:

若所述物理执行计划可执行,则从所述物理执行计划中获取表扫描器对象;

判断所述表扫描器对象是否包含日期条件过滤限制;

若所述表扫描器包含所述日期条件过滤限制,则校验通过;

若所述表扫描器对象未包含所述日期条件过滤限制,则校验失败,返回全表扫描错误信息。

4.根据权利要求2所述的数据质量监控方法,其特征在于,所述监控规则包括进一步包括配置数据是否有效,所述对所述对应的监控规则进行有效性校验包括:

判断所述查询语言表达式是否包含所述业务指标;

若所述查询语言表达式包含所述业务指标,则校验通过。

5.根据权利要求2所述的数据质量监控方法,其特征在于,所述若校验成功,则利用所述监控规则的配置数据对所述业务指标进行校验包括采用轮询方式依次执行下述子步骤:

基于所述监控规则及所述第一分布式数据集计算所述业务指标的同比配置信息及环比配置信息;

分别计算所述业务指标的样本实例,所述样本实例包括原始数据样本、同比数据样本及环比数据样本;

基于所述样本实例计算所述业务指标的涨幅百分比;

将所述涨幅百分比与阈值百分比进行比对,并记录所述样本实例的风险系数及明细数据。

6.根据权利要求5所述的数据质量监控方法,其特征在于,进一步包括:

若所述涨幅百分比大于所述阈值百分比,则产生告警信息。

7.根据权利要求1所述的数据质量监控方法,其特征在于,在所述基于所述业务指标选取对应的监控规则之前包括:

批量获取已配置好的报表配置文件,并依次解析所述报表配置文件;

从所述报表配置文件的根节点递归查找所述报表配置文件的工作簿节点、数据源节点及数据源依赖节点,并提取查询语言表达式、字段中/英文名映射、数据库连接信息;

根据所述报表工作簿的名称将所述查询语言表达式、所述字段中/英文名映射、所述数据库连接信息与处理系统关联,并进行结构化存储,以建立数据库,其中,所述数据库包括所述监控规则的配置数据。

8.根据权利要求1所述的数据质量监控方法,其特征在于,在所述基于所述业务指标选取对应的监控规则之前包括:

完成访问安全认证;

批量获取已配置好的报表配置文件,并循环调用远程服务获取报表看板、报表数据集、报表数据源;

根据所述远程服务返回的数据进行反序列化为对象,并提取查询语言表达式、字段中/英文名映射、数据库连接信息;

根据所述报表工作簿的名称将所述查询语言表达式、字段中/英文名映射、数据库连接信息与处理系统关联,并进行结构化存储,以建立数据库,其中,所述数据库包括所述监控规则的配置数据。

9.根据权利要求1所述的数据质量监控方法,其特征在于,进一步包括:

从客户端监听到查询语句,生成并执行物理执行计划;

对配置的所述业务指标的样本实例数据进行核对,并将核对结果反馈给所述客户端。

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于广州虎牙科技有限公司,未经广州虎牙科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/202110358163.7/1.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top