[发明专利]数据监测方法、装置及计算机可读存储介质在审

专利信息
申请号: 202010086207.0 申请日: 2020-02-11
公开(公告)号: CN111324639A 公开(公告)日: 2020-06-23
发明(设计)人: 万璐;张韬;吕艳;薛清晨 申请(专利权)人: 京东数字科技控股有限公司
主分类号: G06F16/2458 分类号: G06F16/2458;G06F16/25
代理公司: 中国国际贸易促进委员会专利商标事务所 11038 代理人: 姜雍;刘剑波
地址: 100176 北京市大兴区北京经*** 国省代码: 北京;11
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 数据 监测 方法 装置 计算机 可读 存储 介质
【说明书】:

本公开提供了一种数据监测方法、装置及计算机可读存储介质,涉及计算机技术领域。其中的数据监测方法包括:对第一时间序列数据进行基于局部加权回归散点平滑法的季节趋势分解STL处理,获得第一时间序列数据的季节分量、趋势分量以及残差分量;根据残差分量,判断第一时间序列数据中是否存在异常数据;在第一时间序列数据中不存在异常数据的情况下,向数据显示设备推送第一时间系列数据;在第一时间序列数据中存在异常数据的情况下,停止向数据显示设备推送第一时间系列数据,并触发异常数据告警。本公开能够准确检测到异常业务数据,并熔断基于异常业务数据的下游作业同时触发告警,提升了基于业务数据进行作业的鲁棒性。

技术领域

本公开涉及计算机技术领域,特别涉及一种数据监测方法、装置及计算机可读存储介质。

背景技术

互联网公司搭建数据质量监控系统,对来自各个数据源中的数据变化进行监控。在数据质量监控系统中,用户可以通过建立质量监控作业的方式,自定义采集项配置、算法项配置、预警条件设置(例如预警枚举值),对数据仓库、数据集市中的数据表进行每日定时的数据采集和数据计算,并与历史数据或维表进行比对验证。在比对结果显示存在异常数据的情况下,对触发预警条件的异常数据以短信、邮件、应用消息等方式及时通知给用户,从而保障基于业务数据进行作业。

发明内容

本公开解决的一个技术问题是,如何提升基于业务数据进行作业的鲁棒性。

根据本公开实施例的一个方面,提供了一种数据监测方法,包括:对第一时间序列数据进行基于局部加权回归散点平滑法的季节趋势分解STL处理,获得第一时间序列数据的季节分量、趋势分量以及残差分量;

根据残差分量,判断第一时间序列数据中是否存在异常数据;在第一时间序列数据中不存在异常数据的情况下,向数据显示设备推送第一时间系列数据;在第一时间序列数据中存在异常数据的情况下,停止向数据显示设备推送第一时间系列数据,并触发异常数据告警。

在一些实施例中,根据残差分量,判断第一时间序列数据中是否存在异常数据包括:计算残差分量的均值及标准差;计算残差分量中的目标数值与均值之差的绝对值,并判断绝对值是否大于标准差的三倍;在绝对值大于标准差的三倍的情况下,目标数值所对应第一时间序列数据中的数值为异常数据;在绝对值不大于标准差的三倍的情况下,目标数值所对应第一时间序列数据中的数值不为异常数据。

在一些实施例中,还包括:在第一时间序列数据中不存在异常数据的情况下,确定第二时间序列数据中与第一时间序列数据相关联的关联分量;将第二时间序列数据分解为关联分量和剩余分量;根据剩余分量,判断第二时间序列数据中是否存在异常数据;在第二时间序列数据中不存在异常数据的情况下,向数据显示设备推送第二时间系列数据;在第二时间序列数据中存在异常数据的情况下,停止向数据显示设备推送第二时间系列数据,并触发异常数据告警。

在一些实施例中,对第一时间序列数据进行基于局部加权回归散点平滑法的季节趋势分解STL处理包括:根据第一时间序列数据的波动幅度,选取STL处理的运算模型。

在一些实施例中,根据第一时间序列数据的波动幅度,选取STL分解的运算模型包括:在第一时间序列数据的波动幅度随时间的变化率大于预设值的情况下,在STL处理中采用乘法模型;在第一时间序列数据的波动幅度随时间的变化率不大于预设值的情况下,在STL处理中采用加法模型。

在一些实施例中,对第一时间序列数据进行基于局部加权回归散点平滑法的季节趋势分解STL处理还包括:根据第一时间序列数据的业务属性,确定STL处理的模型参数。

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于京东数字科技控股有限公司,未经京东数字科技控股有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/202010086207.0/2.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top