[发明专利]异常数据处理方法、装置、计算机设备和存储介质有效
申请号: | 202210428018.6 | 申请日: | 2022-04-22 |
公开(公告)号: | CN114564629B | 公开(公告)日: | 2022-08-16 |
发明(设计)人: | 王斌;李硕;党超群;李亚文;吴宝勤;朱先德 | 申请(专利权)人: | 国家海洋技术中心 |
主分类号: | G06F16/9035 | 分类号: | G06F16/9035;G06F17/18;G06Q50/26 |
代理公司: | 深圳紫藤知识产权代理有限公司 44570 | 代理人: | 苏蕾 |
地址: | 300112 天*** | 国省代码: | 天津;12 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 异常 数据处理 方法 装置 计算机 设备 存储 介质 | ||
本申请涉及一种异常数据处理方法、装置、计算机设备和存储介质。该方法通过获取气象参数时间序列,所述气象参数时间序列包括多个气象观测数据,对所述气象观测数据进行滤波处理,获取初筛异常数据,根据所述初筛异常数据与所述初筛异常数据对应的参考观测数据间的差分值,从所述初筛异常数据中确定目标异常数据,实现先从数学统计意义上通过滤波处理从气象观测数据中初筛出异常数据,然后从实际物理意义上在初始得到的异常数据中确定目标异常数据,在数学统计意义和实际物理意义两方面保障气象观测数据的质控效果,去除气象参数时间序列中的错误值、异常值,从而提升气象观测数据的准确性和可靠性。
技术领域
本申请涉及数据处理技术领域,特别是涉及一种异常数据处理方法、装置、计算机设备和存储介质。
背景技术
在海洋科学中,海气界面关键气象参数的采集,如海上3米高度的气温、气压、风速、风向、相对湿度等,为深入探知海洋动力过程提供观测数据支撑,在海-气相互作用研究、灾害预报预警、海洋环境保障等研究领域有重要意义。在实际的气象参数观测过程中,人工操作失误、环境影响、通信传输不稳定等都会干扰气象观测结果,造成数据异常,现场的观测数据大都存在质量问题,不能直接投入应用,需要先对现场的观测数据进行质量控制,去除错误值、异常值。但大气系统活跃、变化快,气温、气压、风速、相对湿度等关键气象要素变化幅度大,传统技术中往往会出现将正确的气象观测数据判定为异常的情况,难以准确识别出异常数据。
发明内容
基于此,有必要针对上述技术问题,提供一种异常数据处理方法、装置、计算机设备和存储介质,用以准确识别出异常数据,提升观测数据的准确性和可靠性。
第一方面,本申请提供一种异常数据处理方法,包括:
获取气象参数时间序列,气象参数时间序列包括多个气象观测数据;
对气象观测数据进行滤波处理,获取初筛异常数据;
根据初筛异常数据与初筛异常数据对应的参考观测数据间的差分值,从初筛异常数据中确定目标异常数据;参考观测数据与初筛异常数据为相邻时刻的气象观测数据。
在本申请一些实施例中,对气象观测数据进行滤波处理,获取初筛异常数据,包括:
利用时间窗口将气象参数时间序列中的气象观测数据分割为预设长度的短序列观测数据;
获取时间窗口内的短序列观测数据对应的中位数以及中值绝对偏差;
根据中位数以及中值绝对偏差,确定时间窗口内的观测数据取值范围;
将短序列观测数据中超出观测数据取值范围的气象观测数据确定为初筛异常数据。
在本申请一些实施例中,根据初筛异常数据与初筛异常数据对应的参考观测数据间的差分值,从初筛异常数据中确定目标异常数据,包括:
依次将任意初筛异常数据确定为目标观测数据,对目标观测数据和目标观测数据对应的参考观测数据进行差分运算,得到差分值;
若差分值大于预设差分阈值,将目标观测数据确定为目标异常数据。
在本申请一些实施例中,参考观测数据包括第一参考观测数据以及第二参考观测数据,其中,第一参考观测数据为目标观测数据前一时刻的气象观测数据,第二参考观测数据为目标观测数据后一时刻的气象观测数据;
对目标观测数据和目标观测数据对应的参考观测数据进行差分运算,得到差分值,包括:
对目标观测数据和第一参考观测数据进行差分运算,得到第一差分值;
对目标观测数据和第二参考观测数据进行差分运算,得到第二差分值;
若差分值大于预设差分阈值,将目标观测数据确定为目标异常数据,包括:
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于国家海洋技术中心,未经国家海洋技术中心许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202210428018.6/2.html,转载请声明来源钻瓜专利网。