[发明专利]一种数据处理的方法和装置有效
申请号: | 201810426890.0 | 申请日: | 2018-05-07 |
公开(公告)号: | CN108829718B | 公开(公告)日: | 2021-04-06 |
发明(设计)人: | 周葳 | 申请(专利权)人: | 北京奇艺世纪科技有限公司 |
主分类号: | G06F16/215 | 分类号: | G06F16/215 |
代理公司: | 北京润泽恒知识产权代理有限公司 11319 | 代理人: | 莎日娜 |
地址: | 100080 北京市海淀*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 数据处理 方法 装置 | ||
1.一种数据处理的方法,其特征在于,应用于数据传递过程中、且应用在数据分析过程之前,包括:
在需要进行数据传递时,确定待处理的数据指标;
获取所述数据指标的历史数据;
依据所述历史数据,确定所述数据指标的预测值;
当采集到所述数据指标的实际值时,计算所述实际值与所述预测值之间的差值;所述数据指标的实际值经过数据计算脚本对原始的数据进行处理或统计后得到;
若所述差值未超过预设阈值,则判定所述实际值为有效数据;并传递给数据使用方,以使数据使用方利用有效数据进行数据分析;
其中,所述方法还包括:
若所述差值超过所述预设阈值,则对数据计算脚本进行纠错处理;
采用纠错后的数据计算脚本重新计算所述数据指标的实际值,将重新计算的所述实际值确定为有效数据,并传递给数据使用方,以使数据使用方利用有效数据进行数据分析;
其中,所述依据所述历史数据,确定所述数据指标的预测值的步骤包括:
根据所述历史数据,生成针对所述数据指标的预测模型;
采用所述预测模型,计算所述数据指标的预测值。
2.根据权利要求1所述的方法,其特征在于,所述获取所述数据指标的历史数据的步骤包括:
确定历史数据的采集周期;
获取所述数据指标在所述采集周期内的历史数据。
3.根据权利要求1所述的方法,其特征在于,所述根据所述历史数据,生成针对所述数据指标的预测模型的步骤包括:
设置默认回归参数值;
通过改变所述默认回归参数值,对预置的自回归模型进行训练,使得对所述历史数据的预测误差小于第二预设阈值,以生成预测模型。
4.一种数据处理的装置,其特征在于,应用于数据传递过程中、且应用在数据分析过程之前,包括:
数据指标确定模块,用于在需要进行数据传递时,确定待处理的数据指标;
历史数据获取模块,用于获取所述数据指标的历史数据;
预测值确定模块,用于依据所述历史数据,确定所述数据指标的预测值;
差值计算模块,用于在采集到所述数据指标的实际值时,计算所述实际值与所述预测值之间的差值;所述数据指标的实际值经过数据计算脚本对原始的数据进行处理或统计后得到;
有效数据判定模块,用于若所述差值未超过预设阈值,则判定所述实际值为有效数据,并传递给数据使用方,以使数据使用方利用有效数据进行数据分析;
其中,所述装置还包括:
纠错处理模块,用于若所述差值超过所述预设阈值,则对数据计算脚本进行纠错处理;
实际值计算模块,用于采用纠错后的数据计算脚本重新计算所述数据指标的实际值,将重新计算的所述实际值确定为有效数据,并传递给数据使用方,以使数据使用方利用有效数据进行数据分析;
其中,所述预测值确定模块包括:
预测模型生成子模块,用于根据所述历史数据,生成针对所述数据指标的预测模型;
预测值计算子模块,用于采用所述预测模型,计算所述数据指标的预测值。
5.根据权利要求4所述的装置,其特征在于,所述历史数据获取模块包括:
采集周期确定子模块,用于确定历史数据的采集周期;
历史数据获取子模块,用于获取所述数据指标在所述采集周期内的历史数据。
6.根据权利要求4所述的装置,其特征在于,所述预测模型生成子模块包括:
回归参数值设置单元,用于设置默认回归参数值;
自回归模型训练单元,用于通过改变所述默认回归参数值,对预置的自回归模型进行训练,使得对所述历史数据的预测误差小于第二预设阈值,以生成预测模型。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京奇艺世纪科技有限公司,未经北京奇艺世纪科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201810426890.0/1.html,转载请声明来源钻瓜专利网。