[发明专利]一种数据处理方法、系统、计算设备及存储介质在审
申请号: | 202110726672.0 | 申请日: | 2021-06-29 |
公开(公告)号: | CN113342550A | 公开(公告)日: | 2021-09-03 |
发明(设计)人: | 吴方贵;方世康;朱非白 | 申请(专利权)人: | 安徽容知日新科技股份有限公司 |
主分类号: | G06F9/54 | 分类号: | G06F9/54 |
代理公司: | 北京思睿峰知识产权代理有限公司 11396 | 代理人: | 谢建云;赵爱军 |
地址: | 230088 安徽省*** | 国省代码: | 安徽;34 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 数据处理 方法 系统 计算 设备 存储 介质 | ||
1.一种数据处理方法,适于在计算设备执行,所述计算设备与多台设备通信连接,所述设备部署有多个数据采集模块,每个数据采集模块采集所在设备的一项运行数据,所述计算设备包括消息队列模块,数据对齐模块和数据计算模块,所述方法包括步骤:
从每台设备的多个数据采集模块获取设备的多项运行数据,将多项运行数据合成为第一运行数据存储到所述消息队列模块;
通过所述数据对齐模块获取每台设备的第一运行数据,按照第一运行数据中运行数据的采集时间进行转换操作,得到与数据的采集时间对应的第二运行数据,将每台设备的第二运行数据输出到所述消息队列模块;
通过所述数据计算模块获取每台设备的第二运行数据,对第二运行数据根据采集时间进行数据分析判断每台设备是否正常运行。
2.如权利要求1所述的方法,其中,所述运行数据包括设备标识,所述从每台设备的多个数据采集模块获取设备的多项运行数据,将多项运行数据合成为第一运行数据存储到所述消息队列模块包括步骤:
在所述消息队列模块中创建第一主题模块,所述第一主题模块下包括多个分区,每个分区的分区号均与一台设备的设备标识相匹配;
根据所述运行数据的设备标识匹配与运行数据对应的分区,顺序将多项运行数据写入到对应的分区,将该分区的多项运行数据作为该设备的第一运行数据。
3.如权利要求2所述的方法,其中,在所述分区中写入的运行数据包括该项运行数据在分区的写入时间,和对应于数据采集模块的数据类型,所述按照第一运行数据中运行数据的采集时间进行转换操作,得到与数据的采集时间对应的第二运行数据包括步骤:
将所述分区中的运行数据生成关于写入时间的离散化流;
设置所述离散化流的批次间隔,并将所述离散化流按照批次间隔分割成多个数据集,每个数据集中包括多个写入时间在当前批次间隔中的运行数据;
创建所述离散化流的滑动窗口,所述滑动窗口包括多个批次间隔的数据集;
对所述滑动窗口中的包括的数据集,根据所述运行数据的采集时间和数据类型进行转化操作得到第二运行数据。
4.如权利要求3所述的方法,其中,所述创建所述离散化流的滑动窗口包括步骤:
设置所述滑动窗口的窗口间隔和滑动间隔;
根据所述窗口间隔和滑动间隔在所述离散化流的头部生成滑动窗口。
5.如权利要求4所述的方法,其中,对所述滑动窗口中的包括的数据集,根据所述运行数据的采集时间和数据类型进行转化操作得到第二运行数据包括步骤:
将所述滑动窗口按照所述滑动间隔沿离散化流进行滑动,每次滑动得到滑动窗口中包括的数据集;
从数据集中的提取设备标识和采集时间相同的多个运行数据;
将采集时间相同的多个运行数据,根据运行数据的数据类型进行聚合,得到该采集时间下的运行数据集;
将每个运行数据集按照对应的采集时间顺序输出作为第二运行数据。
6.如权利要求5所述的方法,其中,所述将每台设备的第二运行数据输出到所述消息队列模块包括步骤:
在所述消息队列模块中创建第二主题模块,所述第二主题模块包括多个分区,每个分区的分区号均与一台设备的设备标识相匹配;
根据所述第二运行数据中运行数据集所包括的运行数据的设备标识匹配与第二运行数据对应的分区,将第二运行数据中的运行数据集顺序写入到对应的分区。
7.如权利要求6所述的方法,其中,所述通过所述数据计算模块获取每台设备的第二运行数据包括步骤:
在所述数据计算模块中设置对于所述第二主题模块的订阅函数;
根据所述订阅函数,当所述第二主题模块的任一分区写入新的运行数据集时,获取该分区新写入的运行数据集。
8.一种计算设备,包括:
一个或多个处理器;
存储器;以及
一个或多个装置,所述一个或多个装置包括用于执行根据权利要求1至7所述的方法中的任一方法的指令。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于安徽容知日新科技股份有限公司,未经安徽容知日新科技股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110726672.0/1.html,转载请声明来源钻瓜专利网。