[发明专利]一种流数据处理方法和装置有效
申请号: | 201710597929.0 | 申请日: | 2017-07-20 |
公开(公告)号: | CN110019025B | 公开(公告)日: | 2021-12-21 |
发明(设计)人: | 徐萌;段云峰;魏瑗珍;黄岩;尚晶;刘虹;徐海勇 | 申请(专利权)人: | 中移动信息技术有限公司;中国移动通信集团有限公司 |
主分类号: | G06F16/16 | 分类号: | G06F16/16;G06F16/2457 |
代理公司: | 北京派特恩知识产权代理有限公司 11270 | 代理人: | 张颖玲;李梅香 |
地址: | 100032 北京市昌平区未来*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 数据处理 方法 装置 | ||
1.一种流数据处理方法,其特征在于,所述方法包括:
接收第一元数据建立指令,响应所述第一元数据建立指令,根据预设元数据建立模型生成第一元数据;其中,所述预设元数据建立模型包括数据结构元模型、数据质量元模型、传输存储元模型和业务逻辑元模型;所述数据结构元模型,用于记录流数据的数据结构信息;所述数据质量元模型,用于定义数据类型转换、字段转换、归并、字段约束和对流数据质量进行核查;所述传输存储元模型,用于记录所述流数据的输入位置、存储位置、输出位置和/或预设存储时长;所述业务逻辑元模型,用于定义对所述流数据执行的业务逻辑事件及执行所述业务逻辑事件的业务逻辑条件;
根据所述第一元数据,载入所述第一元数据对应的第一流数据;
接收对所述第一流数据的业务逻辑指令,所述业务逻辑指令中携带触发条件及业务逻辑操作;
当所述第一元数据满足所述触发条件时,实现对所述第一流数据的所述业务逻辑操作。
2.根据权利要求1所述的方法,其特征在于,所述根据预设元数据建立模型生成所述第一元数据,包括:
基于预设约束信息设置描述所述流数据的数据结构、记录所述流数据的源地址信息、并定义所述流数据对应的所述业务逻辑操作;
根据所述数据结构、所述源地址信息和所述业务逻辑操作,生成所述第一元数据。
3.根据权利要求2所述的方法,其特征在于,所述根据所述第一元数据,载入所述第一元数据对应的第一流数据,包括:
载入所述源地址信息对应的源地址发送的所述第一流数据。
4.根据权利要求1所述的方法,其特征在于,所述方法还包括:
接收订阅分发模块发送的所述订阅分发指令,所述订阅分发指令中携带所述订阅分发模块对应的至少一个待发送地址信息和预设发送时间;
根据所述第一元数据确定当前系统时间;
当所述当前系统时间到达所述预设发送时间时,将所述第一流数据发送至所述至少一个待发送地址信息,并将所述至少一个待发送地址信息进行存储。
5.根据权利要求1所述的方法,其特征在于,所述业务逻辑操作包括过滤操作、关联操作和聚合操作。
6.根据权利要求1所述的方法,其特征在于,所述方法还包括:
接收对所述第一流数据的删除指令,所述删除指令中携带预设存储时长和删除策略,所述删除策略包括删除所述第一流数据、停止接入所述第一流数据、或删除所述预设存储时长前的所述第一流数据对应的存储数据中的任意一种;
根据所述第一元数据确定所述第一流数据的实际存储时长;
当所述实际存储时长等于所述预设存储时长时,根据所述删除策略进行相应的删除。
7.根据权利要求1所述的方法,其特征在于,所述载入所述第一元数据对应的第一流数据之后,所述方法还包括:
从所述第一流数据中确定与预设待检测信息对应的第一待检测信息;
当所述第一待检测信息与所述预设待检测信息不匹配时,产生告警信息。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中移动信息技术有限公司;中国移动通信集团有限公司,未经中移动信息技术有限公司;中国移动通信集团有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201710597929.0/1.html,转载请声明来源钻瓜专利网。