|
钻瓜专利网为您找到相关结果 6090945个,建议您 升级VIP下载更多相关专利
- [发明专利]一种数据处理方法和装置-CN201510867351.7有效
-
冯粮城;李俊良;强琦
-
阿里巴巴集团控股有限公司
-
2015-12-01
-
2020-08-14
-
G06F16/951
- 本发明实施例公开了一种数据处理方法,应用于流数据处理框架,流数据处理框架获取业务需求,从用于存储元数据消息的消息队列中依次抓取多个元数据消息,向多个map模块分发抓取的元数据消息,使得多个map模块根据接收到的元数据消息中的存储位置,获取对应的业务数据;并相应的处理获取的业务数据;将多个map模块处理后的业务数据分发到多个reduce模块,使得多个reduce模块对所述处理后的业务数据进行合并处理,输出合并处理结果。通过实时抓取消息队列中的元数据消息,再利用流数据处理框架的实时处理特点,使用实现了MapReduce功能的流数据处理框架处理网络中实时产生的海量数据,处理前不再需要进行预先规划。
- 一种数据处理方法装置
|