[发明专利]一种自定义库开发的大数据处理方法及系统在审
| 申请号： | 202010407340.1 | 申请日： | 2020-05-14 |
| 公开（公告）号： | CN111625218A | 公开（公告）日： | 2020-09-04 |
| 发明（设计）人： | 胡鹏;傅苗;匡岳锋;贺群雄;曹林 | 申请（专利权）人： | 中电工业互联网有限公司 |
| 主分类号： | G06F8/20 | 分类号： | G06F8/20;G06F8/71 |
| 代理公司： | 长沙国科天河知识产权代理有限公司 43225 | 代理人： | 邱轶 |
| 地址： | 410000 湖南省长沙市长沙高新*** | 国省代码： | 湖南;43 |
| 权利要求书： | 查看更多 | 说明书： | 查看更多 |
| 摘要： | 本发明公开了一种自定义库开发的大数据处理方法及系统，该方法包括：搭建基于开源计算框架Spark兼容流计算和批处理的应用流程，定义自定义库开发的接口；进行自定义库开发，实现自定义库开发的接口协议，编写与数据处理应用中的数据处理业务逻辑相关的处理代码，输出Jar包；配置相应的自定义库信息，包括自定义库的顺序及每个自定义库的实现类的全类名；将配置的所有自定义库注册到数据处理应用中，并广播到各分布式计算节点；将数据处理应用打成Jar包并提交到Spark中分布式并行执行数据处理任务。支持根据不同业务逻辑开发相应的数据处理应用，数据处理应用之间可以相互组合，重复使用，从而实现对实时流式数据和离线批量数据一体化处理。 | ||
| 搜索关键词： | 一种 自定义 开发 数据处理 方法 系统 | ||
【主权项】：
暂无信息
下载完整专利技术内容需要扣除积分，VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息，商用须获得专利权人授权。该专利全部权利属于中电工业互联网有限公司，未经中电工业互联网有限公司许可，擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作，请联系【客服】
本文链接：http://www.vipzhuanli.com/patent/202010407340.1/，转载请声明来源钻瓜专利网。
