[发明专利]基于事件驱动模型的分布式互联网数据采集系统与方法有效
| 申请号： | 201910599035.4 | 申请日： | 2019-07-04 |
| 公开（公告）号： | CN110347899B | 公开（公告）日： | 2021-06-22 |
| 发明（设计）人： | 孔逸飞;段毅飞;王亮亮;薛彦文;刘博;李渔 | 申请（专利权）人： | 北京熵简科技有限公司 |
| 主分类号： | G06F16/951 | 分类号： | G06F16/951;G06F16/9535;G06F9/48 |
| 代理公司： | 上海智晟知识产权代理事务所(特殊普通合伙) 31313 | 代理人： | 刘万磊 |
| 地址： | 100080 北京市海淀区*** | 国省代码： | 北京;11 |
| 权利要求书： | 查看更多 | 说明书： | 查看更多 |
| 摘要： | 本发明公开了一种基于事件驱动模型的分布式互联网数据采集系统及方法，涉及网络搜索技术领域，系统包括控制台模块、数据采集引擎模块、数据存储模块、日志服务模块，并运行在容器编排引擎之上；控制台模块对数据采集和数据存储进行配置；数据采集引擎模块根据控制台模块的配置完成数据采集；数据存储模块与数据采集引擎模块连接，根据控制台模块的配置完成数据存储；控制台模块、数据采集引擎模块、数据存储模块和日志服务模块都各包含一项或多项服务；服务互相解耦，以独立Docker镜像的形式部署于容器编排引擎之上。本发明具备快速地动态扩容和缩容的能力，支持日采集TB量级别海量数据的需求，并支持同时对上千种不同来源的网站进行数据采集。 | ||
| 搜索关键词： | 基于 事件 驱动 模型 分布式 互联网 数据 采集 系统 方法 | ||
【主权项】：
1.一种基于事件驱动模型的分布式互联网数据采集系统，其特征在于，包括控制台模块、数据采集引擎模块、数据存储模块、日志服务模块；所述系统运行在容器编排引擎之上；所述控制台模块对数据采集和数据存储进行配置；所述数据采集引擎模块根据所述控制台模块的配置完成所述数据采集；所述数据存储模块与所述数据采集引擎模块连接，根据所述控制台模块的配置完成所述数据存储；所述控制台模块、所述数据采集引擎模块、所述数据存储模块和所述日志服务模块都各包含一项或多项服务；所述服务互相解耦，以独立Docker镜像的形式部署于所述容器编排引擎之上。
下载完整专利技术内容需要扣除积分，VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息，商用须获得专利权人授权。该专利全部权利属于北京熵简科技有限公司，未经北京熵简科技有限公司许可，擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作，请联系【客服】
本文链接：http://www.vipzhuanli.com/patent/201910599035.4/，转载请声明来源钻瓜专利网。
