[发明专利]一种基于Kubenetes集群的分布式爬虫方法和存储设备在审
申请号: | 202111455547.7 | 申请日: | 2021-12-01 |
公开(公告)号: | CN114117180A | 公开(公告)日: | 2022-03-01 |
发明(设计)人: | 张汀勇;叶章明;侯祥钦;陈天宇;郑为洛;林杰;王敏力;卞江新 | 申请(专利权)人: | 福建博思数字科技有限公司 |
主分类号: | G06F16/951 | 分类号: | G06F16/951;G06F16/27 |
代理公司: | 福州市景弘专利代理事务所(普通合伙) 35219 | 代理人: | 魏小霞 |
地址: | 350200 福建省福州市长乐*** | 国省代码: | 福建;35 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明涉及爬虫技术领域,特别涉及一种基于Kubenetes集群的分布式爬虫方法和存储设备。所述一种基于Kubenetes集群的分布式爬虫方法,包括步骤:构建代码仓库;构建制品库;构建自动化部署流程;根据所述部署流程将制品库的镜像文件自动部署至Kubenetes的各个节点上;启动爬虫任务进行任务采集。通过以上方法,不需要逐一配置爬虫所需要的复杂环境配置,环境都已经打包在镜像包,部署升级不需要逐一升级爬虫程序,通过制品库根据自动化部署流程部署到各个爬虫机器上。使得当有更新时,爬虫部署简单方便易操作。 | ||
搜索关键词: | 一种 基于 kubenetes 集群 分布式 爬虫 方法 存储 设备 | ||
【主权项】:
暂无信息
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于福建博思数字科技有限公司,未经福建博思数字科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/202111455547.7/,转载请声明来源钻瓜专利网。