[发明专利]一种爬虫集群监控方法、装置、存储介质及计算机设备在审

专利信息
申请号: 202010713832.3 申请日: 2020-07-22
公开(公告)号: CN112035721A 公开(公告)日: 2020-12-04
发明(设计)人: 徐志威 申请(专利权)人: 大箴(杭州)科技有限公司
主分类号: G06F16/951 分类号: G06F16/951;G06F11/30;G06F11/32
代理公司: 北京中强智尚知识产权代理有限公司 11448 代理人: 黄耀威;贾依娇
地址: 310000 浙江省杭州市*** 国省代码: 浙江;33
权利要求书: 查看更多 说明书: 查看更多
摘要: 发明公开了一种爬虫集群监控方法、装置、存储介质及计算机设备,涉及计算机技术领域,主要目的在于解决爬虫集群监控过程中主节点无法对子节点返回的结果信息进行监控,导致爬虫集群监控效率较低,且浪费大量时间与人力成本的问题。方法包括:获取子节点发送的结果信息,结果信息中携带有身份标识和节点状态标识;利用身份标识在本地配置文件中查找相应的结果信息类型以及节点状态类型,配置文件中预先配置有与各子节点相关联的结果信息类型和节点状态类型;依据子节点对应的结果信息和节点状态标识,以及所述结果信息类型和节点状态类型,判断子节点是否为异常子节点;若是,则对异常子节点进行删除和重建处理。本发明适用于爬虫集群的监控。
搜索关键词: 一种 爬虫 集群 监控 方法 装置 存储 介质 计算机 设备
【主权项】:
暂无信息
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于大箴(杭州)科技有限公司,未经大箴(杭州)科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/patent/202010713832.3/,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top