[发明专利]爬虫系统中的响应调度方法在审
申请号: | 201811106373.1 | 申请日: | 2018-09-21 |
公开(公告)号: | CN109388736A | 公开(公告)日: | 2019-02-26 |
发明(设计)人: | 石松;孙志国 | 申请(专利权)人: | 真相网络科技(北京)有限公司;石松 |
主分类号: | G06F16/951 | 分类号: | G06F16/951 |
代理公司: | 北京细软智谷知识产权代理有限责任公司 11471 | 代理人: | 王金宝 |
地址: | 100020 北京市朝阳*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本申请涉及一种爬虫系统中的响应调度方法,该方法包括:根据网站的层级板块结构划分出多个入口种子任务;根据每个入口种子任务所在层级板块和单位时间的新闻量预设初始采集频率;预设多个新闻属性,并制定所述新闻属性对应的调整规则;根据所述调整规则实时更新每个入口种子任务的计算采样频率。本申请为每个入口种子在实时分配最佳采集频率,避免信息产出和频率不对等造成的服务资源浪费,也间接的减轻了监测站点的压力。 | ||
搜索关键词: | 采集频率 调整规则 爬虫系统 响应调度 层级 预设 板块结构 采样频率 服务资源 监测站点 实时分配 实时更新 网站 申请 制定 | ||
【主权项】:
1.一种爬虫系统中的响应调度方法,其特征在于,包括:根据网站的层级板块结构划分出多个入口种子任务;根据每个入口种子任务所在层级板块和单位时间的新闻量预设初始采集频率;预设多个新闻属性,并制定所述新闻属性对应的调整规则;根据所述调整规则实时更新每个入口种子任务的计算采样频率。
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于真相网络科技(北京)有限公司;石松,未经真相网络科技(北京)有限公司;石松许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201811106373.1/,转载请声明来源钻瓜专利网。