[发明专利]应用于舆情平台的大规模循环爬虫管理方法在审
| 申请号： | 201811327144.2 | 申请日： | 2018-11-08 |
| 公开（公告）号： | CN109492145A | 公开（公告）日： | 2019-03-19 |
| 发明（设计）人： | 童友俊 | 申请（专利权）人： | 大连瀚闻资讯有限公司 |
| 主分类号： | G06F16/951 | 分类号： | G06F16/951 |
| 代理公司： | 大连东方专利代理有限责任公司 21212 | 代理人： | 李馨 |
| 地址： | 116000 辽宁省大连市高*** | 国省代码： | 辽宁;21 |
| 权利要求书： | 查看更多 | 说明书： | 查看更多 |
| 摘要： | 本发明提供一种应用于舆情平台的大规模循环爬虫管理方法。本发明方法，包括：将包含爬虫程序的所有可执行文件添加到队列中；从队列中提取预设数目的可执行文件并执行，并将提取后的元素移出队列，添加在子进程中；当满足队列的个数大于0或者子进程的状态是正在运行的其中一个条件，即对子进程的状态进行判断，对运行的子进程中的可执行文件超时信息和非运行状态中的可执行文件报错信息进行报错；在遍历全部队列中的可执行文件后，通过预设的爬虫程序循环次数保证循环爬虫的循环执行。本发明通过让大规模循环爬虫的不断循环执行，提高大规模循环爬虫的管理效率，减少了人力资源的浪费，可以实时的发现运行过程中的错误，及时的对错误进行修改。 | ||
| 搜索关键词： | 可执行文件 爬虫 队列 子进程 爬虫程序 循环执行 预设 非运行状态 报错信息 超时信息 管理效率 人力资源 运行过程 报错 遍历 移出 应用 管理 进程 保证 发现 | ||
【主权项】：
1.一种应用于舆情平台的大规模循环爬虫管理方法，其特征在于，包括如下步骤：将包含爬虫程序的所有可执行文件添加到队列中；从队列中提取预设数目的可执行文件并执行，并将提取后的元素移出队列，添加在子进程中；当满足队列的个数大于0或者子进程的状态是正在运行的其中一个条件，即对子进程的状态进行判断，对运行的子进程中的可执行文件超时信息和非运行状态中的可执行文件报错信息进行报错；在遍历全部队列中的可执行文件后，通过预设的爬虫程序循环次数保证循环爬虫的循环执行。
下载完整专利技术内容需要扣除积分，VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息，商用须获得专利权人授权。该专利全部权利属于大连瀚闻资讯有限公司，未经大连瀚闻资讯有限公司许可，擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作，请联系【客服】
本文链接：http://www.vipzhuanli.com/patent/201811327144.2/，转载请声明来源钻瓜专利网。
