[发明专利]一种网络爬虫伪装数据的生成方法及系统在审
| 申请号： | 201810270472.7 | 申请日： | 2018-03-29 |
| 公开（公告）号： | CN110555146A | 公开（公告）日： | 2019-12-10 |
| 发明（设计）人： | 余姚霖;齐保元;周美林;王斌;李鹏 | 申请（专利权）人： | 中国科学院信息工程研究所 |
| 主分类号： | G06F16/951 | 分类号： | G06F16/951;H04L29/08;H04L29/12 |
| 代理公司： | 11200 北京君尚知识产权代理有限公司 | 代理人： | 余功勋 |
| 地址： | 100093 *** | 国省代码： | 北京;11 |
| 权利要求书： | 查看更多 | 说明书： | 查看更多 |
| 摘要： | 本发明提供一种网络爬虫伪装数据的生成方法，其步骤包括：从浏览器的用户代理useragent字串库中选择一useragent字串，从代理IP资源池中获取一代理IP；利用所述useragent字串和所代理IP访问目标网站，根据cookie获取策略，获取cookie信息并存储于cookie资源池；将所述cookie信息与所述useragent字串、所述代理IP、多个同城代理IP、referer信息关联存储，并打包成伪装数据；根据调度策略将所述伪装数据供外部爬虫程序使用。本发明还提供一种网络爬虫伪装数据的生成系统。 | ||
| 搜索关键词： | 代理IP 字串 伪装 网络爬虫 资源池 访问目标网站 信息关联存储 调度策略 爬虫程序 生成系统 用户代理 浏览器 打包 存储 外部 | ||
【主权项】：
1.一种网络爬虫伪装数据的生成方法，其步骤包括：/n从浏览器的用户代理useragent字串库中选择一useragent字串，从代理IP资源池中获取一代理IP；/n利用所述useragent字串和所代理IP访问目标网站，根据cookie获取策略，获取cookie信息并存储于cookie资源池；/n将所述cookie信息与所述useragent字串、所述代理IP、多个同城代理IP、referer信息关联存储，并打包成伪装数据；/n根据调度策略将所述伪装数据供外部爬虫程序使用。/n
下载完整专利技术内容需要扣除积分，VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息，商用须获得专利权人授权。该专利全部权利属于中国科学院信息工程研究所，未经中国科学院信息工程研究所许可，擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作，请联系【客服】
本文链接：http://www.vipzhuanli.com/patent/201810270472.7/，转载请声明来源钻瓜专利网。
