[发明专利]令牌获取方法、数据采集系统、代理服务器和存储介质在审
申请号: | 201910979729.0 | 申请日: | 2019-10-15 |
公开(公告)号: | CN110620670A | 公开(公告)日: | 2019-12-27 |
发明(设计)人: | 陈国锋;梁大钊;胡郎平 | 申请(专利权)人: | 深圳市小赢信息技术有限责任公司 |
主分类号: | H04L9/32 | 分类号: | H04L9/32;H04L29/06;H04L29/08;G06F16/951 |
代理公司: | 31253 上海精晟知识产权代理有限公司 | 代理人: | 杨军 |
地址: | 518000 广东省深圳*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 令牌 代理服务器 目标服务器 客户端 爬虫服务器 令牌获取 数据采集技术 数据采集系统 有效地实现 存储介质 令牌发送 请求服务 数据采集 返回 解析 客户 通信 | ||
1.一种令牌获取方法,其特征在于,应用于代理服务器,客户端和至少一目标服务器通过所述代理服务器通信,其中,所述客户端向所述目标服务器请求服务时所述目标服务器生成令牌,且通过所述代理服务器将所述令牌返回至所述客户端,所述方法包括:
解析得到所述目标服务器返回至所述客户端的令牌;
将所述令牌发送至爬虫服务器,供所述爬虫服务器根据所述令牌从对应的所述目标服务器爬取数据。
2.根据权利要求1所述的令牌获取方法,其特征在于,所述代理服务器通过预安装于所述客户端的预设代理协议解析得到所述令牌。
3.根据权利要求1所述的令牌获取方法,其特征在于,所述客户端按照预设时间间隔向所述目标服务器请求服务;
所述将所述令牌发送至爬虫服务器,具体包括:
所述代理服务器将解析到的每个所述令牌发送至所述爬虫服务器。
4.根据权利要求3所述的令牌获取方法,其特征在于,预设时间间隔根据所述令牌的有效期确定。
5.根据权利要求1所述的令牌获取方法,其特征在于,所述代理服务器通过预设接口将所述令牌发送至所述爬虫服务器。
6.根据权利要求1所述的令牌获取方法,其特征在于,所述代理服务器为超文本传输安全协议HTTPS代理服务器。
7.根据权利要求1所述的令牌获取方法,其特征在于,所述目标服务器的数量大于一个;
所述将所述令牌发送至爬虫服务器,具体包括:
建立解析到的所述令牌和对应的目标服务器的映射关系,将所述映射关系和所述令牌一并发送至所述爬虫服务器,供所述爬虫服务器采用与所述目标服务器对应的令牌爬取数据。
8.一种数据采集系统,其特征在于,包括:客户端、代理服务器、爬虫服务器以及至少一目标服务器;
所述客户端通过所述代理服务器与所述至少一目标服务器通信;
所述客户端用于通过所述代理服务器向所述至少一目标服务器请求服务,所述目标服务器生成令牌,并通过所述代理服务器将所述令牌返回至所述客户端;
所述代理服务器还用于执行如权利要求1至7中任一项所述的令牌获取方法;
所述爬虫服务器用于根据所述令牌从对应的目标服务器爬取数据。
9.一种代理服务器,其特征在于,包括:存储器和处理器,存储器存储计算机程序,处理器运行所述计算机程序以实现如权利要求1至7中任一项所述的令牌获取方法。
10.一种存储介质,其特征在于,用于存储计算机可读程序,所述计算机可读程序用于供计算机执行如权利要求1至7中任一项所述的令牌获取方法。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于深圳市小赢信息技术有限责任公司,未经深圳市小赢信息技术有限责任公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910979729.0/1.html,转载请声明来源钻瓜专利网。