[发明专利]一种网络爬虫的域名解析缓冲方法在审
| 申请号: | 202111476457.6 | 申请日: | 2021-12-06 |
| 公开(公告)号: | CN114154042A | 公开(公告)日: | 2022-03-08 |
| 发明(设计)人: | 李涛;孙思清;孙兴艳 | 申请(专利权)人: | 浪潮云信息技术股份公司 |
| 主分类号: | G06F16/951 | 分类号: | G06F16/951;G06F16/901;G06F12/0895;G06F12/0891;H04L61/30;H04L61/4511;H04L61/58 |
| 代理公司: | 济南信达专利事务所有限公司 37100 | 代理人: | 阚恭勇 |
| 地址: | 250100 山东省济南市高*** | 国省代码: | 山东;37 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | 本发明提供一种网络爬虫的域名解析缓冲方法,属于数据处理技术领域,本发明在深入分析操作系统和JVM的域名解析工作机制基础上,结合分布式爬虫的并行化与任务多节点均匀化等特点,采用正向和负向双缓存方式,为2个缓存分别设计采用了特定的数据结构和过期策略。实验表明,该方法可以有效提升域名解析性能,同时降低各爬虫节点的内存占用和域名解析请求对网络带宽的影响,提升了分布式爬虫的整体性能。 | ||
| 搜索关键词: | 一种 网络 爬虫 域名解析 缓冲 方法 | ||
【主权项】:
暂无信息
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于浪潮云信息技术股份公司,未经浪潮云信息技术股份公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/202111476457.6/,转载请声明来源钻瓜专利网。





