[发明专利]并行式关联布告栏爬虫系统无效
申请号: | 200810180822.7 | 申请日: | 2008-11-25 |
公开(公告)号: | CN101446953A | 公开(公告)日: | 2009-06-03 |
发明(设计)人: | 杨溥;郭军;徐蔚然 | 申请(专利权)人: | 北京邮电大学 |
主分类号: | G06F17/30 | 分类号: | G06F17/30 |
代理公司: | 暂无信息 | 代理人: | 暂无信息 |
地址: | 100876*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明公开了一种并行式关联布告栏爬虫系统,包括以下部件:并行爬取器,超链接剥离器,数据分拣器,网页超链接存储器,数据关联器,存储器,以及超链接投递器。通过应用本发明所描述的系统,可以为开发复式综合布告栏搜索引擎系统的爬虫系统提供通用的设计架构;可以有效地快速地将多个布告栏信息综合分类,并且获得分类关联的信息数据集;从而为复式综合布告栏搜索引擎系统的其他子系统的设计和开发创造便利的条件和基础,尤其是给检索子系统提供设计开发的便利,大大地提高系统的开发效率和降低系统的开发成本。 | ||
搜索关键词: | 并行 关联 布告栏 爬虫 系统 | ||
【主权项】:
1. 一种并行式关联布告栏爬虫系统,其特征在于包括:并行爬取器,用于从各个对应的布告栏上下载网页;超链接剥离器,用于从网页中分离出超链接;数据分拣器,用于将不同的数据超链接分别送入所述存储器中;网页超链接存储器,用于存储网页的超链接;数据关联器,用于在网页和数据之间建立关联信息;存储器,用于下载存储各个数据;超链接投递器,用于将超链接投递给所述相应的并行爬取器。
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京邮电大学,未经北京邮电大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/200810180822.7/,转载请声明来源钻瓜专利网。