[发明专利]一种适用于批量爬取的数据采集方法及系统在审
申请号: | 201910404370.4 | 申请日: | 2019-05-15 |
公开(公告)号: | CN110110182A | 公开(公告)日: | 2019-08-09 |
发明(设计)人: | 陈水平;伍千军;文德;李鸿翼;付自政;胡蓓蓓;艾准;丁尚果;涂家伟 | 申请(专利权)人: | 八戒科技服务有限公司 |
主分类号: | G06F16/951 | 分类号: | G06F16/951;G06F16/953;G06F16/955 |
代理公司: | 北京酷爱智慧知识产权代理有限公司 11514 | 代理人: | 占丽君 |
地址: | 410000 湖南省长沙市岳麓区麓云*** | 国省代码: | 湖南;43 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明公开了一种适用于批量爬取的数据采集方法及系统,所述方法包括:获取原始链接和子链接;获取所有链接对应的网页;解析所述网页,采集网站数据。通过上述方案,无需用户学习专业技术、配置规则,只需提供网站入口的种子网址,就可采集整个网站的内容,实现智能化采集数据,便于用户使用。 | ||
搜索关键词: | 数据采集 网站 网页 采集 采集数据 配置规则 网站数据 用户使用 用户学习 原始链接 专业技术 智能化 子链接 链接 网址 解析 | ||
【主权项】:
1.一种适用于批量爬取的数据采集方法,其特征在于,所述方法包括:获取原始链接和子链接;获取所有链接对应的网页;解析所述网页,采集网站数据。
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于八戒科技服务有限公司,未经八戒科技服务有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201910404370.4/,转载请声明来源钻瓜专利网。