[发明专利]一种基于网络爬虫的多级页面的级联爬取方法和设备有效
| 申请号： | 201910784160.2 | 申请日： | 2019-08-23 |
| 公开（公告）号： | CN110472125B | 公开（公告）日： | 2022-04-01 |
| 发明（设计）人： | 邱涛;丘水文;陈昊;陈耀才 | 申请（专利权）人： | 厦门商集网络科技有限责任公司 |
| 主分类号： | G06F16/951 | 分类号： | G06F16/951;G06F16/953;G06F16/955 |
| 代理公司： | 福州科扬专利事务所(普通合伙) 35001 | 代理人： | 何小星 |
| 地址： | 361101 福建省厦*** | 国省代码： | 福建;35 |
| 权利要求书： | 查看更多 | 说明书： | 查看更多 |
| 摘要： | 本发明涉及一种基于网络爬虫的多级页面的级联爬取方法，包括如下步骤：抓取上级页面并将抓取到的数据存储在上级页面数据解析表中，在上级页面数据解析表中对需要继续抓取下级页面的对象设置主键值，各所述对象对应的主键值均不相同；抓取下级页面并将抓取到的数据存储在下级页面数据解析表中，并对该下级页面数据解析表设置外键值，从上级页面数据解析表中获取该下级页面对应的对象的主键值，然后将其作为所述下级页面数据解析表的外键值，从而实现抓取数据落地后上级网页和下级网页的关联查询。本发明是一种能够还原网页前后逻辑的数据采集模式，确保网页抓取的完整性且按原网页层级顺序存储数据，能够便捷地获取相关联的多层级页面数据。 | ||
| 搜索关键词： | 一种 基于 网络 爬虫 多级 页面 级联 方法 设备 | ||
【主权项】：
1.一种基于网络爬虫的多级页面的级联爬取方法，其特征在于，包括如下步骤：/n抓取上级页面数据，并将抓取到的数据存储在上级页面数据解析表中，在上级页面数据解析表中对需要继续抓取下级页面的对象设置主键值，所述主键值具有唯一性，通过该主键值标识对象所在的上级页面并通过该主键值关联下级页面；/n点击上级页面的URL链接，通过爬虫模拟访问下级页面，抓取下级页面数据并将抓取到的数据存储在下级页面数据解析表中，并对该下级页面数据解析表设置用于关联上级页面的外键值，具体地，从上级页面数据解析表中获取该下级页面对应的对象的主键值，然后将其作为所述下级页面数据解析表的外键值，由于主键值和外键值保持一致，根据主键值和外键值确定层级关系，从而明确抓取数据落地后上级网页和下级网页的层级关联。/n
下载完整专利技术内容需要扣除积分，VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息，商用须获得专利权人授权。该专利全部权利属于厦门商集网络科技有限责任公司，未经厦门商集网络科技有限责任公司许可，擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作，请联系【客服】
本文链接：http://www.vipzhuanli.com/patent/201910784160.2/，转载请声明来源钻瓜专利网。
