[发明专利]一种基于网络爬虫的数据处理方法、系统及云平台有效
申请号: | 202011618649.1 | 申请日: | 2020-12-31 |
公开(公告)号: | CN112380418B | 公开(公告)日: | 2021-07-16 |
发明(设计)人: | 詹能勇;刘振宇 | 申请(专利权)人: | 金服软件(广州)有限公司 |
主分类号: | G06F16/951 | 分类号: | G06F16/951;G06F16/27 |
代理公司: | 北京联瑞联丰知识产权代理事务所(普通合伙) 11411 | 代理人: | 黄冠华 |
地址: | 510700 广东省广州市天河区粤*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明涉及互联网与数据处理技术领域,具体而言,涉及一种基于网络爬虫的数据处理方法、系统及云平台。本发明通过获取用户输入的网页爬虫指令,网页爬虫指令包括目标网页信息和爬取对象集合,然后获取与目标网页信息和爬取对象集合对应的目标爬虫数据,并将目标爬虫数据保存至目标分布式保存节点中,其中,目标分布式保存节点是分布式存储系统中与网页对象集合对应的保存节点;相比于现有技术,本发明能够提升大规模数据爬取时爬虫数据保存的可靠性,并通过针对当前网页内容数据和历史网页内容数据进行爬取,能够充分的爬取用户所需的数据,提高数据爬取的完整性。 | ||
搜索关键词: | 一种 基于 网络 爬虫 数据处理 方法 系统 平台 | ||
【主权项】:
暂无信息
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于金服软件(广州)有限公司,未经金服软件(广州)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/202011618649.1/,转载请声明来源钻瓜专利网。
- 上一篇:一种数字媒体艺术教学用展示装置
- 下一篇:一种便于铺装的PVC地板