[发明专利]一种基于用户激励机制的爬虫采集方法在审
申请号: | 201910453256.0 | 申请日: | 2019-05-28 |
公开(公告)号: | CN110134854A | 公开(公告)日: | 2019-08-16 |
发明(设计)人: | 吴青松 | 申请(专利权)人: | 江苏快页信息技术有限公司;南京韶韶科技有限公司 |
主分类号: | G06F16/953 | 分类号: | G06F16/953 |
代理公司: | 暂无信息 | 代理人: | 暂无信息 |
地址: | 210000 江苏省南*** | 国省代码: | 江苏;32 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 采集 爬虫 云数据中心 用户激励 会员管理系统 应用前景广阔 搜索服务器 采集插件 采集硬件 数据采集 数据获得 数据利用 数据上传 信息采集 用户登陆 用户账号 成功性 大数据 虚拟币 运营商 浏览器 云端 上传 奖励 成功 投资 维护 | ||
1.一种基于用户激励机制的爬虫采集方法,其特征在于,包括以下步骤:
(1)建立会员管理系统,为每个用户账号维护一个唯一的用户ID和数字证书;
(2)用户登陆后,从云端获得采集任务,通过定制的浏览器采集插件进行数据采集;
(3)用户将采集到的数据上传至云数据中心,每成功上传一条数据获得虚拟币奖励;
(4)云数据中心将采集到的内容存入Elasticsearch搜索服务器,以供数据利用。
2.根据权利要求1所述的一种基于用户激励机制的爬虫采集方法,其特征在于,所述的步骤(1)中会员管理系统的建立包括对用户进行分类分级和用户画像,添加所在地区、常用IP地址、终端类型多种属性和标签。
3.根据权利要求1所述的一种基于用户激励机制的爬虫采集方法,其特征在于,所述的步骤(2)中用户使用基于Chromium内核定制的浏览器或谷歌、Firefox浏览器登陆账号,启动爬虫插件,通过采集任务API获取采集任务,并通过解析规则API获取页面内容解析规则,即开始进行“挖矿”任务。
4.根据权利要求1所述的一种基于用户激励机制的爬虫采集方法,其特征在于,所述的步骤(3)中用户将爬虫插件采集到的数据通过云数据中心的API接口,将数据上传至云数据中心,云数据中心根据不同的数据类型,给用户虚拟币进行奖励。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于江苏快页信息技术有限公司;南京韶韶科技有限公司,未经江苏快页信息技术有限公司;南京韶韶科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910453256.0/1.html,转载请声明来源钻瓜专利网。
- 上一篇:数据爬取方法及系统
- 下一篇:一种联系人检索方法和装置