[发明专利]一种高效的数据采集方法在审
| 申请号: | 201710559435.3 | 申请日: | 2017-07-11 |
| 公开(公告)号: | CN107302584A | 公开(公告)日: | 2017-10-27 |
| 发明(设计)人: | 杨博 | 申请(专利权)人: | 上海精数信息科技有限公司 |
| 主分类号: | H04L29/08 | 分类号: | H04L29/08;H04L29/06 |
| 代理公司: | 北京睿邦知识产权代理事务所(普通合伙)11481 | 代理人: | 余玥君 |
| 地址: | 200062 上海市普*** | 国省代码: | 上海;31 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 一种 高效 数据 采集 方法 | ||
1.一种高效数据采集方法,其包括:
S110接收用户请求;
S120对所述用户请求的各字段进行合法性校验;
S130根据所述用户请求的各字段计算出随机子域名,并进行子域名校验;
S140采集通过校验的用户请求,根据预先设定的规则进行跳转;
S150检验跳转链接的安全性和跳转到抵达网页的完成状态;和
S160存储所述跳转网页链接、抵达网页链接以及加载完成的信息状态,结果写入Nginx日志中。
2.根据权利要求1所述的方法,其中对于无法通过校验的用户请求,返回1*1像素gif格式图片。
3.根据权利要求1所述的方法,其中所述进行合法性校验的字段包括项目号、广告位、媒体号、创意号、关键字、广告主、IP地址、IDFA、IMEI、AndroidID、OpenUDID中的一种或多种。
4.根据权利要求1所述的方法,其中所述用于计算随机子域名的字段包括项目号、广告位、媒体号、创意号、广告主、采集类型中的一种或多种。
5.根据权利要求1所述的方法,其中根据广告主、项目号、广告位、媒体号、创意、关键字中一种或多种预先设定跳转规则。
6.根据权利要求1所述的方法,其中接收到用户请求后,DNS解析服务器选择距离用户最近的LVS服务器作为当前LVS服务器,并向其发送所述用户请求。
7.根据权利要求6所述的方法,其中所述LVS服务器的负载均衡方式为VS/DR。
8.根据权利要求6所述的方法,其中所述LVS服务器将所述用户请求发送给Nginx服务器,由所述Nginx服务器处理数据采集的各项步骤。
9.根据权利要求6所述的方法,其中根据来源地址的运营商,分配相同运营商里速度最快延迟最小的LVS服务器。
10.根据权利要求9所述的方法,其中对于视频网站的数据,分配到与视频网站同机房的LVS服务器。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于上海精数信息科技有限公司,未经上海精数信息科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201710559435.3/1.html,转载请声明来源钻瓜专利网。
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置





