[发明专利]一种动态防爬虫的方式在审
申请号: | 201711298334.1 | 申请日: | 2017-12-08 |
公开(公告)号: | CN108133140A | 公开(公告)日: | 2018-06-08 |
发明(设计)人: | 张琳艳 | 申请(专利权)人: | 成都数聚城堡科技有限公司 |
主分类号: | G06F21/56 | 分类号: | G06F21/56;G06F17/30 |
代理公司: | 成都金英专利代理事务所(普通合伙) 51218 | 代理人: | 袁英 |
地址: | 610041 四川省成都市*** | 国省代码: | 四川;51 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 爬虫 正常用户 访问 非正常访问 安全策略 动态更新 访问信息 机器学习 鉴权方式 判定规则 区间上限 网络防护 网络信息 限制规则 智能水平 鉴权 算法 采集 防护 验证 概率 更新 | ||
1.一种动态防爬虫的方式,其特征在于,所述方式包括:
S1:运用机器学习方法采集所有用户的访问信息,确定正常用户特征数值,形成正常用户模型;
S2:将每条访问与S1生成的正常用户模型进行对比,若对比结果为非正常的访问,转到S3;若对比结果为正常的访问,转到S6;
S3:将非正常访问请求通过归集算法,将其为爬虫用户请求的概率归集到一定的区间;未达到该区间上限则转到S6,将达到该区间上限的访问转到S4;
S4:判断该访问用户的二次鉴权次数是否达到上限,到达上限转到S7,未达上限转到S5;
S5:通过二次鉴权方式验证此访问用户是否为爬虫,验证未通过则转到S7,通过则转到S6;
S6:允许继续访问,并更新正常用户模型,并转到S8;
S7:暂停他的访问,并更新爬虫用户模型;
S8:结束。
2.如权利要求1所述的一种动态防爬虫的方式,其特征在于,所述正常用户模型包含用户数据的多个维度和每个维度的正常值区间,正常用户数据的多维度集合构成了正常用户模型,作为比较的数据基础。
3.如权利要求1所述的一种动态防爬虫的方式,其特征在于,所述爬虫用户模型包含用户数据的多个维度和每个维度的取值区间,爬虫用户数据的多维度集合构成了爬虫用户模型,作为比较的数据基础。
4.如权利要求1所述的一种动态防爬虫的方式,其特征在于,S1中所述机器学习方法,包括:正常用户模型建立算法,用于建立正常用户模型,包括创建新的数据维度和对每个维度赋予正常值区间;正常用户模型更新算法,用于对正常用户模型的正常值区间进行动态更新;爬虫用户模型建立算法,用于建立爬虫用户模型,包括创建新的数据维度和对每个维度赋予取值区间;爬虫用户模型更新算法,用于对爬虫用户模型的取值区间进行动态更新。
5.如权利要求1所述的一种动态防爬虫的方式,其特征在于,S3所述的归集算法为, X1表示某用户的一个维度数据,X2表示全部用户的该维度的平均数据,设定一个时间段T,则该时间段T内的数值偏差为,将该维度的数值偏差与爬虫维度数值特征值进行比对,得到一个比值,该比值接近区间上限作为开启二次验证的条件;在数据有多个维度需要联合检测时,实际操作中会对多维度的归集结果使用加权平均的方法,得到一个比值来判断是否开启二次验证,但在默认情况下,采用算术平均的方法得到一个比值来判断是否开启二次验证。
6.如权利要求1所述的一种动态防爬虫的方式,其特征在于,S4与S5中所述的二次鉴权,是基于网页的验证码形式进行的。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于成都数聚城堡科技有限公司,未经成都数聚城堡科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201711298334.1/1.html,转载请声明来源钻瓜专利网。