[发明专利]快速验证CSS选择器的方法在审
申请号: | 201710734682.2 | 申请日: | 2017-08-24 |
公开(公告)号: | CN107463713A | 公开(公告)日: | 2017-12-12 |
发明(设计)人: | 张超 | 申请(专利权)人: | 四川长虹电器股份有限公司 |
主分类号: | G06F17/30 | 分类号: | G06F17/30 |
代理公司: | 成都虹桥专利事务所(普通合伙)51124 | 代理人: | 李凌峰 |
地址: | 621000 四*** | 国省代码: | 四川;51 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明涉及Java及网页技术。本发明解决了在编写聚焦网络爬虫时,目标网站中通常通过动态加载信息进行反爬,很难快速有效的获取CSS选择器的问题,提出了一种快速验证CSS选择器的方法,其技术方案可概括为利用CSS选择器对网页信息进行抓取,判断抓取的信息是否满足需要,不满足时判断抓取的信息是否为动态加载信息时,调用浏览器内核重新下载网页源码并解析,然后重新编写CSS选择器,并利用重新编写的CSS选择器对解析出的信息进行抓取,并判断抓取的信息是否满足需要。本发明的有益效果是,当由于网页动态信息导致CSS选择器不可用时,调用浏览器内核重新下载目标网页的网页源码并解析,然后重新编写CSS选择器,获得有效的CSS选择器。 | ||
搜索关键词: | 快速 验证 css 选择器 方法 | ||
【主权项】:
快速验证CSS选择器的方法,其特征在于,包括以下步骤:步骤1、从所需网页获取目标网址和CSS选择器并输入目标网址;步骤2、通过HttpClient下载目标网页的网页源码并解析;步骤3、输入CSS选择器并对解析出的信息进行抓取;步骤4、判断抓取的信息是否满足需要,若满足,则结束,若不满足,则进入步骤5;步骤5、判断抓取的信息是否为动态加载信息,若是,则进入步骤6,若不是,则进入步骤3;步骤6、调用浏览器内核重新下载目标网页的网页源码并解析;步骤7、重新编写CSS选择器,并输入;步骤8、利用重新编写的CSS选择器对解析出的信息进行抓取;步骤9、判断抓取的信息是否满足需要,若满足,则结束,若不满足,则进入步骤8。
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于四川长虹电器股份有限公司,未经四川长虹电器股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201710734682.2/,转载请声明来源钻瓜专利网。