[发明专利]基于直线生成算法的爬虫方法及爬虫系统有效
| 申请号： | 201410839970.0 | 申请日： | 2014-12-24 |
| 公开（公告）号： | CN104462580A | 公开（公告）日： | 2015-03-25 |
| 发明（设计）人： | 郑小龙;梅蓓 | 申请（专利权）人： | 携程计算机技术（上海）有限公司 |
| 主分类号： | G06F17/30 | 分类号： | G06F17/30 |
| 代理公司： | 上海弼兴律师事务所 31283 | 代理人： | 薛琦;王聪 |
| 地址： | 200335 上海市*** | 国省代码： | 上海;31 |
| 权利要求书： | 查看更多 | 说明书： | 查看更多 |
| 摘要： | |||
| 搜索关键词： | 基于 直线 生成 算法 爬虫 方法 系统 | ||
1.一种基于直线生成算法的爬虫方法，其特征在于，包括以下步骤：
S1、初始化URL索引；
S2、采用直线生成算法进行程序动作打包；
S3、使用参数构造URL列表；
S4、分析网页页面并进行网页数据抓取。
2.如权利要求1所述的爬虫方法，其特征在于，步骤S2包括：
S21、将网页数据虚拟为二维坐标系中的数据点；
S22、选定一URL生成点及一数据结束点；
S23、采用直线生成算法在所述URL生成点及所述数据结束点之间虚拟一条直线；
步骤S4中基于步骤S23中虚拟出的直线进行网页数据抓取。
3.如权利要求2所述的爬虫方法，其特征在于，所述直线生成算法为两步算法。
4.一种基于直线生成算法的爬虫系统，其特征在于，包括：
一初始化模块，用于初始化URL索引；
一打包模块，用于采用直线生成算法进行程序动作打包；
一列表构造模块，用于使用参数构造URL列表；
一抓取模块，用于分析网页页面并进行网页数据抓取。
5.如权利要求4所述的爬虫系统，其特征在于，所述打包模块包括一数据点虚拟单元、一数据点选定单元以及一直线虚拟单元；所述数据点虚拟单元用于将网页数据虚拟为二维坐标系中的数据点，所述数据点选定单元用于选定一URL生成点及一数据结束点，所述直线虚拟单元用于采用直线生成算法在所述URL生成点及所述数据结束点之间虚拟一条直线；
所述抓取单元用于基于所述直线虚拟单元虚拟出的直线进行网页数据抓取。
6.如权利要求5所述的爬虫系统，其特征在于，所述直线生成算法为两步算法。
该专利技术资料仅供研究查看技术是否侵权等信息，商用须获得专利权人授权。该专利全部权利属于携程计算机技术（上海）有限公司，未经携程计算机技术（上海）有限公司许可，擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作，请联系【客服】
本文链接：http://www.vipzhuanli.com/pat/books/201410839970.0/1.html，转载请声明来源钻瓜专利网。
