[发明专利]RSS信息分页抓取系统及方法有效
申请号: | 201210311664.0 | 申请日: | 2012-08-28 |
公开(公告)号: | CN102819613A | 公开(公告)日: | 2012-12-12 |
发明(设计)人: | 郑伟;赵刚 | 申请(专利权)人: | 北京奇虎科技有限公司;奇智软件(北京)有限公司 |
主分类号: | G06F17/30 | 分类号: | G06F17/30 |
代理公司: | 北京路浩知识产权代理有限公司 11002 | 代理人: | 王莹 |
地址: | 100088 北京市西城区新*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | rss 信息 分页 抓取 系统 方法 | ||
1.一种RSS信息分页抓取系统,其包括:
列表建立单元,适于收集具有分页的RSS频道,建立分页频道列表;
列表分析单元,适于分析所述分页频道列表,得到对应每个RSS频道的分页标签;
代码获取单元,适于当从RSS源抓取信息时,如果作为当前信息来源的目标RSS频道属于所述分页频道列表,则获取所述当前信息对应的页面代码;
标签查找单元,适于在所述页面代码中查找所述目标RSS频道对应的分页标签;
分页组合单元,适于根据查找到的分页标签获得各分页对应的页面,组合各分页对应的页面,得到完整的RSS信息。
2.如权利要求1所述的系统,其特征在于,所述列表分析单元进一步包括:
网页提取模块,适于依次取出所述分页频道列表中的每个RSS频道,找到所述RSS频道中具有分页的网页;
标签对应模块,适于分析所述具有分页的网页的页面代码,找到其中的分页标签作为相应RSS频道所对应的分页标签。
3.如权利要求1所述的系统,其特征在于,所述代码获取单元进一步包括:
信息抓取模块,适于从RSS源抓取信息;
判断模块,适于判断作为当前信息来源的目标RSS频道是否属于所述分页频道列表;
代码获取模块,适于当作为当前信息来源的目标RSS频道属于所述分页频道列表时,获取所述当前信息对应的页面代码。
4.如权利要求1所述的系统,其特征在于,所述分页组合单元进一步包括:
URL获取模块,适于根据查找到的分页标签得到各分页的URL;
正文获取模块,适于根据各分页的URL获得各分页的页面代码,从所述页面代码中抽取各分页的正文;
分页组合模块,适于组合各分页的正文,得到完整的RSS信息。
5.如权利要求1所述的系统,其特征在于,所述系统还包括:
推送单元,适于将所述完整的RSS信息推送给用户。
6.一种RSS信息分页抓取方法,其包括步骤:
收集具有分页的RSS频道,建立分页频道列表;
分析所述分页频道列表,得到对应每个RSS频道的分页标签;
当从RSS源抓取信息时,如果作为当前信息来源的目标RSS频道属于所述分页频道列表,则获取所述当前信息对应的页面代码;
在所述页面代码中查找所述目标RSS频道对应的分页标签;
根据查找到的分页标签获得各分页对应的页面,组合各分页对应的页面,得到完整的RSS信息。
7.如权利要求6所述的方法,其特征在于,所述分析所述分页频道列表,得到对应每个RSS频道的分页标签具体包括:
依次取出所述分页频道列表中的每个RSS频道,找到所述RSS频道中具有分页的网页;
分析所述具有分页的网页的页面代码,找到其中的分页标签作为相应RSS频道所对应的分页标签。
8.如权利要求6所述的方法,其特征在于,所述当从RSS源抓取信息时,如果作为当前信息来源的目标RSS频道属于所述分页频道列表,则获取所述当前信息的页面代码具体包括:
从RSS源抓取信息,判断作为当前信息来源的目标RSS频道是否属于所述分页频道列表,如果是,获取所述当前信息对应的页面代码;否则,认为所述当前信息对应的网页不存在分页,结束流程。
9.如权利要求6所述的方法,其特征在于,所述根据查找到的分页标签获得各分页对应的页面,组合各分页对应的页面,得到完整的RSS信息具体包括:
根据查找到的分页标签得到各分页的URL;
根据各分页的URL获得各分页的页面代码,从所述页面代码中抽取各分页的正文;
组合各分页的正文,得到完整的RSS信息。
10.如权利要求6所述的方法,其特征在于,在所述得到完整的RSS信息之后还包括步骤:
将所述完整的RSS信息推送给用户。
11.一种服务器,其包括权利要求1至5之一所述的RSS信息分页抓取系统。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京奇虎科技有限公司;奇智软件(北京)有限公司,未经北京奇虎科技有限公司;奇智软件(北京)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201210311664.0/1.html,转载请声明来源钻瓜专利网。
- 上一篇:漂浮式半主动摆动水翼潮流能捕能装置
- 下一篇:双驱动冷却塔水轮
- 信息记录介质、信息记录方法、信息记录设备、信息再现方法和信息再现设备
- 信息记录装置、信息记录方法、信息记录介质、信息复制装置和信息复制方法
- 信息记录装置、信息再现装置、信息记录方法、信息再现方法、信息记录程序、信息再现程序、以及信息记录介质
- 信息记录装置、信息再现装置、信息记录方法、信息再现方法、信息记录程序、信息再现程序、以及信息记录介质
- 信息记录设备、信息重放设备、信息记录方法、信息重放方法、以及信息记录介质
- 信息存储介质、信息记录方法、信息重放方法、信息记录设备、以及信息重放设备
- 信息存储介质、信息记录方法、信息回放方法、信息记录设备和信息回放设备
- 信息记录介质、信息记录方法、信息记录装置、信息再现方法和信息再现装置
- 信息终端,信息终端的信息呈现方法和信息呈现程序
- 信息创建、信息发送方法及信息创建、信息发送装置