[发明专利]一种互联网统计数据获取方法及系统在审
申请号: | 201711404437.1 | 申请日: | 2017-12-22 |
公开(公告)号: | CN108200129A | 公开(公告)日: | 2018-06-22 |
发明(设计)人: | 李青龙;周世勇;彭璿韬;王雪峰 | 申请(专利权)人: | 北京智慧星光信息技术有限公司 |
主分类号: | H04L29/08 | 分类号: | H04L29/08;G06F17/30 |
代理公司: | 北京国昊天诚知识产权代理有限公司 11315 | 代理人: | 刘昕;许志勇 |
地址: | 100080 北京市海*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 统计数据 互联网数据 数据存储中心 数据统计单元 处理队列 获取目标 客户端 统计 关键字查询 互联网 推送 存储 发送 查询 反馈 携带 申请 | ||
1.一种互联网统计数据获取方法,其特征在于,应用于互联网统计数据获取系统,所述系统包括:客户端、数据存储中心和数据统计单元,所述数据存储中心存储有互联网数据,所述方法包括:
所述客户端向所述数据存储中心发送获取目标统计数据的请求,所述请求中携带有查询待统计互联网数据的关键字;
所述数据存储中心根据所述关键字查询获得所述待统计互联网数据,并将所述待统计互联网数据推送至所述数据统计单元的处理队列中;
所述数据统计单元基于所述待统计互联网数据进入所述处理队列的顺序,对所述处理队列中的所述待统计互联网数据进行统计,获得所述目标统计数据,并将所述目标统计数据反馈给所述客户端。
2.根据权利要求1所述的方法,其特征在于,所述方法还包括:
采用第一预设方式在所述客户端中展示获取所述目标统计数据的进度。
3.根据权利要求2所述的方法,其特征在于,所述采用第一预设方式在所述客户端中展示获取所述目标统计数据的进度,包括:
所述客户端采用第二预设方式查询所述数据统计单元统计获得所述目标统计数据的进度;
采用第一预设方式在所述客户端中展示所述进度。
4.根据权利要求2或3所述的方法,其特征在于,
所述第一预设方式包括:进度条和/或进度百分数。
5.根据权利要求1所述的方法,其特征在于,所述方法还包括:
所述客户端根据所述目标统计数据绘制图形和/或报表。
6.根据权利要求1所述的方法,其特征在于,
所述将所述待统计互联网数据推送至所述数据统计单元的处理队列中,包括:将所述待统计互联网数据推送至所述数据统计单元中的多个处理队列中,且不同存储队列中存储的数据不同;则,
所述基于所述待统计互联网数据进入所述处理队列的顺序,对所述处理队列中的所述待统计互联网数据进行统计,获得所述目标统计数据,包括:基于所述待统计互联网数据进入所述多个处理队列的顺序,对所述多个处理队列中的所述待统计互联网数据分别进行统计,得到对应的统计子结果;将各所述统计子结果进行汇总得到所述目标统计数据。
7.根据权利要求6所述的方法,其特征在于,所述基于所述待统计互联网数据进入所述多个处理队列的顺序,对所述多个处理队列中的所述待统计互联网数据分别进行统计,得到对应的统计子结果,包括:
基于所述待统计互联网数据进入所述多个处理队列的顺序,从所述多个处理队列中分别按序读取第一预设数量的待统计互联网数据进行统计,获得对应的基准统计结果;
对所述多个处理队列中的剩余待统计互联网数据分别循环执行指定步骤,直到所述多个处理队列中的剩余待统计互联网数据被处理完,获得对应的统计子结果;
其中,所述指定步骤包括:从处理队列的剩余待统计互联网数据中按序读取第二预设数量的数据进行统计,获得当前统计结果;将所述当前统计结果与对应的基准统计结果进行迭代获得迭代统计结果,并将对应的所述基准统计结果更新为所述迭代统计结果。
8.根据权利要求7所述的方法,其特征在于,所述从处理队列中按序读取第二预设数量的数据进行统计,获得当前统计结果,包括:
从处理队列中按序读取第二预设数量的数据;
将读取出的第二预设数量的数据分配至第三预设数量的处理设备中分别进行统计;
对所述第三预设数量的处理设备获得的统计结果进行汇总,获得当前统计结果。
9.根据权利要求1所述的方法,其特征在于,所述方法还包括:
所述数据存储中心从预设的访问站点爬取互联网数据。
10.一种互联网统计数据获取系统,其特征在于,所述系统包括:客户端、数据存储中心和数据统计单元,所述数据存储中心存储有互联网数据,其中:
所述客户端,用于向所述数据存储中心发送获取目标统计数据的请求,并接收所述数据统计单元返回的所述目标统计数据;其中,所述请求中携带有查询待统计互联网数据的关键字;
所述数据存储中心,用于根据所述关键字查询获得所述待统计互联网数据,并将所述待统计互联网数据推送至所述数据统计单元的处理队列中;
所述数据统计单元,用于基于所述待统计互联网数据进入所述处理队列的顺序,对所述处理队列中的所述待统计互联网进行统计,获得所述目标统计数据,并将所述目标统计数据反馈给所述客户端。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京智慧星光信息技术有限公司,未经北京智慧星光信息技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201711404437.1/1.html,转载请声明来源钻瓜专利网。