[发明专利]数据获取方法、装置和系统在审
申请号: | 201810887200.1 | 申请日: | 2018-08-06 |
公开(公告)号: | CN109101330A | 公开(公告)日: | 2018-12-28 |
发明(设计)人: | 冯靖超;夏黎明;陈卓 | 申请(专利权)人: | 百度在线网络技术(北京)有限公司 |
主分类号: | G06F9/48 | 分类号: | G06F9/48 |
代理公司: | 北京英赛嘉华知识产权代理有限责任公司 11204 | 代理人: | 王达佐;马晓亚 |
地址: | 100085 北京市*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 数据获取 数据获取请求 反馈数据 获取请求 解析数据 任务分发 发送端 目的端 匹配 调度 发送 创建 申请 | ||
1.一种数据获取方法,包括:
接收发送端发送的数据获取请求;
解析所述数据获取请求以确定所接收的数据获取请求的类型;
创建与所述数据获取请求的类型相匹配的数据获取任务;以及
执行所述数据获取任务,并向目的端反馈所述数据获取任务的处理结果。
2.根据权利要求1所述的方法,其中,所述数据获取请求的类型包括推动类型;
所述创建与所述数据获取请求的类型相匹配的任务,包括:
响应于所述数据获取请求的类型为推动类型,创建多线程任务,其中,所述多线程任务的线程数量基于所述数据获取请求所请求获取的数据类型的数量确定;
所述执行所述任务,并向目的端反馈任务处理结果,包括:
使所述多线程任务中的每个线程执行与该线程对应的数据获取任务;
响应于所述多线程任务中的各线程均执行完成,向所述发送端反馈所述数据获取任务的处理结果。
3.根据权利要求1或2所述的方法,其中,所述数据获取请求所请求获取的数据通过如下的数据存储步骤进行存储:
响应于接收到数据存储请求,确定所述数据存储请求所指示的待存储数据的数据类型;
将所述待存储数据添加至预先创建的、与所确定的数据类型相对应的消息队列的队尾。
4.根据权利要求3所述的方法,其中,所述数据存储步骤还包括:
响应于消息队列所存储的数据的数量等于所述消息队列预先设置的长度,将所述消息队列队首数据移除,并将所移除的数据作为历史数据存储至预先设置的数据库中。
5.根据权利要求4所述的方法,其中,所述执行所述数据获取任务,并向目的端反馈所述数据获取任务的处理结果,包括:
基于所述数据获取请求所请求数据的实时性确定所请求数据的存储位置;
从所确定的存储位置获取与所述数据获取任务相应的数据,并向目的端反馈所述数据获取任务的处理结果。
6.一种数据获取系统,包括:
任务调度层,用于接收发送端发送的数据获取请求,解析所述数据获取请求以确定所接收的数据获取请求的类型;
任务处理层,用于创建与所述数据获取请求的类型相匹配的数据获取任务,执行所述数据获取任务,并向目的端反馈所述数据获取任务的处理结果。
7.根据权利要求6所述的数据获取系统,其中,所述任务处理层还用于:
响应于所述数据获取请求的类型为推动类型,创建多线程任务,其中,所述多线程任务的线程数量基于所述数据获取请求所请求获取的数据类型的数量确定;
所述多线程任务中的每个线程执行与该线程对应的数据获取任务;以及
响应于所述多线程任务中的各线程均执行完成,向所述发送端反馈所述数据获取任务的处理结果。
8.根据权利要求6或7所述的系统,其中,所述系统还包括:
数据分发层,用于响应于接收到数据存储请求,确定所述数据存储请求所指示的待存储数据的数据类型,以及将所述待存储数据添加至预先创建的、与所确定的数据类型相对应的消息队列的队尾。
9.根据权利要求8所述的系统,其中,所述数据分发层进一步用于:
响应于消息队列所存储的数据的数量等于所述消息队列预先设置的长度,将所述消息队列队首数据移除,并将所移除的数据作为历史数据存储至预先设置的数据库中。
10.根据权利要求9所述的系统,其中,所述任务处理层进一步用于:
基于所述数据获取请求所请求数据的实时性确定所请求数据的存储位置;以及
从所确定的存储位置获取与所述数据获取任务相应的数据,并向目的端反馈所述数据获取任务的处理结果。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于百度在线网络技术(北京)有限公司,未经百度在线网络技术(北京)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201810887200.1/1.html,转载请声明来源钻瓜专利网。