[发明专利]数据的爬取方法及装置有效
申请号: | 201811277896.2 | 申请日: | 2018-10-30 |
公开(公告)号: | CN111125478B | 公开(公告)日: | 2023-05-12 |
发明(设计)人: | 陆生辉 | 申请(专利权)人: | 北京国双科技有限公司 |
主分类号: | G06F16/951 | 分类号: | G06F16/951 |
代理公司: | 北京鼎佳达知识产权代理事务所(普通合伙) 11348 | 代理人: | 王伟锋;刘铁生 |
地址: | 100086 北京市海淀区*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 数据 方法 装置 | ||
1.一种数据的爬取方法,其特征在于,包括:
当数据爬取模块获取到目标WebView对象时,创建所述目标WebView对象对应的动态代理,其中,所述数据爬取模块为在Xposed框架下创建的Xposed模块;
将所述动态代理作为参数添加至预设脚本函数中,其中,所述预设脚本函数为所述数据爬取模块对应的执行脚本中的函数,所述执行脚本用于爬取所述目标WebView对象对应的数据内容;
所述数据爬取模块通过调用所述预设脚本函数,指示所述执行脚本爬取所述目标WebView对象对应的数据内容;
通过所述动态代理获取所述执行脚本爬取的数据内容;
所述创建所述目标WebView对象对应的动态代理,包括:
根据Java反射机制查找所述目标WebView对象对应的回调接口类,所述回调接口类为目标应用程序运行环境下的回调接口类;
创建所述目标WebView对象对应的回调函数;
通过所述回调接口类对所述回调函数进行封装处理,得到所述动态代理。
2.根据权利要求1所述的方法,其特征在于,在所述创建所述目标WebView对象对应的动态代理之前,所述方法还包括:
接收数据爬取任务,其中,所述数据爬取任务包含目标应用程序、目标WebView界面以及操作信息,所述目标WebView界面为所述目标应用程序中的界面,所述目标WebView对象为所述目标WebView界面对应的对象;
打开所述目标应用程序,并根据所述操作信息定位至所述目标WebView界面,以便所述数据爬取模块获取所述目标WebView界面中的目标WebView对象。
3.根据权利要求2所述的方法,其特征在于,在所述通过所述动态代理获取所述执行脚本爬取的数据内容之后,所述方法还包括:
根据所述数据内容判断所述数据爬取任务是否执行成功;
若是,则将所述数据内容发送至服务器;
若否,则再次执行所述数据爬取任务。
4.根据权利要求1-3中任一项所述的方法,其特征在于,所述通过所述动态代理获取所述执行脚本爬取的数据内容,包括:
通过所述动态代理读取所述执行脚本返回的数据内容,所述数据内容为所述目标WebView对象对应的数据内容。
5.一种数据的爬取装置,其特征在于,包括:
创建单元,用于当数据爬取模块获取到目标WebView对象时,创建所述目标WebView对象对应的动态代理,其中,所述数据爬取模块为在Xposed框架下创建的Xposed模块;
添加单元,用于将所述创建单元创建的所述动态代理作为参数添加至预设脚本函数中,其中,所述预设脚本函数为所述数据爬取模块对应的执行脚本中的函数,所述执行脚本用于爬取所述目标WebView对象对应的数据内容;
调用单元,所述数据爬取模块通过调用所述预设脚本函数,指示所述执行脚本爬取所述目标WebView对象对应的数据内容;
获取单元,用于通过所述动态代理获取所述执行脚本爬取的数据内容;
所述创建单元包括:
查找模块,用于根据Java反射机制查找所述目标WebView对象对应的回调接口类,所述回调接口类为目标应用程序运行环境下的回调接口类;
创建模块,用于创建所述目标WebView对象对应的回调函数;
封装模块,用于通过所述回调接口类对所述创建模块创建的所述回调函数进行封装处理,得到所述动态代理。
6.根据权利要求5所述的装置,其特征在于,所述装置还包括:
接收单元,用于在所述创建单元创建所述目标WebView对象对应的动态代理之前,接收数据爬取任务,其中,所述数据爬取任务包含目标应用程序、目标WebView界面以及操作信息,所述目标WebView界面为所述目标应用程序中的界面,所述目标WebView对象为所述目标WebView界面对应的对象;
定位单元,用于打开所述目标应用程序,并根据所述操作信息定位至所述目标WebView界面,以便所述数据爬取模块获取所述目标WebView界面中的目标WebView对象。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京国双科技有限公司,未经北京国双科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201811277896.2/1.html,转载请声明来源钻瓜专利网。
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置