[发明专利]数据采集方法、装置、电子设备及计算机可读存储介质在审
申请号: | 202110042372.0 | 申请日: | 2021-01-13 |
公开(公告)号: | CN114764461A | 公开(公告)日: | 2022-07-19 |
发明(设计)人: | 吴佰清 | 申请(专利权)人: | 北京比特易湃信息技术有限公司 |
主分类号: | G06F16/95 | 分类号: | G06F16/95;G06F16/906 |
代理公司: | 北京市立方律师事务所 11330 | 代理人: | 张筱宁 |
地址: | 100044 北京市海淀区*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 数据 采集 方法 装置 电子设备 计算机 可读 存储 介质 | ||
1.一种数据采集方法,其特征在于,包括:
在访问目标页面的过程中确定网页探针类型,所述网页探针用于确定页面数据的采集区域;
基于所述网页探针类型确定与所述网页探针类型相对应的采集类别;
在所确定的采集区域中采集与所述采集类别相对应的网页数据;
将采集到的网页数据及所确定的采集类别上传至服务端;所述服务端用于基于所述网页数据与所述采集类别分析所述目标页面的页面性能或针对所述目标页面的异常访问。
2.根据权利要求1所述的方法,其特征在于,所述确定网页探针类型,包括如下任一种:
接收用户选择操作,基于用户的选择操作设置所述网页探针类型;
将默认探针类型设为所述网页探针类型。
3.根据权利要求1或2所述的方法,其特征在于,若所述采集类别包括异常采集类别,所述采集与所述采集类别相对应的数据,将采集到的数据及采集数据的采集类别上传至服务端,包括:
监听目标浏览器的预定事件;
若基于所述预定事件确定所述目标浏览器发生异常,则采集所述目标浏览器的异常数据;
确定所述异常数据的异常类型,将所述异常数据转化为第一数据结构的形式;
将所述异常类型以及转化后的异常数据上传至所述服务端。
4.根据权利要求3所述的方法,其特征在于,若所述目标浏览器的个数为至少两个,且至少两个目标浏览器的浏览器类型不一致,所述方法还包括:
分别确定采集到的至少两个异常数据的异常类型及数据结构;
若至少两个异常数据的数据结构不同,将所述至少两个异常数据的数据结构转换为相同的第二数据结构;
将所述至少两个异常数据以所述第二数据结构的形式上传至服务端,并将所述至少两个异常数据的异常类型上传至服务端。
5.根据权利要求1或2所述的方法,其特征在于,若所述采集类别包括性能采集类别,所述采集与所述采集类别相对应的数据,将采集到的数据及采集数据的采集类别上传至服务端,包括:
若所述目标浏览器包含预定的性能接口,采集所述目标浏览器的通用性能数据;
确定所述通用性能数据的第一性能标识,并确定所述通用性能数据的第三数据结构,将所述通用性能数据转化为第三数据结构的形式;
将转化后的通用性能数据以及所述第一性能标识上传至服务端。
6.根据权利要求5所述的方法,其特征在于,若所述目标浏览器的浏览器类型为预定类型,所述方法还包括:
采集所述目标浏览器的附加性能数据;
确定所述附加性能数据的第二性能标识,并将所述附加性能数据转化为第三数据结构的形式;
将转化后的附加性能数据以及所述第二性能标识上传至服务端。
7.根据权利要求6所述的方法,其特征在于,所述方法还包括:
获取采集端信息、网络信息、浏览器信息及分辨率信息中的至少一项信息;
将所述至少一项信息上传至服务端。
8.一种数据采集装置,其特征在于,包括:
第一确定模块,用于在访问目标页面的过程中确定网页探针类型,所述网页探针用于确定页面数据的采集区域;
第二确定模块,用于基于所述网页探针类型确定与所述网页探针类型相对应的采集类别;
采集模块,用于在所确定的采集区域中采集与所述采集类别相对应的网页数据;
上传模块,用于将采集到的网页数据及所确定的采集类别上传至服务端;所述服务端用于基于所述网页数据与所述采集类别分析所述目标页面的页面性能或针对所述目标页面的异常访问。
9.一种电子设备,其特征在于,其包括:
一个或多个处理器;
存储器;
一个或多个应用程序,其中所述一个或多个应用程序被存储在所述存储器中并被配置为由所述一个或多个处理器执行,所述一个或多个程序配置用于:执行根据权利要求1~7任一项所述的数据采集方法。
10.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,该程序被处理器执行时实现权利要求1-7任一项所述的数据采集方法。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京比特易湃信息技术有限公司,未经北京比特易湃信息技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110042372.0/1.html,转载请声明来源钻瓜专利网。
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置