[发明专利]一种可配置化的数据解析方法和计算机可读存储介质在审
| 申请号: | 201910411422.0 | 申请日: | 2019-05-17 |
| 公开(公告)号: | CN110119423A | 公开(公告)日: | 2019-08-13 |
| 发明(设计)人: | 邱涛;丘水文;陈成乐 | 申请(专利权)人: | 厦门商集网络科技有限责任公司 |
| 主分类号: | G06F16/25 | 分类号: | G06F16/25;G06F16/951;G06F16/955 |
| 代理公司: | 福州科扬专利事务所 35001 | 代理人: | 何小星 |
| 地址: | 361101 福建省厦*** | 国省代码: | 福建;35 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 数据解析 可配置 逻辑表 解析 目标网页 数据文本 结构化 字段 计算机可读存储介质 抓取 属性提取 数据对象 网页解析 网页数据 字段配置 转换 映射 配置 写入 网页 挖掘 灵活 创建 应用 | ||
1.一种可配置化的数据解析方法,其特征在于,包括如下步骤:
新建解析配置页面,在解析配置页面配置要抓取的目标网页的URL、解析类型、解析属性以及用于保存解析结果的逻辑表的名称,配置完成后选择提交保存;所述解析属性包括解析区域和行定位信息,或所述解析属性仅包括行定位信息;
新建字段配置页面,在字段配置页面配置所要提取的各数据对象对应的字段名称;
根据逻辑表名称创建空白逻辑表,将各字段名称写入所述空白逻辑表中;
抓取与所述URL对应的目标网页,根据所述解析类型和解析属性提取数据对象,具体步骤如下:
根据解析区域定位待提取的数据对象所在区域,再根据所述行定位信息从所述解析区域定位待提取数据对象所在的行区域,从该些行中逐一提取数据对象,然后依次将其映射至所述逻辑表中,与所述字段名称形成对应关系,从而将目标网页转换成结构化的数据文本;
或仅根据行定位信息定位待提取数据对象所在的行区域,从该些行中逐一提取数据对象,然后依次将其映射至所述逻辑表中,与所述字段名称形成对应关系,从而将目标网页转换成结构化的数据文本。
2.根据权利要求1所述的一种可配置化的数据解析方法,其特征在于:所述字段配置还包括配置字段标识,所述数据解析方法执行如下步骤:
新建解析配置页面,在解析配置页面配置要抓取的目标网页的URL、解析类型、解析属性以及用于保存解析结果的逻辑表的名称,配置完成后选择提交保存;所述解析属性包括解析区域和行定位信息,或所述解析属性仅包括行定位信息;
新建字段配置页面,在字段配置页面配置所要提取的各数据对象对应的字段名称;
根据逻辑表名称创建空白逻辑表,并在空白逻辑表中写入各字段名称和对应的字段标识;
抓取与所述URL对应的目标网页,根据所述解析类型和解析属性提取数据对象,具体步骤如下:
根据解析区域定位待提取的数据对象所在区域,再根据所述行定位信息在所述解析区域定位待提取数据对象所在的行区域,从所述字段配置信息中读取字段标识,在该些行中定位出所述字段标识,所述字段标识对应的属性值即为待提取的数据对象,将提取到的数据对象写入与该字段标识对应的字段名称的值域中,以此类推,在解析区域逐一遍历所有字段标识,将需要提取的数据对象全部写入所述逻辑表中,与所述字段名称形成对应关系,从而将目标网页转换成结构化的数据文本;
或根据行定位信息定位待提取数据对象所在的行区域,从所述字段配置信息中读取字段标识,在该些行中定位出所述字段标识,所述字段标识对应的属性值即为待提取的数据对象,将提取到的数据对象写入与字段标识对应的字段名称的值域中,以此类推,逐一遍历所有字段标识,将需要提取的数据对象全部写入所述逻辑表中,与所述字段名称形成对应关系,从而将目标网页转换成结构化的数据文本。
3.根据权利要求1所述的一种可配置化的数据解析方法,其特征在于:所述解析区域的配置包括表区域标识、表起始索引和表终止索引,根据表起始索引定位解析区域开始端的表区域标识位置,根据表终止索引定位解析区域结束端的表区域标识位置。
4.根据权利要求1所述的一种可配置化的数据解析方法,其特征在于:所述行定位信息包括行区域标识、行起始索引以及行终止索引,根据行起始索引定位解析区域开始端的表区域标识位置,根据行终止索引定位解析区域结束端的行区域标识位置。
5.根据权利要求1所述的一种可配置化的数据解析方法,其特征在于:所述目标网页的解析类型为HTMLBYHEAD,所述解析属性还包括表头定位信息,所述表头定位信息包括表头行标识、表头行索引以及表头列标识,所述HTMLBYHEAD类型是指目标网页中表格上方设有表头的网页。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于厦门商集网络科技有限责任公司,未经厦门商集网络科技有限责任公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910411422.0/1.html,转载请声明来源钻瓜专利网。





