[发明专利]一种网络信息的自动提取方法及装置有效

专利信息
申请号: 201210335719.1 申请日: 2012-09-11
公开(公告)号: CN102855324A 公开(公告)日: 2013-01-02
发明(设计)人: 杨俊拯;温予;张旸;黄百宁;王世平;葛猛;孟玲会 申请(专利权)人: 北京云泓道元信息技术有限公司
主分类号: G06F17/30 分类号: G06F17/30
代理公司: 北京凯特来知识产权代理有限公司 11260 代理人: 郑立明;赵镇勇
地址: 100025 北京市朝阳*** 国省代码: 北京;11
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 一种 网络 信息 自动 提取 方法 装置
【权利要求书】:

1.一种网络信息的自动提取方法,其特征在于,包括:

从给定信息S相关的网页合集W中找到含有给定信息S的子集Ssub中元素的网页W’;

根据预定规则生成信息pattern集合P’,并将信息pattern集合P’与正则表达式集合P求合集获得集合P1

将集合P1与给定信息相关的网页合集W中的所有的网页进行匹配,获得集合Ssub’,直到Ssub==Ssub′时抓取过程结束。

2.根据权利要求1所述的方法,其特征在于,所述根据预定规则生成信息pattern集合P’包括:

遍历给定信息S的子集Ssub,找到某一元素s,并找到在网页w中元素s的位置;

向前回溯,找到第一个网页标签,记为prefix;向后回溯,找到第一个网页标签,记为suffix;

把prefix和suffix中间的内容按照数字集合NumberSet、字母集合EnglishSet、特殊符号集合SpecialSet和汉字集合ChineseSet的描述规则生成元素s在网页w上的正则集合;

根据元素s在网页w上的正则集合生成Ssub在网页w上的正则表达集合,记录为P’=p1,p2…pn。

3.根据权利要求1所述的方法,其特征在于,该方法还包括验证正则表达式集合,所述验证正则表达式集合包括:

将每个网页W’与给定信息的子集Ssub相乘,得到正则表达式合集Tt=T1,T2…Tn;

遍历正则表达式合集Tt,得到一个正则表达式合集T1,遍历正则表达式合集T1,将任意的正则表达式p∈Tn与网页W’进行匹配,得到值的集合S;

如果S-Ssub≠Φ,舍弃改表达式;如果S-Ssub=Φ,则给定信息的子集Ssub中元素的个数Scount等于集合S中的元素个数;

遍历正则表达式合集Tt,对于任意的Tn∈Tt,如果Tn中正则表达式的个数大于1,则选取Tn中Scount最大的正则表达式,舍去其余的正则表达式;

遍历正则表达式合集Tt,对比其中任意两个Tn,如果正则表达式相同,则舍弃其中任意一个;

将剩余的正则表达式组成集合,记为P’=p1,p2…pn。

4.一种网络信息的自动提取装置,其特征在于,包括:

网页选取单元,用于从给定信息S相关的网页合集W中找到含有给定信息S的子集Ssub中元素的网页W’;

集合选取单元,用于根据预定规则生成信息pattern集合P’,并将信息pattern集合P’与正则表达式集合P求合集获得集合P1

内容抓取单元,用于将集合P1与给定信息相关的网页合集W中的所有的网页进行匹配,获得集合Ssub’,直到Ssub==Ssub′时抓取过程结束。

5.根据权利要求4所述的装置,其特征在于,在集合选取单元中包括:

遍历子单元,用于遍历给定信息S的子集Ssub,找到某一元素s,并找到在网页w中元素s的位置;

回溯子单元,用于向前回溯,找到第一个网页标签,记为prefix;向后回溯,找到第一个网页标签,记为suffix;

正则集合表述子单元,用于把prefix和suffix中间的内容按照数字集合NumberSet、字母集合EnglishSet、特殊符号集合SpecialSet和汉字集合ChineseSet的描述规则生成元素s在网页w上的正则集合;

正则集合生成子单元,用于根据元素s在网页w上的正则集合生成Ssub在网页w上的正则表达集合,记录为P’=p1,p2…pn。

6.根据权利要求4所述的装置,其特征在于,该装置还包括验证单元,所述验证单元包括:

取乘子单元,用于将每个网页W’与给定信息的子集Ssub相乘,得到正则表达式合集Tt=T1,T2…Tn;

匹配子单元,用于遍历正则表达式合集Tt,得到一个正则表达式合集T1,遍历正则表达式合集T1,将任意的正则表达式p∈Tn与网页W’进行匹配,得到值的集合S;

元素个数确定子单元,用于如果S-Ssub≠Φ,舍弃改表达式;如果S-Ssub=Φ,则给定信息的子集Ssub中元素的个数Scount等于集合S中的元素个数;

第一筛选子单元,用于遍历正则表达式合集Tt,对于任意的Tn∈Tt,如果Tn中正则表达式的个数大于1,则选取Tn中Scount最大的正则表达式,舍去其余的正则表达式;

第二筛选子单元,用于遍历正则表达式合集Tt,对比其中任意两个Tn,如果正则表达式相同,则舍弃其中任意一个;

正则集合确定子单元,用于将剩余的正则表达式组成集合,记为P’=p1,p2…pn。

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京云泓道元信息技术有限公司,未经北京云泓道元信息技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/201210335719.1/1.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top