[发明专利]网页主体内容识别方法和装置有效
申请号: | 201210371310.5 | 申请日: | 2012-09-27 |
公开(公告)号: | CN102880707A | 公开(公告)日: | 2013-01-16 |
发明(设计)人: | 梁捷;俞永福;何小鹏;朱顺炎;陈德志 | 申请(专利权)人: | 广州市动景计算机科技有限公司 |
主分类号: | G06F17/30 | 分类号: | G06F17/30 |
代理公司: | 北京鸿元知识产权代理有限公司 11327 | 代理人: | 林锦辉;龚洁 |
地址: | 510665 广东省广州*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 网页 主体 内容 识别 方法 装置 | ||
1.一种网页主体内容识别方法,包括:
解析待装载的网页,构建DOM树;
对所述DOM树中的每个节点进行评分;
根据所述DOM树中每个节点的分值确定所述网页中所有块元素的分值;
查找出所述DOM树中最高分值的块元素,并以所述最高分值的块元素作为所述网页的主体内容。
2.如权利要求1所述的网页主体内容识别方法,其中,在对DOM树中的每个节点进行评分的过程中,
评分的依据是每个节点下面的孩子节点的评分的总和,不同类型的孩子节点的分值根据其节点类型而定,其中,
文本节点的分值为所述文本节点的字符串的长度;
对于元素节点,如果所述元素为行内元素,则所述元素节点的分值为0;如果所述元素节点为块元素,则判断所述块元素所包含的文本的长度是否超过预设阈值,如果超过预设阈值,则根据所述块元素所包含的文本的长度和所述块元素的节点类型确定所述块元素的真正分值。
3.如权利要求2所述的网页主体内容识别方法,其中,在根据所述块元素所包含的文本的长度和所述块元素的节点类型确定所述块元素的真正分值的过程中,
如果根据所述块元素div下的innerText属性确定所述块元素所包含的文本的长度T,T=Length(innerText),其分值相应的为T,则对于节点类型属于网页主体内容的元素,在T的基础上增加分值;对于节点类型不属于网页主体内容的元素,在T的基础上减去分值。
4.如权利要求3所述的网页主体内容识别方法,其中,
所述块元素div下的所有<p>标签对应的p元素的个数为Count(p),则所述块元素的分值为T+Count(p)*Wp,其中,Wp为p元素节点的权值;
如果所述块元素div下的所有<br>标签对应的br元素的个数为Count(br),则所述块元素的分值为T+Count(br)*Wbr,其中,Wbr为br元素节点的权值;
如果所述块元素div下的所有<a>标签对应的a元素的个数为Count(a),则所述块元素的分值为T-Count(a)*Wa,其中,Wa为a元素节点的权值;
如果所述块元素div下的所有<li>标签对应的li元素的个数为Count(li),则所述块元素的分值为T-Count(li)*Wli,其中,Wli为li元素节点的权值;
对于所述块元素div下面的object元素、form元素、table元素、embed元素、script元素、style元素、dl元素、ul元素、li元素,如果其对应的innerText的文本长度为a,其中,a=Length(innerText),则所述块元素的分值为T-a。
5.如权利要求1所述的网页主体内容识别方法,其中,在查找出DOM树中的最高分值的块元素之后,
记录或者标记出该表示网页主体内容的最高分值的块元素,通过对所述最高分值的块元素的展现显示所述网页的网页主体内容。
6.如权利要求1所述的网页主体内容识别方法,其中,所述方法在中间件实现,所述中间件在识别出网页主体内容之后,将识别出的网页主体内容发送至用户终端。
7.一种网页主体内容识别装置,包括:
网页解析单元,用于解析待装载的网页,构建DOM树;
节点评分单元,用于对所述网页解析单元构建的DOM树中的每个节点进行评分;
块元素评分单元,用于根据所述DOM树中每个节点的分值确定所述网页中所有块元素的分值;
网页主体内容确定单元,用于查找出DOM树中的最高分值的块元素,并以所述最高分值的块元素作为所述网页的主体内容。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于广州市动景计算机科技有限公司,未经广州市动景计算机科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201210371310.5/1.html,转载请声明来源钻瓜专利网。
- 内容再现系统、内容提供方法、内容再现装置、内容提供装置、内容再现程序和内容提供程序
- 内容记录系统、内容记录方法、内容记录设备和内容接收设备
- 内容服务系统、内容服务器、内容终端及内容服务方法
- 内容分发系统、内容分发装置、内容再生终端及内容分发方法
- 内容发布、内容获取的方法、内容发布装置及内容传播系统
- 内容提供装置、内容提供方法、内容再现装置、内容再现方法
- 内容传输设备、内容传输方法、内容再现设备、内容再现方法、程序及内容分发系统
- 内容发送设备、内容发送方法、内容再现设备、内容再现方法、程序及内容分发系统
- 内容再现装置、内容再现方法、内容再现程序及内容提供系统
- 内容记录装置、内容编辑装置、内容再生装置、内容记录方法、内容编辑方法、以及内容再生方法