[发明专利]一种改进的基于行块分布函数的网页正文提取方法在审
申请号: | 202110270058.8 | 申请日: | 2021-03-12 |
公开(公告)号: | CN115080891A | 公开(公告)日: | 2022-09-20 |
发明(设计)人: | 陈嘉锴;戴宪华 | 申请(专利权)人: | 中山大学 |
主分类号: | G06F16/958 | 分类号: | G06F16/958;G06F16/955 |
代理公司: | 暂无信息 | 代理人: | 暂无信息 |
地址: | 510275 广东*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明提出了一种改进的基于行块分布函数的网页正文提取方法,该方法包括获取网页Html源码并进行预处理、提取网页title后找出正文区域、构建行块分布函数、分析行块分布函数得到提取结果。具体步骤如下:获取待提取网页url链接的Html并进行预处理,去除无关标签的同时获取网页title标签,对Html按行分割,根据每行与title的相关度和标点个数,找到正文存在区域;对正文区域内的每一行,合并周围K行形成行块,计算每个行块的长度,构建行块分布函数;根据行块分布函数值找出每块正文文本的起始和终止行号,合并Html对应行号区间内的文本,得到初步提取结果;最后对初步结果进行后处理,过滤可能存在的噪声,就得到最终正文提取结果。 | ||
搜索关键词: | 一种 改进 基于 分布 函数 网页 正文 提取 方法 | ||
【主权项】:
暂无信息
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中山大学,未经中山大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/202110270058.8/,转载请声明来源钻瓜专利网。