[发明专利]基于马尔可夫随机场的网页正文提取方法有效
申请号: | 201310210384.5 | 申请日: | 2013-05-30 |
公开(公告)号: | CN103309961A | 公开(公告)日: | 2013-09-18 |
发明(设计)人: | 柳立宁 | 申请(专利权)人: | 北京智海创讯信息技术有限公司 |
主分类号: | G06F17/30 | 分类号: | G06F17/30 |
代理公司: | 北京爱普纳杰专利代理事务所(特殊普通合伙) 11419 | 代理人: | 王玉松;孟丽娟 |
地址: | 100095 北京市*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明公开了一种网页正文的提取方法及装置,该方法包括如下步骤:顺序解析HTML文本,对HTML文本进行预处理;对预处理后的HTML文本抽取标签文本窗,获得标签文本窗集合,标签文本窗为标签包围的内容文本及其相关属性;对标签文本窗依据相邻关系构建马尔可夫随机场模型;以文本长度和标签类型为基本特征,采用最小偏差阈值法初始化马尔可夫场模型;根据标签文本窗的行号及相邻窗的字符间隔,采用ICM方法对马尔科夫随机场模型进行优化;以及根据优化后的马尔科夫随机场模型重构正文,得到抽取的正文,本发明可应用于信息检索领域的自动文摘和自动分类系统,具有抽取精度高、抽取速度快、维护代价低、适应性强、灵活性高等优点。 | ||
搜索关键词: | 基于 马尔可夫 随机 网页 正文 提取 方法 | ||
【主权项】:
一种基于马尔可夫随机场的网页正文提取方法,包括如下步骤:步骤一,顺序解析HTML文本,对HTML文本进行预处理;步骤二,对预处理后的HTML文本抽取标签文本窗,获得标签文本窗集合,标签文本窗为标签包围的内容文本及其相关属性;步骤三,对标签文本窗集合中的标签文本窗依据相邻关系构建马尔可夫随机场模型;步骤四,以文本长度和标签类型为基本特征,采用最小偏差阈值法初始化马尔可夫场模型;步骤五,根据标签文本窗的行号及相邻窗的字符间隔,采用ICM方法对构建的马尔科夫随机场模型进行优化;步骤六,根据优化后的马尔科夫随机场模型重构正文,得到抽取的正文。
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京智海创讯信息技术有限公司,未经北京智海创讯信息技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201310210384.5/,转载请声明来源钻瓜专利网。
- 上一篇:发动机配气机构
- 下一篇:一种把手可曲的多功能手电筒