[发明专利]一种网页特征提取方法和装置有效
申请号: | 201611137455.3 | 申请日: | 2016-12-12 |
公开(公告)号: | CN108614825B | 公开(公告)日: | 2022-04-15 |
发明(设计)人: | 吕颖韬;冯宜安;周璐;张贝金 | 申请(专利权)人: | 中移(杭州)信息技术有限公司;中国移动通信集团公司 |
主分类号: | G06F16/958 | 分类号: | G06F16/958;G06F40/289;G06F40/216 |
代理公司: | 北京派特恩知识产权代理有限公司 11270 | 代理人: | 王花丽;蒋雅洁 |
地址: | 310012 浙江省杭州市余*** | 国省代码: | 浙江;33 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 网页 特征 提取 方法 装置 | ||
1.一种网页特征提取方法,其特征在于,所述方法包括:
获取目标网页,根据网页信息的位置架构将所述目标网页分为多个文档部分;
分别对所述多个文档部分进行分词处理,对分词处理结果进行统计,获得与所述多个文档部分对应的多个集合,其中,每一个文档部分对应一个集合,所述多个集合中的每一个集合包括至少一个数据对,每一个数据对包括:特征词和与所述特征词对应的次数;
根据第一集合中与所述特征词对应的次数确定基础位置权重值,所述第一集合为所述多个集合中数据对最多的集合;
根据所述基础位置权重值、预设权重比例值和所述多个集合中除所述第一集合外的所有集合,确定所述多个集合中除所述第一集合外的所有集合的权重值,以对目标网页中每个位置所占的权重予以区分;
将所述多个集合和所述多个集合中除所述第一集合外的所有集合的权重值进行整合处理,获得所述目标网页的特征向量,以使得根据所述特征向量对网页进行特征分析。
2.根据权利要求1所述的方法,其特征在于,所述根据网页信息的位置架构将目标网页分为多个文档部分,包括:
根据网页信息的位置架构将所述目标网页分为标题、关键词、正文三个文档部分。
3.根据权利要求2所述的方法,其特征在于,所述分别对所述多个文档部分进行分词处理,对分词处理结果进行统计,获得与所述多个文档部分对应的多个集合,包括:
对标题文档部分进行分词处理,将分词处理结果进行同义词合并处理获得第一特征词,统计与所述第一特征词对应的次数,将所述第一特征词和与所述第一特征词对应的次数以数据对的格式存储在与标题文档部分对应的第二集合,所述第一特征词包括至少一个特征词;
对关键词文档部分进行分词处理,将分词处理结果进行同义词合并处理获得第二特征词,统计与所述第二特征词对应的次数,将所述第二特征词和与所述第二特征词对应的次数以数据对的格式存储在与关键词文档部分对应的第三集合,所述第二特征词包括至少一个特征词;
对正文文档部分进行分词处理,将分词处理结果进行同义词合并处理获得第三特征词,统计与所述第三特征词对应的次数,将所述第三特征词和所述第三特征词对应的次数以数据对的格式存储在与正文文档部分对应的第一集合,所述第三特征词包括至少一个特征词。
4.根据权利要求1或3所述的方法,其特征在于,所述根据第一集合中与所述特征词对应的次数确定基础位置权重值,包括:
确定所述第一集合中所有特征词对应的次数中最大次数值为所述基础位置权重值。
5.根据权利要求3所述的方法,其特征在于,所述根据所述基础位置权重值、预设权重比例值和所述多个集合中除所述第一集合外的所有集合,确定所述多个集合中除所述第一集合外的所有集合的权重值,包括:
将所述基础位置权重值与第一预设权重比例值相乘的值分别与所述第二集合中每一个特征词对应的次数相乘,获得所述第二集合中每一个特征词的权重值,所述第一预设权重比例值为网页标题位置相对于网页正文位置的权重比例;
将所述基础位置权重值与第二预设权重比例值相乘的值分别与所述第三集合中每一个特征词对应的次数相乘,获得所述第三集合中每一个特征词的权重值,所述第二预设权重比例值为网页关键词位置相对于网页正文位置的权重比例。
6.根据权利要求1所述的方法,其特征在于,所述将所述多个集合和所述多个集合中除所述第一集合外的所有集合的权重值进行整合处理,获得所述目标网页的特征向量,包括:
将所述多个集合中相同特征词对应的权重值相加,将相加后的权重值按照从大到小进行排序,确定排序后前n个权重值和与所述前n个权重值对应的特征词为所述目标网页的特征向量,其中,n为自然数。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中移(杭州)信息技术有限公司;中国移动通信集团公司,未经中移(杭州)信息技术有限公司;中国移动通信集团公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201611137455.3/1.html,转载请声明来源钻瓜专利网。
- 上一篇:基于移动智能终端的城市规划系统
- 下一篇:一种数据查询方法及装置