[发明专利]网页解析中网页正文重复内容的识别方法及装置有效
| 申请号： | 201510419890.4 | 申请日： | 2015-07-16 |
| 公开（公告）号： | CN106354730B | 公开（公告）日： | 2019-12-10 |
| 发明（设计）人： | 何鑫;崔维福 | 申请（专利权）人： | 北京国双科技有限公司 |
| 主分类号： | G06F16/33 | 分类号： | G06F16/33;G06F16/335 |
| 代理公司： | 11240 北京康信知识产权代理有限责任公司 | 代理人： | 韩建伟;张永明 |
| 地址： | 100083 北京市海淀区*** | 国省代码： | 北京;11 |
| 权利要求书： | 查看更多 | 说明书： | 查看更多 |
| 摘要： | 本发明公开了一种网页解析中网页正文重复内容的识别方法及装置。该方法包括：获取待处理文本，其中，待处理文本为网页页面解析中网页正文的文本；按照第一预设条件将待处理文本分割为多个分割语句；确定多个分割语句中的多个待处理语句，其中，多个分割语句中内容相同的语句为同一个待处理语句；获取多个第一频率，其中，多个第一频率分别为多个待处理语句在待处理文本中出现的频率；以及根据多个第一频率识别网页解析中网页正文的重复内容。通过本发明，解决了相关技术中网页页面解析过程中无法识别网页正文是否含有重复内容的问题。 | ||
| 搜索关键词： | 网页 解析 正文 重复 内容 识别 方法 装置 | ||
【主权项】：
1.一种网页解析中网页正文重复内容的识别方法，其特征在于，包括：/n获取待处理文本，其中，所述待处理文本为网页页面解析中网页正文的文本；/n按照第一预设条件将所述待处理文本分割为多个分割语句；/n确定所述多个分割语句中的多个待处理语句，其中，所述多个分割语句中内容相同的语句为同一个待处理语句；/n获取多个第一频率，其中，所述多个第一频率分别为所述多个待处理语句在所述待处理文本中出现的频率；以及/n根据所述多个第一频率识别所述网页解析中网页正文的重复内容；/n其中，根据所述多个第一频率识别所述网页解析中网页正文的重复内容包括：分别判断所述多个第一频率是否大于第一预设频率；获取大于所述第一预设频率的第一频率；以及将大于所述第一预设频率的第一频率对应的待处理语句作为所述网页解析中网页正文的重复内容；/n其中，获取多个第一频率包括：分别计算所述多个分割语句的哈希值；以及分别统计每个所述待处理语句的哈希值在多个分割语句的哈希值中出现的频率，得到所述多个第一频率。/n
下载完整专利技术内容需要扣除积分，VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息，商用须获得专利权人授权。该专利全部权利属于北京国双科技有限公司，未经北京国双科技有限公司许可，擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作，请联系【客服】
本文链接：http://www.vipzhuanli.com/patent/201510419890.4/，转载请声明来源钻瓜专利网。
