[发明专利]一种整合重复记录的方法及系统在审
| 申请号: | 201610277820.4 | 申请日: | 2016-04-28 |
| 公开(公告)号: | CN105956070A | 公开(公告)日: | 2016-09-21 |
| 发明(设计)人: | 鄢坤;易君;黄俊 | 申请(专利权)人: | 优品财富管理有限公司 |
| 主分类号: | G06F17/30 | 分类号: | G06F17/30 |
| 代理公司: | 北京卓唐知识产权代理有限公司 11541 | 代理人: | 龚洁 |
| 地址: | 430000 湖北省武汉市东湖高新*** | 国省代码: | 湖北;42 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | 本发明提供了一种整合重复记录的方法及系统,所述方法包括以下步骤:S1:抓取目标网络的网页内容,并将从所述网页内容中提取的标题和正文存储于数据库中,同时将当前提取的标题和正文作为当前的目标标题和目标正文;S2:基于所述数据库中的数据对所述目标标题进行重复度查询,根据该查询结果选择执行步骤S3;S3:基于所述数据库对所述目标正文进行重复度查询,并基于该查询结果选择整合所述网页内容在所述数据库中的存储。本发明能够快速实现对抓取信息进行查重,并可以消除重复记录。 | ||
| 搜索关键词: | 一种 整合 重复 记录 方法 系统 | ||
【主权项】:
一种整合重复记录的方法,其特征在于,包括以下步骤:S1:抓取目标网络的网页内容,并将从所述网页内容中提取的标题和正文存储于数据库中,同时将当前提取的标题和正文作为当前的目标标题和目标正文;S2:基于所述数据库中的数据对所述目标标题进行重复度查询,根据该查询结果选择执行步骤S3;S3:基于所述数据库对所述目标正文进行重复度查询,并基于该查询结果选择整合所述网页内容在所述数据库中的存储。
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于优品财富管理有限公司,未经优品财富管理有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201610277820.4/,转载请声明来源钻瓜专利网。
- 上一篇:一种防治病毒药物及制备方法
- 下一篇:根除齿轮泵轴向泄漏的方法





