[发明专利]一种基于网络爬虫的机器自动分类方法在审
申请号: | 201711461953.8 | 申请日: | 2017-12-28 |
公开(公告)号: | CN108133027A | 公开(公告)日: | 2018-06-08 |
发明(设计)人: | 梁镇爽 | 申请(专利权)人: | 中译语通科技(青岛)有限公司 |
主分类号: | G06F17/30 | 分类号: | G06F17/30 |
代理公司: | 暂无信息 | 代理人: | 暂无信息 |
地址: | 266000 山东省青岛市高新区*** | 国省代码: | 山东;37 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明提供一种基于网络爬虫的机器自动分类方法,包括:设置数据处理容器,选取种子网址,判断网址是否已经被采集,利用网络爬虫进行数据采集;将数据采集的结果发送至数据处理容器;数据处理容器按照不同类别分类存入数据库存储器中。本发明极大的提高了数据质量,降低人力物力的浪费。 | ||
搜索关键词: | 网络爬虫 数据处理 数据采集 自动分类 网址 数据库存储器 结果发送 类别分类 人力物力 采集 | ||
【主权项】:
一种基于网络爬虫的机器自动分类方法,其特征是,包括以下步骤,(1)设置数据处理容器,(2)选取一部分种子网址,并将这些种子网址放入待抓取的网址队列;(3)判断这些网址队列是否已经被采集,如果是,则直接发送至已采集网址队列,如果否,进入下一步;(4)利用网络爬虫从待抓取的网址队列中进行数据采集;(5)将数据采集的结果发送至数据处理容器,由数据处理容器进行数据分类处理;(6)数据处理容器将分类处理后的数据按照不同类别分类存入数据库存储器中。
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中译语通科技(青岛)有限公司,未经中译语通科技(青岛)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201711461953.8/,转载请声明来源钻瓜专利网。