[发明专利]一种大数据分析挖掘系统有效
申请号: | 201711244293.8 | 申请日: | 2017-11-30 |
公开(公告)号: | CN107943986B | 公开(公告)日: | 2022-05-17 |
发明(设计)人: | 洪少华;吴琦;肖潇;龚纯斌 | 申请(专利权)人: | 睿视智觉(深圳)算法技术有限公司 |
主分类号: | G06F16/2458 | 分类号: | G06F16/2458;G06F16/25 |
代理公司: | 暂无信息 | 代理人: | 暂无信息 |
地址: | 518000 广东省深圳市罗*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 数据 分析 挖掘 系统 | ||
本发明公开一种大数据分析挖掘系统,包括数个数据分析模块、数据分析模块管理器、数个数据挖掘模块、数据挖掘模块管理器和框架执行模块,各数据分析模块根据接口进行各自的单一功能实现,同时从原始数据库中获取数据进行分析并存入各自的模块数据库中;多个数据分析模块由数据分析模块管理器进行统一管理;各数据挖掘模块根据接口进行各自的单一功能实现;多个数据挖掘模块由数据挖掘模块管理器进行统一管理;框架执行模块根据传入的结构化文档进行解析,并从数据分析模块管理器和数据挖掘模块管理器中提取对应功能的实现模块,执行模块功能,从而得到最终所需数据。此种系统可节省人力资源,提高需求响应效率,为不同数据挖掘需求提供便利。
技术领域
本发明属于大数据分析领域,特别涉及一种基于XML和JSON等结构化文档的模块聚合大数据分析挖掘系统。
背景技术
在信息技术不断发展的时代背景下,每天都在产生海量数据,大数据分析在各行业领域中被广泛应用,甚至已经逐渐开始渗入到我们的日常生活中。高效灵活的数据分析挖掘架构是大数据系统领域研究最多的课题之一,其主要的作用就是将数据库中存储的海量数据按照需求进行有效分析并灵活地合并统计为所需的大数据报表,以此来做好相应的具有意义的判断。
随着互联网时代的到来,网络数据的不断增加,对各种网络数据进行分析统计的诉求也随之而来,目前产业上对数据的分析还停留在根据需求进行特定分析模块特制开发的阶段上,无法以通用的形式对数据分析挖掘需求进行灵活的分拆整合。因此,将各种数据分析需求拆分为多个单一的实现模块并以结构化文档将其聚合的系统是一个可行解决方案。
发明内容
本发明的目的,在于提供一种大数据分析挖掘系统,其可节省人力资源,提高需求响应效率,为不同数据挖掘需求提供便利。
为了达成上述目的,本发明的解决方案是:
一种大数据分析挖掘系统,包括数个数据分析模块、数据分析模块管理器、数个数据挖掘模块、数据挖掘模块管理器和框架执行模块,其中,数据分析模块定义统一的模块接口,各数据分析模块根据接口进行各自的单一功能实现,同时各数据分析模块从原始数据库中获取数据进行分析并存入各自的模块数据库中;多个数据分析模块由数据分析模块管理器进行统一管理;数据挖掘模块定义统一的模块接口,各数据挖掘模块根据接口进行各自的单一功能实现;多个数据挖掘模块由数据挖掘模块管理器进行统一管理;框架执行模块负责根据传入的结构化文档进行解析,并根据文档结构与参数从数据分析模块管理器和数据挖掘模块管理器中提取对应功能的实现模块,构建形成聚合模块,根据预先定义的统一分析模块接口跟统一挖掘模块接口执行模块功能,从而得到最终所需数据。
上述各数据挖掘模块还内置有原始数据库接口,用于从原始数据库提取原始数据。
上述各数据挖掘模块还内置有数据分析模块管理器,用于从各个分析模块预处理数据库中提取数据,并根据实现的数据挖掘算法生成各自的统计数据。
上述结构化文档为XML或JSON文档。
采用上述方案后,本发明通过对数据分析需求的拆解、单一功能的模块化实现和基于结构化文档最终模块聚合,实现灵活的数据挖掘系统,可在不改变系统框架代码等的前提下,通过增加分析模块和挖掘模块和调整传入文档结构,自动适应不同的数据挖掘需求,不需要再根据不同数据挖掘需求重复开发对应的功能,节省人力资源,提高需求响应效率,为不同数据挖掘需求提供便利。本发明适用于各种数据挖掘场景。
附图说明
图1是本发明的整体架构图。
具体实施方式
以下将结合附图,对本发明的技术方案进行详细说明。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于睿视智觉(深圳)算法技术有限公司,未经睿视智觉(深圳)算法技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201711244293.8/2.html,转载请声明来源钻瓜专利网。
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置