[发明专利]一种多源异构数据的语义数据湖构建方法在审
| 申请号: | 201811427793.X | 申请日: | 2018-11-27 |
| 公开(公告)号: | CN111221785A | 公开(公告)日: | 2020-06-02 |
| 发明(设计)人: | 陈刚 | 申请(专利权)人: | 中云开源数据技术(上海)有限公司 |
| 主分类号: | G06F16/16 | 分类号: | G06F16/16;G06F16/532;G06F16/28;G06F16/93;G06F16/182;G06F16/17 |
| 代理公司: | 上海元好知识产权代理有限公司 31323 | 代理人: | 张妍;刘琰 |
| 地址: | 201300 上海市浦东新区南*** | 国省代码: | 上海;31 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 一种 多源异构 数据 语义 构建 方法 | ||
1.一种多源异构数据的语义数据湖构建方法,其特征在于,该方法包含以下步骤:
S1、构建本体,确认本体的属性和参数,存到数据湖服务器的图数据库中;
S2、提取导入的数据文件的内容的语义,建立RDF描述,并将建立好的RDF描述保存到数据湖服务器的文档型数据库中;
S3、根据RDF描述并参照相关本体,将RDF描述所对应的文件与本体实现语义层级的关联,并写入图数据库中。
2.如权利要求1所述的多源异构数据的语义数据湖构建方法,其特征在于,所述RDF描述包含节点和边,其中,节点表示实体/资源/属性,边表示实体和实体之间的关系以及实体和属性的关系。
3.如权利要求1所述的多源异构数据的语义数据湖构建方法,其特征在于,所述数据湖服务器是包含关系型数据库、文档型数据库、分布式文件系统和图数据库这四类数据库的数据存储和管理服务平台,该平台采用分布式运算和存储架构,集成了具有数据存储和运算功能的各类计算机单机、服务器和计算机集群/服务器集群,并提供包括数据管理、算法开发在内的各类功能组件。
4.如权利要求3所述的多源异构数据的语义数据湖构建方法,其特征在于,所述数据存储和管理服务平台通过日志文件和元数据文件,对数据文件及其存储、交换进行组织管理;
其中,所述日志文件包含的日志记录数据,以键值对的形式存在,包含对应以下内容的字段:
当前操作的操作者名称;
当前操作的类型;
当前操作的内容,即操作动作的执行对象;其中,当操作类型是修改、或创建、或追加时,是指保存对应数据源的位置;当操作类型是查询时,是指保存对应的查询语句;
当前操作的日期时间;
当前操作的状态,用来判断当前操作是否成功;
当前操作的数据类型;
其中,所述元数据文件包含的文件元数据,以键值对的形式存在,其包含对应以下内容的字段:
正在处理的数据的名称;
对当前数据的描述;
当前数据所属的用户;
当前数据所属的组;
存储的目的地,其与数据库类型相匹配;
数据生成的资源描述框架;
元数据创建时间;
元数据更新时间。
5.如权利要求1所述的多源异构数据的语义数据湖构建方法,其特征在于,所述图数据库为Neo4j或Cayley或GrapgDB;和/或,所述文档型数据库为MongoDB或CouchDB。
6.如权利要求1所述的多源异构数据的语义数据湖构建方法,其特征在于,所述步骤S1中,进一步包含:
根据所要建立图数据库的主体,选择本体关键词,并进一步添加本体的属性参数描述,用于构建图形数据库。
7.如权利要求1所述的多源异构数据的语义数据湖构建方法,其特征在于,所述数据湖服务器的图数据库是基于图数据库构建和管理的软件建立的。
8.如权利要求1所述的多源异构数据的语义数据湖构建方法,其特征在于,所述步骤S2可在导入外部数据源的数据文件的同时执行,或者可在导入外部数据源的数据文件之后执行。
9.如权利要求1-8任意一项所述的多源异构数据的语义数据湖构建方法,其特征在于,
所述语义数据湖构建完成后,进一步实现以下过程的一种或多种:
在所述语义数据湖中通过图数据库查询本体,获得本体相关的属性;
语义数据湖提供图形化的检索界面以及层进式查询界面,支持查询结果的数据关系图谱展示,支持图谱的相关操作;
获得查询结果对应的源文件,并获得文件或者数据的匹配列表,以及可查询文件内容;
用户可进一步在网络图谱中确认节点、下钻细化查询结果。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中云开源数据技术(上海)有限公司,未经中云开源数据技术(上海)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201811427793.X/1.html,转载请声明来源钻瓜专利网。
- 上一篇:漏水检测投影系统
- 下一篇:对等式数据运算与存储架构构建方法
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置





