[发明专利]一种多源异构数据的语义数据湖构建方法在审

专利信息
申请号: 201811427793.X 申请日: 2018-11-27
公开(公告)号: CN111221785A 公开(公告)日: 2020-06-02
发明(设计)人: 陈刚 申请(专利权)人: 中云开源数据技术(上海)有限公司
主分类号: G06F16/16 分类号: G06F16/16;G06F16/532;G06F16/28;G06F16/93;G06F16/182;G06F16/17
代理公司: 上海元好知识产权代理有限公司 31323 代理人: 张妍;刘琰
地址: 201300 上海市浦东新区南*** 国省代码: 上海;31
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 一种 多源异构 数据 语义 构建 方法
【权利要求书】:

1.一种多源异构数据的语义数据湖构建方法,其特征在于,该方法包含以下步骤:

S1、构建本体,确认本体的属性和参数,存到数据湖服务器的图数据库中;

S2、提取导入的数据文件的内容的语义,建立RDF描述,并将建立好的RDF描述保存到数据湖服务器的文档型数据库中;

S3、根据RDF描述并参照相关本体,将RDF描述所对应的文件与本体实现语义层级的关联,并写入图数据库中。

2.如权利要求1所述的多源异构数据的语义数据湖构建方法,其特征在于,所述RDF描述包含节点和边,其中,节点表示实体/资源/属性,边表示实体和实体之间的关系以及实体和属性的关系。

3.如权利要求1所述的多源异构数据的语义数据湖构建方法,其特征在于,所述数据湖服务器是包含关系型数据库、文档型数据库、分布式文件系统和图数据库这四类数据库的数据存储和管理服务平台,该平台采用分布式运算和存储架构,集成了具有数据存储和运算功能的各类计算机单机、服务器和计算机集群/服务器集群,并提供包括数据管理、算法开发在内的各类功能组件。

4.如权利要求3所述的多源异构数据的语义数据湖构建方法,其特征在于,所述数据存储和管理服务平台通过日志文件和元数据文件,对数据文件及其存储、交换进行组织管理;

其中,所述日志文件包含的日志记录数据,以键值对的形式存在,包含对应以下内容的字段:

当前操作的操作者名称;

当前操作的类型;

当前操作的内容,即操作动作的执行对象;其中,当操作类型是修改、或创建、或追加时,是指保存对应数据源的位置;当操作类型是查询时,是指保存对应的查询语句;

当前操作的日期时间;

当前操作的状态,用来判断当前操作是否成功;

当前操作的数据类型;

其中,所述元数据文件包含的文件元数据,以键值对的形式存在,其包含对应以下内容的字段:

正在处理的数据的名称;

对当前数据的描述;

当前数据所属的用户;

当前数据所属的组;

存储的目的地,其与数据库类型相匹配;

数据生成的资源描述框架;

元数据创建时间;

元数据更新时间。

5.如权利要求1所述的多源异构数据的语义数据湖构建方法,其特征在于,所述图数据库为Neo4j或Cayley或GrapgDB;和/或,所述文档型数据库为MongoDB或CouchDB。

6.如权利要求1所述的多源异构数据的语义数据湖构建方法,其特征在于,所述步骤S1中,进一步包含:

根据所要建立图数据库的主体,选择本体关键词,并进一步添加本体的属性参数描述,用于构建图形数据库。

7.如权利要求1所述的多源异构数据的语义数据湖构建方法,其特征在于,所述数据湖服务器的图数据库是基于图数据库构建和管理的软件建立的。

8.如权利要求1所述的多源异构数据的语义数据湖构建方法,其特征在于,所述步骤S2可在导入外部数据源的数据文件的同时执行,或者可在导入外部数据源的数据文件之后执行。

9.如权利要求1-8任意一项所述的多源异构数据的语义数据湖构建方法,其特征在于,

所述语义数据湖构建完成后,进一步实现以下过程的一种或多种:

在所述语义数据湖中通过图数据库查询本体,获得本体相关的属性;

语义数据湖提供图形化的检索界面以及层进式查询界面,支持查询结果的数据关系图谱展示,支持图谱的相关操作;

获得查询结果对应的源文件,并获得文件或者数据的匹配列表,以及可查询文件内容;

用户可进一步在网络图谱中确认节点、下钻细化查询结果。

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中云开源数据技术(上海)有限公司,未经中云开源数据技术(上海)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/201811427793.X/1.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top