[发明专利]图数据处理方法和图数据的计算任务发布方法有效
申请号: | 201810467817.8 | 申请日: | 2018-05-16 |
公开(公告)号: | CN108683738B | 公开(公告)日: | 2020-08-14 |
发明(设计)人: | 郑博;刘日佳;刘志斌;陈谦 | 申请(专利权)人: | 腾讯科技(深圳)有限公司 |
主分类号: | H04L29/08 | 分类号: | H04L29/08;H04L29/06;H04L9/06 |
代理公司: | 广州华进联合专利商标代理有限公司 44224 | 代理人: | 李文渊;何平 |
地址: | 518000 广东省深圳*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 数据处理 方法 数据 计算 任务 发布 | ||
本申请涉及一种图数据处理方法和图数据的计算任务发布方法,所述图数据处理方法包括:获取从待处理图数据中划分出的子图数据;执行对于所述子图数据的计算任务,得到相应的全局数据和局部数据;将所述全局数据写入区块链网络中;所述区块链网络中的全局数据,由所述分布式计算节点集群更新;从所述区块链网络中获取最新的全局数据;根据获取的最新的全局数据和所述局部数据,迭代执行对于所述子图数据的计算任务,直到满足迭代停止条件时获得计算结果。本申请提供的方案可以提高图数据处理效率。
技术领域
本申请涉及图计算技术领域,特别是涉及一种图数据处理方法和装置、图数据的计算任务发布方法和装置。
背景技术
随着计算机技术的发展,出现了以“图论”为基础的对现实世界的一种图结构的抽象表达,以及在这种数据结构上的计算模式,也就是图计算。在具体应用中,可以用图数据表示社交网络、商品购买关系、道路交通网络、通信网络等等信息,而基于图数据的计算需求也越来越多,越来越复杂。
传统的图计算方法通常是基于中心化思想的图计算方法,在图计算过程中常常使用参数服务器对需要进行共享的数据进行存储和更新。虽然参数服务器可以将需要共享的数据分布式地存储在各个服务器节点上,以在一定程度上避开单点故障,但在数据更新时却需要依赖一个中心化的驱动程序来协调处理。这在图计算过程中往往会导致巨大的网络吞吐量,从而使得网络通信成为图计算系统的瓶颈。特别是当处理超大规模数据量时,数据更新延迟,使得传统的基于中心化的图计算方法存在计算效率低的问题。
发明内容
基于此,有必要针对图数据计算效率低的技术问题,提供一种图数据处理方法、图数据的计算任务发布方法、装置、计算机可读存储介质和计算机设备。
一种图数据处理方法,应用于分布式计算节点集群中的计算节点,包括:
获取从待处理图数据中划分出的子图数据;
执行对于所述子图数据的计算任务,得到相应的全局数据和局部数据;
将所述全局数据写入区块链网络中;所述区块链网络中的全局数据,由所述分布式计算节点集群更新;
从所述区块链网络中获取最新的全局数据;
根据获取的最新的全局数据和所述局部数据,迭代执行对于所述子图数据的计算任务,直到满足迭代停止条件时获得计算结果。
一种图数据处理装置,包括:
计算管理模块,用于获取从待处理图数据中划分出的子图数据;
所述计算管理模块还用于执行对于所述子图数据的计算任务,得到相应的全局数据和局部数据;
通信模块,用于将所述全局数据写入区块链网络中;所述区块链网络中的全局数据,由所述分布式计算节点集群更新;
所述通信模块还用于从所述区块链网络中获取最新的全局数据;
所述计算管理模块还用于根据获取的最新的全局数据和所述局部数据,迭代执行对于所述子图数据的计算任务,直到满足迭代停止条件时获得计算结果。
一种计算机可读存储介质,存储有计算机程序,所述计算机程序被处理器执行时,使得所述处理器执行所述图数据处理方法的步骤。
一种计算机设备,包括存储器和处理器,所述存储器存储有计算机程序,所述计算机程序被所述处理器执行时,使得所述处理器执行所述图数据处理方法的步骤。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于腾讯科技(深圳)有限公司,未经腾讯科技(深圳)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201810467817.8/2.html,转载请声明来源钻瓜专利网。
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置