[发明专利]一种基于NUMA架构的大规模流式图数据更新方法有效

专利信息
申请号: 201910368729.7 申请日: 2019-05-05
公开(公告)号: CN110245135B 公开(公告)日: 2021-05-18
发明(设计)人: 邵志远;金海;廖小飞;赵智慧 申请(专利权)人: 华中科技大学
主分类号: G06F16/22 分类号: G06F16/22;G06F16/23
代理公司: 华中科技大学专利中心 42201 代理人: 李智;曹葆青
地址: 430074 湖北*** 国省代码: 湖北;42
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 一种 基于 numa 架构 大规模 流式图 数据 更新 方法
【权利要求书】:

1.一种基于NUMA架构的大规模流式图数据更新方法,其特征在于,该方法包括以下步骤:

S1.初始化服务器端的基础图数据,并将服务器端完整图数据各个顶点划分到不同的NUMA Node;

S2.服务器端接收客户端发送的更新批次,并依次将更新批次加入请求队列;

S3.服务器端从请求队列取出待处理更新批次,按照源节点将该更新批次划分为多个更新段,并将各个顶点的更新段分配给该顶点划分到的Node;

S4.依次处理该更新批次内的各个顶点的更新段,判断该顶点的度数是否大于阈值,若是,进入步骤S5,否则,进入步骤S6;

S5.根据顶点的更新代价较小原则,自适应选择调用batch update方法或beap-basedupdate方法更新基础图数据,将更新数据存储到间接索引结构,该间接索引结构在该顶点划分到的Node上动态分配内存;

S6.调用batch update方法更新基础图数据,将更新数据存储到直接索引结构;

S7.重复步骤S3~S6,直至请求队列里所有更新批次处理完;

步骤S5包括以下子步骤:

步骤S51.判断顶点v的间接索引结构是否已组织为beap形式,若是,则直接采用beap-based方法来处理当前顶点v的更新;否则,则根据顶点的更新段Bv,计算更新段长度lenb和顶点v的当前度数d(v),进入步骤S52;

步骤S52.根据更新段长度lenb和顶点v的当前度数d(v),分别计算batch update和beap-based update方法的更新成本costBU和costbeap

costBU=d(v)*log2lenb

步骤S53.判断CostBU是否小于Costbeap,若是,则采用batch update方法来处理当前顶点v的更新;否则,则将顶点v的邻居列表重构为beap形式,再采用beap-based update方法来处理当前顶点v的更新。

2.如权利要求1所述的大规模流式图数据更新方法,其特征在于,步骤S1包括以下子步骤:

步骤S11.初始化系统的基础图数据,并将完整图数据中各顶点按照当前度数从大到小排序;

步骤S12.将完整图数据中各顶点按序均分到所有NUMA Node,使得各NUMA Node负载均衡。

3.如权利要求1所述的大规模流式图数据更新方法,其特征在于,步骤S3包括以下子步骤:

步骤S31.从请求队列取出下一个待处理的更新批次;

步骤S32.根据该更新批次中源节点划分,得到更新批次中各个顶点的更新段;

步骤S33.获取各个顶点被分配的NUMA Node,将对应更新段分配给该Node上的空闲CPU。

4.如权利要求1至3任一项所述的大规模流式图数据更新方法,其特征在于,间接索引结构存储模型具体包括:一个4KB的L1索引页,共包含512个指针项,前511个指针均可指向1KB大小的L1存储页,最后一个指针项可指向一个4KB的L2索引页,将索引扩展到第二级,类似地,L2索引页共包含512个指针项,所有的指针均可指向2MB大小的L2存储页。

5.如权利要求1至3任一项所述的大规模流式图数据更新方法,其特征在于,在不断接收更新数据的过程中,如果一个顶点v的度数超过了阈值,为该顶点分配一个L1索引页和第一个L1存储页,然后将直接索引结构中顶点v所在的cell里面的所有邻居列表数据搬移到L1存储页,最后将该cell回收到直接索引结构中,将cell的标识单元s置为空闲状态;如果第一个L1存储页已满,为顶点v分配第二个L1存储页,依次在需要的时候才分配L1存储页;如果所有L1存储页都已存满,为顶点分配一个L2索引页和第一个L2存储页,L1索引页的最后一个指针项指向L2索引页。

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于华中科技大学,未经华中科技大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/201910368729.7/1.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top