[发明专利]一种网络计算方法及装置在审
申请号: | 202010478481.2 | 申请日: | 2020-05-29 |
公开(公告)号: | CN113742054A | 公开(公告)日: | 2021-12-03 |
发明(设计)人: | 林钦亮;王巧灵;何健飞 | 申请(专利权)人: | 华为技术有限公司 |
主分类号: | G06F9/50 | 分类号: | G06F9/50;G06F16/27;H04L12/911;H04L12/933;H04L29/06 |
代理公司: | 北京同达信恒知识产权代理有限公司 11291 | 代理人: | 邓灵 |
地址: | 518129 广东*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 网络 计算方法 装置 | ||
本申请提供一种网络计算方法及装置,用以解决网络中存在存在多层交换机的情况下网络计算容易出现网络瓶颈的问题。该方法包括:第一交换节点接收至少一个聚合节点发送的第一报文,并将至少一个聚合节点发送的第一报文进行聚合计算,得到聚合数据,其中,聚合节点为第一交换节点连接的子节点中参与数据聚合的子节点。第一交换节点向第一交换节点的父节点发送第二报文,其中,第二报文的负荷部分包括聚合数据,第二报文的报文头部中第一字段集合的取值等于第一聚合节点所发送第一报文的报文头部中第一字段集合的取值,第一字段集合包括至少一个用于标识第一报文所属消息的流属性的字段,第一聚合节点为至少一个聚合节点中的任一聚合节点。
技术领域
本申请涉及通信技术领域,特别涉及一种网络计算方法及装置。
背景技术
越来越多的网络应用依赖于大规模计算,例如人工智能、物联网和云计算等等。而想要实现大规模计算,依靠单个节点是不可行的,因此引入了分布式计算技术。分布式计算通过多个节点协同计算,为应用提供实现高性能计算。
网内计算(in-net computing)可以提供聚合计算,使得多份数据聚合为一,从而压缩网络带宽占用,加快网络传输。目前可以采用环形全局规约(ring allreduce)进行网内计算,各个计算节点(worker)可以采用端到端的环(ring)连接方式通过交换机发送数据,例如,worker1-worker2-worker3-worker1,其中,worker1~worker3可以通过交换机交换数据。交换机可以将各个worker发来的数据先缓存起来,然后等待其他worker发送的数据,交换机在收集全部worker发送的数据之后进行聚合计算,并将聚合结果发送给各个worker。
然而,上述方法只考虑了一台交换机的情况,但是现实的网络一般会存在多台且多层交换机。若网络中存在多台且多层交换机,采用现有技术的网络计算方法进行网络计算容易出现网络瓶颈的情况。
发明内容
本申请提供一种网络计算方法及装置,用以解决网络中存在多台且多层交换机的情况下网络计算容易出现网络瓶颈的问题。
第一方面,本申请实施例一种网络计算方法,包括:第一交换节点接收至少一个聚合节点发送的第一报文,并将至少一个聚合节点发送的第一报文进行聚合计算,得到聚合数据,其中,聚合节点为第一交换节点连接的子节点中参与数据聚合的子节点。第一交换节点向第一交换节点的父节点发送第二报文,其中,第二报文的负荷部分包括聚合数据,第二报文的报文头部中第一字段集合的取值等于第一聚合节点所发送第一报文的报文头部中第一字段集合的取值,第一字段集合包括至少一个用于标识第一报文所属消息的流属性的字段,第一聚合节点为至少一个聚合节点中的任一聚合节点。
本申请实施例中,每一层的交换节点可以对自己连接的子节点发送的数据报文进行聚合,并向父节点发送聚合后的报文,可以避免向父节点发送多个流,从而可以降低带宽需求,在一定程度上可以避免带宽瓶颈,进而可以提高网络性能。并且本申请实施例提供的方法可以使用多层拓扑,通用性好。
在一种可能的设计中,第一字段集合包括如下字段中的至少一项:媒体介入控制(media access control,MAC)源地址、MAC目的地址、网络协议(internet protocol,IP)源地址、IP目的地址、运算码(OpCode)、目的端队列对号(QPN)、包序列号、应答请求。上述设计中,通过标识流属性的字段可以维护流连接。
在一种可能的设计中,第一交换节点接收父节点发送的第三报文;第一交换节点向至少一个聚合节点发送第四报文,其中,第四报文的负荷部分为第三报文的负荷部分,且针对至少一个聚合节点中的每个聚合节点,向聚合节点发送的第四报文的报文头部为基于聚合节点对应的报文头部以及第三报文的报文头部确定的,聚合节点对应的报文头部指目的地址为聚合节点的报文头部。上述设计中,第一交换节点可以基于聚合节点对应的报文头部恢复当前报文对应的头部,从而可以维护流连接,进而可以充分利用RDMA网卡其高收发性能,提升网内计算性能。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于华为技术有限公司,未经华为技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010478481.2/2.html,转载请声明来源钻瓜专利网。
- 上一篇:确定主备保护对的方法及装置
- 下一篇:一种参数配置方法、装置及设备