[发明专利]计算系统、加速器、交换平面及聚合通信方法有效
申请号: | 202011057768.4 | 申请日: | 2020-09-29 |
公开(公告)号: | CN114363248B | 公开(公告)日: | 2023-04-07 |
发明(设计)人: | 陈育彬 | 申请(专利权)人: | 华为技术有限公司 |
主分类号: | H04L45/24 | 分类号: | H04L45/24;G06F9/50 |
代理公司: | 北京三高永信知识产权代理有限责任公司 11138 | 代理人: | 杨广宇 |
地址: | 518129 广东*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 计算 系统 加速器 交换 平面 聚合 通信 方法 | ||
本申请提供了一种计算系统、加速器、交换平面及聚合通信方法,属于计算机技术领域,能够应用在AI训练、大数据分析等各种需要聚合通信的场景。本申请涉及加速器和交换平面通过交互来实现聚合通信的流程。通过由加速器发起聚合通信操作,并由交换平面为加速器代理执行聚合通信操作,将聚合结果返回给加速器,从而将聚合通信工作从加速器以及CPU卸载至交换平面,因此减少了加速器和CPU的负载,提升聚合通信的性能。
技术领域
本申请涉及计算机技术领域,特别涉及一种计算系统、加速器、交换平面及聚合通信方法。
背景技术
随着人工智能(artificial intelligence,AI)技术以及大数据技术的发展,节点设备(如服务器)中通常会配置多个加速器,同时也会通过多个节点设备的互连进行分布式的计算。多节点设备多加速器进行计算时,需要不断地通过聚合通信(collectivecommunication)聚合各个加速器的计算结果,并需要通过聚合通信实现各个节点设备之间的数据同步。
时下在进行聚合通信时,特别是多节点设备通信时,多数由CPU发起聚合通信。然而采用上述方式时,需要CPU和加速器的反复交互,导致影响聚合通信的性能。
发明内容
本申请实施例提供了一种计算系统、加速器、交换平面及聚合通信方法,能够提升聚合通信的性能。所述技术方案如下:
第一方面,提供了一种计算系统,所述计算系统包括至少一个加速器和至少一个交换平面;所述至少一个加速器,用于向所述至少一个交换平面发送聚合请求,所述聚合请求用于指示执行聚合通信操作;所述至少一个交换平面,用于响应于所述聚合请求,执行所述聚合通信操作得到聚合结果;向所述至少一个加速器发送所述聚合结果。
以上提供的方法中,通过由加速器发起聚合通信操作,并由交换平面为加速器代理执行聚合通信操作,从而将聚合通信工作从加速器卸载至交换平面,因此减少了加速器和CPU的负载,提升聚合通信的性能。
在一种可能的实现中,所述至少一个加速器和所述至少一个交换平面分别通过专有协议链路相连。
通过以上方式,便于交换平面配合加速器使用。
在一种可能的实现中,所述至少一个交换平面,用于通过所述专有协议链路,从所述至少一个加速器接收第一数据;根据所述第一数据执行所述聚合通信操作,得到所述聚合结果。
以上为节点设备内如何进行数据聚合提供了实现方式,该实现方式仅需要一次上行(加速器发起请求)和一次下行(聚合通信模块下发聚合结果)操作,数据不需要在链路中来回反复传输,因此提高了聚合通信效率。
在一种可能的实现中,所述至少一个交换平面,用于通过标准协议链路从第二节点设备接收第二数据;根据所述第二数据执行所述聚合通信操作,得到所述聚合结果。
以上为节点设备之间如何进行数据聚合提供了实现方式,能够支持多个节点设备进行聚合通信的复杂场景,应用场景更加丰富。
在一种可能的实现中,所述至少一个交换平面中的每个交换平面包含网络接口控制器NIC,所述至少一个交换平面,用于使用各自包含的NIC,通过所述标准协议链路从所述第二节点设备接收所述第二数据。
通过上述方式,在支持节点设备之间进行数据聚合的基础上,摆脱了节点设备之间的交换网络必须支持专有协议的限制,降低了实现复杂度,提高了方案的可用性。
在一种可能的实现中,所述至少一个交换平面,还用于通过标准协议链路向第二节点设备发送所述聚合结果。
通过上述方式,便于第二节点设备应用第一节点设备的聚合结果进行进一步聚合或者数据同步。
在一种可能的实现中,所述计算系统为服务器,所述至少一个交换平面设置在所述服务器内。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于华为技术有限公司,未经华为技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202011057768.4/2.html,转载请声明来源钻瓜专利网。