[发明专利]支持在网计算的芯粒间网络路由器及数据包在网处理方法

说明书

本发明公开了一种面向多芯粒集成系统的支持在网计算的芯粒间网络路由器及数据包在网处理方法，通过在芯粒间网络路由器中首次增加解析单元、专用缓冲区和在网计算处理单元，使芯粒间网络路由器能够对正在转发的数据包进行在网计算操作。并且定义新的数据包格式，以配合解析单元和在网计算处理单元工作。另外，提出一种基于芯粒间网络路由器的数据包在网处理方法，可以将多个数据包合并为一个新的数据包，从而大大减少网络中的数据包数量。本发明使多芯粒集成系统的互连网络具有计算处理能力，能够对在网络中传递的数据包进行聚合处理，从而减少网络中的流量负载，降低网络传输延迟。

技术领域

本发明涉及多芯粒集成电路技术领域，具体涉及一种支持在网计算的芯粒间网络路由器及数据包在网处理方法。

背景技术

多芯粒集成系统是把一些实现特定功能的芯粒通过先进封装技术集成为特定功能的系统芯片，多芯粒集成系统相比于传统的单芯片集成系统有更好的制造良率。多芯粒集成系统可以用于大规模神经网络的分布式训练，将输入数据和模型权重分布到不同的芯粒上进行并行化训练。在训练过程中，所有的芯粒需要同步更新参数，因此需要汇总(Reduce)所有芯粒的训练梯度，从而在芯粒间互连网络中产生大量的汇总型通信流量。由于芯粒间的通信效率低，跨芯粒通信的延迟长，并且通信流量的规模较大，通信总量可达数百至数千兆字节，很容易造成芯粒间互连网络的拥塞，降低网络性能。因此在多芯粒互连网络中提出在网计算设计，在网络传输的过程中对梯度数据包进行合并以减少网络流量。现有的在网计算方法基本都针对大型计算集群提出，不适用于多芯粒集成系统，因为针对大型集群通信设备的网算设计不存在硬件面积上的限制，而面向多芯粒集成系统的网络设备设计受到芯片面积的限制。其次，在多芯粒集成系统中，芯粒之间的运行可能不是完全同步的，因此各芯粒可能不会同时发出梯度数据包，从而导致芯粒间需要进行在网计算的数据包难以同时到达在网计算结点，造成数据包合并的比率降低，现有技术方法没有考虑到多芯粒集成系统的这个特点，从而导致在网计算方法实施的效率不高。

发明内容

本发明的目的是为了解决现有技术中的上述缺陷，提供一种支持在网计算的芯粒间网络路由器及数据包在网处理方法。

本发明的目的可以通过采取如下技术方案达到：

一种支持在网计算的芯粒间网络路由器，所述芯粒间网络路由器包括N个输入端口、N个解析单元、1个控制单元、1个专用缓冲区、1个在网计算处理单元、N+1个路由计算单元、1个交叉开关、1个交叉开关仲裁器和N个输出端口，每个输入端口分别依次串联1个解析单元和1个路由计算单元，其中，

N个输入端口包括本地输入端口和其他方向输入端口，本地输入端口通过网络接口NI与本地芯粒相连，其他方向输入端口通过网络链路与上游路由器的输出端口相连，每个输入端口有M个输入缓冲区，所述输入端口用于接收从上游路由器发出的数据包或从网络接口注入的数据包，接收后将数据包先暂存在输入缓冲区中，并将输入缓冲区中首个数据包传递至解析单元进行解析，其中，所述数据包包括源地址、目的地址、网算标识位、数据包序号值和数据部分；

每个解析单元分别接收对应连接的输入端口的输入缓冲区传输的数据包，并读取该数据包的网算标识位和数据包序号值，若网算标识位的值为0，则表明该数据包不需要进行在网计算，解析单元将该数据包传输至路由计算单元；若网算标识位的值为1，则表明该数据包需要进行在网计算，解析单元需将该数据包的序号值传递给控制单元进行判断；

所述控制单元用于控制解析单元和专用缓冲区，控制单元接收来自N个解析单元传入的数据包序号值，并和当前多芯粒集成系统维护的序号值进行比较，结合相同序号值的数据包的到达情况，对N个解析单元和专用缓冲区发出控制信号；

所述专用缓冲区用于接收从N个解析单元传入的需要进行在网计算的数据包，并缓存这些数据包；

所述在网计算处理单元接收专用缓冲区或N个解析单元传入的数据包，并对这些数据包进行在网计算处理，将处理后的数据包传输给路由计算单元；