[发明专利]片间通信的电路、方法和系统

说明书

本公开提供一种片间通信的电路、方法和系统，该方法可以实现在计算装置中，其中计算装置可以包括在组合处理装置中，该组合处理装置还可以包括通用互联接口和其他处理装置。所述计算装置与其他处理装置进行交互，共同完成用户指定的计算操作。组合处理装置还可以包括存储装置，该存储装置分别与计算装置和其他处理装置连接，用于计算装置和其他处理装置的数据。

技术领域

本公开涉及人工智能芯片领域，更具体地，涉及多处理器的片间通信领域。

背景技术

在神经网络的训练中，如果单机训练规模为X的神经网络耗时T，那么当有N台相同机器训练该神经网络时，理想状态下，训练耗时应该为T/N，这也被称为理想线性加速比。但是，理想线性加速是不现实的，因为引入了通信开销。虽然计算部分是可以线性加速的；但是通信部分(如AllReduce算法)是客观存在且无法消除的。

因此，为了提升芯片的算力和运行效率，需要提升片间通信的效率。

发明内容

本公开的一个目的在于提升片间通信的效率，进而提升多核处理器的运算效率。

根据本公开的第一方面，提供一种用于片间通信的电路，包括：第一调度单元、第一运算单元和发送单元，其中，所述第一调度单元配置为接收第一任务描述信息；所述第一运算单元配置为从所述第一调度单元接收所述第一任务描述信息，并根据所述第一任务描述信息对第一数据进行处理，以得到第一处理数据；所述第一运算单元进一步配置为将所述第一处理数据传送到所述发送单元；所述发送单元配置为向片外发送所述第一处理数据。

根据本公开的第二方面，提供一种用于片间通信的方法，包括：通过第一调度单元接收第一任务描述信息；通过第一运算单元来根据所述第一任务描述信息对第一数据进行处理，以得到第一处理数据；通过第一运算单元将所述第一处理数据传送到发送单元；以及通过所述发送单元向片外发送所述第一处理数据。

根据本公开的第三方面，提供一种用于片间通信的电路，包括：第二调度单元、第二运算单元、接收单元和第二存储单元，其中，所述接收单元配置为：接收第一处理数据；将第一处理数据发送到所述第二存储单元；将接收到所述第一处理器数据的消息通知给所述第二调度单元；所述第二调度单元配置为：接收第二任务描述信息；指示所述第二运算单元对所述第一处理数据进行处理；以及所述第二运算单元配置为：从所述第二存储单元中获取所述第一处理数据；从所述第二调度单元接收所述第二任务描述信息；根据所述第二任务描述信息对所述第一处理数据进行处理，以得到第二处理数据。

根据本公开的第四方面，提供一种芯片，包括如上所述的电路。

根据本公开的第五方面，提供一种电子设备，包括：如上所述的电路或如上所述的芯片。

根据本公开的第六方面，提供一种片间通信系统，包括第一芯片和第二芯片，其中，所述第一芯片包括第一调度单元、第一运算单元和发送单元，其中，所述第一调度单元配置为接收第一任务描述信息；所述第一运算单元配置为从所述第一调度单元接收所述第一任务描述信息，并根据所述第一任务描述信息对第一数据进行处理，以得到第一处理数据；所述第一运算单元进一步配置为将所述第一处理数据传送到所述发送单元；所述发送单元配置为向第二芯片发送所述第一处理数据；所述第二芯片包括第二调度单元、第二运算单元、接收单元和第二存储单元，其中，所述接收单元配置为：从所述第一芯片接收第一处理数据；将第一处理数据发送到所述第二存储单元；将接收到所述第一处理器数据的消息通知给所述第二调度单元；所述第二调度单元配置为：接收第二任务描述信息；指示所述第二运算单元对所述第一处理数据进行处理；以及所述第二运算单元配置为：从所述第二存储单元中获取所述第一处理数据；从所述第二调度单元接收所述第二任务描述信息；根据所述第二任务描述信息对所述第一处理数据进行处理，以得到第二处理数据。

根据本公开的第七方面，提供一种电子设备，包括如上所述的系统。