[发明专利]一种桥接器、加速设备互连系统及数据加速处理方法

说明书

本发明提供一种桥接器、加速设备互连系统及数据加速处理方法，应用于人工智能技术领域，其中桥接器包括第一多路复用器、第二多路复用器、多级开关互连网络、输入端口和输出端口，输入端口和输出端口成对与加速设备连接，第一多路复用器设置于输入端口与多级开关互连网络之间，用于在输入控制信号的控制下，将输入端口与多级开关互连网络连通；第二多路复用器设置于多级开关互连网络与输出端口之间，用于在输出控制信号的控制下，将多级开关互连网络与输出端口连通。通过所述桥接器，不仅可实现桥接器的端口互连，也可实现成对加速设备之间点对点的无阻塞数据交换通信，可灵活支持神经网络部署应用到基于加速芯片、加速芯片组等加速设备中。

技术领域

本发明涉及人工智能技术领域，具体涉及一种桥接器、加速设备互连系统及数据加速处理方法。

背景技术

随着AI（Artificial Intelligence，人工智能）技术在各领域（如算法、加速硬件等）的发展，卷积神经网络模型已逐步被应用到各行各业中，如人脸识别、安防监控、自动驾驶、语音识别等领域。

目前，将神经网络模型部署应用于多芯片互连系统时，多芯片之间需要进行数据通信，比如在将神经网络模型的输入层部署于芯片A，隐藏层部署于芯片B，此时芯片B需要从芯片A中获取数据，即芯片A与芯片B之间存在互连以进行数据通信。而且，在实际部署应用中，当部署方案不同时，需要各个芯片之间互连关系亦不同，而现有方案受到桥接器方案约束，使得在神经网络模型部署于多芯片互连系统中时，不能灵活地支持实际部署。

发明内容

有鉴于此，本说明书实施例提供一种用于神经网络模型部署中进行互连的桥接器，以及基于该桥接器进行互连应用的加速设备互连系统及数据加速处理方法，通过桥接器可实现加速设备之间互连，可提高神经网络模型部署应用灵活性，便于将神经网络推广应用于终端、边缘计算等设备中。

本说明书实施例提供以下技术方案：

本说明书实施例提供一种桥接器，可包括：第一多路复用器、第二多路复用器、多级开关互连网络、输入端口和输出端口；

所述输入端口和所述输出端口成对作为收发端口，以与具有收发通信端口的加速设备连接；

所述第一多路复用器为单输入、多输出的复用器，设置于所述输入端口与所述多级开关互连网络之间，所述第一多路复用器的各个输出各自与不同所述多级开关互连网络连接，其中所述第一多路复用器用于在输入控制信号的控制下，将所述输入端口与所述输入控制信号对应的所述多级开关互连网络连通；

所述第二多路复用器为多输入、单输出的复用器，设置于所述多级开关互连网络与所述输出端口之间，所述第二多路复用器的各个输入各自与不同所述多级开关互连网络连接，其中所述第二多路复用器用于在输出控制信号的控制下，将所述输出控制信号对应的所述多级开关互连网络与所述输出端口连通。

在其中一个实施例中，所述多级开关互连网络采用以下任意一种控制策略：级控制策略、单元控制策略、部分级控制策略。

在其中一个实施例中，所述输入控制信号包括第一时分复用信号；和/或，所述输出控制信号包括第二时分复用信号。

在其中一个实施例中，所述桥接器还包括：第一输出缓冲队列，所述第一输出缓冲队列设置于所述多级开关互连网络与所述第二多路复用器之间，其中所述第一输出缓冲队列用于对多个输入端口与所述输出端口进行互连传输的数据缓存。

在其中一个实施例中，所述桥接器还包括：第一输入缓冲队列，所述第一输入缓冲队列设置于所述第一多路复用器与所述多级开关互连网络之间，其中所述第一输入缓冲队列用于对所述输入端口与多个输出端口进行互连传输的数据缓存。