[发明专利]一种基于自动集群神经网络芯片组的运算方法和装置

摘要

本发明提供了一种基于自动集群神经网络芯片组的运算方法和装置，所述装置包括一个主芯片和多个从芯片，所述主芯片与每个从芯片连接。主芯片负责记录各个从芯片的运算资源信息，以及将接收到的任务请求对应的神经网络结构所需的资源运算总信息映射至各个从芯片上，确定执行神经网络运算的从芯片之间的运算顺序。而后将待运算的数据发送给第一从芯片进行运算，第一从芯片再将计算好的数据发送给下一顺序的从芯片进行运算，直至神经网络运算完成，主芯片从运算顺序排名最靠后的从芯片获取最终生成的运算结果并存储。上述方法采用集群化思想，将同一网络中不同设备整合起来应用于某一神经网络运算，有效提高了神经网络运算能力。

主权项

1.一种基于自动集群神经网络芯片组的运算装置，其特征在于，所述装置包括一个主芯片和多个从芯片，所述主芯片与每个从芯片连接；所述主芯片包括资源确定单元、网络参数确定单元、网络配置单元、第一处理单元、第一通信单元、结果获取单元；所述从芯片包括第二处理单元和第二通信单元；所述资源确定单元用于获取所有从芯片的资源运算子信息，并将资源运算子信息与从芯片的标识信息对应存储；以及根据任务请求类型对应的神经网络结构参数，确定各个从芯片的资源运算子信息与神经网络运算之间的映射关系；所述网络参数确定单元用于根据接收到的任务请求类型，确定任务请求类型对应的神经网络结构，并确定该神经网络结构所需的资源运算总信息；所述网络配置单元用于根据神经网络结构将资源运算总信息划分为若干资源运算子信息，确定执行神经网络运算的从芯片之间的运算顺序，生成第一配置信息；从芯片之间的运算顺序基于神经网络子层的连接顺序，每一从芯片进行一个神经网络子层的运算；所述第一处理单元用于通过第一通信单元将第一配置信息发送给所有从芯片，以及获取待运算的数据，并将待运算的数据发送给第一从芯片，所述第一从芯片为第一配置信息中运算顺序排名最靠前的从芯片；第一从芯片的第二通信单元用于接收第一配置信息以及待运算的数据，第一从芯片的第二处理单元用于采用第一从芯片对应的资源运算子信息对待运算的数据进行运算，得到第一运算结果；下一个运算顺序的从芯片的第二通信单元用于获取第一运算结果，下一个运算顺序的从芯片的第二处理单元用于对第一运算结果进行运算，得到第二运算结果；重复上述步骤，直至神经网络运算完成；所述结果获取单元用于从运算顺序排名最靠后的从芯片获取最终生成的运算结果并存储。