[发明专利]神经网络拆分方法及装置、电子设备、计算机可读介质

权利要求书

1.一种神经网络拆分方法，包括：

根据神经网络的多个神经元的位置关系以及连接关系，将多个神经元分入多个宏分组；其中，每个宏分组包括多个神经元，同一宏分组中的神经元用于映射至一个运算单元处理，不同宏分组中的神经元用于映射至不同运算单元处理。

2.根据权利要求1所述的神经网络拆分方法，其中，所述根据神经网络的多个神经元的位置关系以及连接关系，将多个神经元分入多个宏分组，包括：

按照所述神经网络的多个神经元的位置关系，根据所述神经网络的多个神经元的连接关系构建所述神经网络的多个神经元的连接密度热力图，所述连接密度热力图在任意位置的热力值表征该位置对应的神经元的连接密度；

根据所述连接密度热力图的热力值分布将所述连接密度热力图划分为多个区域，确定每个区域对应的全部神经元为一个宏分组所包括的多个神经元。

3.根据权利要求2所述的神经网络拆分方法，其中，所述按照所述神经网络的多个神经元的位置关系，根据所述神经网络的多个神经元的连接关系构建所述神经网络的多个神经元的连接密度热力图包括：

按照所述神经网络的多个神经元的位置关系，根据所述神经网络的多个神经元的连接关系构建所述神经网络的多个神经元的连接关系平面图；

确定所述连接关系平面图每个位置对应的神经元的连接密度，每个位置对应神经元的连接密度根据该位置对应的神经元的扇入连接数和扇出连接数确定，每个神经元的扇入连接数为该神经元连接的前继神经元的个数，每个神经元的扇出连接数为该神经元连接的后继神经元的个数；

根据所述连接关系平面图每个位置对应的神经元的连接密度构建所述神经网络的多个神经元的连接密度热力图。

4.根据权利要求2所述的神经网络拆分方法，其中，所述根据所述连接密度热力图的热力值分布将所述连接密度热力图划分为多个区域包括：

根据所述连接密度热力图的热力值分布确定多个热力值边界，根据所述热力值边界将所述连接密度热力图划分为多个区域。

5.根据权利要求1所述的神经网络拆分方法，其中，所述根据神经网络的多个神经元的位置关系以及连接关系，将多个神经元分入多个宏分组之后，还包括：

根据每个宏分组中的多个神经元的位置关系以及该宏分组对应的运算单元的负载信息，将该宏分组的多个神经元分入多个细分组；每个细分组包括至少一个神经元，同一细分组中的神经元用于映射至该宏分组对应的运算单元的一个子运算单元处理，不同细分组中的神经元用于映射至该宏分组对应的运算单元的不同子运算单元处理。

6.根据权利要求5所述的神经网络拆分方法，其中，所述负载信息包括传输带宽，所述根据每个宏分组中的多个神经元的位置关系以及该宏分组对应的运算单元的负载信息，将该宏分组的多个神经元分入多个细分组，包括：

在将每个宏分组中的多个神经元分入多个细分组中时，该宏分组的一个细分组包括的神经元与该宏分组的其他细分组的神经元之间的数据传输所需的传输带宽小于或等于该细分组对应的子运算单元的最大传输带宽。

7.根据权利要求1所述的神经网络拆分方法，其中，所述根据神经网络的多个神经元的位置关系以及连接关系，将多个神经元分入多个宏分组之后，还包括：

根据每个宏分组对应的连接密度热力图的区域的热力值分布以及该宏分组对应的运算单元的每个子运算单元的负载信息，将该宏分组对应的所述连接密度热力图的区域划分为多个子区域，确定每个子区域对应的全部神经元为一个细分组所包括的至少一个神经元；所述连接密度热力图在任意位置的热力值表征该位置对应的神经元间的连接密度。

8.根据权利要求7所述的神经网络拆分方法，其中，所述负载信息包括计算能力和/或内存；

在所述负载信息包括计算能力的情况下，第一预设系数、每个子区域的面积以及该子区域的平均热力值三者的乘积不大于该子区域对应的子运算单元的总计算能力；

在所述负载信息包括内存的情况下，第二预设系数、每个子区域的面积以及该子区域的平均热力值三者的乘积不大于该子区域对应的子运算单元的总内存。