[发明专利]动态融合神经网络的装置、板卡、方法及可读存储介质

权利要求书

1.一种根据融合策略动态融合神经网络的集成电路装置，包括：

计算装置，包括多个集群，每个集群包括共享存储单元，用以存储片上单元图；以及

处理装置，用以：

判断至少一个特征图所需存储空间是否大于所述共享存储单元的可用空间；

如否，设定所述至少一个特征图为所述片上单元图，并排查所述融合策略中与所述共享存储单元相关的规则，以建立所述模板融合单元。

2.根据权利要求1所述的集成电路装置，其中所述融合策略为如果所述片上单元图及所述片上单元图的计算结果的存储空间不能复用时，所述片上单元图的存储空间与所述计算结果的存储空间之和小于所述共享存储单元的可用空间。

3.根据权利要求1所述的集成电路装置，其中所述融合策略为如果所述片上单元图及所述片上单元图的计算结果的存储空间可以复用时，所述片上单元图的存储空间与所述计算结果的存储空间较大者小于所述共享存储单元的可用空间。

4.根据权利要求1所述的集成电路装置，其中所述集群还包括多个处理器核及存储核，所述存储核将所述片上单元图拆分成子图，所述处理器核其中之一计算所述子图，所述共享存储单元包括与所述片上单元图相同尺寸的缓存空间。

5.根据权利要求4所述的集成电路装置，其中所述规则为所述子图的权值所需存储空间、所述片上单元图所需存储空间、所述缓存空间的总和不大于所述共享存储单元的可用空间。

6.根据权利要求4所述的集成电路装置，其中所述规则为所述子图所需存储空间、所述子图的权值所需存储空间、所述缓存空间的总和不大于所述共享存储单元的可用空间。

7.根据权利要求4所述的集成电路装置，其中所述处理器核包括运算模块，用以计算所述子图并生成中间结果，所述规则为所述中间结果所需存储空间、下一个子图的权值所需存储空间、所述缓存空间的总和不大于所述共享存储单元的可用空间。

8.根据权利要求1至7任一项所述的集成电路装置，其中当所述处理装置判断所述规则未被满足时，所述处理装置减少所述片上单元图中特征图的数量直到所述规则被满足。

9.一种板卡，包括根据权利要求1至8任一项所述的集成电路装置。

10.一种在集成电路装置中根据融合策略动态融合神经网络的方法，所述集成电路装置包括计算装置，所述计算装置包括多个集群，每个集群包括共享存储单元，用以存储片上单元图，所述方法包括：

判断至少一个特征图所需存储空间是否大于所述共享存储单元的可用空间；

如否，则：

设定所述至少一个特征图为所述片上单元图；以及

排查所述融合策略中与所述共享存储单元相关的规则，以建立所述模板融合单元。

11.根据权利要求10所述的方法，其中还包括：

判断所述片上单元图与所述片上单元图的计算结果是否能复用；以及

如否，设定所述规则为所述片上单元图的存储空间与所述计算结果的存储空间之和小于所述共享存储单元的可用空间。

12.根据权利要求10所述的方法，其中还包括：

判断所述片上单元图与所述片上单元图的计算结果是否能复用；以及

如是，设定所述规则为所述片上单元图的存储空间与所述计算结果的存储空间较大者小于所述共享存储单元的可用空间。

13.根据权利要求10所述的方法，其中所述集群还包括多个处理器核及存储核，所述存储核将所述片上单元图拆分成子图，所述处理器核其中之一计算所述子图，所述共享存储单元包括与所述片上单元图相同尺寸的缓存空间。