[发明专利]资源动态分配型神经网络芯片的构架、方法和设备

权利要求书

1.一种资源动态分配型神经网络芯片的构架，其特征在于，包括：

数据输入缓存模块，用于缓存片上数据总线的第一神经网络数据并将所述第一神经网络数据发送给神经网络计算执行模块；

数据输出缓存模块，用于缓存所述神经网络计算执行模块处理后的第二神经网络数据，并将所述第二神经网络数据发送给所述片上数据总线；

片上资源优化模块，用于根据神经网络配置参数在不同资源配置方式下的不同参数值，获得在不同资源配置方式下的若干第一时间数组；基于若干所述第一时间数组，获得若干第二时间数组；并基于若干所述第二时间数组，确定目标资源配置方式；其中，所述第一时间数组包括从外部存储模块读取分片数据的第一时间和计算分片数据所需的第二时间，所述第二时间数组包括所有数据的读取占用所述片上数据总线的第三时间和计算当前网络层所有数据所消耗的第四时间；

片上资源分配模块，用于根据所述目标资源配置方式，配置所述数据输入缓存模块、所述神经网络计算执行模块和所述数据输出缓存模块。

2.根据权利要求1所述的构架，其特征在于，所述神经网络配置参数包括固定参数和可配置参数；所述片上资源优化模块，还用于根据固定参数以及在不同资源配置方式下的若干组可配置参数值，获得若干第一时间数组。

3.根据权利要求2所述的构架，其特征在于，所述第一神经网络数据和所述第二神经网络数据均为图像数据。

4.根据权利要求3所述的构架，其特征在于，所述固定参数，包括：

输入图像数据宽度、输入图像数据高度、输入数据通道数、输出数据通道数、滤波器大小、片上并行计算单元数量以及计算单元组数、片上计算结果缓存大小、外部存储模块批量数据读写长度和片上数据交换损失时间。

5.根据权利要求3或4所述的构架，其特征在于，所述可配置参数包括：实际输入图像宽度、实际输入图像高度和图像数据缓存组数。

6.根据权利要求1所述的构架，其特征在于，所述片上资源分配模块通过片上配置总线分别与所述数据输入缓存模块、所述神经网络计算执行模块、所述数据输出缓存模块以及片外存储接口模块通信连接，所述片外存储接口模块与所述外部存储模块通信连接。

7.一种基于资源动态分配型神经网络芯片的数据处理方法，其特征在于，包括：

根据神经网络配置参数在不同资源配置方式下的不同参数值，获得在不同资源配置方式下的若干第一时间数组；其中，所述第一时间数组包括从外部存储模块读取分片数据的第一时间和计算分片数据所需的第二时间；

基于若干所述第一时间数组，获得若干第二时间数组；

基于若干所述第二时间数组，确定目标资源配置方式；其中，所述第二时间数组包括所有数据的读取占用片上数据总线的第三时间和计算当前网络层所有数据所消耗的第四时间；

根据所述目标资源配置方式，配置数据输入缓存模块、神经网络计算执行模块和数据输出缓存模块；其中，所述数据输入缓存模块用于缓存所述片上数据总线的第一神经网络数据并将所述第一神经网络数据发送给所述神经网络计算执行模块，所述数据输出缓存模块用于缓存所述神经网络计算执行模块处理后的第二神经网络数据，并将所述第二神经网络数据发送给所述片上数据总线。

8.根据权利要求7所述的方法，其特征在于，所述神经网络配置参数包括固定参数和可配置参数；所述根据神经网络配置参数在不同资源配置方式下的不同参数值，获得在不同资源配置方式下的若干第一时间数组的步骤，包括：

根据固定参数以及在不同资源配置方式下的若干组可配置参数值，获得若干第一时间数组。

9.根据权利要求7所述的方法，其特征在于，所述分片数据为图像数据。

10.一种计算机设备，其特征在于，该计算机设备包括神经网络芯片，所述神经网络芯片包括如权利要求1-6中任一项所述的构架。