[发明专利]用于神经网络代码生成的方法和设备

权利要求书

1.一种处理器实现的生成代码的方法，所述方法包括：

接收关于被配置为执行神经网络的神经网络操作的硬件的信息；

使用处理器基于所述信息和神经网络的结构，生成将神经网络操作映射到可用于执行神经网络操作的处理元件上的目标映射模型；以及

基于目标映射模型来生成用于配置硬件以执行神经网络操作的代码。

2.根据权利要求1所述的方法，其中，接收所述信息的步骤包括：

接收处理元件的数量、关于处理元件的结构的信息、存储器带宽、频率和存储器大小中的任何一个或任何组合。

3.根据权利要求1所述的方法，其中，生成目标映射模型的步骤包括：

基于所述信息和神经网络的结构来计算与任意映射模型对应的映射参数；以及

基于映射参数来确定目标映射模型。

4.根据权利要求3所述的方法，其中，计算映射参数的步骤包括：

基于神经网络的划分结构来确认任意映射模型的操作性能；

基于包括在神经网络操作中的循环结构来计算任意映射模型的存储器访问大小；以及

基于操作性能和存储器访问大小来计算映射参数。

5.根据权利要求4所述的方法，其中，计算操作性能的步骤包括：

基于神经网络的划分结构来计算处理元件的利用率；以及

基于所述利用率来计算操作性能。

6.根据权利要求4所述的方法，其中，计算存储器访问大小的步骤包括：

基于循环结构来计算任意映射模型的数据重新加载的次数；以及

基于数据重新加载的次数和划分结构来计算存储器访问大小。

7.根据权利要求3至权利要求6中的任意一项所述的方法，其中，基于映射参数来确定目标映射模型的步骤包括：

将使映射参数最大化的任意映射模型确定为目标映射模型。

8.根据权利要求3至权利要求6中的任意一项所述的方法，其中，生成目标映射模型的步骤还包括：

基于神经网络的划分结构和包括在神经网络操作中的循环结构来对不适当的映射模型进行剪枝。

9.根据权利要求8所述的方法，其中，对不适当的映射模型进行剪枝的步骤包括：

根据处理元件的利用率，基于神经网络的划分结构来对不适当的映射模型进行剪枝。

10.根据权利要求8所述的方法，其中，对不适当的映射模型进行剪枝的步骤包括：

基于循环结构的迭代次数来对不适当的映射模型进行剪枝。

11.一种用于生成代码的设备，所述设备包括：

接收器，被配置为接收关于被配置为执行神经网络的神经网络操作的硬件的信息；以及

处理器，被配置为基于所述信息和神经网络的结构来生成将神经网络操作映射到可用于执行神经网络操作的处理元件上的目标映射模型，并且基于目标映射模型来生成用于配置硬件以执行神经网络操作的代码。

12.如权利要求11所述的设备，其中，接收器还被配置为接收处理元件的数量、关于处理元件的结构的信息、存储器带宽、频率和存储器大小中的任何一个或任何组合。

13.如权利要求11所述的设备，其中，处理器还被配置为：

基于所述信息和神经网络的结构来计算与任意映射模型对应的映射参数；以及

基于映射参数来确定目标映射模型。

14.如权利要求13所述的设备，其中，处理器还被配置为：

基于神经网络的划分结构来计算将通过任意映射模型获得的操作性能；

基于包括在神经网络操作中的循环结构来计算任意映射模型的存储器访问大小；以及

基于操作性能和存储器访问大小来计算映射参数。