[发明专利]一种神经网络的编译方法及装置

权利要求书

1.一种神经网络的编译方法，其特征在于，所述方法包括：

根据神经网络的第一模型文件，得到第一模型；

根据算子的计算精度和/或芯片的电路结构，将所述第一模型中的多个算子进行融合与拆分，得到第二模型，每个算子用于表征所述神经网络中的一个独立计算单元；

根据预设的算子合并模式，对所述第二模型中的算子进行匹配，得到第三模型；

根据所述第三模型中的每个算子的量化操作，在所述第三模型中写入每个算子的量化参数，得到第四模型；

对所述第四模型进行编译，得到所述神经网络的第二模型文件，所述第二模型文件用于在所述芯片中执行。

2.如权利要求1所述的方法，其特征在于，在所述第一模型包括第一算子和第二算子，所述第一算子包括多种计算方式时，根据算子的计算精度和/或芯片的电路结构，将所述第一模型中的多个算子进行融合与拆分，包括：

根据算子的计算精度，将所述第一算子中的部分计算方式对应的信息移动到所述第二算子中。

3.如权利要求1所述的方法，其特征在于，在所述第一模型包括第三算子和第四算子时，根据算子的计算精度和/或芯片的电路结构，将所述第一模型中的多个算子进行融合与拆分，包括：

根据算子的计算精度，更改所述第三算子和所述第四算子在所述第一模型中的计算顺序。

4.如权利要求1所述的方法，其特征在于，在所述第一模型包括第五算子，所述第五算子包括多种计算方式时，根据算子的计算精度和/或芯片的电路结构，将所述第一模型中的多个算子进行融合与拆分，包括：

根据算子的计算精度，将所述第五算子拆分成第六算子和第七算子，所述第六算子或第七算子包括所述第五算子中的部分计算方式对应的信息。

5.如权利要求1所述的方法，其特征在于，在所述第一模型包括第八算子时，根据算子的计算精度和/或芯片的电路结构，将所述第一模型中的多个算子进行融合与拆分，包括：

在所述芯片的电路结构不适配所述第八算子时，将所述第八算子替换为第九算子。

6.如权利要求1-5任一项所述的方法，其特征在于，所述根据预设的算子合并模式，对所述第二模型中的算子进行匹配，包括：

根据所述算子合并模式包含的全部算子，确定所述第二模型中的合并算子；

将所述第二模型中的合并算子进行合并。

7.如权利要求1-5任一项所述的方法，其特征在于，所述根据预设的算子合并模式，对所述第二模型中的算子进行匹配，包括：

确定所述第二模型中的目标算子，所述目标算子为卷积算子和/或全连接算子；

将所述第二模型中的与所述目标算子相关的算子合并模式所包含的全部算子进行合并。

8.一种神经网络的编译装置，其特征在于，用于执行如权利要求1-7任一项所述的方法，包括：

获取模块，用于根据神经网络的第一模型文件，得到第一模型；

融合与拆分模块，用于根据算子的计算精度和/或芯片的电路结构，将所述第一模型中的多个算子进行融合与拆分，得到第二模型，每个算子用于表征所述神经网络中的一个独立计算单元；

合并模块，用于根据预设的算子合并模式，对第二模型中的算子进行匹配，得到第三模型；

量化模块，用于根据所述第三模型中的每个算子的量化操作，在所述第三模型中写入每个算子的量化参数，得到第四模型；

编译模块，用于对所述第四模型进行编译，得到所述神经网络的第二模型文件，所述第二模型文件用于在所述芯片中执行。

9.一种处理器，包括存储器、控制器以及存储在所述存储器中并可在所述控制器上运行的计算机程序，其特征在于，所述控制器执行所述计算机程序时实现如权利要求1-7任一项所述的方法。

10.一种计算机可读存储介质，所述计算机可读存储介质存储有计算机程序，其特征在于，所述计算机程序被控制器执行时实现如权利要求1-7任一项所述的方法。