[发明专利]神经网络处理方法、计算机系统及存储介质

说明书

本发明提供了一种神经网络的处理方法，上述方法包括如下步骤：获取原始网络的模型数据集及模型结构参数，其中，模型数据集包括原始网络中各个计算节点对应的网络权值，模型结构参数包括原始网络中多个计算节点的连接关系及各个计算节点的计算属性；根据原始网络的模型数据集和模型结构参数运行原始网络，获得原始网络中各个计算节点对应的指令；根据原始网络的各个计算节点对应的网络权值及指令，生成原始网络对应的离线模型，并将原始网络对应的离线模型存储至非易失性存储器中。本发明还提供了一种计算机系统及存储介质。本发明的神经网络处理方法、计算机系统及存储介质，缩短处理器运行同一网络的运行时间，提高处理器的处理速度及效率。

技术领域

本发明涉及深度学习技术领域，特别是涉及一种神经网络处理方法、计算机系统及存储介质。

背景技术

随着人工智能技术的发展，如今深度学习已无处不在且必不可少，并随之产生了许多可扩展的深度学习系统，例如，TensorFlow、MXNet、Caffe和PyTorch等等，上述深度学习系统可以用于提供各种能够在CPU或GPU等处理器上运行的神经网络模型。一般地，处理器在运行神经网络模型时，如运行Caffe网络模型时，每次均需要对该神经网络模型中的各个计算节点分别进行编译、解析，之后，按照该神经网络模型的结构形式按照一定的形式执行各个计算节点。其中，神经网络模型以及网络结构可以是已训练好或未训练好的人工神经网络模型数据。上述对神经网络的处理方法会影响处理器的处理速度，处理效率较低。

发明内容

鉴于上述的网络模型处理方法导致的处理效率低的问题，本发明的目的在于提供一种神经网络处理方法、计算机系统及存储介质，提高装置对神经网络的处理速度及处理效率。

为实现上述目的，本发明采用如下技术方案：

一种神经网络的处理方法，所述方法包括如下步骤：

获取原始网络的模型数据集及模型结构参数，其中，所述模型数据集包括所述原始网络中各个计算节点对应的网络权值，所述模型结构参数包括所述原始网络中多个计算节点的连接关系及各个计算节点的计算属性；

根据所述原始网络的模型数据集和模型结构参数运行所述原始网络，获得所述原始网络中各个计算节点对应的指令；

根据所述原始网络的各个计算节点对应的网络权值及指令，生成所述原始网络对应的离线模型，并将所述原始网络对应的离线模型存储至非易失性存储器中。

在其中一个实施例中，所述的根据所述原始网络的模型数据集和模型结构参数运行所述原始网络，获得所述原始网络中各个计算节点对应的指令的步骤，包括：

根据所述原始网络的模型结构参数，获得所述原始网络中各个计算节点的执行顺序；

按照所述原始网络中各个计算节点的执行顺序运行所述原始网络，分别获得所述原始网络中各个计算节点对应的指令。

在其中一个实施例中，所述的根据所述原始网络的各个计算节点对应的网络权值及指令，生成所述原始网络对应的离线模型的步骤，包括：

根据所述原始网络的模型数据集和模型结构参数，获得所述原始网络的内存分配方式；

根据所述原始网络的内存分配方式，将所述原始网络运行过程中的相关数据存储至第一存储器中，其中，所述原始网络运行过程中的相关数据包括所述原始网络的各个计算节点对应的网络权值、指令、输入数据及输出数据；

从所述第一存储器中获取所述原始网络的各个计算节点对应的网络权值及指令，并将所述原始网络的各个计算节点对应的网络权值及指令存储于第二存储器中，生成所述离线模型，其中，所述第二存储器为非易失性存储器。

在其中一个实施例中，所述离线模型中还包括节点接口数据，所述节点接口数据用于表示所述原始网络的各个计算节点的连接关系。