[发明专利]神经网络处理方法、计算机系统及存储介质

说明书

本发明提供了一种神经网络的处理方法，上述方法包括如下步骤：获取原始网络的模型数据集和模型结构参数；获取原始网络中各个计算节点的操作属性；根据原始网络的模型数据集、模型结构参数及各个计算节点的操作属性运行原始网络，获得原始网络中各个计算节点对应的指令；若当前计算节点的操作属性为第一操作属性时，则将当前计算节点对应的网络权值及指令存储至第一非易失性存储器中，以获得原始网络对应的第一离线模型本发明还提供了一种计算机系统及存储介质。本发明的神经网络处理方法、计算机系统及存储介质，缩短处理器运行同一网络的运行时间，提高处理器的处理速度及效率。

技术领域

本发明涉及深度学习技术领域，特别是涉及一种神经网络处理方法、计算机系统及存储介质。

背景技术

随着人工智能技术的发展，如今深度学习已无处不在且必不可少，并随之产生了许多可扩展的深度学习系统，例如，TensorFlow、MXNet、Caffe和PyTorch等等，上述深度学习系统可以用于提供各种能够在CPU或GPU等处理器上运行的神经网络模型。一般地，处理器在运行神经网络模型时，如运行Caffe网络模型时，每次均需要对该神经网络模型中的各个计算节点分别进行编译、解析，之后，按照该神经网络模型的结构形式按照一定的形式执行各个计算节点。其中，神经网络模型以及网络结构可以是已训练好或未训练好的人工神经网络模型数据。上述对神经网络的处理方法会影响处理器的处理速度，处理效率较低。

发明内容

鉴于上述的网络模型处理方法导致的处理效率低的问题，本发明的目的在于提供一种神经网络处理方法、计算机系统及存储介质，提高装置对神经网络的处理速度及处理效率。

为实现上述目的，本发明采用如下技术方案：

一种神经网络的处理方法，所述方法包括如下步骤：

获取原始网络的模型数据集和模型结构参数，其中，所述模型数据集包括所述原始网络中各个计算节点对应的网络权值，所述模型结构参数包括所述原始网络中多个计算节点的连接关系；

获取所述原始网络中各个计算节点的操作属性，所述计算节点的操作属性包括用于表示所述计算节点能够在专用神经网络处理器上执行的第一操作属性和用于表示所述计算节点能够在通用处理器上执行的第二操作属性；

根据所述原始网络的模型数据集、模型结构参数及各个计算节点的操作属性运行所述原始网络，获得所述原始网络中各个计算节点对应的指令；

若当前计算节点的操作属性为第一操作属性时，则将所述当前计算节点对应的网络权值及指令存储至第一非易失性存储器中，以获得所述原始网络对应的第一离线模型。

同时，本发明还提供了一种神经网络处理方法，所述方法包括如下步骤：

获取原始网络的模型数据集和模型结构参数，其中，所述模型数据集包括所述原始网络中各个计算节点对应的网络权值，所述模型结构参数包括所述原始网络中多个计算节点的连接关系；

根据所述原始网络中多个计算节点的连接关系，将两个以上顺序执行的第二计算节点之间的所有第一计算节点等效为一个第一离线节点，获得所述原始网络对应的等效网络；其中，所述第一计算节点为具有第一操作属性的计算节点，所述第二计算节点为具有第二操作属性的计算节点；

若所述等效网络结构中的当前计算节点为第一离线节点时，则从第一非易失性存储介质中获得第一离线模型，并根据所述第一离线模型执行所述第一离线节点，其中，所述第一离线模型中包含所述原始网络中所有的第一计算节点对应的网络权值及指令。

同时，本发明还提供了一种计算机系统，包括：

第一处理器及与所述第一处理器对应设置的第一存储器及第二存储器；

一个或多个第二处理器及与所述第二处理器对应设置的一个或多个第三存储器，各个所述第二处理器均连接至所述第一处理器；