[发明专利]数据处理方法、装置、电子设备及存储介质

说明书

本申请涉及一种数据处理方法、装置、电子设备和可读存储介质，采用上述数据处理方法能够生成目标神经网络的离线模型文件，相比于逐层对该子网络中的各网络层进行运算所需的多个输出操作和多次输出操作而言，提高了运算速率。

技术领域

本申请涉及神经网络技术领域，特别是涉及一种数据处理方法、装置、电子设备和可读存储介质。

背景技术

深度学习一般分为训练和推理两个过程，训练过程用于搜索和求解神经网络模型的最优参数；而推理过程则用于根据经过训练的神经网络模型，对输入的新的数据进行推理，即前向运算，得到目标输出。

基于caffe等深度学习框架构建的神经网络模型的前向运算过程，是由处理器在线逐层对神经网络的每层进行编译和运行操作的，即每层的操作为单独的运算，每层运算时均需要进行至少一次输入拷贝和至少一次输出拷贝，且神经网络的运行需要依赖caffe等深度学习框架。

总之，目前的神经网络的在线逐层运算的方式，存在运算速率低的问题。

发明内容

基于此，有必要针对上述技术问题，提供一种能够提高运算速率的数据处理方法、装置、电子设备和可读存储介质。

第一方面，一种数据处理方法，所述方法包括：

获取目标神经网络的模型数据和权值数据，其中，所述目标神经网络包括至少一个子网络，每个所述子网络中包含至少一个网络层，每个所述子网络中的所述网络层具有相同的融合属性，至少一个所述网络层的算子被融合为一个融合算子；所述子网络的融合属性包括第一融合属性；

根据所述目标神经网络的权值数据和模型数据对所述各子网络的融合算子进行整体编译，获得各个子网络的计算指令；

根据所述第一融合属性的子网络的计算指令生成离线模型文件；所述离线模型文件中包括第一融合属性的子网络对应的计算指令。

在其中一个实施例中，所述方法还包括如下步骤：

获取所述目标神经网络对应的原始神经网络；

根据所述原始神经网络中各个网络层的配置信息，确定所述各个网络层的融合属性；

根据所述原始神经网络中各个网络层的融合属性及各个网络层的依赖关系，将具有相同融合属性的至少一个网络层融合为一个子网络。

在其中一个实施例中，所述网络层的融合属性包括第一融合属性和第二融合属性；所述根据所述原始神经网络中各个网络层的配置信息，确定所述各个网络层的融合属性的步骤，包括：

获取各个网络层的预设的融合属性函数的返回值；

若所述网络层的返回值为第一返回值，则确定所述网络层的融合属性为第一融合属性；

若所述网络层的返回值为第二返回值，则确定所述网络层的融合属性为第二融合属性。

在其中一个实施例中，所述根据所述原始神经网络中各个网络层的融合属性及各个网络层的依赖关系，将具有相同融合属性的至少一个网络层融合为一个子网络的步骤，包括：

根据各个网络层的依赖关系，确定各个网络层的拓扑排序；

根据所述拓扑排序，若当前网络层的融合属性为第一融合属性，则在所述当前网络层的融合属性与所述当前网络层的上一网络层的融合属性相同时，将所述当前网络层与所述当前网络层的上一网络层划分为同一子网络；

根据所述拓扑排序，若所述当前网络层的融合属性为第二融合属性，则将所述当前网络层单独划分为一个子网络。

在其中一个实施例中，所述根据所述原始神经网络中各个网络层的融合属性及各个网络层的依赖关系，将具有相同融合属性的至少一个网络层融合为一个子网络的步骤，还包括：