[发明专利]基于神经网络的指令交互方法、系统、设备及存储介质

说明书

本发明实施例公开了一种基于神经网络的指令交互方法、系统、设备及存储介质。该基于神经网络的指令交互方法包括：请求守护进程模块检查是否存在空闲的硬件层；在存在所述空闲的硬件层的情况下，解析预设神经网络模型得到结构数据和参数数据并预处理输入计算图；解析所述结构数据得到驱动层可识别的指令数据；调用第一指令使所述驱动层接收所述参数数据和指令数据，使所述驱动层根据所述指令数据和参数数据进行初始化，调用第二指令使所述驱动层接收所述输入计算图，调用第三指令通知所述驱动层根据所述指令数据驱动所述空闲的硬件层计算所述输入计算图和参数数据以得到输出计算图。本发明实施例实现了提高神经网络多硬件的通信效率。

技术领域

本发明实施例涉及神经网络技术领域，尤其涉及一种基于神经网络的指令交互方法、系统、设备及存储介质。

背景技术

随着深度学习技术的逐渐成熟，基于神经网络的行业落地应用越来越多，包括安全防卫、工业监控、自动驾驶等。

神经网络由多个重复性计算层(也称为算子)组成，其计算方式具有高并行度、高计算量的特点。相关技术中的神经网络中，软件层通过驱动层直接驱动硬件层，软件层与驱动层直接进行通信。

但是使用上述方式难以支持多个硬件层之间的通信，当需要控制多个硬件层时，软件层对硬件层的占用无法互相通知或通知比较复杂，使用消息的方式通信效率较低。

发明内容

本发明实施例提供一种基于神经网络的指令交互方法、系统、设备及存储介质，以实现提高神经网络多硬件的通信效率。

本发明实施例提供了一种基于神经网络的指令交互方法，该指令交互方法包括：

请求守护进程模块检查是否存在空闲的硬件层；

在存在所述空闲的硬件层的情况下，解析预设神经网络模型得到结构数据和参数数据并预处理输入计算图；

解析所述结构数据得到驱动层可识别的指令数据；

调用第一指令使所述驱动层接收所述参数数据和指令数据，使所述驱动层根据所述指令数据和参数数据进行初始化；

调用第二指令使所述驱动层接收所述输入计算图，调用第三指令通知所述驱动层根据所述指令数据驱动所述空闲的硬件层计算所述输入计算图和参数数据以得到输出计算图。

一方面，本发明实施例还提供了一种基于神经网络的指令交互系统，该指令交互系统包括：

守护进程模块，用于检查是否存在空闲的硬件层，在存在所述空闲的硬件层的情况下，使用所述空闲的硬件层，并标记所述空闲的硬件层已占用；

模型解析模块，用于解析预设神经网络模型得到结构数据和参数数据并预处理输入计算图；

指令生成模块，用于解析所述结构数据得到驱动层可识别的指令数据；

指令调用模块，用于调用第一指令使所述驱动层接收所述参数数据和指令数据，使所述驱动层根据所述指令数据和参数数据进行初始化，用于调用第二指令使所述驱动层接收所述输入计算图，还用于调用所述第三指令通知所述驱动层根据所述指令数据驱动所述空闲的硬件层计算所述输入计算图和参数数据以得到输出计算图。

另一方面，本发明实施例还提供了一种基于神经网络的指令交互设备，该指令交互设备包括：

一个或多个处理器；

存储装置，用于存储一个或多个程序，

当所述一个或多个程序被所述一个或多个处理器执行，使得所述一个或多个处理器实现如本发明任一实施例提供的指令交互方法。

又一方面，本发明实施例还提供了一种计算机可读存储介质，该计算机可读存储介质上存储有计算机程序，该计算机程序被处理器执行时实现如本发明任一实施例提供的指令交互方法。