[发明专利]数据处理方法、调度器、处理器、芯片、电子设备

说明书

本公开实施例提供一种数据处理方法、芯片、电子设备，所述方法包括：获取多个算子之间的依赖关系；基于多个算子之间的依赖关系为所述多个算子中的每个算子生成启动命令，一个算子的启动命令中包括用于标识所述算子被分配到的命令流的流标识信息以及用于标识所述算子所依赖的其他算子的算子标识信息；将所述多个算子的启动命令发送至调度器，以使调度器基于所述多个算子的启动命令确定所述多个算子中每个算子被调度到的执行单元的信息，被调度到不同的执行单元的算子可并行执行。

技术领域

本公开涉及芯片技术领域，尤其涉及数据处理方法、调度器、处理器、芯片、电子设备。

背景技术

相关技术中，一般采用算子执行运算，算子的种类多种多样，在一些复杂的运算中，算子之间可能存在依赖关系，也可能不存在依赖关系。不存在依赖关系的算子是可以并行执行的。然而，相关技术中，一般会将不存在依赖关系的算子分配到不同的命令流中，而将存在依赖关系的算子分配到同一个命令流中，也就是说，只有分配到不同命令流的算子可以并行执行，分配到同一个命令流的算子只能串行执行。因此，为了提高算子执行的并行度，编程人员在编程时，需要创建多个命令流，导致编程的复杂度较高。

发明内容

第一方面，本公开实施例提供一种数据处理方法，应用于处理器，所述方法包括：获取多个算子之间的依赖关系；基于所述多个算子之间的依赖关系为所述多个算子中的每个算子生成启动命令，一个算子的启动命令中包括用于标识所述算子被分配到的命令流的流标识信息以及用于标识所述算子所依赖的其他算子的算子标识信息；将所述多个算子的启动命令发送至调度器，以使所述调度器基于所述多个算子的启动命令确定所述多个算子中每个算子被调度到的执行单元的信息，被调度到不同的执行单元的算子可并行执行。

在一些实施例中，将所述多个算子的启动命令发送至调度器，包括：将所述多个算子中每个算子的启动命令封装成命令包，所述流标识信息和所述算子标识信息包括在所述命令包的包身中。

在一些实施例中，所述方法还包括：获取所述多个算子中的每个算子的执行信息；将所述多个算子的执行信息发送至所述调度器，以使所述调度器基于所述多个算子的启动命令和所述多个算子的执行信息，确定所述多个算子中每个算子被调度到的执行单元的信息。

在一些实施例中，一个算子的执行信息包括所述算子的执行时长和/或所述算子被执行时所需的算力。

在一些实施例中，被分配到同一个命令流，且不存在依赖关系的至少两个算子被调度到不同的执行单元。

在一些实施例中，所述获取多个算子之间的依赖关系，包括：对预先生成的有向无环图进行解析，得到所述多个算子之间的依赖关系，所述有向无环图的每个节点表征一个算子，所述有向无环图的每条边表示算子之间的依赖关系。

在一些实施例中，所述多个算子中不存在依赖关系的至少两个算子被分配到同一个命令流。

第二方面，本公开实施例提供一种数据处理方法，应用于调度器，所述方法包括：获取处理器发送的多个算子中每个算子的启动命令，一个启动命令中包括用于标识所述算子被分配到的命令流的流标识信息以及用于标识所述算子所依赖的其他算子的算子标识信息；基于所述启动命令确定所述多个算子中每个算子被调度到的执行单元的信息，被调度到不同的执行单元的算子可并行执行。

在一些实施例中，所述方法还包括：获取所述处理器发送的所述多个算子中的每个算子的执行信息；所述基于所述启动命令确定所述多个算子中每个算子被调度到的执行单元的信息，包括：基于所述多个算子的启动命令和所述多个算子的执行信息，确定所述多个算子中每个算子被调度到的执行单元的信息。

在一些实施例中，一个算子的执行信息包括所述算子的执行时长和/或所述算子被执行时所需的算力。

在一些实施例中，被分配到同一个命令流，且不存在依赖关系的至少两个算子被调度到不同的执行单元。