[发明专利]一种确定最优运算通路的方法、装置及介质

权利要求书

1.一种确定最优运算通路的方法，其特征在于，包括：

根据神经网络模型确定模型运算拓扑图，所述模型运算拓扑图包括多个运算节点，所述运算节点位于运算装置上；所述运算装置为中央处理器、图像处理器、数字信号处理设备、加速处理器和/或神经网络处理器；

为所述模型运算拓扑图中的每个运算节点，选择与该运算节点的运算类型相同的多个算子，为每个算子创建相应的算子节点；

根据所述模型运算拓扑图中各个运算节点之间的连接关系，基于所创建的算子节点构建算子拓扑图；

确定每个算子节点的运算指标，基于各算子节点的运算指标对所述算子拓扑图进行加权，获得加权算子拓扑图；

在所述加权算子拓扑图中选择最优运算通路。

2.如权利要求1所述的方法，其特征在于，

所述确定每个算子节点的运算指标，包括：

确定算子节点的参考运算能力；

根据所述算子节点的参考运算能力、所述算子节点对应的运算节点的输入数据块和指标计算函数，计算所述算子节点的运算指标。

3.如权利要求2所述的方法，其特征在于，

所述方法还包括：确定算子的参考运算能力；

所述确定算子节点的参考运算能力，包括：将所述算子节点的相应算子的参考运算能力作为所述算子节点的参考运算能力；

所述确定算子的参考运算能力包括以下中的一种：

使用设定数据量的测试数据对算子进行运算能力测试，将测试结果作为所述算子的参考运算能力；

使用不同数据量的测试数据对算子进行运算能力测试，将各测试结果的平均值作为所述算子的参考运算能力。

4.如权利要求1所述的方法，其特征在于，

所述基于各算子节点的运算指标对所述算子拓扑图进行加权，包括以下中的一种：

根据每个算子节点的运算指标确定所述算子节点与前向相邻算子节点构成的前向边的运算指标；

根据每个算子节点的运算指标确定所述算子节点与后向相邻算子节点构成的后向边的运算指标。

5.如权利要求1所述的方法，其特征在于，

所述在加权后的算子拓扑图中选择最优运算通路，包括：

在所述模型运算拓扑图中具有一个以上运算通路时，将所述模型运算拓扑图划分成多个子拓扑图；所述多个子拓扑图包括一个主路子拓扑图和至少一个支路子拓扑图；所述支路子拓扑图的头部运算节点和尾部运算节点均属于所述主路子拓扑图；

根据所述主路子拓扑图和所述支路子拓扑图在加权后的算子拓扑图中选择最优运算通路。

6.如权利要求5所述的方法，其特征在于，

根据所述主路子拓扑图和所述支路子拓扑图在加权后的算子拓扑图中选择最优运算通路，包括以下中的一种：

确定所述主路子拓扑图对应的主路加权算子拓扑图，确定所述主路加权算子拓扑图中的所有运算节点的最优算子节点，根据确定出的最优算子节点确定主路最优运算通路；对于每个支路子拓扑图，确定除头部运算节点和尾部运算节点之外的运算节点对应的最优算子节点，根据确定出的最优算子节点、所述头部运算节点的最优算子节点和所述尾部运算节点的最优算子节点确定支路最优运算通路；将所述主路最优运算通路和所述支路最优运算通路组成最优运算通路；

确定所述主路子拓扑图对应的主路加权算子拓扑图，确定所述主路加权算子拓扑图中的每个运算节点对应的最优算子节点；对于每个支路子拓扑图，确定除头部运算节点和尾部运算节点之外的每个运算节点对应的最优算子节点；根据确定出的最优算子节点构成最优运算通路。