[发明专利]优化计算图的布局格式的方法、系统、设备和介质

权利要求书

1.一种优化计算图的布局格式的方法，包括：

基于计算图中的算子被期望执行的次数信息来计算多个布局格式下的各个算子的多个总成本函数；

通过比较得到所述多个总成本函数中最少的总成本函数从而确定以多个布局格式中与所述最少的总成本函数对应的布局格式来优化计算图。

2.根据权利要求1所述的方法，其中，所述计算图中的算子被期望执行的次数信息包括在条件分支的情况下所述算子被分支执行的概率或在循环迭代的情况下所述算子被循环迭代的次数。

3.根据权利要求2所述的方法，其中，所述计算图中的算子被期望执行的次数信息基于计算图的简档信息来计算，其中，所述算子被分支执行的概率等于该算子被分支执行的次数除以条件分支算子被执行的次数，所述算子被循环迭代的次数等于负责执行下一个迭代的算子被执行的次数加1后除以负责开始进入循环的算子被执行的次数。

4.根据权利要求3所述的方法，其中，所述基于计算图中的算子被期望执行的次数信息来计算多个布局格式下的各个算子的多个总成本函数包括：

通过多个布局格式中的每个布局格式下的所述计算图中的算子的成本函数分别乘以所述计算图中的算子被期望执行的次数信息加上其他各个算子的成本函数。

5.根据权利要求1或4所述的方法，其中，所述成本函数包括耗时。

6.一种优化计算图的布局格式的系统，包括：

计算装置，被配置为基于计算图中的算子被期望执行的次数信息来计算多个布局格式下的各个算子的多个总成本函数；

确定装置，被配置为通过比较得到所述多个总成本函数中最少的总成本函数从而确定以多个布局格式中与所述最少的总成本函数对应的布局格式来优化计算图。

7.根据权利要求6所述的系统，其中，所述计算图中的算子被期望执行的次数信息包括在条件分支的情况下所述算子被分支执行的概率或在循环迭代的情况下所述算子被循环迭代的次数。

8.根据权利要求7所述的系统，其中，所述计算装置被配置为基于计算图的简档信息来计算所述计算图中的算子被期望执行的次数信息，其中，所述算子被分支执行的概率等于该算子被分支执行的次数除以条件分支算子被执行的次数，所述算子被循环迭代的次数等于负责执行下一个迭代的算子被执行的次数加1后除以负责开始进入循环的算子被执行的次数。

9.根据权利要求8所述的系统，其中，所述计算装置被配置为：

通过多个布局格式中的每个布局格式下的所述计算图中的算子的成本函数分别乘以所述计算图中的算子被期望执行的次数信息加上其他各个算子的成本函数。

10.根据权利要求6或9所述的系统，其中，所述成本函数包括耗时。

11.一种电子设备，包括：

存储器，用于存储指令；

处理器，用于读取所述存储器中的指令，并执行如权利要求1-5中任一项所述的方法。

12.一种非暂时存储介质，其上存储有指令，

其中，所述指令在被处理器读取时，使得所述处理器执行如权利要求1-5中任一项所述的方法。