[发明专利]神经网络优化方法、装置、计算机设备及存储介质

权利要求书

1.一种神经网络优化方法，其特征在于，包括：

在神经网络模型对应的计算图中提取胶水子图；其中，所述胶水子图是包含胶水算子的子图；所述胶水算子用于对所述计算图的张量数据进行调整；

在确保所述胶水子图的输入张量数据、输出张量数据不变的情况下，对所述计算图中的所述胶水子图进行处理，获得重构结果子图集合；其中，所述重构结果子图集合中的任意一个重构结果子图的输入张量数据和输出张量数据分别与所述胶水子图的输入张量数据和输出张量数据相同；

从所述重构结果子图集合中确定目标子图；

将所述目标子图替换所述计算图中对应的胶水子图，获取优化后的计算图；

根据所述优化后的计算图获取对应的二进制指令，以分配至对应人工智能处理器上执行任务。

2.根据权利要求1所述的方法，其特征在于，所述对所述计算图中的所述胶水子图进行处理，获得重构结果子图集合，包括：

根据胶水算子的逻辑关系对所述胶水子图进行扩充，获得扩充后的胶水子图；

对所述扩充后的胶水子图进行转换，得到与胶水算子关联的张量数据的状态集合图；

遍历所述状态集合图，获得所述重构结果子图集合。

3.根据权利要求2所述的方法，其特征在于，所述根据胶水算子的逻辑关系对所述胶水子图进行扩充，获得扩充后的胶水子图，包括：

根据等效规则对所述胶水子图中胶水算子之间的逻辑关系进行扩充，获得与所述胶水子图的语义等价的逻辑关系；

根据与所述胶水子图的语义等价的逻辑关系对所述胶水子图进行扩充，获得所述扩充后的胶水子图。

4.根据权利要求3所述的方法，其特征在于，所述等效规则包括reshape算子的等效规则、transpose算子的等效规则、concat算子的等效规则、split算子的等效规则中的至少一种。

5.根据权利要求3所述的方法，其特征在于，所述根据等效规则对所述胶水子图中胶水算子之间的逻辑关系进行扩充，包括：

对所述逻辑关系对应的算子序列进行变换，根据所述等效规则，确保获得所有与所述胶水子图的语义等价的逻辑关系。

6.根据权利要求2所述的方法，其特征在于，所述对所述扩充后的胶水子图进行转换，得到与胶水算子关联的张量数据的状态集合图，包括：

确定所述扩充后的胶水子图中的胶水算子的类型以及所述胶水算子之间的逻辑关系；

基于所述扩充后的胶水子图中的胶水算子的类型以及所述胶水算子之间的逻辑关系，根据所述扩充后的胶水子图中的胶水算子对应的输入张量数据确定对应的输出张量数据；

根据所述扩充后的胶水子图中的胶水算子的输入张量数据和输出张量数据确定与胶水算子关联的张量数据的状态集合图。

7.根据权利要求2所述的方法，其特征在于，所述从所述重构结果子图集合中确定目标子图，包括：

根据所述重构结果子图集合中权重和最小的重构结果子图确定为所述目标子图；或

根据所述重构结果子图集合中权重和小于预设阈值的重构结果子图确定为所述目标子图。

8.一种神经网络优化装置，其特征在于，包括：

提取单元，用于在神经网络模型对应的计算图中提取胶水子图；其中，所述胶水子图是包含胶水算子的子图；所述胶水算子用于对所述计算图的张量数据进行调整；

处理单元，用于在确保所述胶水子图的输入张量数据、输出张量数据不变的情况下，对所述计算图中的所述胶水子图进行处理，获得重构结果子图集合；其中，所述重构结果子图集合中的任意一个重构结果子图的输入张量数据和输出张量数据分别与所述胶水子图的输入张量数据和输出张量数据相同；

确定单元，用于从所述重构结果子图集合中确定目标子图；

优化单元，用于将所述目标子图替换所述计算图中对应的胶水子图，获取优化后的计算图；

执行单元，用于根据所述优化后的计算图获取对应的二进制指令，以分配至对应人工智能处理器上执行任务。