[发明专利]一种适用于华为昇腾芯片的高性能算子生成方法

权利要求书

1.一种适用于华为昇腾芯片的高性能算子生成方法，其特征在于，包括：

在目标开发方式下，生成多个候选操作函数，其中，所述目标开发方式是基于昇腾人工智能处理器的张量加速引擎算子开发框架确定的张量迭代器内核开发方式，所述多个候选操作函数包括：数据搬运函数、精度向量计算函数、规约向量计算函数、数据填充函数、浮点数标量比较函数、除法计算函数；

从所述多个候选操作函数选取待使用的目标操作函数；

利用所述目标操作函数和目标操作数据执行目标操作，得到目标操作结果；

其中，利用所述目标操作函数和所述目标操作数据执行目标操作，得到所述目标操作结果包括：基于与所述目标操作函数相关联的所述目标操作数据执行所述目标操作函数对应的目标操作，得到所述目标操作结果。

2.根据权利要求1所述的适用于华为昇腾芯片的高性能算子生成方法，其特征在于，从所述多个候选操作函数选取所述目标操作函数包括：

从所述多个候选操作函数选取所述数据搬运函数。

3.根据权利要求2所述的适用于华为昇腾芯片的高性能算子生成方法，其特征在于，基于与所述目标操作函数相关联的所述目标操作数据执行所述目标操作函数对应的目标操作包括：

获取所述目标操作数据，其中，所述目标操作数据包括：第一源操作数、第一目的操作数和数据长度；

利用所述数据搬运函数、所述第一源操作数、所述第一目的操作数和所述数据长度执行数据搬运操作，得到数据搬运结果。

4.根据权利要求3所述的适用于华为昇腾芯片的高性能算子生成方法，其特征在于，利用所述数据搬运函数、所述第一源操作数、所述第一目的操作数和所述数据长度执行数据搬运操作，得到所述数据搬运结果包括：

利用所述数据长度对所述第一源操作数进行分块处理，得到分块结果；

当基于所述分块结果确定不存在尾块时，通过所述数据搬运函数和所述分块结果将所述第一源操作数搬运至所述第一目的操作数，得到所述数据搬运结果；

当基于所述分块结果确定存在所述尾块时，按照所述第一源操作数与所述第一目的操作数的存储位置确定目标搬运方式，并通过所述数据搬运函数和所述目标搬运方式将所述第一源操作数搬运至所述第一目的操作数，得到所述数据搬运结果。

5.根据权利要求1所述的适用于华为昇腾芯片的高性能算子生成方法，其特征在于，从所述多个候选操作函数选取所述目标操作函数包括：

从所述多个候选操作函数选取所述精度向量计算函数。

6.根据权利要求5所述的适用于华为昇腾芯片的高性能算子生成方法，其特征在于，基于与所述目标操作函数相关联的所述目标操作数据执行所述目标操作函数对应的目标操作包括：

获取所述目标操作数据，其中，所述目标操作数据包括：第二源操作数、第二目的操作数和第一指令名称；

利用所述精度向量计算函数、所述第二源操作数、所述第二目的操作数和所述第一指令名称执行精度向量计算操作，得到精度向量计算结果。

7.根据权利要求6所述的适用于华为昇腾芯片的高性能算子生成方法，其特征在于，利用所述精度向量计算函数、所述第二源操作数、所述第二目的操作数和所述第一指令名称执行精度向量计算操作，得到所述精度向量计算结果包括：

当所述第二源操作数未位于全局内存时，确定精度向量计算次数，利用所述精度向量计算函数和所述第一指令名称对所述第二源操作数进行精度向量计算操作以得到所述精度向量计算结果，并将所述精度向量计算结果搬运至所述第二目的操作数；

当所述第二源操作数位于全局内存时，对所述第二源操作数进行多核优化处理以得到优化处理结果，确定精度向量计算次数，利用所述精度向量计算函数和所述第一指令名称对所述优化处理结果进行精度向量计算操作以得到所述精度向量计算结果，并将所述精度向量计算结果搬运至所述第二目的操作数。

8.根据权利要求1所述的适用于华为昇腾芯片的高性能算子生成方法，其特征在于，从所述多个候选操作函数选取所述目标操作函数包括：

从所述多个候选操作函数选取所述规约向量计算函数。