[发明专利]基于张量数据计算推理的编译器优化方法、装置及设备

权利要求书

1.一种基于张量数据计算推理的编译器优化方法，其特征在于，所述基于张量数据计算推理的编译器优化方法包括以下步骤：

获取待优化编译器的设计结构信息，根据所述设计结构信息得到目标中间转换层和目标中间转换层执行操作；

根据所述目标中间转换层设定目标调参学习参数；

根据所述目标中间转换层执行操作确定待优化编译器对象；

通过目标自动调参策略根据所述目标调参学习参数对所述待优化编译器对象进行调参优化。

2.如权利要求1所述的基于张量数据计算推理的编译器优化方法，其特征在于，所述获取待优化编译器的设计结构信息，根据所述设计结构信息得到目标中间转换层和目标中间转换层执行操作，包括：

获取待优化编译器的设计结构信息，根据所述设计结构信息得到对应的分层集合；

根据分层特性在所述分层集合中选取目标中间转换层；

根据所述目标中间转换层获取由目标统一格式中间表示元生成目标自解码的流程；

根据所述由目标统一格式中间表示元生成目标自解码的流程得到目标中间转换层执行操作。

3.如权利要求1所述的基于张量数据计算推理的编译器优化方法，其特征在于，所述目标调参学习参数至少包括调参学习类型、目标学习对象以及目标调参次数；

所述根据所述目标中间转换层设定目标调参学习参数，包括：

获取生成目标自解码的数据交换次数和数据分解性能；

根据所述数据交换次数和所述数据分解性能设定调参学习类型和目标学习对象；

根据所述中间转换层得到参数设定的目标范围，并根据所述目标范围得到参数设定最大值和参数设定最小值；

根据所述参数设定最大值和所述参数设定最小值设定目标调参次数。

4.如权利要求1所述的基于张量数据计算推理的编译器优化方法，其特征在于，所述根据所述目标中间转换层执行操作确定待优化编译器对象，包括：

根据所述中间转换层执行操作得到目标中间层的执行节点；

获取设置在所述目标中间层的各层的数据优化策略；

根据所述执行节点和所述各层的数据优化策略确定各层所需执行的目标操作；

根据所述各层所需执行的目标操作得到待优化编译器对象。

5.如权利要求4所述的基于张量数据计算推理的编译器优化方法，其特征在于，所述根据所述各层所需执行的目标操作得到待优化编译器对象，包括：

根据所述各层所需执行的目标操作获取指定输入模型的计算图；

根据所述指定输入模型的计算图得到各个操作的内存加载数据；

根据所述内存加载数据得到多层操作交互数据；

将所述多层操作交互数据的多层操作作为待优化编译器对象。

6.如权利要求4所述的基于张量数据计算推理的编译器优化方法，其特征在于，所述根据所述各层所需执行的目标操作得到待优化编译器对象，包括：

根据所述各层所需执行的目标操作获取待处理统一格式中间表示元；

根据所述待处理统一格式中间表示元构建目标特征矩阵；

根据所述目标特征矩阵得到矩阵计算时长和矩阵计算占用资源；

在所述矩阵计算时长大于预设时长阈值和/或所述矩阵计算占用资源大于预设存储资源阈值时，将所述矩阵计算时长和所述矩阵计算占用资源作为待优化编译器对象。

7.如权利要求1至6中任一项所述的基于张量数据计算推理的编译器优化方法，其特征在于，所述通过目标自动调参策略根据所述目标调参学习参数对所述待优化编译器对象进行调参优化之后，还包括：

根据所述待优化编译器对象设定对应的初始优化策略；

根据所述目标调参学习参数对所述初始优化策略进行调整；

根据调整后的初始优化策略得到参数优化范围；

通过所述目标自动化调参策略在所述参数优化范围对所述待优化编译器对象进行调参优化，得到与指定输入模型相契合的编译器。