[发明专利]基于张量数据计算推理的编译器优化方法、装置及设备

说明书

本发明涉及深度学习技术领域，公开了一种基于张量数据计算推理的编译器优化方法、装置及设备，所述方法包括：根据待优化编译器的设计结构信息得到目标中间转换层和目标中间转换层执行操作；根据目标中间转换层设定目标调参学习参数；根据目标中间转换层执行操作确定待优化编译器对象；通过目标自动调参策略根据目标调参学习参数对待优化编译器对象进行调参优化；通过上述方式，根据目标中间转换层设定目标调参学习参数，以及根据目标中间转换层执行操作确定待优化编译器对象，然后通过标自动调参策略以目标调参学习参数角度对待优化编译器对象进行调参优化，从而能够得到与指定输入模型相契合的编译器，进而有效提高张量数据推理的效率。

技术领域

本发明涉及深度学习技术领域，尤其涉及基于张量数据计算推理的编译器优化方法、装置及设备。

背景技术

随着人工智能的不断发展，使得深度学习技术在各行各样受到了广泛应用，而深度学习的应用就离不开推理框架，例如，TensorFlow、PyTorch以及TNN等框架，但是不同的推理框架的功能不同，例如，TensorFlow和PyTorch是平台级框架，可用于训练和推理，而TNN框架只能用于推理，无论是哪种功能的框架，在其背后均适配了一些相关加速设备，为了便于对张量数据的推理，引入了编译器的概念，即通过编译器对开发者开发的模型进行一系列操作，但是编译器针对不同的模型的操作方式不同，如果不及时优化编译器，会造成编译器与指定输入的模型不契合，造成张量数据推理的效率较低。

上述内容仅用于辅助理解本发明的技术方案，并不代表承认上述内容是现有技术。

发明内容

本发明的主要目的在于提供一种基于张量数据计算推理的编译器优化方法、装置及设备，旨在解决现有技术无法得到与指定输入模型相契合的编译器，造成张量数据推理的效率较低的技术问题。

为实现上述目的，本发明提供了一种基于张量数据计算推理的编译器优化方法，所述基于张量数据计算推理的编译器优化方法包括以下步骤：

获取待优化编译器的设计结构信息，根据所述设计结构信息得到目标中间转换层和目标中间转换层执行操作；

根据所述目标中间转换层设定目标调参学习参数；

根据所述目标中间转换层执行操作确定待优化编译器对象；

通过目标自动调参策略根据所述目标调参学习参数对所述待优化编译器对象进行调参优化。

可选地，所述获取待优化编译器的设计结构信息，根据所述设计结构信息得到目标中间转换层和目标中间转换层执行操作，包括：

获取待优化编译器的设计结构信息，根据所述设计结构信息得到对应的分层集合；

根据分层特性在所述分层集合中选取目标中间转换层；

根据所述目标中间转换层获取由目标统一格式中间表示元生成目标自解码的流程；

根据所述由目标统一格式中间表示元生成目标自解码的流程得到目标中间转换层执行操作。

可选地，所述目标调参学习参数至少包括调参学习类型、目标学习对象以及目标调参次数；

所述根据所述目标中间转换层设定目标调参学习参数，包括：

获取生成目标自解码的数据交换次数和数据分解性能；

根据所述数据交换次数和所述数据分解性能设定调参学习类型和目标学习对象；

根据所述目标中间转换层得到参数设定的目标范围，并根据所述目标范围得到参数设定最大值和参数设定最小值；

根据所述参数设定最大值和所述参数设定最小值设定目标调参次数。

可选地，所述根据所述目标中间转换层执行操作确定待优化编译器对象，包括：