[发明专利]基于设备信息的程序优化方法、装置、电子设备及存储介质

说明书

本公开涉及基于设备信息的程序优化方法、装置、电子设备及存储介质，在本公开实施例中，获取待处理任务；根据处理待处理任务的设备端的信息确定设备端可提供的数据架构集合、运行方式集合以及实现程序语言集合；从数据架构集合、运行方式集合以及实现程序语言集合中分别确定出目标数据架构，目标运行方式和目标实现程序语言；向该设备端发送处理指令，处理指令用于指示设备端根据目标数据架构、目标运行方式和目标实现程序语言，处理待处理任务。如此，不仅设备的优化信息表达在中间表示里，还为多层次的中间表示之间如何做解析转化提供了更便捷的方法。同时，通过优化的中间表示可以使得待处理任务的处理效率得到提高。

技术领域

本公开涉及计算机技术领域，尤其涉及一种基于设备信息的程序优化方法、装置、电子设备及存储介质。

背景技术

随着人工智能领域的发展，越来越多的新型神经网络被研发出来，这些神经网络里包含着各式各样的计算。由于神经网络应用的灵活性，这些计算在计算库里往往没有对应的实现。另外一方面，面对超大规模的人工智能应用市场，以及目前复杂的国际贸易形势，新型国产芯片公司也在研发国产芯片。因此，如何从编译器角度，生成和编译这些计算是一个非常重要的技术问题。

中间表示(intermediate representation，IR)指编译器对于源程序进行扫描后生成的内部表示，代表源程序的语义和语法结构，编译器的各个阶段都在IR上进行分析或优化变换，因而它对编译器的整体结构、效率和健壮性都有着极大的影响。中间表示对提高编译器的可移植性以及代码生成起到关键作用，在编译器的研究中，应该设计一种结构良好的中间表示。然而传统的中间表示设计，并没有考虑到当前要面向多种多样的人工智能芯片(包括NVIDIA图形处理器GPU、AMD图形处理器GPU、曙光数据控制器和寒武纪云端AI芯片MLU等)的场景，因此，在面对越来越多的新型神经网络(即深度学习领域)的时候，其运行效率是不满足需求的。

发明内容

本公开提出了一种基于设备信息的程序优化方法、装置、电子设备及存储介质，用于减少研究员在网络设计和训练花费的时间。

在一些可能的实施例中，本公开提供一种基于设备信息的程序优化方法，该方法包括：

获取待处理任务；

根据处理待处理任务的设备端的信息，确定设备端可提供的数据架构集合、运行方式集合以及实现程序语言集合；数据构架集合中的数据架构用于表征待处理任务的计算逻辑，运行方式集合中的运行方式用于表征处理待处理任务所使用的计算方式、存储方式和串并行处理方式；实现程序语言集合中的实现程序语言用于表征实现该待处理任务的程序语言；

从数据架构集合、运行方式集合以及实现程序语言集合中分别确定出目标数据架构、目标运行方式和目标实现程序语言；

向该设备端发送处理指令，处理指令用于指示设备端根据目标数据架构、目标运行方式和目标实现程序语言，处理待处理任务。

在一些可能的实施例中，向设备端发送处理指令之前，还包括：

获取设备端当前默认的数据架构、当前默认的运行方式以及当前默认的实现程序语言；

该向设备端发送处理指令，包括：

若目标数据架构与当前默认的数据机构不匹配，目标运行方式和当前默认的运行方式不匹配，以及目标实现程序语言和当前默认的实现程序语言不匹配，向设备端发送处理更新指令；

处理更新指令包括由当前默认的数据架构的标识指向目标数据架构的标识的第一指示信息、由当前默认的运行方式的标识指向目标运行方式的标识的第二指示信息、由当前默认的实现程序语言的标识指向目标实现程序语言的标识的第三指示信息。

在一些可能的实施例中，上述数据架构包括张量和计算表达式。