[发明专利]异构计算系统的自动调谐

说明书

本发明提供了一种在异构计算系统中在计算程序的运行时间期间配置程序参数以用于计算的方法，在自动调谐系统中处理编译程序，以优化应用的参数，以便在包括例如CPU和GPU核心的异构系统中进行处理。

技术领域

本发明涉及具有不同类型处理器的计算系统，以及一种用于对不同任务进行布置以在处理器之间划分将不同任务安排在处理器之间以有效方式进行并行计算的技术。

背景技术

这种异构计算系统包括超级计算机(也称为高性能计算机)，其包括CPU(中央处理单元)和GPU(图形处理单元)核心二者。还可以提供另外的专用计算单元，如FPGA(现场可编程门阵列)、DSP(数字信号处理器)和量子计算单元。

单独的计算任务可能比另一个更适合在一种类型的处理器上执行，并且布置不同的任务并行处理可能是相当大的任务。布置任务由不同单元处理以优化并行化程度被称为调谐。调谐可以是“离线”的，在运行前执行，也可以是“在线”的，在运行时间期间执行。虽然程序开发人员能够使用他们的技能和知识来实现调谐，但这种手动调谐是很耗时的。自动地调谐，或自动调谐，是期望的发展。

例如，在Siegfried Benkner等人的《Automatic Application Tuning for HPCArchitectures》中描述了自动调谐，来自Dagstuhl研讨会13401，2014年9月29日至10月4日，第214-243页，https://www.dagstuhl.de/13401的报告，出于所有目的而通过引用并入。

在线自动调谐的问题是，系统用户可能经历运行时间增加，因为系统在搜索最佳配置期间实现不同的配置。

发明内容

本发明提供了一种执行在线自动调谐的方法，该方法与已知的在线调谐技术相当，同时减少所需的运行时间。

本发明提供了一种在异构计算系统中在计算程序的运行时间期间配置程序参数以用于计算的方法，该方法包括：接收计算程序的转换，该转换包括一个或多个计算应用；针对每个计算应用生成一个或多个调谐参数，该一个或多个调谐参数被分类；以及对于待优化的计算应用，在运行时间期间递归地执行以下操作：调整计算应用的一个或多个调谐参数，使用经调整的一个或多个调谐参数执行计算应用，获得针对使用经调整的一个或多个调谐参数执行计算应用的性能指标，并确定经调整的一个或多个调谐参数是否提供关于性能度量的改进以及是否已满足终止标准以结束调整，其中，存储计算应用被优化的动态状态的指标特性，该指标在优化中用于确定已知优化是否可用于由存储的指标指示的动态状态。

在另一方面，本发明提供了一种计算实体，其被编程以通过在运行时间期间递归地执行以下操作来优化计算应用：调整计算应用的一个或多个调谐参数，使用经调整的一个或多个调谐参数执行计算应用，针对使用经调整的一个或多个调谐参数执行计算应用来获得性能度量，并确定经调整的一个或多个调谐参数是否提供关于性能度量的改进以及是否已满足终止标准以结束调整，其中，存储计算应用被优化的动态状态的指标特性，该指标在优化中用于确定已知优化是否可用于由存储的指标指示的动态状态。

附图说明

现在将参照附图仅通过示例的方式描述本发明的优选实施方案，其中：

图1示出了根据本发明的编译器和自动调谐系统的示意图；

图2是图1的自动调谐系统的示意图；

图2a是用于在自动调谐期间优化线程数量的计算机代码的示例；

图2b是本发明的自动调谐系统与应用互动的示意图，其中反馈被传递到存储器以更新预测和搜索状态；

图3是自动调谐的搜索策略的操作的示意图，其中配置C的整数值使用镜像轴随时间变化；

图4是提供搜索实现接口界面的计算机代码的示例；