[发明专利]一种应用建模及性能预测方法

说明书

本发明提供一种应用程序建模及性能预测方法，所述应用建模方法包括：从应用经编译得到的指令中获得计算指令和访存指令，根据运行所述应用的机器的体系结构特征建模计算指令和访存指令的执行，得出计算指令和访存指令的时间开销；以及根据所述体系结构特征建模所述应用在访存阶段的规则访存和/或非规则访存，得出规则访存和/或非规则访存的时间开销；以及，计算所述应用的访存阶段的时间开销。本发明能够准确且效率地预测应用性能，从而帮助应用开发者找到应用瓶颈并采取相对的优化方案。

技术领域

本发明涉及应用优化领域，尤其涉及一种应用建模以及预测应用性能的方法。

背景技术

随着半导体工艺的进步，具有多级Cache(多级缓存)系统的处理器已经成为当前处理器的主流，处理器内缓存组件的增加满足了应用对访存局部性的需求。然而，由于当前处理器的设计越来越复杂并且Cache的大小、层次各有差异，当应用运行在具有不同体系结构的机器上时，其运行速度也不同。如何准确地预测应用在不同体系结构的机器上的性能，并且根据预测性能来优化应用是当前的研究热点之一。

目前，已有一些模型可以用来预测应用的性能，如Roofline模型，该模型能够描述应用计算访存比和带宽的关系，并且预测应用的峰值性能。然而，Roofline模型没有考虑Cache的层次，因此对应用性能的预测不够准确。Holger等人提出的ECM(Execution-Cache-Memory)模型将应用的运行划分为in-core(核内)和out-core(核外)两个阶段，反映了应用在核内的计算以及在内存层次之间的传输。然而，ECM模型没有区分各级Cache(例如，L1Cache-L3Cache)，其将每一级Cache上的缺失(Cache Miss)次数计为相同，对于存在数据重用的应用或者数据规模较小的应用来说，ECM模型无法准确地预测出应用的性能。

发明内容

为解决上述现有技术中存在的问题，根据本发明的一个实施例，提供一种应用建模方法，包括：从应用经编译得到的指令中获得计算指令和访存指令，根据运行所述应用的机器的体系结构特征建模计算指令和访存指令的执行，得出计算指令和访存指令的时间开销；以及根据所述体系结构特征建模所述应用在访存阶段的规则访存和/或非规则访存，得出规则访存和/或非规则访存的时间开销；以及，计算所述应用的访存阶段的时间开销。

上述方法中，根据运行所述应用的机器的体系结构特征建模计算指令和访存指令的执行，得出计算指令和访存指令的时间开销包括：

根据运行所述应用的机器的体系结构特征，模拟计算指令在相应的一个或多个执行端口上的执行并且模拟访存指令在相应的一个或多个执行端口上的执行，计算每个执行端口的指令执行时间；以及从执行计算指令的一个或多个执行端口的指令执行时间中，选择最长的指令执行时间作为计算指令的时间开销，并且从执行访存指令的一个或多个执行端口的指令执行时间中，选择最长的指令执行时间作为访存指令的时间开销。

上述方法中，根据所述体系结构特征建模所述应用在访存阶段的规则访存，得出规则访存的时间开销包括：

步骤1)根据所述体系结构特征得到各级Cache的预取策略，分析所述应用获得规则访存所涉及的数据量；

步骤2)基于所述各级Cache的预取策略和所述数据量计算各级Cache的缺失次数；

步骤3)根据各级Cache的缺失次数、Cache之间的带宽以及主存与最高级别的Cache之间的带宽、Cache Line的大小，计算Cache之间以及主存与最高级别的Cache之间的数据传输时间开销；

步骤4)将Cache之间的数据传输时间开销相加，并且加上主存与最高级别的Cache之间的数据传输时间开销，得到规则访存的时间开销。

在步骤3)中，根据下式计算Cache之间以及主存与最高级别的Cache之间的数据传输时间开销：