[发明专利]面向非规则数据密集应用的群组式线程预取方法

说明书

本发明提出了一种面向非规则数据密集应用的群组式线程预取方法，采用在线剖析技术获取非规则数据密集应用的执行时特征，确定合理的预取率构建群组式预取线程实现有效数据预取，包括非规则数据访存特征剖析、群组式预取线程构建及线程同步机制的确立。本发明基于片上多核处理器环境中面向非规则数据密集应用执行数据预取，能确保及时准确地发出预取请求，减少无用数据预取和线程之间的共享资源竞争，预取线程构建能量消耗较低，并具有较好的实用性和灵活性。

技术领域

本发明涉及高性能计算的技术领域，具体涉及一种面向非规则数据密集应用的群组式线程预取方法，面向非规则数据密集应用基于共享缓存实现线程数据的存取。

背景技术

现有的数据预取方法都依赖于密集数据访问的规律性。面向非规则数据密集应用的群组式线程预取（Group Thread Prefetching，GTP）方法设计的主要目的是为复杂的非规律密集数据访问提供一种有效的数据预取策略，广泛地应用于高性能计算与分布式计算领域，如信号处理程序、流体力学计算、生物信息计算、社会学统筹问题计算等。简单地说，GTP方法通过在线剖析技术为非规则数据密集应用在多核处理器环境下分析出访存和计算延迟特征，该特征决定了辅助线程能够隐藏的访存延迟比例。根据访存延迟比例分配预取数据群组，避免无用数据预取和缓存污染。

非规则数据密集应用中通常采用复杂的数据存储结构，例如链式数据存储结构。一方面，复杂的数据存储结构使得数据访问不具备时间局部性特征和空间局部性特征，传统的硬件预取技术无法准确预测预取数据地址，其有效性难以保证。另一方面，复杂的数据存储结构中，数据间常存在依赖和约束关系，传统的软件预取技术无法提前发出数据预取请求，难以做到及时预取。面向非规则数据密集应用的预取技术能够有效解除数据间的依赖和约束关系，达到有效地预取。

线程预取技术是用来隐藏多核平台中访存延迟的有效方法，目前已经在数据密集应用程序中得到了广泛应用。线程预取技术使用一个专门线程辅助主线程提前把数据取到高速缓存中。目前，辅助线程预取技术以提高预取准确率和时效性为目的，研究的着重点主要集中在辅助线程构造、辅助线程启动和触发、辅助线程与主线程间的同步机制几个方面。在面向非规则数据密集应用时，辅助线程不能总是领先于主线程执行或辅助线程领先于主线程执行的太多，导致辅助线程不能及时地给主线程提供有用的数据。GTP方法根据辅助线程能够隐藏的访存延迟比例分配预取数据群组，达到尽早发出预取请求、避免无用数据预取和提高预取时效性的目的。

鉴于目前研究的线程预取技术，其辅助线程构造方式不适合用于访问依赖的非规则数据密集应用，在现有的技术中还没有面向非规则数据密集应用的群组式线程预取方法。

发明内容

为了解决现有非规则数据密集应用中数据间的依赖性和约束性，本发明提出一种面向非规则数据密集应用的群组式线程预取方法，基于共享缓存为非规则数据密集应用构建群组式预取线程，保障数据预取的有效性。

为了解决上述技术问题，本发明的技术方案是：一种面向非规则数据密集应用的群组式线程预取方法，采用在线剖析技术获取非规则数据密集应用的执行时特征，确定合理的预取率构建群组式预取线程实现有效数据预取，其步骤如下：包括非规则数据访存特征剖析、群组式预取线程构建及线程预取中同步机制的确立；

所述非规则数据访存特征剖析包括：

A）使用VTUNE性能分析器获取非规则数据密集应用的执行行为特征；

B）使用VTUNE性能分析器获取热点循环相对延迟的计算延迟T_C、循环依赖数据访问延迟T_dm和非循环依赖数据访问延迟T_im值；

所述群组式预取线程构建包括：