[发明专利]面向非规则数据密集应用的群组式线程预取方法

摘要

本发明提出了一种面向非规则数据密集应用的群组式线程预取方法，采用在线剖析技术获取非规则数据密集应用的执行时特征，确定合理的预取率构建群组式预取线程实现有效数据预取，包括非规则数据访存特征剖析、群组式预取线程构建及线程同步机制的确立。本发明基于片上多核处理器环境中面向非规则数据密集应用执行数据预取，能确保及时准确地发出预取请求，减少无用数据预取和线程之间的共享资源竞争，预取线程构建能量消耗较低，并具有较好的实用性和灵活性。

主权项

1.一种面向非规则数据密集应用的群组式线程预取方法，其特征在于，采用在线剖析技术获取非规则数据密集应用的执行时特征，确定合理的预取率构建群组式预取线程实现有效数据预取，其步骤如下：包括非规则数据访存特征剖析、群组式预取线程构建及线程预取中同步机制的确立；所述非规则数据访存特征剖析包括：A）使用VTUNE性能分析器获取非规则数据密集应用的执行行为特征；B）使用VTUNE性能分析器获取热点循环相对延迟的计算延迟T_C、循环依赖数据访问延迟T_dm和非循环依赖数据访问延迟T_im值；所述群组式预取线程构建包括：C） 判断计算延迟T_C和循环依赖数据访问延迟与非循环依赖数据访问延迟之和(T_dm＋T_im) 的关系；D） 当T_C＜(T_dm＋T_im)时，基于理想情况下确定合理的预取率R= (T_C＋T_im ‑T_dm)/2；当T_C≥(T_dm＋T_im)时，预取率R值等于1；E） 利用切片技术基于预取率R构建群组式预取线程；群组式线程预取方法根据辅助线程能够隐藏的访存延迟比例分配预取数据群组；首先使用程序profile工具VTUNE性能分析器在运行时测试代码的长延迟的访存指令，并以profile文件的形式保存下来；其次，编译器根据profile文件信息和选定的循环区域将要预取的关键指令抽取出来即根据预取率只选择部分循环依赖取数指令，并保留对循环结构有影响的代码，删除其它非关键的代码，完成切片形成辅助线程的代码块；最后，将切片后的代码移植到辅助线程中，在主线程中插入辅助线程触发指令，并在辅助线程和主线程中插入同步代码块，保证帮助线程正常而有效的执行；所述线程预取中同步机制的确立包括：F） 在主线程热点循环入口处设置标志位flag为1，向预取线程发出信号，通知预取线程开始预取工作；在主线程热点循环出口处设置标志位flag为0，向预取线程发送暂停信号，通知预取线程暂停预取，等待下一次预取信号。