[发明专利]基于kernel函数的时间开销模型构建方法及系统

摘要

本发明公开一种基于kernel函数的时间开销模型构建方法及系统，首先将并行程序kernel函数的开销时间分为线程块的分配时间和kernel函数的执行时间两个部分，然后分别对这两部分时间进行分析，构建相应的时间方程；其中执行时间部分充分考虑到了计算与访存的重叠以及可能出现的各种情况，并提出两个并行度参数来对kernel函数的执行时间进行表示；最后将这两部分时间进行叠加，得到最终的kernel函数时间开销模型。用户通过该模型能够得到应用程序在GPU上的运行时间，便于广大用户及时分析待移植的程序，合理安排工作，同时也有利于GPU的有效利用，避免经济与时间上的损失。

主权项

1.一种基于kernel函数的时间开销模型构建方法，其特征在于，包括：S1、根据GPU的硬件结构和待移植的并行程序构造warp访存并行度WMPD，并计算所述并行程序在GPU上并行运行之前，kernel函数中的线程块block分配到GPU架构中流多处理器SM上的时间，记为分配时间；S2、根据所述warp访存并行度WMPD计算所述并行程序在GPU上的实际执行时间，记为执行时间；S3、根据所述分配时间和执行时间构建基于GPU编程模型中kernel函数的时间开销模型；其中，所述WMPD的计算公式为其中，N_{Max_Active_Blocks_per_SM}为每个SM上最大活动线程块数量，dGrid为线程块的总数量，N_SMs为GPU架构中流多处理器的数量，dBlock为每个线程块中线程的数量，warpSize为每个warp中的线程数目；所述分配时间T_init的计算公式为T_init＝dGrid×T_allo，其中，T_allo为每个线程块被分配到SM上的时间；所述执行时间T_GPU的计算公式为其中，T_C为每个线程的计算时间，T_C＝Comp_Cycle×Comp_insts，Comp_Cycle为执行每条计算语句的时间，Comp_insts为每个线程中计算指令数，N_Threads为线程的总数量，N为每个流多处理器上分配到的线程块个数，T_M为每个线程的访存时间，T_M＝Mem_Cycle×Mem_insts，Mem_Cycle为执行每条访存语句的时间，Mem_insts为每个线程中访存指令数。