[发明专利]图形处理器的访存优化方法、设备及计算机可读介质

说明书

公开了图形处理器的访存优化方法、设备及计算机可读介质。一种GPU的访存优化方法，包括：针对每个轮询周期，总线接口模块在轮询周期的一时刻，接收一个或多个数据访问模块向数据缓存模块的一个或多个访存请求，轮询仲裁器对一个或多个访存请求进行仲裁，总线接口模块基于仲裁结果，允许一个或多个数据访问模块中的相应数据访问模块对数据缓存模块的资源进行访存，总线接口模块更新与数据访问模块相对应的掩码和计数器的计数，以及在掩码指示在该轮询周期中已经对全部数据访问模块进行了响应，或计数器的计数超过预定阈值的情况下，结束该轮询周期，开始下一轮询周期。该方法有助于在不同数据访问模块之间更公平地分配资源，提升管理效率。

技术领域

本公开涉及访存优化技术领域，具体地，涉及一种用于图形处理器的访存优化方法、设备和计算机可读介质。

背景技术

目前，越来越多的在线服务使用图形处理器GPU（Graphics Processing Unit）资源来处理在线任务。GPU作为较为复杂的图像处理系统，存在许多内部模块。内部模块在对系统级缓存SLC（System Level Cache）进行读写时，因为SLC的输入和输出带宽有限而无法在同一时间访问SLC进行读写。另一方面，在两个或多个模块对SLC同一物理地址上的数据进行读写操作时，在先读取后写入的情况下，也存在被读取的数据因为在后续写操作中被覆盖而超时，即读到脏数据（dirtydata）的情况。

发明内容

有鉴于此，本公开提供了一种用于图形处理器的访存优化方法、设备和计算机可读介质，可以缓解、减轻或甚至消除上述问题。

根据本公开的第一方面，提供了一种图形处理器GPU的访存优化方法，应用于GPU，所述GPU包括数据访问模块、总线接口模块和数据缓存模块，所述总线接口模块包括轮询仲裁器，其特征在于，包括：针对所述轮询仲裁器的每个轮询周期：所述总线接口模块在所述轮询周期的一时刻，接收一个或多个数据访问模块向数据缓存模块的一个或多个访存请求，所述轮询仲裁器对所述一个或多个访存请求进行仲裁，所述总线接口模块基于所述仲裁结果，允许一个或多个数据访问模块中的相应数据访问模块对所述数据缓存模块的资源进行访存，以及所述总线接口模块更新与所述数据访问模块相对应的掩码和计数器的计数；在所述掩码指示在该轮询周期中已经对全部数据访问模块进行了响应，或所述计数器的计数超过预定阈值的情况下，结束该轮询周期，开始下一轮询周期。

在一些实施例中，仲裁结果是基于在所述轮询周期该时刻的上一时刻与所述一个或多个数据访问模块相对应的掩码以及所述GPU的资源占用情况得出的。

在一些实施例中，所述与所述数据访问模块相对应的掩码包括掩码序列，所述掩码序列的每个比特与一个所述数据访问模块相对应，该比特为0标识相应数据访问模块在所述轮询周期中未被所述轮询仲裁器选中过，并且该比特为1标识相应数据访问模块在所述轮询周期中已被所述轮询仲裁器选中过。

在一些实施例中，仲裁结果是基于与所述一个或多个数据访问模块相对应的掩码以及所述GPU的资源占用情况得出的包括：在参与仲裁的一个或多个数据访问模块对应的掩码序列中比特既有0，又有1的情况下，基于所述掩码序列中对应的比特为0的数据访问模块得出仲裁结果。

在一些实施例中，一个或多个数据访问模块中的每一个具有一个索引，所述索引与所述数据访问模块的优先级相关联，所述仲裁结果是基于与所述一个或多个数据访问模块相对应的掩码以及所述GPU的资源占用情况得出的包括：在参与仲裁的一个或多个数据访问模块对应的掩码序列中比特全为0，或全为1的情况下，基于数据访问模块的索引得出仲裁结果。

在一些实施例中，索引与所述数据访问模块的优先级负相关，所述基于数据访问模块的索引得出仲裁结果包括：选择索引较小的数据访问模块作为仲裁结果。

在一些实施例中，所述访存请求包括：专用资源访问请求或不限定资源访问请求，所述专用资源包括：专用读通道资源和专用写通道资源。