[发明专利]一种数据缓存系统、图形处理器及数据缓存方法

说明书

一种数据缓存系统、图形处理器及数据缓存方法，解决现有技术中GPU的数据缓存方式会导致GPU的运行速率下降的问题。本申请中。数据缓存系统位于图形处理器中，数据缓存系统与外部存储器连接，具体的，数据缓存系统可以包括第一存储器和第二存储器。第一存储器可以从外部存储器获取第一数据，并存储第一数据，其中，第一数据为图形处理器在程序执行过程中需多次使用的数据。第二存储器可以从第一存储器获取并存储第一数据；针对在程序执行过程中会多次使用的第一数据能够进行明确的区分，并可以存储在第一存储器中，使得图形处理器在程序执行过程中，只需从内部的数据缓存系统中获取第一数据，不需要多次片外访存，可提高GPU的运行速率。

技术领域

本申请涉及通信技术领域，尤其涉及一种数据缓存系统、图形处理器及数据缓存方法。

背景技术

图形处理器(graphics processing unit，GPU)是一种在电脑、工作站、游戏机和一些移动设备(如平板电脑、智能手机等)上进行图像运算的微处理器，为了使GPU可以高速获取数据并进行数据处理，在GPU中增加了本地共享内存和L2缓存，本地共享内存和L2缓存作为GPU内部的数据缓存系统，可以从GPU外部的外部存储器获取数据，进行缓存。

GPU在执行程序的过程中，GPU的内核和外部存储器都需要频繁地与L2缓存交换数据，因而，L2缓存的访问速度极大地影响到GPU的性能。

GPU在执行程序的过程中，一些数据需要重复利用，这些数据会先从主存器加载在L2缓存中，之后再转移到本地共享内存；也就是说，L2缓存需要多次的从外部存储器进行数据加载，也就是需要访问GPU外部存储设备(简称片外访存)，由于片外访存速度较慢，会直接降低GPU的运行速率。

综上，现有的GPU数据缓存方式会导致GPU的运行速率下降。

发明内容

本申请提供一种数据缓存系统、图形处理器及数据缓存方法，用以解决现有技术中GPU的数据缓存方式会导致GPU的运行速率下降的问题。

第一方面，本申请实施例提供了一种数据缓存系统，所述数据缓存系统位于图形处理器中，用于缓存数据，所述数据缓存系统与所述图形处理器外部的存储器，也就是外部存储器连接，具体的，所述数据缓存系统可以包括第一存储器和第二存储器。

所述第一存储器可以从外部存储器获取第一数据，并存储所述第一数据，其中，所述第一数据为所述图形处理器在程序执行过程中需多次使用的数据。

所述第二存储器可以从所述第一存储器获取所述第一数据并存储，所述第二存储器还可以向所述图形处理器中的运算单元提供所述第一数据。

通过上述方法，所述图形处理器中针对在程序执行过程中会多次使用的第一数据能够进行明确的区分，并可以存储在所述第一存储器中，使得所述图形处理器在程序执行过程中，只需要从内部的数据缓存系统中就可以获取所述第一数据，不需要进行多次片外访存，能够有效提高数据缓存效率，进而提高GPU的运行速率。

在一种可能的设计中，所述第一存储器在存储所述第一数据时，所述第一存储器可以存储所述第一数据和所述第一数据对应的指示位，所述第一数据对应的指示位用于指示所述图形处理器在程序执行过程中使用所述第一数据的次数。

通过上述方法，存储所述第一数据时增加对应的指示位，可以明确的指示出所述第一数据能够被使用的次数，方便后续所述第一存储器对所述第一数据进行释放等操作。

在一种可能的设计中，所述第二存储器从所述第一存储器每获取一次所述第一数据后，所述第一存储器可以对所述第一数据对应的指示位进行调整，使所述第一数据对应的指示位指示的次数减少一次。

通过上述方法，可以使得所述第一数据对应的指示位动态的变化，且能够实时的反映出所述第一数据的使用情况。