[发明专利]用于存储管理的方法、介质、程序产品、系统和装置

说明书

本文描述了一种用于存储管理的方法、介质、程序产品、系统和装置。在本公开的一些实施例中，确定应用程序所要访问的页，页中存储有数据；基于要被启动来运行所述应用程序的处理引擎的数目，设置所述页对应的第一引用计数器的值；基于所述应用程序在所述处理引擎上对页的访问状态来更新所述第一引用计数器的值；以及基于所述第一引用计数器的更新后的值，释放或替换所述页存储的数据。通过对第一引用计数器的维护，可以提高对页的重新使用率，并且提高片上存储器的存储空间的重新使用率。

技术领域

本公开的实施例一般地涉及电子领域，更具体而言涉及一种用于存储管理的方法、介质、程序产品、系统和装置。

背景技术

目前已经提出了诸如图形处理器(GPU)之类处理器系统，此类处理系统中的多个处理器核可以提供并行的多线程处理方式，因而可以提供更高的处理速度。这些处理系统可以将复杂的计算分解为较小的任务，并且由多核、多线程进行并行处理，从而减少处理时间。

在一些情形中，程序要处理的数据(例如张量数据)的数据量可能较大，而片上存储器(例如，L2高速缓存)的容量有限，因此无法同时将大量数据加载到片上存储器，这将会影响到数据的并行处理效率。

发明内容

本公开的实施例提供了一种用于存储管理的方案。

在第一方面，提供了一种存储管理方法。该方法包括确定应用程序所要访问的页，页中存储有数据；基于要被启动来运行应用程序的处理引擎的数目，设置页对应的第一引用计数器的值；基于应用程序在处理引擎上对页的访问状态来更新第一引用计数器的值；以及基于第一引用计数器的更新后的值，释放或替换页中的数据。

根据该方案，第一计数器的值可以反映出页被PE的使用情况，例如还要被多少PE使用以及有多少PE已经使用过这个页，避免了在页未被使用完毕就被删除或替换。通过对第一引用计数器的维护，可以提高对页的重新使用率，并且提高片上存储器的存储空间的重新使用率。

在一些实施例中，该方法还包括：基于页中的数据在片上存储器或片外存储器中的就绪状态，设置页对应的第二引用计数器的值；以及基于第二引用计数器的值来在处理引擎上运行应用程序。

在一些实施例中，设置页对应的第二引用计数器的值包括：如果页中的数据在片上存储器或片外存储器中未就绪，将第二引用计数器设置为第一值；以及如果页中的数据在片上存储器或片外存储器中已就绪，将第二引用计数器设置为第二值。

在一些实施例中，运行应用程序包括：如果第二引用计数器为第一值，阻止应用程序在处理引擎上对页执行访问操作；以及如果第二引用计数器为第二值，允许应用程序在处理引擎上对页执行访问操作。

在一些实施例中，设置页对应的第一引用计数器的值包括：将第一引用计数器的值设置为等于处理引擎的数目。

在一些实施例中，更新第一引用计数器的值包括：如果应用程序在处理引擎中的一个处理引擎上对所述页的访问操作完成，将第一引用计数器的值减一。

在一些实施例中，释放或替换页中的数据包括：如果第一引用计数器的更新后的值指示没有要要对页执行访问操作的处理引擎，从片上存储器释放页或替换页中的数据。

在一些实施例中，另一应用程序要访问页，并且从片上存储器释放页或替换页中的数据包括：如果第一引用计数器的更新后的值指示没有要要对页执行访问操作的处理引擎，并且第二引用计数器的值指示页可访问，用另一应用程序要访问的数据替换页中的数据。

在一些实施例中，页在页表中具有对应的页表项，并且被映射到物理存储空间中的物理地址。

在本公开的第二方面，提供一种计算机可读存储介质。存储多个程序，多个程序被配置为一个或多个处理单元执行，多个程序包括用于执行第一方面的方法的指令。