[发明专利]一种数据缓存方法及相关装置

说明书

本申请公开了一种数据缓存方法，包括：将预设数量个计算步骤所需使用的数据加载到计算缓存；对所述数据进行排序，并基于排序后的所述数据初始化存储核心的位置；其中，所述存储核心为相邻计算步骤重叠使用的数据；判断所述存储核心是否到达所述计算缓存中的最后一个阶梯；其中，所述阶梯的大小为相邻计算步骤所使用的数据的差量；若所述存储核心到达所述计算缓存中的最后一个阶梯，则更新所述计算缓存。该数据缓存方法能够减少数据访存负担，降低访存过程对计算性能的限制。本申请还公开了一种数据缓存装置、设备以及计算机可读存储介质，均具有上述技术效果。

技术领域

本申请涉及计算机技术领域，特别涉及一种数据缓存方法；还涉及一种数据缓存装置、设备以及计算机可读存储介质。

背景技术

在人工智能、计算机视觉等应用中存在着诸如图像处理的问题，这类问题往往涉及到大量规则批数据的处理，而规则批数据的处理又常常伴随着高计算复杂度和空间复杂度，计算与访存效率一般成为这类问题的主要性能瓶颈。利用硬件加速设备对计算进行并行加速则是规则批数据处理的常用方法。该方法利用并行计算能够有效解决计算复杂度过高的问题，但是硬件加速设备在存储资源数量和性能方面都比较有限，数据的存储与访问便成为硬件并行加速计算的主要性能瓶颈之一。

目前，在规则批数据处理的硬件加速计算中，规模较大的数据通常存放在诸如DDR的外部存储资源中，片上有限的高速存储资源只用来进行实时使用数据的缓存，根据计算过程数据使用需求进行数据在不同存储资源之间的调度。上述数据存储方式虽然能够解决硬件设备上规模数据的存储问题，但是仍存在外部存储资源有限和访问带宽以及访问竞争这类限制整体计算效率的问题，其直接关系到硬件加速计算的效果。

因此，如何提供一种数据存储方案，减少数据访存负担，降低访存过程对计算性能的限制，已成为本领域技术人员亟待解决的技术问题。

发明内容

本申请的目的是提供一种数据缓存方法，能够减少数据访存负担，降低访存过程对计算性能的限制；本申请的另一目的是提供一种数据缓存装置、设备以及计算机可读存储介质，均具有上述技术效果。

为解决上述技术问题，本申请提供了一种数据缓存方法，包括：

将预设数量个计算步骤所需使用的数据加载到计算缓存；

对所述数据进行排序，并基于排序后的所述数据初始化存储核心的位置；其中，所述存储核心为相邻计算步骤重叠使用的数据；

判断所述存储核心是否到达所述计算缓存中的最后一个阶梯；其中，所述阶梯的大小为相邻计算步骤所使用的数据的差量；

若所述存储核心到达所述计算缓存中的最后一个阶梯，则更新所述计算缓存。

可选的，所述对所述数据进行排序包括：

依据所述数据使用的先后顺序对所述数据进行排序。

可选的，所述更新所述计算缓存包括：

删除所述计算缓存中不再使用的若干数量的阶梯；

向所述计算缓存中补充与删除的阶梯等量的阶梯。

可选的，所述判断所述存储核心是否到达所述计算缓存中的最后一个阶梯，包括：

判断所述存储核心的起始指示符和/或终止指示符是否位于所述计算缓存中的最后一个阶梯。

可选的，所述起始指示符为所述存储核心中排在首位的数据所在的位置；所述终止指示符为所述存储核心中排在末尾的数据所在的位置。

为解决上述技术问题，本申请还提供了一种数据缓存装置，包括：

加载模块，用于将预设数量个计算步骤所需使用的数据加载到计算缓存；