[发明专利]一种数据处理方法、装置、神经网络加速器及存储介质

说明书

本申请实施例公开了一种数据处理方法、装置、神经网络加速器及存储介质，数据处理装置包括：神经网络处理模块、内存分配模块，以及与神经网络处理模块和内存分配模块连接的存储模块；神经网络处理模块，用于执行预设神经网络中每个计算层，并将每个计算层对应的计算结果传输至存储模块；内存分配模块，用于持续获取存储模块中空闲的物理地址，生成空闲的物理地址与虚拟地址之间的地址映射信息，并依次为预设神经网络中每个计算层分配对应的虚拟地址空间；存储模块，用于基于虚拟地址空间的虚拟地址和地址映射信息，将预设神经网络中每个计算层对应的计算结果，存储到对应的物理地址上。

技术领域

本申请实施例涉及数据缓存技术领域，尤其涉及一种数据处理方法、装置、神经网络加速器及存储介质。

背景技术

人工智能算法较为复杂，通常一个场景需要多个算法进行叠加才能完成，而一个算法也通常由多级计算层来实现，计算层可以分为张量类和向量类。

在通用神经网络加速器中，不同类型的计算层被分配到不同的计算引擎中进行计算，对于每一个计算层，其需要输入特征图像数据和权重数据，并在计算完成之后送回到存储空间中存储，所以对于每一个计算层，需要在存储空间中分配一段物理地址供其进行数据缓冲。

目前，主要采用微型控制单元以软件的方式进行计算层的物理地址分配，实现数据管理，但是管理的粒度主要是针对一个任务，举例来说，如果目前运行的场景是处理视频流，处理速度是60帧/秒，那么对于每一帧的数据，处理时间大概是16ms，所以，在处理每帧数据时，可以进行动态的地址分配，根据一帧数据经过所有的算法层所需要的存储空间大小进行地址分配，等这一帧数据处理完成处理完成好之后，回收这个物理地址，在处理下一帧数据时，再进行动态空间的分配。

然而，上述数据存储管理的方案，效率较低，灵活性差。

发明内容

本申请实施例提供一种数据处理方法、装置、神经网络加速器及存储介质。

本申请实施例的技术方案是这样实现的：

本申请实施例提供了一种数据处理装置，包括：神经网络处理模块、内存分配模块，以及与所述神经网络处理模块和所述内存分配模块连接的存储模块；

所述神经网络处理模块，用于执行预设神经网络中每个计算层，并将每个计算层对应的计算结果传输至所述存储模块；

所述内存分配模块，用于持续获取所述存储模块中空闲的物理地址，，并从依次为所述预设神经网络中每个计算层分配对应的虚拟地址空间；

所述存储模块，用于基于所述虚拟地址空间的虚拟地址和所述地址映射信息，将所述预设神经网络中每个计算层对应的计算结果，存储到对应的物理地址上。

在上述数据处理装置中，所述神经网络处理模块，用于：

获取根据所述预设神经网络中计算层的执行顺序设定的执行指令；

按照所述执行指令，依次执行所述预设神经网络中每个计算层，得到每个计算层对应的计算结果。

在上述数据处理装置中，还包括：地址映射模块，所述地址映射模块，与所述神经网络处理模块、所述存储模块，以及所述内存分配模块连接；

所述神经网络处理模块，用于将所述预设神经网络中每个计算层对应的标识和计算结果传输至所述地址映射模块；

所述内存分配模块，用于将所述地址映射信息，以及所述预设神经网络中，每个计算层对应的虚拟地址空间的虚拟地址传输至所述地址映射模块；

所述地址映射模块，用于针对所述预设神经网络中每个计算层，根据对应的标识和对应的虚拟地址空间的虚拟地址，结合所述地址映射信息，确定对应的物理地址，并将对应的计算结果传输至对应的物理地址上。