[发明专利]卷积神经网络操作实现方法、装置、设备及存储介质

说明书

本申请提出一种卷积神经网络操作实现方法、装置、设备及存储介质，方法包括：将待处理图像数据分别读取到第一预设数目个第一缓存器中；将卷积神经网络的权值数据分别读取到第二预设数目个第二缓存器中；第二预设数目小于第一预设数目；基于权值数据对待处理图像数据进行第三预设数目并行度的卷积神经网络操作；第三预设数目为第一预设数目的整数倍。本申请从本质上解决了卷积神经网络计算延迟大的问题，且极大降低了处理器的功耗和成本。

技术领域

本申请属于卷积神经网络技术领域，具体涉及一种卷积神经网络操作实现方法、装置、设备及存储介质。

背景技术

卷积神经网络模型(Convolutional Neural Networks，CNN)是一类包含卷积计算且具有深度结构的前馈神经网络，是深度学习的代表算法之一。由于卷积神经网络模型计算过程较为复杂，处理的数据较多，所以，目前大多卷积神经网络模型都存在计算延迟的问题。

现有技术中，为提高卷积神经网络的处理速度，通常将卷积神经网络从CPU上卸载下来，采用异构处理的方式进行加速。目前使用到的主要异构处理器有GPU、FPGA、ASIC等。但是，GPU只能做到指令流水，没法做到数据流水，且功耗过高。而ASIC往往只能支持特定的卷积神经网络运算，且开发周期长，在当前神经网络算法快速更迭的时代，往往流片出来算法就已经过时了。

发明内容

本申请提出一种卷积神经网络操作实现方法、装置、设备及存储介质，从本质上解决了卷积神经网络计算延迟大的问题，且极大降低了处理器的功耗和成本。

本申请第一方面实施例提出了一种卷积神经网络操作实现方法，所述方法包括：

将待处理图像数据分别读取到第一预设数目个第一缓存器中；

将卷积神经网络的权值数据分别读取到第二预设数目个第二缓存器中；所述第二预设数目小于所述第一预设数目；

基于所述权值数据对所述待处理图像数据进行第三预设数目并行度的卷积神经网络操作；所述第三预设数目为所述第一预设数目的整数倍。

在本申请一些实施方式中，基于所述权值数据对所述待处理图像数据进行第三预设数目并行度的卷积神经网络操作，包括：

基于预设卷积核的尺寸，自每个第一缓存器中均读出相应数目的待处理图像数据；

根据第二缓存器中的权值数据和所述预设卷积核，对读出的待处理图像数据分别进行第三预设数目并行度的卷积操作。

在本申请一些实施方式中，根据第二缓存器中的权值数据和所述预设卷积核，对读出的待处理图像数据分别进行第三预设数目并行度的卷积操作，包括：

根据预设卷积核，将自每个第一缓存器中读出的待处理图像数据分别与对应数目的权值数据进行累加计算，得到第三预设数目个第一中间数据；

根据预设卷积核和预设依赖关系对所述第一中间数据进行累加运算；

基于所有累加运算的结果得到待处理图像数据的卷积操作结果。

在本申请一些实施方式中，每个缓存器中均存储第四预设数目行，所述第四预设数目行等于所述第二预设数目，且二者的乘积等于所述第一预设数目；

根据预设卷积核，将自每个第一缓存器中读出的待处理图像数据分别与对应数目的权值数据进行累加运算，得到第三预设数目个第一中间数据，包括：

将自每个第一缓存器中读出的每行待处理图像数据，均分别与对应的第五预设数目行的权值数据进行乘法计算；所述第五预设数目等于预设卷积核的高度。

在本申请一些实施方式中，所述根据预设卷积核和预设依赖关系对所述第一中间数据进行累加运算，包括：