[发明专利]卷积神经网络加速器及其执行卷积运算操作的方法

权利要求书

1.一种执行卷积运算操作的方法，包括：

从片外存储器读取输入数据和卷积运算参数，所述输入数据为第一张量数据在通道方向上的部分数据，所述卷积运算参数中卷积核的通道数与所述输入数据的通道数相同；

使用所述输入数据和卷积运算参数执行卷积运算操作，以获得输出数据；以及

将所述输出数据存储到所述片外存储器中。

2.根据权利要求1所述的方法，其中，所述输入数据的通道数由所述第一张量数据的通道数与预先设定的分组数确定。

3.根据权利要求1所述的方法，其中，从片外存储器读取的所述输入数据为第一感兴趣ROI数据，所述第一ROI数据在高度、宽度和数量上的大小与所述第一张量数据相同，所述第一ROI数据的通道数由所述第一张量数据的通道数与预先设定的分组数确定。

4.根据权利要求1所述的方法，其中，

所述卷积运算参数包括：权重参数，所述权重参数中卷积核的通道数的大小由所述第一张量数据的通道数与预先设定的分组数确定。

5.根据权利要求1所述的方法，其中，从片外存储器读取输入数据和卷积运算参数，包括：

以所述输入数据的起始坐标为读取的首地址，从片外存储器中读取多段数据；以及，

将所述多段数据顺序且连续的存储到缓冲存储器中；

其中，所述多段数据中每段数据在通道方向上的长度为第一预定长度，所述多段数据中相邻段数据在通道方向上间隔第二预定长度，所述第一预定长度由所述输入数据的通道数确定，所述第二预定长度由所述第一张量数据与预先设定的分组数确定。

6.根据权利要求1所述的方法，其中，从片外存储器读取输入数据和卷积运算参数，包括：

依次从所述片外存储器中的多个第一预定存储空间中读取所述输入数据中的数据，并依次且连续地将所述数据存储到所述片外存储器的中转存储空间，以使得所述输入数据被转存至所述中转存储空间且其各个数据在所述中转存储空间连续存储；以及，

从所述片外存储器的中转存储空间读取所述输入数据并存储到缓冲存储器中；

其中，每个所述第一预定存储空间对应的通道方向的长度为第一预定长度，且相邻所述第一预定存储空间之间间隔一个第二预定存储空间，该第二预定存储空间对应的通道方向的长度为第二预定长度，所述第一预定长度由所述输入数据的通道数确定，所述第二预定长度由所述第一张量数据的通道数与预先设定的分组数确定。

7.根据权利要求1所述的方法，其中，将所述输出数据存储到所述片外存储器中，包括：

从缓冲存储器中读取所述输出数据中的各段数据；以及，

以对应所述输出数据的起始坐标的地址为首地址，将所述输出数据中的各段数据写到所述片外存储器中；

其中，所述输出数据中的各段数据中每段数据在通道方向上的长度为第三预定长度，且在写到所述片外存储器之后相邻段数据的存储空间之间间隔一个第四预定存储空间，所述第四预定存储空间对应的通道方向的长度为第四预定长度，所述第三预定长度由所述输出数据的通道数确定，所述第四预定长度由所述输出数据的通道数与预先设定的分组数确定。

8.根据权利要求1所述的方法，其中，将所述输出数据存储到所述片外存储器中，包括：

从缓冲存储器中依次读取所述输出数据中的各个数据并顺序且连续地写到片外存储器的中转存储空间；以及

依次从所述中转存储空间中读取所述输出数据中的各个数据并写到所述片外存储器中与之对应的第三预定存储空间中；

其中，每个所述第三预定存储空间对应的通道方向的长度为第三预定长度，且相邻所述第三预定存储空间之间间隔一个第四预定存储空间，该第四预定存储空间对应的通道方向的长度为第四预定长度，所述第三预定长度由所述输出数据的通道数确定，所述第四预定长度由所述输出数据的通道数与预先设定的分组数确定。

9.一种卷积神经网络加速器，包括：计算引擎和片外存储器；其中，所述计算引擎配置为执行根据权利要求1至8中任一项所述的方法。

10.一种计算机可读存储介质，其上存储有计算机程序指令，所述计算机程序指令在被处理器运行时使得所述处理器执行如权利要求1至8中任一项所述的方法。