[发明专利]应用于卷积神经网络的加速方法和硬件加速器

权利要求书

1.一种应用于卷积神经网络的加速方法，包括：

接收对待整理的数据的加载指令，待整理的数据包括：特征图像数据；

从片外存储器中读取出用于卷积计算任务的预设格式的数据中的待整理的数据，以及将读取出的待整理的数据写入到硬件加速器中的片上存储器中，其中，特征图像数据中的多个通道的通道数据中的预设长度的数据在片上存储器中连续存储。

2.根据权利要求1所述的方法，从片外存储器中读取出用于卷积计算任务的预设格式的数据中的待整理的数据包括：

通过直接内存存取通道从片外存储器中读取出用于卷积计算任务的预设格式的数据中的待整理的数据。

3.根据权利要求2所述的方法，从片外存储器中读取出用于卷积计算任务的预设格式的数据中的待整理的数据，以及将读取出的待整理的数据写入到硬件加速器中的片上存储器中包括：

执行多次通道数据处理操作，其中，一次通道数据处理操作用于读取未被读取的通道数据中的预设数量个通道的通道数据并且写入到片上存储器，通道数据处理操作包括：执行多次第一数据片段处理操作，第一数据片段处理操作包括：对于预设数量个通道中的每一个通道，每一次以突发连续读取方式读取通道的通道数据的一个数据片段，将读取到的通道的通道数据的数据片段写入到片上存储器中。

4.根据权利要求3所述的方法，片上存储器包括多个单口存储器，多个单口存储器的存储单元构成片上存储器的存储阵列，存储阵列中的每一行的存储单元的存储地址相同；以及

将读取到的通道的通道数据的数据片段写入到片上存储器中包括：将读取到的通道的通道数据的数据片段划分为多个子数据片段，对于每一个子数据片段，确定存储阵列中的用于存储子数据片段的存储单元，将子数据片段写入到确定出的存储单元，其中，用于存储一个子数据片段的存储单元在存储阵列中所处的行为所述子数据片段的上一个子数据片段存储在的存储单元在存储阵列中所处的行的下一行，当所述上一个子数据片段存储在的存储单元在存储阵列中所处的列为最后一列时，用于存储所述子数据片段的存储单元在存储阵列中所处的列为存储阵列中的首列，当所述上一个子数据片段存储在的存储单元在存储阵列中所处的列不是最后一列时，用于存储所述子数据片段的存储单元在存储阵列中所处的列为上一个子数据片段存储在的存储单元在存储阵列中所处的列的下一列。

5.根据权利要求4所述的方法，所述方法还包括：

对于存储阵列中的存储通道数据的区域中的每一行，对所述行中的存储单元中的数据进行移位处理。

6.根据权利要求5所述的方法，待整理的数据还包括：卷积核数据；以及

从片外存储器中读取出用于卷积计算任务的预设格式的数据中的待整理的数据，以及将读取出的待整理的数据写入到硬件加速器中的片上存储器中包括：执行多次卷积核数据处理操作，其中，一次卷积核数据处理操作用于读取未被读取的卷积核数据中的预设数量个卷积核的权重参数数据并且写入到片上存储器，卷积核数据处理操作包括：执行多次第二数据片段处理操作，第二数据片段处理操作包括：对于预设数量个卷积核中的每一个卷积核，每一次以突发连续读取方式读取卷积核的权重参数数据的一个数据片段，将读取到的卷积核的权重参数数据的数据片段写入到片上存储器中。

7.根据权利要求6所述的方法，将读取到的卷积核的权重参数数据的数据片段写入到片上存储器中包括：

将读取到卷积核的权重参数数据的数据片段划分为多个子数据片段，对于每一个子数据片段，确定存储阵列中的用于存储子数据片段的存储单元，将子数据片段写入到确定出的存储单元，其中，用于存储一个子数据片段的存储单元在存储阵列中所处的行为所述子数据片段的上一个子数据片段存储在的存储单元在存储阵列中所处的行的下一行，当所述上一个子数据片段存储在的存储单元在存储阵列中所处的列为最后一列时，用于存储所述子数据片段的存储单元在存储阵列中所处的列为存储阵列中的首列，当所述上一个子数据片段存储在的存储单元在存储阵列中所处的列不是最后一列时，用于存储所述子数据片段的存储单元在存储阵列中所处的列为上一个子数据片段存储在的存储单元在存储阵列中所处的列的下一列。