[发明专利]一种高带宽存储的CNN加速器

说明书

本发明属于神经网络领域领域，公开了一种高带宽存储的CNN加速器，包括数据输入模块、计算单元、数据输出模块和取指控制模块；将待计算数据并行的分发至预设的第一预设数量的第一RAM中，将权值数据中的各输出通道的权值分发至第二预设数量的第二RAM中实现数据复用，提高卷积神经网络运算效率，降低整个系统所需能耗。通过内部的数据冗余解决了访存位宽受限的情况，避免了现有神经网络加速器数据传输受限的情况，将外部受限的访存位宽转化为内部高度并行的位宽，数据在内部高位宽的基础上还支持数据复用，进一步提高数据的输入数据并行性；可支持多种卷积尺寸，不同步长的卷积计算，在提高数据复用的同时也可适用于更多应用场景。

技术领域

本发明属于神经网络领域，涉及一种高带宽存储的CNN加速器。

背景技术

近年来，深度神经网络在人工智能领域中得到广泛的应用，文字识别、图像识别、目标跟踪以及人脸检测与识别等应用领域取得了显著的成果。随着应用场景的愈加复杂，深度神经网络的规模不断增大，需要存储和计算大量的参数，对计算平台的运算能力要求越来越高。因此，如何加速并在硬件上实现大规模的深度神经网络成为人工智能领域的重要问题。

目前的深度神经网络类智能计算高度依赖海量的数据，然而运算单元与内存间的性能差距越来越大，内存子系统已经成为芯片整体处理能力的障碍，进一步，为了在智能任务中获得足够高的精度，神经网络需要大量的网络层，而且每一层的数据访问量均很大。例如，卷积层需要大量多通道的卷积核，再加上卷积层内滑窗式的卷积运算，使得相同位置的数据需要多次重复参与运算，密切参与运算的时间不连续，导致访存量激增。AlexNet有用的参数量达到6000万个，约228MB，VGG16拥有约1.3亿个参数。同时深度神经网络发展快速，模型不断迭代更换。

深度神经网络计算所需算力巨大，所需要的数据更大，存储瓶颈成为了主要的制约因素，如何克服存储带宽限制，提高加速器的对外数据交互效率是一个急待解决的问题。

发明内容

本发明的目的在于克服上述现有技术的缺点，提供一种高带宽存储的CNN加速器。

为达到上述目的，本发明采用以下技术方案予以实现：

一种高带宽存储的CNN加速器，包括数据输入模块、计算单元、数据输出模块和取指控制模块；取指控制模块，用于获取配置信息，并发送至数据输入模块、计算单元以及数据输出模块；数据输入模块，用于根据配置信息，获取待计算数据和权值数据，通过二级缓存将待计算数据和权值数据扩展为并行数据，并输出给计算单元；计算单元，用于解析配置信息得到计算类型，根据计算类型得到线性运算组合，将待计算数据和权值数据进行线性运算组合计算，得到计算结果；数据输出模块，用于根据配置信息，输出计算结果或将计算结果进行预设处理后输出。

本发明进一步的改进在于：

所述通过二级缓存将待计算数据和权值数据扩展为并行数据，并输出给计算单元的具体方法为：将待计算数据并行的分发至预设的第一预设数量的第一RAM中，将权值数据中的各输出通道的权值分发至第二预设数量的第二RAM中；从各第一RAM中并行读取各输出通道的输出数据，从各第二RAM中获取各输出通道的权值；将各输出通道的输出数据以及权值发送至计算单元。

所述第一预设数量的第一RAM设置两组，所述将待计算数据并行的分发至预设的第一预设数量的第一RAM中时，采用ping-pong输入机制。

所述第二预设数量的第二RAM设置两组，所述将权值数据中的各输出通道的权值分发至第二预设数量的第二RAM中时，采用ping-pong输入机制。

所述数据输入模块还用于当将各输出通道的输出数据以及权值发送至计算单元后，生成第一反馈信息并发送至取指控制模块，取指控制模块根据第一反馈信息将配置信息发送至计算单元；计算单元还用于在得到计算结果并发送至数据输出模块后，生成第二反馈信息并发送至取指控制模块，取指控制模块根据第二反馈信息将配置信息发送至数据输出模块。