[发明专利]用于卷积神经网络的运算装置

说明书

一种用于卷积神经网络的运算装置，所述装置包括：多个行数据缓存单元，每一行数据缓存单元经由第一数据选择器接收外部输入的特征图数据或其他行数据缓存单元输出的特征图数据，每一行数据缓存单元具有至少一个数据窗口；多个核心计算单元，每一行数据缓存单元与至少一个核心计算单元耦合，所述核心计算单元包括：权重寄存器，用于获取权重数据；计算单元，根据所述数据窗口中的特征图数据与所述权重寄存器中的权重数据进行计算。本发明方案可以实现行数据缓存单元数目与权重寄存器数目的可配置化，从而满足用户对于不同的待运算窗口尺寸的需求。

技术领域

本发明涉及神经网络算法领域和计算机硬件领域，尤其是涉及一种用于卷积神经网络的运算装置。

背景技术

近年来，深度卷积神经网络在诸多领域取得广泛的成功，如人脸识别，智能视频监控，辅助自动驾驶等。

在现有的一种用于卷积神经网络(Convolutional Neural Network，CNN)的运算装置中，采用行数据缓存单元获取特征图数据并输出至核心计算单元(Core-Calculate，CE)，采用核心计算单元中的权重寄存器获取权重数据并输出至所述核心计算单元中的计算单元，进而采用所述计算单元，根据行数据缓存单元的特征图数据与所述权重数据进行计算。

但是，在现有的用于卷积神经网络的运算装置中，通常采用固定行数的行数据缓存单元，以及与该行数据缓存单元的行数对应的权重寄存器，导致仅能基于固定的窗口尺寸进行计算，当用户需要不同的窗口尺寸，以实现不同的神经网络结构(例如卷积神经网络AlexNet或GoogleNet)时，或者实现不同的应用(例如人脸识别、物体检测、图像分类)时，无法利用同一装置满足用户需求。

发明内容

本发明解决的技术问题是提供一种用于卷积神经网络的运算装置，可以实现行数据缓存单元数目与权重寄存器数目的可配置化，从而满足用户对于不同的待运算窗口尺寸的需求。

为解决上述技术问题，本发明实施例提供一种用于卷积神经网络的运算装置，包括：多个行数据缓存单元，每一行数据缓存单元经由第一数据选择器接收外部输入的特征图数据或其他行数据缓存单元输出的特征图数据，每一行数据缓存单元具有至少一个数据窗口；多个核心计算单元，每一行数据缓存单元与至少一个核心计算单元耦合，所述核心计算单元包括：权重寄存器，用于获取权重数据；计算单元，根据所述数据窗口中的特征图数据与所述权重寄存器中的权重数据进行计算；其中，经由所述第一数据选择器串联的行数据缓存单元包含的行数大于等于待运算窗口的行数，多个权重寄存器中的权重数据配置为与所述待运算窗口的尺寸适配。

可选的，每个数据窗口承载的特征图数据的行数等于所述行数据缓存单元的行数。

可选的，所述数据窗口在所述行数据缓存单元内的位置固定且互不覆盖。

可选的，所述用于卷积神经网络的运算装置还包括：第二数据选择器，所述核心计算单元经由所述第二数据选择器选择用于计算的数据窗口。

可选的，每个权重寄存器的权重数据的排列行数等于所述行数据缓存单元的行数。

可选的，当多个权重寄存器中的权重数据的排列范围超出所述待运算窗口的尺寸时，超出窗口尺寸的权重数据为零。

可选的，所述计算单元根据所述数据窗口中的特征图数据与所述权重寄存器中的权重数据进行以下至少一种运算：乘加和、求和以及计算最大值。

可选的，所述用于卷积神经网络的运算装置还包括：线性运算单元；所述核心计算单元以矩阵的形式排列，同一列上的核心计算单元的计算结果都输出给同一个线性运算单元，同一行上的核心计算单元耦接同一行数据缓存单元。

可选的，所述线性运算单元，适于对所述同一列上所有核心计算单元的计算结果进行以下至少一种运算：乘加和、求和以及计算最大值。