[发明专利]应用于卷积神经网络的非还原稀疏数据的编译码电路及其编译码方法

说明书

本发明公开了一种应用于卷积神经网络的非还原稀疏数据的编译码电路及其编译码方法，其中，编码电路包括：k个压缩单元、多路选择器、选择控制器、尾地址缓存队列ain和动态随机存取存储器；译码电路包括：数据读取单元和数据计算单元；数据读取单元包括：两组数据传输模块、读写控制器和地址缓存队列afifo；数据计算单元包括：0/1编码缓存队列br_fifo、有效值存储器iram、权重存储器wram、移位寄存器、窗口寄存器、有效值累加器、位置判断器、权重地址生成器、首位比较器、数据暂存块、乘法器和加法器。本发明能降低数据的存取功耗、读取功耗和时间及传输功耗和时间，缩减计算量和计算功耗，同时提高PE的利用率。

技术领域

本发明属于集成电路卷积神经网络的数据压缩技术领域，尤其涉及一种应用于卷积神经网络的非还原稀疏数据编译码电路及其编译码方法。

背景技术

由于卷积神经网络的数据量很大，而且随着层数的增加，数据量在不断地激增。从LeNet、AlexNet、VGG-16、GoogLeNet到ResNet，卷积层不断上升，数据量与计算量也在不断地增加，这大大加重了卷积神经网络硬件化的难度。数据“0”的数量所占的比例随着层数的增加而增加，相应的其计算量在总计算量中占比也不断增加。但是数据“0”在整个过程中其实可以不做任何计算，它占用了大量的存储空间、读写功耗、消耗传输周期和计算周期。因此数据压缩就显得十分的重要。

针对数据“0”的问题，目前已经有很多机构和研究人员提出一系列解决方法。简单游程编码方式虽然可以对连续的数据“0”进行压缩，但对于不连续的数据“0”仍起不到压缩作用；若仅采用0/1对权重与输出编码的方式，如(1,0,0,4)编码为1001，这样压缩率确实大大提高了，但为了能够将数据与编码一一对应的传输到计算单元，并没有将大量的数据“0”计算舍去，并且这些压缩的“0”数据仍需还原，需要一定的还原时间和能耗，同时也会占用一定的传输时间。

发明内容

本发明为了解决现有技术的不足之处，提出一种应用于卷积神经网络的非还原稀疏数据的编译码电路及其编译码方法，以期能降低数据的存取功耗、读取功耗和时间以及传输功耗和时间，并缩减计算量，减少计算功耗，同时提高数据计算单元的利用率。

本发明为达到上述目的所采用的技术方案是：

本发明一种应用于卷积神经网络的非还原稀疏数据的编译码电路，所述卷积神经网络包含M层卷积层，由任意第i层卷积层得到边长为Li的第i组输出特征图并存入输出特征图暂存块中，其中，Li为正整数，表示输出特征图的行数和列数；i＝1,2,…M；所述第i组输出特征图分批传输到k个通道中，任意第j个通道接收每批中的一张输出特征图；其特点是，

令编码电路包括：k个压缩单元、多路选择器、选择控制器、尾地址缓存队列ain和动态随机存取存储器；且所述动态随机存取存储器中将M层卷积层的各个16位的权重进行配置，使得每4个16位的权重组成一个64位计算权重weight_cal并进行存储；

任意第j个压缩单元包括：第j个零比较器、第j个长度计数器、第j个位置计数器、第j个总数计数器、第j个输入暂存块、第j个编码生成块、第j个有效值暂存块、第j个编码拼接块、第j个编码缓存队列bin、第j个数据缓存队列din；其中，j为正整数；j＝1,2,…k；

第j个通道在每个周期均发送输出特征图中16位数据给所述第j个输入暂存块，并在每个周期产生第j个使能信号coding_j传递给所述第j个长度计数器和第j个位置计数器；同时在每个周期产生偏置长度p并传递给所述第j个位置计数器；

所述第j个输入暂存块将当前周期的16位数据传递给所述第j个零比较器，由第j个零比较器将当前周期的16位数据与“0”进行比较，若16位数据大于“0”，则令当前周期的比较结果为“1”并传递给所述第j个编码生成块，同时产生当前周期的数据有效信号d_en给所述第j个输入暂存块和第j个总数计数器；若16位数据小于等于“0”，则令当前周期的比较结果为“0”并传递给所述第j个编码生成块；