[发明专利]数据流重构方法及可重构数据流处理器

说明书

本发明公开了数据流重构方法及可重构数据流处理器，尤其是面向混合人工神经网络的数据流重构，其根据不同神经网络层对计算单元、存储单元以及数据流动单元等资源进行对应的功能配置动态变化，大规模复用硬件实现不同功能的神经网络层，针对多个神经网络层构成的混合神经网络结构，取得提高硬件利用率、提高运算速度以及降低功耗等效果。特别地，通过获取其他新型的神经网络层的特性信息确认可复用的配置，其能够为后续研究构造其他新型的神经网络层及基于这些新型神经网络层的混合神经网络的实现提供资源复用基础，泛用性极强。

技术领域

本发明涉及神经网络的数据流技术领域，尤其是涉及数据流重构方法及可重构数据流处理器。

背景技术

神经网络在计算机视觉，自然语言处理和游戏引擎等领域有着广泛地应用，随着神经网络结构的快速发展，其对不同数据流的计算能力需求也会不断增加。因此未来的混合神经网络是大势所趋，其紧凑的算法内核可支持感知，控制甚至驱动方面的端到端任务。与此同时，专用的硬件加速器结构已经被提出用于加速神经网路的推理阶段，例如Eyeriss，Google TPU-I和DaDianNao，它们通过算法与体系结构的协同设计技术，如专用数据流和脉动阵列乘法器等来实现高性能和高资源利用率，但是这些架构和神经网络都是紧耦合的，无法针对不同的神经网络做加速。因此，针对不同的神经网络需要设计对应数据流方案，其关键的数据流重构方法是混合人工神经网络的设计重点。

现有技术中，缺少针对存在不同的神经网络层，比如池化层、全连接层、循环网络LSTM层、深度强化学习层以及残差层等不同神经网络层组成的混合神经网络结构通过数据流重构来进行资源复用的方案，由此，现有技术的方案往往存在硬件成本高、结构复杂、运算速度慢以及运算功耗大等缺点。

发明内容

有鉴于此，本发明的目的在于提供数据流重构方法及可重构数据流处理器，来解决上述问题。

为了实现上述的目的，本发明采用了如下的技术方案：

本发明提供了一种数据流重构方法，包括：获取目标神经网络层的特性信息；根据目标神经网络层的特性信息，确定对应目标神经网络层的数据流模式、处理单元的功能配置以及片上系统的功能配置；将可复用的处理单元和片上系统进行对应所述目标神经网络层的处理单元和片上系统的功能配置，并根据目标神经网络层的数据流模式进行对应所述目标神经网络层的网络配置，构建所述目标神经网络层；采用构建的目标神经网络层获得输出结果。

优选地，当所述目标神经网络层为卷积层，所述处理单元包括分组配置在多个线程中的乘积累加运算单元和修正线性单元；数据流的输入或输出为线程级并行的串行传输，片上系统的静态存储器配置为用于对线程上输入特征图的激活函数进行缓冲，权重和激活函数在多个线程之间进行共享，各个线程的串行输出经过输出缓冲后进行并行输出。

优选地，当所述目标神经网络层为池化层，所述处理单元配置为比较器；数据流的输入或输出为并行传输。

优选地，当所述目标神经网络层为全连接层，所述处理单元包括分组配置在多个线程中的乘积累加运算单元和修正线性单元；数据流的输入或输出为线程级并行的串行传输，片上系统的静态存储器配置为权重缓冲区，激活函数通过多个线程进行串行流式传输。

优选地，当所述目标神经网络层为残差层，所述处理单元配置为加法器；数据流的输入或输出为并行传输，片上系统的输入和输出移位寄存器用于存储操作数。

优选地，当所述目标神经网络层为长短期记忆层，所述处理单元分为四组，各组处理单元用于实例化sigmoid函数和tanh函数，数据流的输入或输出为串行传输。

优选地，当所述目标神经网络层为强化学习层，所述处理单元包括分组配置在多个线程中的乘积累加运算单元和修正线性单元；数据流的输入或输出为线程级并行的串行传输，片上系统的缓存用于状态激活和迭代操作。