[发明专利]一种加速神经网络模型预测过程的处理器系统

说明书

本发明提供一种加速神经网络模型预测过程的处理器系统，涉及神经网络算法领域和计算机硬件领域领域，所述神经网络模型预测过程包括卷积层、循环层和全连接层，所述处理器系统包括一第一处理单元和一三维非易失性存储器；所述三维非易失性存储器内部集成有一第二处理单元；所述第一处理单元用于处理保存在所述存储单元中的所述神经网络模型执行所述卷积层和所述循环层的命令时的相应数据；所述第二处理单元用于处理保存在所述三维非易失性存储器的存储阵列中的所述神经网络模型执行所述全连接层的命令时的相应数据。本发明有效提升神经网络模型预测过程的运行速度，充分利用了各处理器性能，避免系统资源浪费的同时降低能耗。

技术领域

本发明涉及神经网络算法领域和计算机硬件领域，尤其涉及一种加速神经网络模型预测过程的处理器系统。

背景技术

神经网络目前被广泛应用于视频处理、图像处理、语音识别和优化计算等领域，神经网络由于自身结构中的可并行性和良好的性能，受到了广泛的关注，也在潜移默化地影响着人们的生活。神经网络运算过程中需要大量的数据，数据的存储和传输已经成为神经网络运算过程的技术壁垒。如何使得神经网络在运算过程中，庞大的数据的传输和存储能够高效地运行，减小神经网络运算过程中的内存限制，成为目前所要解决的一项关键的问题。

深度神经网络的计算过程主要包括训练过程和预测过程两部分，但由于其具有计算密集性和数据密集性的特点，当面对大规模数据时，往往存在计算资源需求大、计算时间过长、功耗较大等微调。训练过程采用离线方式即可满足一般应用的需求，而预测过程需要在线进行，对实时性要求更高，因此加速其预测过程更具有实践意义和应用市场。并行化是加速神经网络的预测过程的主要技术手段，但如果数据访问能力不能进一步提高，就形成了瓶颈，导致片上并行部件利用率不高，造成了现有资源的浪费。

发明内容

针对现有技术中存在的问题，本发明提供一种加速神经网络模型预测过程的处理器系统，所述神经网络模型预测过程包括卷积层、循环层和全连接层，所述处理器系统包括一第一处理单元和一三维非易失性存储器；

所述三维非易失性存储器内部集成有一第二处理单元；

所述第一处理单元连接一存储单元，用于处理保存在所述存储单元中的所述神经网络模型执行所述卷积层和所述循环层的命令时的相应数据；

所述第二处理单元用于处理保存在所述三维非易失性存储器的存储阵列中的所述神经网络模型执行所述全连接层的命令时的相应数据。

优选的，所述第一处理单元具有直接访问所述存储单元的权限，以及

所述第二处理单元具有直接访问所述三维非易失性存储器的所述存储阵列的权限。

优选的，所述存储单元包括内存，和/或三维非易失性存储器。

优选的，所述第一处理单元包括中央处理单元，和/或图形处理单元，和/或张量处理单元，和/或现场可编辑逻辑门阵列，和/或专用集成电路芯片。

优选的，所述第二处理单元包括中央处理单元，和/或图形处理单元，和/或张量处理单元，和/或现场可编辑逻辑门阵列，和/或专用集成电路芯片。

优选的，所述第一处理单元的处理性能高于所述第二处理单元的处理性能。

优选的，所述第二处理单元形成于所述三维非易失性存储器的所述存储阵列的上方；或者

所述第二处理单元形成于所述三维非易失性存储器的所述存储阵列的下方。

优选的，所述三维非易失性存储器包括三维相变存储器，和/或三维NAND闪存，和/或三维磁性存储器，和/或阻变存储器。