[发明专利]实现数据预取的数据处理系统

说明书

本发明的实现数据预取的数据处理系统，通过帧同步脉冲信号以及控制器不仅实现了数据预取控制功能还实现了软硬件同步，还可以应用到单核系统和多核系统，并且使用更为灵活。本发明的控制器控制简单，可以单一线程即可实现。

技术领域

本发明涉及数据处理领域，特别是涉及一种实现数据预取的数据处理系统。

背景技术

深度神经网络(DNN)研究近年来取得了飞速发展并得到初步应用。另一方面，脉冲神经网络(SNN)近年来以其低功耗和更接近人脑的特点吸引了学术界和产业界的关注。深度神经网络和脉冲神经网络的硬件加速中，需要用软件指令控制硬件模块的运行。典型的控制流程是在执行算法模型中的一层运算时，软件启动硬件，硬件开始读取存储器中的数据，硬件进行运算，运算完毕硬件发出执行完毕相关的中断，软件接收到中断信号后，进行后续处理。

上述软硬件同步方法有一些缺点：首先，硬件用中断信号通知运行在CPU上的软件，限制了实时性。如果硬件一次运算需要的时间较短，例如0.5ms，软件较难在更短的时间内对中断进行响应，这时中断处理成为系统性能的瓶颈。第二，从存储器中读取数据发生在硬件被软件启动后，在数据读入之前运算不能发生，从外部存储器读取数据，可能需要较大的延时，例如1000个时钟周期，在这段时间内，硬件不能进行运算。这限制了硬件的性能。

针对软件处理中断不及时的缺点，深度神经网络硬件加速中采用了两个层次的软件控制，细粒度的控制软件运行在定制的微控制器上，微控制器与硬件运算单元紧密耦合，实现对硬件单元的启停控制；粗粒度的控制软件运行在CPU上，CPU上的软件控制微控制器的运行，CPU上的软件响应微控制器的频率较低。这样的方案可以避免CPU上的软件频繁进行中断处理。这一同步方案目前主要应用在单核系统中，一个微控制器只控制一个运算核的启停。脉冲神经网络是一个典型的多核系统，多个运算核需要一起工作，所有的运算核都结束软件才可以进行后续操作。上述软硬件同步方案不能直接应用到多核系统中。

针对传统同步方法中的数据不能预取的缺点，软硬件需要具备预取数据的能力。典型的可以进行数据预取的软件指令序列如下：第一步，控制硬件存取模块读取数据块1；第二步，启动硬件运算模块，对数据块1进行运算，同时控制硬件存取模块读取数据块2；第三步，启动硬件运算模块，对数据块2进行运算，同时控制硬件存取模块读取数据块3等等。这一方法可以实现存储数据的预取，主要应用于单核系统中。在多核系统中，如果要求在一些时间点不进行运算或者不输出结果或者需要等待全局同步信号有效后才能进行后续操作，上述方法就很难实现上述功能。

发明内容

鉴于以上所述现有技术的缺点，本发明的目的在于提供一种实现数据预取的数据处理系统，用于解决现有技术中以上技术问题。

为实现上述目的及其他相关目的，本发明提供一种实现数据预取的数据处理系统，所述系统包括：帧同步脉冲信号产生装置，用于产生变化的帧同步脉冲信号；其中，所述帧同步脉冲信号的变化状态包括：有效脉冲信号以及非有效脉冲信号；运算阵列，与所述帧同步脉冲信号产生装置连接，包括：一或多个运算核，分别与所述帧同步脉冲信号同步；控制器，连接所述帧同步脉冲信号产生装置以及运算阵列，用于对与获取的预取数据指令相关的帧数据进行预取控制，且基于输入的帧同步脉冲信号以及获取的非预取数据指令控制向所述运算阵列执行所述预取数据指令所对应的操作，以供各运算核对所述帧数据进行运算；其中，一或多个帧数据对应一帧的数据；其中，所述帧同步脉冲信号产生装置在各运算核进行一帧的数据运算时产生非有效脉冲信号，每在各运算核一帧的数据运算结束之后产生所述有效脉冲信号。

于本发明的一实施例中，所述帧同步脉冲信号产生装置当接收到来自所述运算阵列反馈的对应各运算核进行一帧的数据运算时的忙碌信号时，则产生非有效脉冲信号；当接收到来自所述运算阵列反馈的对应各运算核每对一帧的数据运算结束后的空闲信号时，则产生所述有效脉冲信号。