[发明专利]卷积神经网络的任务调度方法、系统、设备及存储介质

权利要求书

1.一种卷积神经网络的任务调度方法，其特征在于，包括：

接收待处理图像，并确定所述待处理图像对应的网络任务；

根据所述卷积神经网络所在脉动阵列的数据流方式构建性能模型；其中，所述数据流方式为权重固定数据流、输入固定数据流或输出固定数据流；

利用所述性能模型计算所述脉动阵列中每一加速器处理每一所述网络任务的时延信息，根据所述时延信息将所有所述网络任务分配至对应的加速器，以便得到所述卷积神经网络对所述待处理图像的图像处理结果。

2.根据权利要求1所述卷积神经网络的任务调度方法，其特征在于，根据所述卷积神经网络所在脉动阵列的数据流方式构建性能模型，包括：

根据所述脉动阵列的数据流方式确定卷积层执行时延L_CONV；

根据所述卷积神经网络的输出层大小确定池化层执行时延L_POOL；

确定所述卷积神经网络的缓存时延L_BUF；其中，所述缓存时延L_BUF为卷积核缓存不足的总时延、输入缓存不足的总时延和输出缓存不足的总时延的总和；

根据所述卷积神经网络的总层数h、卷积层数h_CONV、池化层数h_POOL、卷积层执行时延L_CONV、池化层执行时延L_POOL和缓存时延L_BUF构建所述性能模型。

3.根据权利要求2所述卷积神经网络的任务调度方法，其特征在于，根据所述脉动阵列的数据流方式确定卷积层执行时延L_CONV，包括：

若所述脉动阵列的数据流方式为权重固定数据流，则利用第一公式计算卷积层执行时延L_CONV；

若所述脉动阵列的数据流方式为输入固定数据流，则利用第二公式计算卷积层执行时延L_CONV；

若所述脉动阵列的数据流方式为输出固定数据流，则利用第三公式计算卷积层执行时延L_CONV；

其中，所述第一公式为S₁＝W_o×H_o×r₁+r₂；

所述第二公式为S₂＝K×r₁+r₂；

所述第三公式为L_CONV＝n_t3×S₃，S₃＝F_CONV×F_CONV×D_i×r₁+r₂；

F_CONV表示卷积核的高度，D_i表示卷积输入层深度，N_r表示脉动阵列的行数，K表示卷积核数量，N_c表示脉动阵列的列数，W_o表示输出层的宽度，H_o表示输出层的高度，r₁表示一次乘加操作的时延，r₂表示并行任务启动的时延。

4.根据权利要求1所述卷积神经网络的任务调度方法，其特征在于，所述脉动阵列包括异构的脉动阵列加速器群；

相应的，根据所述时延信息将所有所述网络任务分配至对应的加速器，包括：

在约束条件下将所有所述网络任务分配至对应的加速器；其中，所述约束条件为脉动阵列加速器群处理所有所述网络任务的整体时延最小。

5.根据权利要求1所述卷积神经网络的任务调度方法，其特征在于，在根据所述时延信息将所有所述网络任务分配至对应的加速器之后，还包括：

对所述加速器的任务队列中的网络任务设置优先级分数；

控制所述加速器按照优先级分数从高到低的顺序处理对应的网络任务；

在所述加速器处理完一个网络任务后，增加任务队列的所有网络任务的优先级分数。