[发明专利]硬件装置当中的工作负载分配

权利要求书

1.一种用于硬件装置当中的工作负载分配的方法，其包括：

通过处理单元(110、210-1、……、210-N、310)监测与多个硬件装置(116-1、……、116-N、216-1、……、216-N、316)对工作负载的执行相关联的工作负载特性；

通过所述处理单元(110、210-1、……、210-N、310)确定与所述硬件装置(116-1、……、116-N、216-1、……、216-N、316)中的至少一个所处理的工作负载对应的特定特性；

通过所述处理单元(110、210-1、……、210-N、310)执行如下动作：确定特定硬件装置(116-1、216-1)与不同硬件装置(116-N、216-N)相比在执行所述工作负载时展现更高性能；和

将具有与展示所述特定特性的所述工作负载对应的特性的后续工作负载分配给与不同硬件装置(116-N、216-N)相比在执行所述工作负载时展现更高性能的所述硬件装置(116-1、216-1)。

2.根据权利要求1所述的方法，其中所述多个硬件装置包括硬件加速器(320-1、……、320-N)、算术逻辑单元(322-1、……、322-N)、神经形态处理器(324-1、……、324-N)或密码加速器(326-1、……、326-N)或其任何组合中的至少一个，且其中所述确定所述特定硬件装置展现更高性能的动作包括识别所述特定硬件装置相对于所述多个硬件装置中的另一硬件装置的操作数目、处理速度、处理量、每位能量或其任何组合中的至少一个。

3.根据权利要求1所述的方法，其另外包括通过如下操作执行所述确定所述特定硬件装置展现所述更高性能的动作：由所述处理单元处理指示与所述硬件装置中的所述至少一个所处理的工作负载对应的至少一个处理特性的信息。

4.根据权利要求1所述的方法，其中分配所述后续工作负载另外包括通过所述处理单元将所述后续工作负载分配给在执行所述工作负载时展现所述更高性能的所述硬件装置。

5.根据权利要求1所述的方法，其中分配所述后续工作负载另外包括通过所述不同硬件装置至少部分地基于接收到由所述处理单元产生的执行所述后续工作负载的命令，将所述后续工作负载分配给在执行所述工作负载时展现所述更高性能的所述硬件装置。

6.根据权利要求1所述的方法，其中分配所述后续工作负载另外包括通过所述处理单元将所述后续工作负载分配给在执行所述工作负载时展现所述更高性能的所述硬件装置以及至少一个其它硬件装置。

7.根据权利要求1所述的方法，其另外包括：

通过所述处理单元基于与所述硬件装置所处理的所述工作负载对应的所述特定特性，产生所述多个硬件装置中的每一个的排名；和

至少部分地基于所述所产生的排名，将所述后续工作负载分配给所述多个硬件装置。

8.根据权利要求7所述的方法，其另外包括：

通过所述处理单元确定最高排名的硬件装置不能够处理所述后续工作负载；和

至少部分地基于所述确定，将所述后续工作负载分配给第二高的排名的硬件装置。