[发明专利]计算装置和处理器实现的方法

说明书

公开了一种计算装置和处理器实现的方法。所述计算装置包括：多个处理核；和区块调度器，被配置为：基于先前分配给所述多个处理核的第一区块中的每个的元信息和每个第二区块的元信息，更新所述多个处理核中的每个的成本矩阵，并且使用所述多个处理核中的每个的更新的成本矩阵将第二区块分配给所述多个处理核。

本申请要求于2020年9月11日在韩国知识产权局提交的第10-2020-0117000号韩国专利申请的权益，所述韩国专利申请的全部公开出于所有目的通过引用包含于此。

技术领域

下面的描述涉及计算装置和方法。

背景技术

随着人工智能(AI)技术发展，专用AI硬件可被用于执行学习和训练的推断。作为专用于实现AI的硬件，神经处理器可被使用。

发明内容

提供本发明内容以便以简化的形式介绍以下在具体实施方式中进一步描述的构思的选择。本发明内容不意在确定要求权利的主题的关键特征或必要特征，也不意在用于帮助确定要求权利的主题的范围。

在一个总体方面，一种计算装置包括：多个处理核；和区块调度器，被配置为：基于第二区块中的每个的元信息和先前分配给所述多个处理核的第一区块中的每个的元信息，更新所述多个处理核中的每个的成本矩阵，并且使用所述多个处理核中的每个的更新的成本矩阵相对于所述多个处理核分配第二区块。

为了更新成本矩阵，区块调度器可被配置为：针对所述多个处理核中的每个，基于每个第一区块的元信息和每个第二区块的元信息，计算第一区块和第二区块之中的多个配对中的每个配对的接收数据量；和基于计算的相应的结果来更新所述多个处理核中的每个处理核的成本矩阵。

计算的步骤可包括：通过计算所述多个配对之中的第一配对的第二区块的滤波器数据的大小，计算所述多个处理核中的第一处理核针对第一配对的第一接收数据量，其中，第一配对的第一区块可被分配给所述第一处理核，并且计算的步骤可包括：通过计算所述多个配对之中的第二配对的第二区块的滤波器数据的大小与第二配对的第一区块的输出数据的大小之和，不同地计算第一处理核针对第二配对的第二接收数据量，其中，第二配对的第一区块可被分配给所述多个处理核中的另一处理核。

为了分配第二区块，区块调度器可被配置为：根据所述多个处理核中的每个的更新的成本矩阵的相应的最小值，将第二区块中的一个或多个分配给相应的处理核。

第一区块可包括与神经网络模型的操作对应的区块，第二区块可包括与另一神经网络模型的操作对应的区块。

与所述另一神经网络模型的操作对应的区块可被分配给所述多个处理核的一部分，并且针对所述神经网络模型和所述另一神经网络两者在所述多个处理核之中的资源分配可发生在对第二区块的分配中。

所述计算装置还可包括：主机处理器，被配置为：生成与所述神经网络模型的操作对应的第一区块，并且生成与所述另一神经网络模型的操作对应的第二区块。

第一区块中的一个可依赖于第一区块中的另一个的输出数据。

所述多个处理核中的每个可包括对应的区块队列，并且所述多个处理核中的每个可被配置为：依赖于第二区块被区块调度器分配给所述多个处理核中的哪一个，分别将第二区块中的一个或多个区块入队到对应的区块队列；和从外部存储器分别预取分别入队到对应的区块队列的第二区块中的所述一个或多个区块的源数据。

所述多个处理核中的每个可包括对应的区块队列，并且所述多个处理核中的每个可被配置为：当对应的区块队列已满时，请求区块调度器不将额外的区块分配给对应的区块队列。

具有已满的对应的区块队列的对应的处理核可被配置为：完成存储在对应的区块队列中的一个或多个区块的执行，并且在存储在区块队列中的所述一个或多个区块的执行之后对应的区块队列不再满时，请求区块调度器将区块分配给对应的处理核。