[发明专利]存储器中处理器和使用存储器中处理器输出指令的方法

说明书

公开了一种存储器中处理器和使用存储器中处理器输出指令的方法。存储器中处理器包括内部处理器、存储器和被配置为存储指令元信息的寄存器。存储器被配置为：存储通过预测未来指令而生成的查找表。外部处理器被配置为：响应于包括指令元信息的存储器中处理(PIM)应用编程接口(API)调用指令，从查找表检索与指令元信息对应的指令。基于检索结果输出与指令元信息对应的指令。

本申请要求于2020年11月18日在韩国知识产权局提交的第10-2020-0154790号韩国专利申请的权益，所述韩国专利申请的全部公开出于所有目的通过引用包含于此。

技术领域

以下描述涉及存储器中处理(processing-in-memory，PIM)，更具体地，涉及用于从PIM输出指令的技术。

背景技术

在被称为冯诺依曼架构的标准模型中，数据被存储在存储器中。存储器与处理器分离，并且数据在它们之间移动。在这种结构中，由于频繁的数据移动而发生不可避免的延迟。尽管随着处理器速度的增加，存储器已经被改进，但是所述改进不是在传输速率方面，而主要是在更小空间中存储更多数据的能力方面。当将数据从存储器获取到处理器所需的等待时间增加时，处理器的速度可能限于瓶颈处的传输速率。因此，在标准计算机架构中可能发生吞吐量由于等待时间而受到限制的冯诺依曼瓶颈(von Neumann bottleneck)。为了解决这个瓶颈，存储器中处理提出了一种用于在单芯片存储器中执行操作的结构。

发明内容

提供本发明内容以便以简化的形式介绍将在下面的具体实施方式中进一步描述的构思的选择。本发明内容不意在确定要求权利的主题的关键特征或必要特征，也不意在用于帮助确定要求权利的主题的范围。

在一个总体方面，一种存储器中处理(PIM)包括：内部处理器、存储器和被配置为存储指令元信息的寄存器，其中，存储器被配置为存储通过预测未来指令而生成的查找表，响应于包括指令元信息的PIM应用编程接口(API)调用指令，与指令元信息对应的指令由外部处理器从查找表检索，基于检索结果，与指令元信息对应的指令由外部处理器输出，并且内部处理器被配置为：使用输出的指令。

查找表可由内部处理器或外部处理器通过基于过去指令的日志来预测未来指令而生成。

在与指令元信息对应的指令被检索到的情况下，检索到的指令可由外部处理器输出。

在与指令元信息对应的指令没有被检索到的情况下，与指令元信息对应的指令可由外部处理器生成并输出。

在与指令元信息对应的指令没有被检索到的情况下，与指令元信息对应的指令可由外部处理器存储在查找表中。

在另一总体方面，PIM包括内部处理器、存储器和被配置为存储指令元信息的寄存器，其中，响应于包括指令元信息的PIM API调用指令，与指令元信息对应的指令由外部处理器生成，生成的指令由外部处理器存储在查找表中，生成的指令由外部处理器输出，并且内部处理器被配置为：使用输出的指令。

响应于下一PIM API调用指令，与下一PIM API调用指令对应的指令可由外部处理器从查找表检索，并且基于检索结果，与下一PIM API调用指令对应的指令可由外部处理器输出。

在又一总体方面，一种从包括内部处理器、存储器和寄存器的PIM输出指令的方法包括：通过预测未来指令来生成查找表，并将查找表存储在存储器中；将指令元信息存储在寄存器中；响应于包括指令元信息的PIM应用编程接口(API)调用指令，从查找表检索与指令元信息对应的指令；基于检索结果输出与指令元信息对应的指令；以及由内部处理器使用输出的指令。

生成查找表的步骤可包括：由内部处理器或外部处理器通过基于过去指令的日志预测未来指令来生成查找表。

输出指令的步骤可包括：在检索到与指令元信息对应的指令的情况下，输出检索到的指令。