[发明专利]存储器请求的自适应调度

说明书

描述了用于集成电路设备的装置和方法。在其中的装置中，存在耦合到多个存储器体(104)的多个存储器控制器(103，200)。交换机网络(102)耦合到多个存储器控制器(103，200)。多个数据处理设备(105，300)耦合到交换机网络(102)，并且被配置为生成存储器请求(305)。网络控制器(101，400)耦合到交换机网络(102)，并且被配置为对存储器请求(305)排队，并且响应于与多个存储器体(104)相关联的对应响应时间(417)，从排队的存储器请求中选择性发出去往存储器的请求(422)。

技术领域

以下描述涉及集成电路设备(“IC”)。更具体地，以下描述涉及针对IC的存储器请求的自适应调度。

背景技术

存储器的读取和写入请求可能会以一个或多个时钟周期的延迟发生。例如，动态随机存取存储器或DRAM可能具有大量的延迟。大量的延迟可能会对性能(包括存储器吞吐量)产生负面影响。因此，期望提供一种具有增加的存储器吞吐量的IC。

发明内容

一种装置总体上涉及集成电路设备。在这样的装置中，多个存储器控制器耦合到多个存储器体。交换机网络耦合到多个存储器控制器。多个数据处理设备耦合到交换机网络，并且被配置为生成存储器请求。网络控制器耦合到交换机网络，并且被配置为对存储器请求排队，并且响应于与多个存储器体相关联的对应响应时间，从排队的存储器请求中选择性地发出去往存储器的请求。

在一些实施例中，网络控制器可以被配置为针对每个存储器请求，确定挑选时间与对应响应时间之间的差值以获取对应响应时间。网络控制器还可以被配置为将排队的存储器请求与对应响应时间相关联。

在一些实施例中，网络控制器可以被配置为具有挑选时间计数器电路，挑选时间计数器电路被配置为存储与发出的存储器请求相对应的挑选时间。网络控制器还可以包括挑选请求总数计数器电路，挑选请求总数计数器电路被配置为存储针对所存储的每个挑选时间的请求计数。网络控制器还可以包括总响应时间计数器电路，总响应时间计数器电路被配置为针对发出和完成的存储器请求，通过分别从接收的完成时间中减去挑选时间来生成对应响应时间。网络控制器还可以包括请求调度器电路，该请求调度器电路被耦合以接收对应响应时间，并且被配置为：针对与所发出的存储器请求相关联的多个存储器体，生成对应响应时间的运行平均值；确定运行平均值中的最低运行平均值；，发出排队的存储器请求中针对多个存储器体中具有最低运行平均值的存储器体的存储器请求。

在一些实施例中，交换机网络可以包括可编程逻辑结构的可编程互连电路。

在一些实施例中，对应响应时间可以指示存储器页面被打开。

在一些实施例中，存储器请求可以包括用于响应于最短响应时间到最长响应时间而失序执行的存储器写入命令或存储器读取命令中的至少一个。

在一些实施例中，可以利用页面读取或页面写入中的至少之一来访问多个存储器体。

在一些实施例中，网络控制器可以被配置为针对分别在网络控制器中排队的每个存储器请求，对未被选择用于发出的每个实例进行计数以提供对应饥饿计数。网络控制器还可以被配置为发出排队的存储器请求中具有饥饿计数超过计数阈值的每个存储器请求。

在一些实施例中，交换机网络中的至少一个交换机可以被配置为仲裁器。仲裁器可以被配置为接收从网络控制器发出的存储器请求的子集，在仲裁器中对所接收的存储器请求的子集排队，并且响应于针对由在仲裁器中排队的存储器请求的子集寻址的多个存储器体的对应响应时间，发出存储器请求的子集中的存储器请求。