[发明专利]用于降低远程直接存储器访问系统中时延的设备、方法和系统

说明书

为了减少RDMA系统中的时延，使用本地定时器及时分发正在发送的消息，以便在发送新的操作或命令之前完成必要的先前操作。在发送预取命令时，这对于RDMA系统特别有用。

技术领域

本发明大体上涉及数据通信和远程直接存储器访问(remote direct memoryaccess，RDMA)系统领域；更具体地，涉及用于减少远程直接存储器访问系统中时延的发送设备、接收设备、系统和方法。

背景技术

网络中的多个计算设备之间的高速数据通信引起了人们对可靠数据通信和时延的担忧。传统上，多个计算设备采用传统的远程直接存储器访问(remote direct memoryaccess，RDMA)技术来提高数据通信的速度。传统的RDMA技术使计算设备(例如传统的发送设备)能够直接访问另一个计算设备(例如传统的接收设备)的存储器，而不涉及任何计算设备(即传统的发送设备和传统的接收设备)的操作系统(operating system，OS)。传统的RDMA技术依赖于同步事件来维护数据操作的特定执行顺序。例如，在传统的RDMA系统的示例性实现场景中，如果传统的发送设备和传统的接收设备的同步不完善，则可能导致数据通信不可靠。也就是说，如果传统的发送设备(即RDMA发送器)在传统的接收设备执行先前的数据操作之前与传统的接收设备(即RDMA接收器)启动数据(例如数据包)的发送，则数据(或数据包)的发送被暂停或丢弃。此外，不同步的传统的发送设备和传统的接收设备可能导致数据(或数据包)的不完整传输和数据的重传，这反过来又增加了时延(例如尾部时延)并降低了吞吐量。附加地，流量控制不能在单个连接方案中应用，它可能会对共享相同流量类别(或流量网络)的其它连接产生不利影响。流量控制不是逐事件(例如页面故障、缓存未命中等)细粒度的，这导致时延显著增加。

在另一个示例性场景中，可以使用传统的非固定RDMA技术来加速数据通信的速度。在传统的非固定RDMA技术中，传统的响应设备需要传统的请求设备的虚拟地址(例如目标虚拟地址)来发送数据。如果传统的请求设备的虚拟地址触发了故障(例如页面故障)，则数据传输被暂停或丢弃，并可能导致数据重传，这进一步增加了事务完成时延。

在传统的RDMA的另一个示例性场景中，当数据包到达传统的接收设备时，可能需要附加的信息，例如队列对(queue pair，QP)上下文、内存保护表(memory protectiontable，MPT)和内存转换表(memory translation table，MTT)。传统的发送设备和传统的接收设备具有有限数量的网络接口控制器(例如网络接口卡)。因此，如果使用网络接口控制器建立了多个连接，则由于网络接口控制器缓存的大小有限，有可能将信息从几个连接驱逐到主机存储器中。因此，在传统的系统中，从主机存储器中获取信息较频繁并且需要时间，而且通常需要几次迭代，这会导致时延增加和性能下降。

在某些场景下，传统的RDMA框架可以使用围栏来强制数据操作的顺序执行。例如，在RDMA请求具有“围栏标志”的情况下，则在这种情况下，RDMA请求被传统的RDMA发送设备延迟，直到传统的RDMA接收设备向传统的RDMA发送设备发回信号，该信号表明先前的操作已经执行。在这些情况下，由于存在围栏，RDMA请求的总执行时间显著增加，并导致高时延。在存储过多工作队列元素(work queue element，WQE)的情况下，围栏标志(或围栏)可能会导致传统的RDMA接收设备上的过载。因此，传统的设备、方法和传统的远程直接存储器访问系统存在低效和不可靠的数据通信的技术问题。

因此，根据上述讨论，需要克服与用于数据通信的传统的远程直接存储器访问(remote direct memory access，RDMA)技术的传统的发送设备、传统的接收设备和传统的方法关联的上述缺点。

发明内容