[发明专利]数据中心环境下减少延迟敏感程序性能干扰的方法及系统

说明书

本发明公开了一种数据中心环境下减少延迟敏感程序性能干扰的方法及系统，包括：获取每一个需要执行的程序对处理器和内存的资源占用率；获取每一个延迟敏感程序的LLC未命中率；将每个服务器节点上执行的延迟敏感程序，分别分配在该服务器的不同NUMA节点；基于获取的资源占有率，分别在每个NUMA节点上为延迟敏感程序和批处理程序分配CPU core；在每个NUMA节点上为延迟敏感程序和批处理程序动态划分LLC区域，保证延迟敏感程序LLC未命中率在设定的范围内。本发明在保证延迟敏感程序性能的同时，可以最大化的提升系统的资源利用率和吞吐量。

技术领域

本发明涉及并行与分布式计算技术领域，尤其涉及一种数据中心环境下减少延迟敏感程序性能干扰的方法及系统。

背景技术

本部分的陈述仅仅是提供了与本发明相关的背景技术信息，不必然构成在先技术。

现在的大型数据中心运行着越来越多的程序，但大多数数据中心的平均利用率较低。为了提高资源利用率，大量的程序在尽可能少的服务器上执行。而在一个服务器节点中，会有多个程序在一个节点上执行。多个程序共同执行的好处是可以增加服务器的利用率，而问题是会导致程序性能下降。程序性能下降程度取决于程序特征，对于某些程序，与其他程序共同执行时，性能下降不明显；而对于某些程序，与其他程序共同执行时，性能会明显下降。

与此同时，数据中心中运行着大量的延迟敏感程序。客户将延迟敏感程序在数据中心执行，多种延迟敏感程序共同运行会对资源产生大量的争用。当延迟敏感程序共同执行时，很容易由于性能干扰导致严重的性能下降，从而不能满足客户的服务质量需求。

发明内容

有鉴于此，本发明提出了一种数据中心环境下减少延迟敏感程序性能干扰的方法及系统，能够保证多种延迟敏感程序与批量程序共同执行时的性能要求，同时尽可能的提升系统的资源利用率。

根据本发明实施例的第一个方面，提供了一种数据中心环境下减少延迟敏感程序性能干扰的方法，包括：

获取每一个需要执行的程序对处理器和内存的资源占用率；获取每一个延迟敏感程序的LLC未命中率；

将每个服务器节点上执行的延迟敏感程序，分别分配在该服务器的不同NUMA节点；

基于获取的资源占有率，分别在每个NUMA节点上为延迟敏感程序和批处理程序分配CPU core；

在每个NUMA节点上为延迟敏感程序和批处理程序动态划分LLC区域，保证延迟敏感程序LLC未命中率在设定的范围内。

根据本发明实施例的第二个方面，提供了一种数据中心环境下减少延迟敏感程序性能干扰的系统，包括：

用于获取每一个需要执行的程序对处理器和内存的资源占用率；获取每一个延迟敏感程序的LLC未命中率的装置；

用于将每个服务器节点上执行的延迟敏感程序，分别分配在该服务器的不同NUMA节点的装置；

用于基于获取的资源占有率，分别在每个NUMA节点上为延迟敏感程序和批处理程序分配CPU core的装置；

用于在每个NUMA节点上为延迟敏感程序和批处理程序动态划分LLC区域，保证延迟敏感程序LLC未命中率在设定的范围内的装置。

根据本发明实施例的第三个方面，提供了一种终端设备，其包括处理器和计算机可读存储介质，处理器用于实现各指令；计算机可读存储介质用于存储多条指令，所述指令适于由处理器加载并执行上述的数据中心环境下减少延迟敏感程序性能干扰的方法。

根据本发明实施例的第四个方面，提供了一种计算机可读存储介质，其中存储有多条指令，所述指令适于由终端设备的处理器加载并执行上述的数据中心环境下减少延迟敏感程序性能干扰的方法。

与现有技术相比，本发明的有益效果是：