[发明专利]云计算服务器的功耗和资源竞争协同控制的服务质量保障方法

说明书

本发明公开了一种云计算服务器的功耗和资源竞争协同控制的服务质量保障方法，该方法包括有：在初始化云计算服务器后进行各个参数设置的步骤；设置监测周期、调节主频步长、功耗上限的步骤；构建负载—缓存压力的关联数据和任务—主频的关联数据的步骤；最后根据延迟敏感性应用的需求不断调节批处理作业所在处理器的主频能够在满足功耗和服务质量保障的要求下最大限度提高批处理作业的吞吐量。本发明克服了传统单目标或双目标优化方法在保障延迟敏感型应用服务质量时无法兼顾功耗或批处理作业吞吐量的缺陷，通过离线分析和在线优化配置方法简化了多目标优化过程，能够有效指导数据中心服务器任务调度和资源优化配置。

技术领域

本发明涉及云计算体系结构中的服务器，更特别地说，是指一种适用于云计算服务器的功耗和资源竞争协同控制的服务质量(QoS)保障方法。

背景技术

随着云计算、深度学习、移动互联网等信息技术的快速发展，面向用户的实时应用变得越来越多样化，如Web搜索、联机事务处理、语音识别、人脸验证、实时翻译等正逐渐改变着人们的生产生活方式。用户能否在这些交互式应用中能否获得满意的体验，不仅与程序功能是否人性化、操作是否方便化有关，而且在很大程度上取决于“用户请求—服务应答”的端到端延迟。若无法保障交互式应用的延迟，则用户体验将会变得很差，因此这类应用通常被称为延迟敏感性应用。

数据中心作为应用服务运行的后台场所，其基础设施条件，如服务器性能、网络质量、电能供应，对保障服务的延迟起着重要作用，良好的基础设施能够为应用提供稳定、可靠的运行环境，从而提高服务的响应速度、保障服务质量(Quality of Service，QoS)。通常，为了保障用户请求的处理延迟，服务提供商会将实时应用运行在专属服务器上，从而避免后台作业对共享资源，如最后一级缓存(Last Level Cache)、内存带宽的争用。但这种保守的服务质量保障方式不仅造成了严重的资源(处理能力、存储、功耗)浪费，如Google、亚马逊、微软等数据中心服务器利用率仅为5％～30％，而且加大了服务提供商对基础设施投资的费用。为了改善数据中心资源利用率低的现状，越来越多的研究人员提出将批处理作业和延迟敏感型应用同时运行在同一服务器上(简称混合运行)。通过对软硬件控制方法，如Cache分区、内存带宽预留、批处理作业动态调度等，将共享资源按应用的优先级进行分配或隔离，从而在保障延迟敏感性应用服务质量的前提下，提高服务器资源的利用率。

应用混合运行是提高服务器资源利用率的有效手段，但设计有效的动态资源调度与隔离技术，在保证延迟敏感性应用服务质量的同时最大程度的提高批处理作业的吞吐量仍然是目前工业界和学术界面临的难题。这是因为：(一)用户(user)请求的到达时间是不可预测的。服务器(server)处理用户(user)请求时间取决于实时负载(load)，因此准确地估算延迟敏感型应用(Delay-sensitive applications)需要的资源是非常困难的，而且批处理任务(task)与延迟敏感型应用(Delay-sensitive applications)混合运行将进一步干扰估算的准确性。(二)如何有效地控制服务器功耗(Power consumption)。应用混合运行会显著提高服务器的动态功耗。为了保障数据中心硬件资源和降低每年的电能消耗，服务提供商往往会限制各级集群的电能配额。如使用功耗封顶(Power Cap)技术限制服务器的功耗不大于70W。当批处理任务(task)与延迟敏感型应用(Delay-sensitiveapplications)的总体功耗达到限制值时，服务器会强制降低处理器(CPU)的主频来减少整体功耗。然而这种强制降低主频的方式对延迟敏感型应用(Delay-sensitiveapplications)是透明的，短暂的处理器(CPU)主频降低对批处理作业的平均处理时间并不会造成很大影响，但却会严重增加延迟敏感型应用(Delay-sensitive applications)的处理时间，造成服务质量(Quality of Service，QoS)的下降。