[发明专利]一种基于强化学习的集中式数据处理时间优化方法

说明书

本发明公开了一种基于强化学习的集中式数据处理时间优化方法，包括如下步骤：用户输入需要执行的数据处理任务的运算图，SDN控制器提供当前的网络资源图；将获得的运算图和网络资源图发送给强化学习调度器，请求强化学习调度器执行调度操作；强化学习调度器接收到运算图和网络资源图后，循环执行强化学习调度操作，生成最终的部署图；控制器根据部署图，控制网络中各个设备执行数据处理任务；当任务执行完成后，收集任务的执行时间返回给时间估计器；时间估计器根据真实的执行时间，训练自身的估计函数，本发明方法实现整个网络中从数据中心到边缘设备资源的集中调度，提供优化数据处理任务的处理时间服务。

技术领域

本发明涉及一种集中式数据处理时间优化方法，尤其涉及一种基于强化学习的集中式数据处理时间优化方法，属于计算机网络和机器学习领域的交叉技术领域。

背景技术

软件定义网络(SDN)技术，一如其名是以软件定义网络，更具体地来说，是以软件的形式定义网络的控制平面逻辑，打破传统分布式网络架构中，复杂多样的控制平面逻辑需要复杂多样的专用硬件设备实现的局面。在传统分布式网络架构中，网络的控制平面与数据平面的功能集中在同一台设备当中，这使得逻辑上容易发生变动的控制平面功能无法快速更新换代，阻碍了新类型网络的发展与推广。在本方法中，由于需要调用整个网络中包括数据中心和边缘设备在内的资源用于数据处理，涉及到较为复杂的资源调度、任务分派和数据转发，需要SDN提供灵活的网络控制与转发功能，以在整个网络中实现方法所需的复杂调度逻辑。

在传统的数据处理任务的工作模式中，来自终端的数据通常均由网络中顶层的数据中心进行处理，靠近终端的各层边缘设备只是扮演着终端和数据中心之间的数据收集和转发者的角色。这种工作模式虽然简单直接，但是在数据中心面临大量终端短时间爆发式地发送数据处理请求时，会因为接收的请求超出数据中心的处理能力而显著拖慢其接收请求和数据处理的速度，造成任务的执行耗时过长。而实际上，大量的数据请求按照其运算逻辑可以在靠近终端的边缘设备处就近处理，从而减少最终发送到数据中心的数据请求和数据总量。传统的工作模式无法利用边缘设备的能力，将数据请求集中在数据中心进行处理，是其耗时过长的一个重要原因。

发明内容

发明目的：本发明的目的为提供一种提高整个数据处理任务的完成效率、降低处理时间的基于强化学习的集中式数据处理时间优化方法。

技术方案：本发明的基于强化学习的集中式数据处理时间优化方法，包括如下步骤：

(1)SDN控制器提供当前的网络资源图G_R；

(2)强化学习调度器接收来自用户的运算图G_C和来自SDN控制器的网络资源图G_R，并循环执行强化学习调度操作，生成最终的部署图G_D；

(3)控制器根据部署图G_D，控制网络中各个设备执行数据处理任务；

(4)当任务执行完成后，SDN控制器收集任务的执行时间返回给时间估计器；

(5)时间估计器根据真实的执行时间，训练自身的估计函数。