[发明专利]一种FPGA池化资源任务均衡的方法、系统、设备及介质

说明书

本发明公开了一种FPGA池化资源任务均衡的方法、系统、设备和存储介质，方法包括：在资源状态表中记载每个FPGA的处理容量、当前可用容量和添加状态；响应于接收到任务流，将任务流输入任务队列中以完成流量融合；判断资源状态表中的当前可用容量的总和是否大于任务队列的总流量；以及响应于资源状态表中的当前可用容量的总和大于任务队列的总流量，根据每个FPGA的当前可用容量对总流量进行分配。本发明将部署在大二层网络的FPGA加速器视为可以独立提供计算加速服务的实体，将任务流分配给每个FPGA，解决了VxLAN架构中的FPGA池化资源在系统延迟约束状态下的流量均衡问题。

技术领域

本发明涉及FPGA领域，更具体地，特别是指一种FPGA池化资源任务均衡的方法、系统、计算机设备及可读介质。

背景技术

目前，数据中心部署大量服务器来执行不同任务，而同一服务又需要多台服务器组成的集群系统来提高整体的处理性能，因此需要将不同任务的流调度以实现相应的需求，再通过流量调度器将用户对某一任务的大量请求均衡地分发到后端集群服务器上。由于数据中心网络规则的拓扑，端到端之间存在多条等价路径，需要负载均衡机制使得流量得以均分到各路径上，因此通常在三层交换机中采用ECMP(Equal-CostMultipathRouting，等价路由)和WCMP(Weighted Cost Multipath，加权多路由)两种机制在网络层实现等价路径的负载均衡。

当某个应用的流到达数据中心后，数据中心需要将该流路由到服务集群中某个具体的服务器进行处理，由于服务器负载情况的不同以及网络状态的变化，将流导入不同的服务器会造成不同的开销和性能，尤其是服务器的利用率会导致不同的流处理完成的时间，从而直接影响服务的完成质量。因此，需要部署流量调度器，通过负载均衡算法将大量用户的请求分发到后端集群的不同服务器上，以保证数据中心服务能力健壮性。

将FPGA(Field-programmable gate array，可编程逻辑阵列)池化资源划入VxLAN(Virtual Extensible LAN，虚拟可扩展局域网)进行管理虽然解决了FPGA池化资源的部署问题，但是并未解决资源的合理利用问题。以提供视频流鉴别的FPGA池化资源为例，当应用流到达数据中心后，需要解决如何将流路由到视频流加速器资源池的问题，当多条应用流同时到达数据中心后，则需要解决应用流在视频流加速器资源池的均衡问题。

现在提出针对数据中心任务的均衡方法，首先没有充分考虑到当FPGA可作为一个独立的网络计算设备部署在数据中心中。这就导致，现有的容器微服务架构，直接通过docker容器配合K8s来调度FPGA计算单元的方式，依然基于FPGA host-device的开发模式来设计并使用FPGA加速器。其本质，依然是将FPGA视作一个受主机端代码控制的从设备。

发明内容

有鉴于此，本发明实施例的目的在于提出一种FPGA池化资源任务均衡的方法、系统、计算机设备及计算机可读存储介质，通过将部署在大二层网络的FPGA加速器视为可以独立提供计算加速服务的实体，将任务流分配给每个FPGA，解决了VxLAN架构中的FPGA池化资源在系统延迟约束状态下的流量均衡问题。

基于上述目的，本发明实施例的一方面提供了一种FPGA池化资源任务均衡的方法，包括如下步骤：在资源状态表中记载每个FPGA的处理容量、当前可用容量和添加状态；响应于接收到任务流，将所述任务流输入任务队列中以完成流量融合；判断所述资源状态表中的当前可用容量的总和是否大于所述任务队列的总流量；以及响应于所述资源状态表中的当前可用容量的总和大于所述任务队列的总流量，根据每个FPGA的当前可用容量对所述总流量进行分配。

在一些实施方式中，所述判断所述资源状态表中的当前可用容量的总和是否大于所述任务队列的总流量包括：确定所述资源状态表中添加状态为正常的FPGA，并判断所述添加状态为正常的FPGA的可用容量的总和是否大于所述任务队列的总流量。