[发明专利]用于将网络分组处理卸载到GPU的网络设备、方法与存储介质

权利要求书

1.一种用于将网络分组的处理卸载到网络设备的图形处理单元(GPU)的网络设备，所述网络设备包括：

一个或多个处理器；以及

一个或多个存储器设备，其具有存储在其中的多个指令，所述指令当由所述一个或多个处理器执行时，使得所述网络设备用于：

在将应用卸载到所述GPU之前，确定要卸载的应用的资源标准，其中，所述资源标准限定用于运行所述应用需要的所述网络设备的一个或多个系统资源的最小量；

确定所述网络设备的所述GPU的可用的GPU资源；

基于所述应用的所述资源标准和所述可用的GPU资源，来确定所述可用的GPU资源是否足以用于处理所述应用；

确定所述网络设备的中央处理单元(CPU)的一个或多个估计的CPU性能度量；

在卸载所述应用到所述GPU之前，响应于确定所述可用的GPU资源足以用于处理所述应用，基于所述应用的所述资源标准和所述可用的GPU资源，来确定一个或多个估计的GPU性能度量，其中，所述估计的GPU性能度量指示如果所述GPU用于运行所述应用所述GPU的性能的估计的水平；以及

将所述估计的GPU性能度量与所述估计的CPU性能度量进行比较；

如果所述GPU性能度量被确定为是相对于所述CPU性能度量的改进，将所述应用的处理卸载到所述GPU；或者

如果所述GPU性能度量未被确定为是相对于所述CPU性能度量的改进时，将所述应用的处理卸载到所述GPU以便释放所述CPU以执行其他任务。

2.根据权利要求1所述的网络设备，其中，所述估计的CPU性能度量是基于可用的CPU资源确定的，并且指示在由所述CPU运行所述应用的运行时期间所述CPU的性能的估计的水平。

3.根据权利要求2所述的网络设备，其中，所述一个或多个存储器设备当由所述一个或多个处理器执行时，还使得所述网络设备用于，响应于确定所述估计的GPU性能度量是相对于所述CPU性能度量的改进，来运行所述CPU处的所述应用的处理。

4.根据权利要求1所述的网络设备，其中，所述一个或多个存储器设备当由所述一个或多个处理器执行时，还使得所述网络设备用于确定针对所述网络设备的所述系统资源的至少一部分的利用信息，其中，所述利用信息指示当前被利用的所述系统资源的至少一部分的量，并且其中，确定所述一个或多个估计的GPU性能度量还基于所述利用信息。

5.根据权利要求4所述的网络设备，其中，所述一个或多个存储器设备当由所述一个或多个处理器执行时，还使得所述网络设备用于确定所述估计的GPU性能度量是否满足与所述估计的GPU性能度量的至少一部分相对应的一个或多个预定的性能度量阈值，其中，将所述应用的处理卸载到所述GPU包括，响应于确定所述估计的GPU性能度量满足所述预定的性能度量阈值，来将所述应用的处理卸载到所述GPU。

6.根据权利要求5所述的网络设备，其中，所述一个或多个存储器设备当由所述一个或多个处理器执行时，还使得所述网络设备用于，响应于确定所述估计的GPU性能度量不满足所述预定的性能度量阈值，来调度由所述CPU进行所述应用的处理。

7.根据权利要求4所述的网络设备，其中，确定针对所述网络设备的所述系统资源的至少一部分的利用信息包括确定以下中的至少一个：存储器利用、命令调度延迟、高速缓存未命中率、转换检测缓冲区(TLB)未命中、以及页面错误。

8.根据权利要求1所述的网络设备，其中，所述应用包括用于处理由所述网络设备接收到的网络分组的网络分组处理应用。

9.根据权利要求1所述的网络设备，其中，确定所述应用的所述资源标准包括确定以下中的至少一个：能够用于存储与所述应用相关的数据的存储器的最小量、所述应用的一个或多个依赖性、以及用于运行所述应用的处理周期的最小数量。