[发明专利]一种边缘计算系统中神经网络模型分割与资源分配方法

权利要求书

1.一种边缘计算系统中神经网络模型分割与资源分配方法，其特征在于，包括以下步骤：

S1：构建边缘计算系统模型与机器学习任务模型；

S2：构建机器学习任务端到端时延模型和服务器能耗模型，进而建立长期系统性能优化问题；

S3：基于Lyapunov优化技术，将S2建立的时隙间决策耦合的长期优化问题转化为时隙间决策独立的单时隙优化问题，从而降低神经网络模型分割与资源分配决策难度；

S4：构建马尔可夫决策过程，从而将S3建立的时隙间决策独立的单时隙优化问题转化为强化学习优化问题；

S5：基于深度强化学习技术，训练并应用神经网络模型分割与资源分配策略。

2.根据权利要求1所述的一种边缘计算系统中神经网络模型分割与资源分配方法，其特征在于，所述步骤S1包括：

(1)构建网络模型。边缘计算系统由一个边缘服务器和一个云服务器构成。其中，边缘服务器部署于基站，而边缘服务器和云服务器之间通过有线骨干网络连接。该系统运行时间线被划分为多个运行时隙，每个时隙的长度为τ。服务提供商为边缘服务器和云服务器设置的能耗预算分别为∈^e和∈^c，即边缘服务器和云服务器平均每个时隙的可用能耗为∈^e和∈^c。在时隙t，边缘服务器和云服务器的可用计算资源为F^e(t)和F^c(t)。

(2)定义由若干神经网络概念层组成的逻辑层，以将各类神经网络模型抽象为由若干逻辑层串联构成的模型。假设服务提供商提供K类机器学习应用，每类机器学习应用对应一种神经网络。基于逻辑层模型，第k类机器学习应用任务被建模为其中，代表每个任务的端到端时延容限，S_k代表第k类神经网络的逻辑层的个数。代表由若干逻辑层串联构成的第k类神经网络。第l层逻辑层，L_k，l，可以被表示为(d_k，l，c_k，l)。其中，d_k，l代表输入数据大小，c_k，l代表计算开销。在时隙t，每类机器学习任务的到达过程服从均值为λ_k(t)的泊松分布。对于第k类神经网络，变量x_k(t)∈{0，1，...，S_k}代表在时隙t的分割策略。如果x_k(t)＝l，第k类神经网络的第1层至第l层被部署在边缘服务器，其余层则部署在云服务器。特别地，如果x_k(t)＝0，第k类神经网络的所有层均被部署在云服务器。x(t)＝(x₁(t)，x₂(t)，...，x_K(t))。