[发明专利]深度神经网络的剪枝方法、装置、终端及存储介质

权利要求书

1.一种深度神经网络的剪枝方法，其特征在于，包括：

建立电力系统边缘计算的深度神经网络；

基于随机权值，根据所述深度神经网络，建立剪枝优化函数；

求解所述剪枝优化函数，得到最优剪枝门值；

根据所述最优剪枝门值和预设阈值对所述深度神经网络进行剪枝处理，得到目标深度神经网络。

2.根据权利要求1所述的深度神经网络的剪枝方法，其特征在于，所述建立电力系统边缘计算的深度神经网络，包括：

根据不同的电力场景建立电力系统边缘计算对应的深度神经网络；其中电力场景至少包括电表误差分析、电力负荷预测和风电功率预测。

3.根据权利要求1所述的深度神经网络的剪枝方法，其特征在于，所述基于随机权值，根据所述深度神经网络，建立剪枝优化函数，包括：

设置随机权值；

根据所述随机权值和所述深度神经网络，建立初始剪枝优化函数；

根据所述初始剪枝优化函数中的标量门值和预设比例参数，确定正则项；

根据所述正则项更新所述初始剪枝优化函数，得到目标剪枝优化函数。

4.根据权利要求3所述的深度神经网络的剪枝方法，其特征在于，所述初始剪枝优化函数为

其中，A表示剪枝优化函数，f(x_i；P,Λ)表示所述深度神经网络，x_i表示第i个输入数据，i＝1,2…N，N表示输入数据的数量，P表示设置的所述随机权值，Λ表示标量门值，其中Λ＝{v₁,v₂,...,v_j,...v_K}，0≤v_j≤1，j＝1,2,...,K，K表示深度神经网络的总层数，y_i表示深度神经网络中第i层的输出值，L(f(x_i；P,Λ),y_i)表示所述深度神经网络与第i层的输出值的交叉熵之和，α表示平衡因子，|v_j|₁表示第j个标量门值v_j的范数。

5.根据权利要求4所述的深度神经网络的剪枝方法，其特征在于，所述目标剪枝优化函数，包括：

其中，M_j表示第j层的通道数量，β表示所述预设比例参数。

6.根据权利要求1所述的深度神经网络的剪枝方法，其特征在于，求解所述剪枝优化函数，得到最优剪枝门值，包括：

采用次梯度下降算法求解所述剪枝优化函数，得到最优剪枝门值。

7.根据权利要求6所述的深度神经网络的剪枝方法，其特征在于，根据所述最优剪枝门值和预设阈值对所述深度神经网络进行剪枝处理，得到目标深度神经网络，包括：

获取电力边缘计算设备的FLOPS约束；

根据FLOPS约束，采用二分搜索算法确定当前迭代次数对应的全局剪枝阈值；

根据所述全局剪枝阈值和所述最优剪枝门值对所述深度神经网络进行剪枝；

检测剪枝后的深度神经网络是否符合条件；

当剪枝后的深度神经网络符合条件时，输出所述剪枝后的优化函数；

当剪枝后的深度神经网络不符合条件时，则跳转到“根据FLOPS约束，采用二分搜索算法确定当前迭代次数对应的全局剪枝阈值”步骤确定下一次迭代次数对应的全局剪枝阈值，直到剪枝后的深度神经网络符合条件时，输出所述剪枝后的优化函数。

8.一种深度神经网络的剪枝装置，其特征在于，包括：

建立模块，用于建立电力系统边缘计算的深度神经网络；

所述建立模块，还用于基于随机权值，根据所述深度神经网络，建立剪枝优化函数；

计算模块，用于求解所述剪枝优化函数，得到最优剪枝门值；

所述计算模块，还用于根据所述最优剪枝门值和预设阈值对所述深度神经网络进行剪枝处理，得到目标深度神经网络。