[发明专利]用于少样本故障诊断的具有自适应学习率的元学习方法

权利要求书

1.一种用于少样本故障诊断的具有自适应学习率的元学习方法，其特征在于：所述方法分为元训练和精调两个阶段，基于MAML框架对用于元训练和精调的两种学习率采用自适应学习率，并且改进了元训练和精调的损失函数，具体包括以下步骤：

S1，确定辅助任务目标任务外循环迭代次数J、内循环迭代次数P、内循环中子任务的参数更新次数Γ、以及精调的更新次数E；

S2，将模型参数随机初始化为θ₀，设定第一循环变量j＝1；设定第二循环变量e＝1；

S3，设定第三循环变量μ＝1；

S4，从辅助任务T^μ中随机采样和和形成一个子任务，对此子任务计算得到经过Γ次参数更新后的参数

S5，根据计算中样本的交叉熵损失

S6，μ＝μ+1，判断μ是否大于P，是则执行步骤S7，否则返回步骤S4；

S7，计算特征间多核最大均值差异用来衡量模型的泛化能力；

S8，更新模型参数，将模型参数由θ_j-1更新为θ_j，具体包括以下步骤：

S8.1计算自适应外循环学习率β_j，公式如下：

其中，a₁，b₁，g₁，a₂，b₂和g₂是超参数，δ_j是模型泛化能力的变化率；超参数a₁，b₁，g₁，a₂，b₂和g₂根据传统MAML的预实验确定；

模型泛化能力的变化率δ_j计算公式如下：

其中，δ_j是模型泛化能力的变化率，i为正整数，是模型的特征间多核最大均值差异；是模型的特征间多核最大均值差异；

S8.2，计算用于外循环优化的损失函数其计算公式如下：

其中，N是健康状态的数量，c为正整数，表示第c种健康状态；

S8.3，将模型参数由θ_j-1更新为θ_j：

其中，θ_j和θ_j-1分别为第j次和第j-1次外循环的模型参数，β_j为自适应外循环学习率，表示对θ_j-1的梯度；

S9，j＝j+1，判断j是否大于J；是则执行步骤S10；否则返回步骤S3继续进行外循环；

S10，计算指标LD_e-1来衡量模型的性能，

S11，计算自适应的精调学习率η_e；

首先将η_e初始化为学习率的最大值，然后根据ΔLD_e来调整η_e，ΔLD_e是LD_e的相对变化率，自适应的精调学习率η_e计算如下：

其中，l是一个超参数，其取值根据在学习率为固定值的预实验中ΔLD_e的取值情况来决定，使η_e在常用值范围内变化，ΔLD_e是LD_e的相对变化率，用于调整精调的学习率，计算公式如下：

S12，计算精调损失函数

其中，θ′是全连接层的权重参数，山是正则化项的权重，其取值根据在损失函数中没有正则化项的预实验中∑_θ′|θ′|的取值决定，其中损失函数为：

其中，表示经过e-1次精调的模型参数，T^tg表示目标任务，x_i是T^tg中第i个样本的输入数据，y_i是相应的标签；表示x_i输入模型后获得的输出；

S13，用现有Adam算法更新到包括：

计算对的梯度，然后计算梯度的一阶矩估计和二阶矩估计，并根据矩估计计算适应性学习步长，减去梯度和适应性学习步长以及η_e的乘积，从而得到

S14，e＝e+1，判断e是否大于E，是则得到用于目标任务故障诊断的模型并结束，否则返回步骤S10；

在总共E次精调更新后，便获得用于目标任务故障诊断的模型