[发明专利]一种基于改进学习率的深度学习网络入侵检测方法

权利要求书

1.一种基于改进学习率的深度学习网络入侵检测方法，其特征在于，包括如下步骤：

步骤1：改进深度信念网络(DBN)模型在训练中的学习率及迭代次数的确定方法；

步骤2：利用改进的深度信念网络模型和softmax回归函数建立网络入侵检测用的深度信念网络-softmax多分类组合模型；

步骤3：使用公开的网络入侵检测数据集的训练数据对步骤2的多分类组合模型进行训练；

步骤4：使用训练完成的多分类组合模型对网络入侵检测数据集的测试数据进行识别分类。

2.如权利要求1所述的一种基于改进学习率的深度学习网络入侵检测方法，其特征在于：所述步骤1包括以下步骤：

步骤1.1：令ε_ij为每个连接权重W_ij对应的学习速率，ε_ij(t)＝ψ(ε_i，j(t-1))，其中ψ为ε_ij对应的变换映射规则，t为训练次数；

步骤1.2：若当前更新梯度grad(t)_ij和上一次更新梯度grad(t-1)_ij具有相同方向，进行步骤1.3；若当前更新梯度grad(t)_ij和上一次更新梯度grad(t-1)_ij具有相反方向，进行步骤1.4，若当前更新梯度grad(t)_ij或上一次更新梯度grad(t-1)_ij存在零值，则ε_ij(t)＝ε_ij(t--1)；

步骤1.3：ε_ij(t)＝με_ij(t-1)，其中，μ表示学习率的增量系数(μ＞1)；

步骤1.4：ε_ij(t)＝dε_ij(t-1)，其中，d表示学习速率的衰减系数(d＜1)；

步骤1.5：取当前重构误差err(t)和上一次的重构误差err(t-1)的差值的绝对值∈，当∈无限趋近于0，停止迭代，确定训练次数t。

3.如权利要求2所述的一种基于改进学习率的深度学习网络入侵检测方法，其特征在于：所述步骤1.2中，其中，v_i表示初始化受限玻尔兹曼机(RBM)可视层单元，表示v_i经过CD快速学习算法后重构的可视层单元。

4.如权利要求1所述的一种基于改进学习率的深度学习网络入侵检测方法，其特征在于：所述步骤2包括以下步骤：

步骤2.1：以改进后的深度信念网络模型与softmax回归函数建立深度信念网络-softmax多分类组合模型，利用深度信念网络进行特征降维，采用softmax分类器对网络入侵数据进行识别；

步骤2.2：输入网络数据x＝{x₁，x₂，...，x_n}，其中，任意一条网络数据包含n个属性；

步骤2.3：利用深度信念网络对输入网络数据x进行特征提取，其中，Θ表示抽象出更高层特征的函数，函数f用于提取出所述网络数据中每个属性对应的特征；

步骤2.4：输入Q至softmax分类器，最终获得输出预测值out＝arg max(Φ(Q))，其中，Φ表示softmax回归函数。

5.如权利要求4所述的一种基于改进学习率的深度学习网络入侵检测方法，其特征在于：所述步骤2.4中，假设网络数据类别数量为k，对于m个给定的Q，softmax回归的代价函数：其中，λ是权重衰减项，1{·}是示性函数，取值规则：1{值为真的表达式}＝1，1{值为假的表达式}＝0，θ为softmax模型参数，n为输入特征数。