[发明专利]一种深度对数神经网络

说明书

本发明涉及网络安全技术领域，具体涉及一种深度对数神经网络，包括对数神经元LOGN和对数网络层LOGL，所述对数神经元LOGN的运算法则为：x_i为样本中第i个特征数据，为x_i经由LOGN处理后的特征值，m_i为对数神经元的底数，m_i在神经网络训练过程中通过梯度下降算法进行优化，将式(1)视为对数函数，其中x_i为函数的自变量，为函数的因变量。该深度对数神经网络的对数神经元LOGN具有强大的特征提取能力，无需数据预处理就能够实现对网络入侵数据的高效特征提取，由于消除了归一化、标准化等操作，可确保神经网络中的输入数据保留数据样本的原始特征，提升神经网络的精度。

技术领域

本发明涉及网络安全技术领域，具体涉及一种深度对数神经网络。

背景技术

随着互联网技术的飞速的发展，在给人们带来了极大的便利的同时网络攻击变得越来越频繁，网络安全已成为人们必须面对的挑战，入侵检测作为抵抗网络恶意攻击的重要手段，承担着保护互联网安全的重要责任，与图片数据、语音文本数据、社交网络图结构数据不同，网络入侵数据间不存在固定的、稳定的、通用的先验知识，且随互联网技术的发展而不断变化，此外，受攻击者技术水平、攻击手法、主观意志等因素影响，获取入侵样本特征数据间的潜在联系极为困难，导致CNN、RNN、LSTM、GNN等主流神经网络在面对入侵检测时效果不佳，针对网络入侵数据特点设计对数神经元(Logarithm Neuron，LOGN)， LOGN具有强大的特征提取能力，无需数据预处理就能够实现对网络入侵数据的高效特征提取，由于消除了归一化、标准化等操作，可确保神经网络中的输入数据保留数据样本的原始特征，提升神经网络的精度；在此基础上，利用 LOGN设计了对数神经网络层(LOGL)，并使用LOGL与深度神经网络组合构建了对数神经网络(LOGNN)，为防止LOGNN出现梯度消失问题，提出了反梯度消失禁忌域损失函数(AGLF)，因此，设计出一种深度对数神经网络，对于目前网络安全技术领域来说是迫切需要的。

发明内容

本发明提供一种深度对数神经网络，以解决现有技术存在的问题。

为了实现上述目的，本发明实施例提供如下技术方案：

根据本发明的实施例，一种深度对数神经网络，包括对数神经元LOGN和对数网络层LOGL，所述对数神经元LOGN的运算法则为：

式(1)中，x_i为样本中第i个特征数据，x_i^l为x_i经由LOGN处理后的特征值，m_i为对数神经元的底数，m_i在神经网络训练过程中通过梯度下降算法进行优化，将式(1)视为对数函数，其中x_i为函数的自变量，x_i^l为函数的因变量，对x_i进行求导有：

导数的极限定义为：

结合式(2)与式(3)可得：

具体分析对数神经元对特征数据的处理能力如下：

1)单神经元对单一特征数据的处理：

由式(4)可知，在m_i固定的情况下，随着x_i值的增大，将不断减小，导致x_i增量相同时，x_i^l将不断减小，由“指数爆炸”性质可知，作为指数函数反函数的对数函数，式(4)中的x_i^l随着样本特征x_i值的增大快速下降，且m_i值越大效果越明显；