[发明专利]一种大数据中面向乱序数据流的反向传播方法

说明书

技术领域

本发明是一种面向乱序数据流的改进型反向传播方法，属于大数据中的数据处理领域。

背景技术

大数据(Big Data)，或称巨量资料，其所涉及的资料量规模巨大，无法通过目前主流软件工具在合理时间内获得乱序数据中的数据关联规则。传统的数据处理模式是人类主动、数据被动的，采集到的数据首先存储在数据库管理系统中，然后用户主动进行查询，得到最终答案，而对于海量、无止尽的实时数据流这种方式并不合适。而反向传播算法(BackPropagation,BP)，简称BP算法，是一种有效的学习预测算法，能进行大规模并行信息处理，对非线性系统具有很强的模拟能力，可以有效预测出大数据流中的数据关联性，找出关联规则。但传统BP算法仍存在着一些不足之处，在具体应用中，网络的学习速率往往是固定不变的，在迭代次数增加的情况下，网络性能会变差，这样就使得算法的学习速度和网络稳定性之间产生很大的矛盾。此外，BP算法中还存在其固有缺陷，例如：网络结构难以确定、隐层结构往往通过经验来确定、训练时间长、收敛速度慢、易陷入局部最小、预测效果不佳等。

传统的BP算法主要包括以下几个方面的问题：（1）由于迭代次数的增多导致的调整速率相对缓慢。（2）学习过程中容易陷入局部最小值。（3）收敛速率和收敛精度的缺陷。（4）人工神经网络中的结构化参数的选择及学习速率问题。（5）BP算法通常会应用Sigmoid函数，而当Sigmoid函数进入饱和区域时，在权值修正公式中的权值修正量就变得微乎其微，这样就使得网络的训练陷入了饱和状态，大大降低了学习效率。

发明内容

技术问题：针对大数据中的乱序数据流难以获取关联规则的问题，本发明提出了一种大数据中面向乱序数据流的反向传播方法，该方法是一种动态调整的改进型BP算法IBPDA（Improved Back Propagation Algorithm Based on Dynamical Adjustment），引入新的神经元数量的选取方法，运用神经元动态优化方法，根据环境要求自适应调整网络训练结构，自动删除无效训练节点，优化迭代训练过程；并在网络学习过程中采用自适应调整机制，动态调整神经网络三因子，即连接权值、学习指数、动量因子，来达到加快学习响应速度、增强网络稳定性的目的。仿真结果表明，通过动态自适应调整结构、动态调整三因子的神经网络，能够获得更多的收敛次数，并能有效的提高收敛率，进而提高整体网络性能。

技术方案：本发明的一种大数据中面向乱序数据流的反向传播方法具体为：

神经元数量的确定

在BP算法中，神经元的数量一般由经验值来选取，但由于输入的样本数量不可能总是固定不变，这样就导致了在训练迭代过程中，网络的神经元数量不可能总在人为的进行变化。一旦神经元的数量固定下来，网络学习模型就固定不变。若神经元数量过多，则必定导致有些节点是冗余的，这将导致神经网络性能下降；若神经元数量太少，则会使算法的学习过程可能不收敛，学习精度大大下降。因此，在网络学习的开始阶段，设定一个动态自适应的神经元数量选取方法，能很大程度提高算法效率。

设网络结构中输入层节点的输出等于其输入，输出层有L个输出节点，网络中的隐含层有Q个节点，隐含层和输出层节点的输入是前一层节点输出的加权和，每个节点的激励程度由Sigmoid激励函数决定。在训练网络的学习阶段，设有N个训练样本，先假定用其中的某一固定样本中的输入输出模式对网络进行训练，若网络输出与期望输出值不一致，则将其误差信号从输出端反向传播，并在传播过程中对加权系数修正，使在输出层节点上得到的输出结果尽可能接近期望输出值。对样本完成加权系数的调整后，确定神经网络中隐层神经单元数量N_H，可由公式（1）确定：

NH=NI*NO+NP/2---(1)]]>