[发明专利]一种防止数据信息丢失的DGRU神经网络及其预测方法

权利要求书

1.一种防止数据信息丢失的DGRU神经网络，其特征在于:所述的DGRU神经网络由输入层、输出层和隐含层组成，隐含层由DGRU神经元构成；所述的DGRU神经元由同一时刻的两个标准GRU单元连接构成，且t时刻第L+1层隐含单元与第L层隐含单元之间连接的控制门输入的关系为：

其中，为第L+1层隐含单元的输入；W_d表示第L层控制门的权重；表示t-1时刻第L层隐含单元的输出；表示t时刻标准GRU单元的输出。

2.基于权利要求1所述的一种防止数据信息丢失的DGRU神经网络的预测方法，其特征在于，包括以下步骤：

步骤1：获取历史数据集并进行预处理，对数据集进行数据清洗，包括处理数据不平衡问题和归一化问题；

步骤2：利用预处理后的数据集训练DGRU神经网络，建立预测模型；

步骤3：获取当前失效数据，进行数据归一化处理后输入预测模型中，得到预测结果。

3.根据权利要求2所述的一种基于防止数据信息丢失的DGRU神经网络的预测方法，其特征在于：所述的步骤1中处理数据不平衡问题具体为：首先分析正负样本比例，其次根据数据集的大小采用不同的采样方法处理，如果数据量较充足，采取欠采样的方法，通过减少样本数据较多的类的数量来平衡数据集；如果数据量较少，采取过采样的方法，通过增加数量较少的类的数量来平衡数据集。

4.根据权利要求2或3所述的一种基于防止数据信息丢失的DGRU神经网络的预测方法，其特征在于：所述的步骤2中利用预处理后的数据集训练DGRU神经网络具体为：

步骤2.1：将预处理后的数据集按照序列的时间顺序分为两组，时间顺序靠前的一组作为训练数据集、时间顺序靠后的一组作为验证数据集；

步骤2.2：设定DGRU神经网络的输入层神经元个数为5，输出层神经元个数为1；设定DGRU神经网络隐含层的神经元个数为D，隐含层共3层，D＝1,2,3K,D_Max，其中D_Max为预设值

步骤2.3：依次在D的每个取值所对应的DGRU神经网络结构上，利用训练集数据迭代地训练神经网络中的参数，并利用验证集数据对每次训练后的网络进行评估，更新并保存D的每个取值下性能最优的DGRU神经网络，选取性能最优的DGRU神经网络结构作为预测模型。

5.根据权利要求4所述的一种基于防止数据信息丢失的DGRU神经网络的预测方法，其特征在于：所述的步骤2.3中选取性能最优的DGRU神经网络结构的具体方法为：

步骤2.3.1：进行外循环初始化，设定D＝1；

步骤2.3.2：进行内循环初始化，设定当前迭代次数＝1，最小误差为无穷大，并设定最大迭代次数；

步骤2.3.3：基于结构风险最小化原理，利用训练集数据进行DGRU神经网络的训练；

步骤2.3.4：将验证集数据输入基于结构风险最小化原理训练好的DGRU神经网络，利用经验风险函数进行验证集误差的计算；

步骤2.3.5：判断验证集误差是否小于当前最小误差；若验证集误差小于当前最小误差，则将验证集误差的值赋予当前最小误差，把当前DGRU神经网络作为最优网络，更新并存储最优网络的参数和验证集误差；否则返回步骤2.3.3进行下一次迭代；

步骤2.3.6：判断验证集误差是否小于设定误差；若验证集误差小于设定误差，则读取DGRU神经网络的参数，并依据所选择的网络参数确定DGRU神经网络结构的软件可靠性的预测模型；否则返回步骤2.3.3进行下一次迭代；

步骤2.3.7：若迭代次数大于最大迭代次数则令更新D的值，令D＝D+1，否则返回步骤2.3.3进行下一次迭代；

步骤2.3.8：若D≤D_Max则返回步骤2.3.2重新开始迭代；若D＞D_Max则对比不同D值时最后网络的验证集误差，选取验证集误差最小的DGRU神经网络作为预测模型。