[发明专利]基于双向独立循环神经网络的序列预测模型的建立方法

摘要

本发明公开了基于双向独立循环神经网络的序列预测模型的建立方法，具体为：首先，采集信号或数据进行预处理，形成输入数据集，将输入数据集转换为矩阵形式，再对数据整体向后位移一位，构成所需预测的序列，之后将其转变为矩阵数据，分别形成训练集和测试集，之后再构建基于双向独立循环神经网络的序列对序列模型，进行训练，过拟合判断，最后利用预测模型来预测下一个采样点数据，利用当前预测数据作为下一个输入再次预测下一个采样点数据，循环n次预测出n个采样点数据获得未来数据。该方法可以基于更长的历史依赖数据来预测未来时间序列数据变化趋势，能够更好的发现时序信号或数据中各序列元素之间的依赖关系，获得更加精准的预测结果。

主权项

1.基于双向独立循环神经网络的序列预测模型的建立方法，其特征在于，具体按照以下步骤实施：步骤1，在节点处安装测量装置采集信号或数据；步骤2，对获得的数据进行预处理，剔除监测数据中的无效数据并进行平滑处理；经预处理后依次存储所有样本序列元素，形成输入数据集；步骤3，将输入数据集转换为矩阵形式，输入矩阵形状为[序列样本数量，步长，输入数据维度]；步骤4，对数据整体向后位移一位，数据由[a₁，a₂，a₃…a_n]调整为[a₂，a₃，a₄…a_n+1]，构成所需预测的序列；步骤5，将预测序列转变为矩阵数据，形状为[序列样本数量，步长，输出标签维度]；步骤6，将输入数据集和对应的预测数据集分别进行随机划分，分别形成训练集和测试集，其中，训练集数据占总样本的75％，测试集数据占总样本的25％；步骤7，构建基于双向独立循环神经网络的序列对序列模型；基于双向独立循环神经网络的序列对序列模型包括以下三个部分，第一部分为输入层，输入层仅为一层，实现对输入数据的预处理；输入层的输入数据格式为[训练集样本数量，步长，输入数据维度]；第二部分为隐含层，隐含层包含两层双向独立循环神经网络层，实现对输入数据的特征抽取；隐含层中所包含的双向独立循环神经网络层，每层包含多个隐含神经元单元且不同神经元之间彼此独立，其中第n个神经元单元的隐含状态h_n.t如式(1)所示：h_n.t＝σ(W_nX_t+U_nh_n.t‑1+b_n)  (1)；式(1)中，X_t为t时刻的输入数据，h_n，t代表t时刻隐藏层节点，其含义为输入数据X_t的内在表达形式，h_n，t‑1代表前一时刻隐藏层节点。W_n和U_n分别为输入权重和隐藏层节点的权重矩阵，b_n为隐藏层的偏置向量，σ为神经元的逐元素激活函数；第三部分为输出层，输出层为全连接层，全连接层包含n个神经元单元，全连接层所包含神经元单元数量与测试数据序列长度一致；输出测试序列的测试结果；除输入层外其余神经网络层均通过激活函数与前一层神经网络层链接；步骤8，对构建好的基于双向独立循环神经网络的序列预测模型进行训练；步骤9，过拟合判断，使用测试集中其余的20％数据来进行模型的过拟合判断，若测试准确度大幅度下降则表明上述训练完成的模型，准确率已经出现了过拟合现象；超参数每次调整后都需要通过步骤7进行重新训练，使得模型具有更强的泛化能力；步骤10，利用经训练好的基于双向独立循环神经网络的序列预测模型来预测下一个采样点数据，利用当前预测数据作为下一个输入再次预测下一个采样点数据，循环n次预测出n个采样点数据获得未来数据。