[发明专利]循环神经网络训练方法

权利要求书

1.一种循环神经网络训练方法，其特征在于，包括以下步骤：

S1、系统下数据库某指标准备，与时序类关联指标一同构建为特征集X＝(X₁,X₂,…,X_n)，其中X_i＝(W_i,R1_i,…,Rk_i)分别为第i天时刻的目标数据库指标周平均特征值和第i天的k个关联指标值；

S2、根据目标指标数值构建结果集Y＝(Y₁,Y₂,…,Y_n)，其中Y_i＝(T_i)为第i天时刻的目标数据库指标值；

S3、组合特征集与结果集得到数据集S＝((X1,Y1),…,(Xn,Yn))，并将其以8:2比例顺序划分为训练集与测试集；

同时对所有数据进行数据补全、异常清洗和归一化处理；

S4、构造含有LSTM层的神经网络模型，为模型超参数包括学习率a、隐藏层内连接维度数、防止过拟合系数等设值，设值方法采用随机搜索；

S5、以当前超参数的模型对各层内参数进行初始化，包括LSTM层中遗忘项、输入项、状态项系数(W,b)和dense层中全连接系数(W,b)，方法采用(0,1)高斯分布下的随机；

S6、判断训练次数是否达到阈值且损失函数大于历史最小；训练次数达到阈值且损失函数大于历史最小，跳转步骤S7，否则跳转步骤S9；

S7、选取最优模型，加入预测用时序数据进行预测，得到未来时间段内预测的数据值；

S8、基于预测的数据值，计算以固定周期为单位的指标增幅，找出增幅绝对值在20以上系统数据库，并采取对应预警措施；跳转步骤S13；

S9、使用训练集数据进行训练；一次训练完成跳转步骤S10，否则跳转步骤S11；

S10、当前模型记录并保存，使用测试集计算模型结果与真实结果的均方差作为模型评价；跳转步骤S4；

S11、每一条数据输入时，通过模型当前状态进行前向传播；基于所有参数在损失函数上的偏导数得到梯度，用梯度与学习率的乘积计算参数更新量δ；

S12、基于每次计算得到的更新量δ对本次训练的每个参数进行更新，跳转步骤S9；

S13、结束。