[发明专利]基于CNN-LSTM神经网络模型与ARIMA模型的时间序列预测方法及系统

权利要求书

1.一种时间序列预测方法，其特征是，包括：

获取待预测的时间序列数据，构建输入样本；

将输入样本输入经过训练的基于CNN-LSTM的神经网络模型，得到第一预测结果；

将第一预测结果与输入样本的观测值进行比对，得到误差序列；

将误差序列输入建立的ARIMA模型对误差序列进行误差修正预测，得到第二预测结果；

将第一预测结果和第二预测结果相加得到时间序列的最终预测结果。

2.根据权利要求1所述的时间序列预测方法，其特征是，所述基于CNN-LSTM的神经网络模型，包括时间卷积层、模式提取层和全连接层；

所述时间卷积层包括若干层采用因果卷积的卷积神经网络；

所述模式提取层包括一个LSTM层和一个skip-LSTM层，所述LSTM层采用双曲正切函数tanh作为激活函数；所述skip-LSTM层是设置了跳跃组件的LSTM层，采用双曲正切函数tanh作为激活函数，所述跳跃组件使每个LSTM细胞直接与下一周期的LSTM细胞相连接；

所述时间卷积层同时和所述LSTM层和所述skip-LSTM层相连接；

所述全连接层用于将所述LSTM层和所述skip-LSTM层的输出向量转换为预测目标值，包括若干层隐藏层，每层所述隐藏层采用线性整流函数ReLU作为激活函数。

3.根据权利要求2所述的时间序列预测方法，其特征是，所述时间卷积层包括三层采用因果卷积的卷积神经网络，每层所述采用因果卷积的卷积神经网络的卷积核大小为5且不设置池化层。

4.根据权利要求2所述的时间序列预测方法，其特征是，所述LSTM层的隐藏单元数为20。

5.根据权利要求2所述的时间序列预测方法，其特征是，所述全连接层包括三层隐藏层，每层所述隐藏层的隐藏单元数分别为256、64和32。

6.根据权利要求2所述的时间序列预测方法，其特征是，所述基于CNN-LSTM的神经网络模型的训练方法，包括：

获取时间序列数据并进行预处理，构建训练样本；

将训练样本输入基于CNN-LSTM的神经网络模型，不断优化更新基于CNN-LSTM的神经网络模型的权重矩阵W和全连接层的第i个隐藏层的第j个隐藏单元的偏置矩阵B_ij，直至损失函数最小。

7.根据权利要求6所述的时间序列预测方法，其特征是，所述损失函数为：

其中，observed_t为实际观测值，predicted_t为神经网络模型输出的预测值。

8.根据权利要求6所述的时间序列预测方法，其特征是，所述预处理包括：用平均值为0且标准差为0.01的高斯分布随机初始化基于CNN-LSTM的神经网络模型的权重矩阵W；初始化B_ij为0，其中，B_ij为全连接层的第i个隐藏层的第j个隐藏单元的偏置矩阵。