[发明专利]基于CNN-LSTM神经网络模型与ARIMA模型的时间序列预测方法及系统

说明书

本发明公开了时间序列预测技术领域的一种基于CNN‑LSTM神经网络模型与ARIMA模型的时间序列预测方法及系统，旨在解决现有技术中没有充分提取时间序列的周期特征从而导致预测精度不够的问题。包括：获取待预测的时间序列数据，构建输入样本；将输入样本输入经过训练的基于CNN‑LSTM的神经网络模型，得到第一预测结果；将第一预测结果与输入样本的观测值进行比对，得到误差序列；将误差序列输入建立的ARIMA模型对误差序列进行误差修正预测，得到第二预测结果；将第一预测结果和第二预测结果相加得到时间序列的最终预测结果。

技术领域

本发明属于时间序列预测技术领域，具体涉及一种基于CNN-LSTM神经网络模型与ARIMA模型的时间序列预测方法及系统。

背景技术

在实际生产和科学研究中，时间序列是按照时间排序的一组随机变量，它通常是在相等间隔的时间段内依照给定的采样率对某种潜在过程进行观测的结果。时间序列数据本质上反映的是某个或者某些随机变量随时间不断变化的趋势，而时间序列预测方法的核心就是从数据中挖掘出这种规律，并利用其对将来的数据做出估计。时间序列预测应用广泛，与现实生活中多种场景息息相关，例如金融市场的波动趋势分析、工业机构的能源消耗量预测、城市道路的交通流量预测等。现有的时间序列预测方法大多数采用传统线性模型或循环神经网络，传统线性模型非常依赖模型参数的选择，并且难以提取非线性时间序列中的复杂模式以及时间序列中的前后依赖。循环神经网络在处理复杂的多变量时间序列时具有明显的优越性，但由于其内部结构所限，并不能很好的提取到时间序列的周期特征，从而影响预测精度。

发明内容

本发明的目的在于提供一种基于CNN-LSTM神经网络模型与ARIMA模型的时间序列预测方法及系统，以解决现有技术中没有充分提取时间序列的周期特征从而导致预测精度不够的问题。

为达到上述目的，本发明所采用的技术方案是：一种时间序列预测方法，包括：获取待预测的时间序列数据，构建输入样本；将输入样本输入经过训练的基于CNN-LSTM的神经网络模型，得到第一预测结果；将第一预测结果与输入样本的观测值进行比对，得到误差序列；将误差序列输入建立的ARIMA模型对误差序列进行误差修正预测，得到第二预测结果；将第一预测结果和第二预测结果相加得到时间序列的最终预测结果。

进一步地，所述基于CNN-LSTM的神经网络模型，包括时间卷积层、模式提取层和全连接层；所述时间卷积层包括若干层采用因果卷积的卷积神经网络；所述模式提取层包括一个LSTM层和一个skip-LSTM层，所述LSTM层采用双曲正切函数tanh作为激活函数；所述skip-LSTM层是设置了跳跃组件的LSTM层，采用双曲正切函数tanh作为激活函数，所述跳跃组件使每个LSTM细胞直接与下一周期的LSTM细胞相连接；所述时间卷积层同时和所述LSTM层和所述skip-LSTM层相连接；所述全连接层用于将所述LSTM层和所述skip-LSTM层的输出向量转换为预测目标值，包括若干层隐藏层，每层所述隐藏层采用线性整流函数ReLU作为激活函数。

进一步地，所述时间卷积层包括三层采用因果卷积的卷积神经网络，每层所述采用因果卷积的卷积神经网络的卷积核大小为5且不设置池化层。

进一步地，所述LSTM层的隐藏单元数为20。

进一步地，所述全连接层包括三层隐藏层，每层所述隐藏层的隐藏单元数分别为256、64和32。

进一步地，所述基于CNN-LSTM的神经网络模型的训练方法，包括：获取时间序列数据并进行预处理，构建训练样本；将训练样本输入基于CNN-LSTM的神经网络模型，不断优化更新基于CNN-LSTM的神经网络模型的权重矩阵W和全连接层的第i个隐藏层的第j个隐藏单元的偏置矩阵B_ij，直至损失函数最小。

进一步地，所述损失函数为：