[发明专利]基于复值神经网络的复值时序信号预测方法

说明书

本发明涉及一种基于复值神经网络的复值时序信号预测方法，包括以下步骤：构建复值时序信号的数据集，分成训练集和测试集；构建全复神经网络并初始化参数；使用训练集和自适应复值正交梯度下降法训练所述全复神经网络，直至达到预设的迭代次数停止训练，得到训练完成的全复神经网络；将测试集输入所述训练完成的全复神经网络，得到复值时序信号的预测值。本发明采用全复神经网络直接进行复值时序信号的预测并在训练全复神经网络时使用的自适应复值正交梯度下降法，避免了破坏复值信号的内在联系，加快了训练的收敛速度，提高了对复值时序信号预测的精度。

技术领域

本发明涉及时序信号预测技术领域，尤其是指一种基于复值神经网络的复值时序信号预测方法。

背景技术

时序信号预测是一种通过已知的历史数据来预测未来数据的技术，该技术在风速预测、语音分析、故障诊断及股票市场预测中都有十分广泛的应用。复值时序信号本质上体现的是一个或多个复值随机变量随时间变化的趋势，复值时序信号预测就是挖掘复值时序信号的变化规律来估计未来的数据。

经典的时间序列参数模型有：滑动平均模型(Moving Average,MA)、自回归模型(Auto Regressive,AR)和自回归滑动平均模型(Auto Regression Moving Average,ARMA)。自回归滑动平均模型ARMA(p,q)可以表示为：

其中，α_p为表示第p阶自回归系数，β_q为第q阶滑动平均系数，假设p为自回归阶数，q为滑动平均阶数，ε_t为t时刻的白噪声。事实上，AR模型和MA模型均为特殊的ARMA模型。当上式中的α_i＝0,i＝1,2,…,p时，称为MA(q)模型；当β_j＝0,j＝1,2,…,q时，称为AR(p)模型。但是，传统的时间序列预测方法大多是通过建立基于符合假设条件的统计模型来实现的，如滑动平均法，自回归法等。这些方法需要满足的限制条件太多，所以在实际应用中效果并不理想。近些年来随着人工智能技术的兴起，基于机器学习的预测方法快速发展了起来。相比于传统方法，基于机器学习的方法具有精度高、鲁棒性强，能够很好地处理非线性数据的优点。机器学习中的支持向量机、贝叶斯网络、矩阵分解、人工神经网络等方法都是用来进行时序信号预测的良好工具。

在这些方法中，人工神经网络是一种常用方法。常用的人工神经网络包括实值神经网络和复值神经网络。传统的实值神经网络需要对复值信号进行预处理转换成实值信号，而复值神经网络的决策边界由两个正交的超平面组成，相比于实值神经网络具有更高的泛化能力，可以直接处理复值信号，因此采用复值神经网络建立对复值时序信号的预测模型是一个更好的选择。

根据所采用的激活函数的不同，复值神经网络可以分为分裂式复值神经网络和全复式复值神经网络。但是，现阶段常用的分裂式复值神经网络需要将复值信号拆分成实部虚部或幅度相位，会破坏复值信号的内在联系。

同时，在对复值神经网络的训练过程中，目前常用的方法有：复梯度下降算法(Complex Gradient Descent,CGD)、复最小均方算法(Complex Least Mean Square,CLMS)和CRTRL(Complex-valued real-time recurrent learning)等。但是，这些方法都存在收敛速度慢，容易陷入局部最小值，容易被鞍点影响等问题。为了解决这些问题，近些年来也有出现一些自适应复步长的算法，例如CBBM(Complex Barzilai–Borwein method)、CALRT(Complex Adaptable Learning rate Tree)和SDTA(Selectable Direction TreeAlgorithm)等。但是，这些自适应复步长算法虽然可以大幅提高收敛速度，但是其计算量很大。就像CALRT算法，由于采用了两重树结构，其训练时间急剧增加。因此，即使是在一般复值神经网络的结构不会太大的情况下，使用这些方法所增加的时间成本，相比于传统方法的优势仍不明显。

发明内容