[发明专利]一种基于改进循环神经网络的预测方法

说明书

本发明提出改进循环神经网络针对大豆价格进行预测。创新主要有两点：(1)提出一种基于事件驱动的长短期记忆网络结构并在大豆数据集下测试了本发明提出的改进LSTM模型优于传统LSTM模型。(2)本发明对大豆数据集的数据分布进行分析，提出一个改进的激活函数IAF(Improve Activation Function)，并在不同数据集下进行了测试，证明使用IAF函数的收敛速度要优于Tanh函数。最后本发明将两种改进进行结合，预测输出2010年至2018年的大豆价格，结果表明预测的价格与实际价格接近。

技术领域

本发明涉及一种基于改进循环神经网络的预测方法，属于人工智能领域。

背景技术

本发明是针对大豆价格进行预测，通过对大豆价格进行准确的预测，帮助政府进行合理的决策，可以实现更高的收入和减小经济损失。因此，大豆价格的预测对我国的社会稳定和安全至关重要。

深度学习(Deep Learning)算法渐渐成为人工智能热点研究领域。因此如何改进深度学习算法，优化现有算法的性能是众多学者一直致力于解决的问题。其中改变LSTM网络结构可以将一些离散突发事件加入，以此来增加预测的精准度。

由于激活函数的重要性，众多学者通过对神经网络的研究，提出了多种不同类型的激活函数。例如Sigmoid，Tanh，ReLU等经典激活函数以及其改进结构。然而至今为止，对激活函数研究还没有明确的指导性原则。

发明内容

本发明设计并实现一种基于改进循环神经网络的预测方法并针对大豆价格预测进行阐述。

设计的重点和优点主要在于：

(1)提出一种新的LSTM循环神经网络结构，在传统LSTM网络结构的候选记忆权重处加入了离散事件单元，发生离散事件时，通过灰色关联方法得到不同特征的的关联度并对其进行加权，使影响因子大的特征更加明显，以此来提高的大豆价格的预测精度；(2)对大豆数据集下Tanh函数的输入分布进行分析，在原Tanh函数基础上提出了一种新的激活函数IAF，改善了Tanh函数的饱和区间，加快了算法的收敛速度；(3)将提出的新激活函数应用在改进的LSTM循环神经网络结构中作为大豆价格预测方法的模型，最终实现对大豆价格的预测。

附图说明

下面结合附图和实例对本发明进一步说明。附图用来提供对本发明的进一步理解，与本发明的实例共同用于解释本发明，并不构成对本发明的限制。

图1：部分大豆特征比较。

图2：改进LSTM循环神经网络的结构图像。

图3：改进的LSTM网络与传统LSTM网络Loss值对比。

图4：三种数据集下Tanh函数的输入分布。

图5：Tanh函数与IAF函数参数=0.5的图像。

图6：不同参数下IAF函数导数的图像。

图7：大豆价格预测值与实际值对比。

具体实施方式

本发明收集了一组数据集，原始数据由于过于粗糙，无法将其直接输入至LSTM网络中，因此需要对其预处理，预处理包括数据平衡以及正则归一化。

首先进行数据平衡，一般来说，在总体水平上，年度数据概况使年度大豆价格相对更容易预测。考虑到有效性和成本之间的权衡，本发明对收集的大豆数据特征进行小范围和大范围采用，前者收集每日变化的数据，后者收集每月和每年数据，最后使用平均值法进行数据平衡，使每个特征的时间跨度一致。平均值公式如式(1)所示：

(1)

其中为平均值，为数据总量，代表单个特征的量。式(1)为平均值公式。