[发明专利]一种基于Conv-Transformer的洪水预报方法

说明书

本发明属于数据驱动水流预报技术领域，公开了一种基于Conv‑Transformer的洪水预报方法，首先，收集研究的大型流域的水文数据，然后将收集到的所述水文历史数据经过数据预处理后输入到本模型中；其次，对水文历史数据进行数据清洗、数据变换、数据集划分等；再次，构建基于Transformer的洪水预报模型，该模型使用基于卷积运算的长短期记忆网络进行相对位置编码来提取空间信息，并提升了模型对长期依赖性信息的学习能力，Transformer模块中的自注意力机制可以通过捕捉水文序列的内部相关性来捕获水文要素之间的动态时空关联，并且其中的多头注意力机制使模型可以实现同时学习长期和短期水文历史信息；输入测试数据测试预报模型性能，判断网络性能是否符合要求，如果不符合则进行参数调节，直到达到理想的预测结果；最后，通过评估标准对模型进行分析，完成洪水预报。本发明的有益效果是：能够有效的预报洪峰精度和洪水趋势，是大型流域洪水实时预报的有效工具。

技术领域

本发明涉及数据驱动洪水预报技术领域，具体涉及一种基于Conv-Transformer的洪水预报方法。

背景技术

洪水预报属于重要的预防洪水灾害的一系列非工程措施之一，及时有效的洪水预警预报能帮助人类有效地防御洪水、减少洪灾损失，属于重要的防灾减灾应用。

目前洪水预报一般采用基于径流过程的水文模型和数据驱动的智能模型两种方式，且两个模型在实际预报中互相补充。数据驱动建模基本不考虑水文过程的物理机制，是以建立输入输出数据之间的最优数学关系为目标的黑箱子方法。长时间降雨引发的洪涝灾害需要考虑长期依赖性信息。与短期强降雨引发的突发性洪涝灾害不同，长时间降雨所引发的洪水的持续时间更长，洪峰也相对偏后，因此必须完善地建模水文数据的长期依赖性特征，而不能仅仅考虑短期信息。而且在面向大型流域进行流量预测的任务时，由长期降雨所导致的洪水场次较多。但是，现有的洪水智能模型仍然存在长期序列信息在网络训练过程中容易发生丢失的问题。在构建智能模型时综合考虑长期特征和短期特征，尤其是增强对易丢失的长期依赖性信息的学习，有利于提高大型流域洪水预报的准确性。

为了更好地缓解循环神经网络并行化递归计算的问题，谷歌团队于2017年提出了Transformer模型。该模型没有使用循环神经网络单元结构，而是改为使用多头注意力机制来学习词向量之间的关联依赖关系，并且实现了高效的并行处理。最近Transformer模型被广泛应用于计算机视觉、自然语言处理和时间序列预测等各种领域。本发明构造了基于卷积运算的长短期记忆神经网络进行相对位置编码的Transformer洪水预报模型，该模型首先经过基于卷积运算的长短期记忆网络和全连接层进行相对位置编码和空间信息提取，再使用基于 Transformer编码器的子模块进行各个特征要素之间的关联关系挖掘，其中的多头注意力机制使得模型可以同时学习长期和短期水文历史信息，从而进一步实现较高准确度的水文预测。

在自然语言处理领域的Transformer中，摒弃了循环神经网络的循环结构，仅仅依靠着自注意力机制来解决每个输入语句序列的关系、输入语句序列与输出语句序列之间的关系，在 NLP领域原始的Transformer中对输入语句进行了正余弦绝对位置编码。但是绝对编码的线性变换容易使位置信息丢失，难以控制各种水文特征的相对距离信息，不利于水文空间信息的提取。因此，通过改变编码的方法使数据中包含相对位置信息，有利于洪水预报智能模型学习水文序列的长时依赖性和空间相关性，从而提升模型的预测准确度。本发明采用了基于卷积运算的长短期记忆网络来进行相对位置编码，在满足全局信息提取的前提下，实现了水文数据空间特征的提取。

发明内容

发明目的：本发明的目的在于解决现有技术中的不足，提供一种基于Conv-Transformer 的洪水预报方法，通过基于卷积运算的长短期记忆网络来进行相对位置编码，在满足全局信息提取的前提下，实现了水文数据空间特征的提取，并通过Transformer子模块高效挖掘水文时间信息，提高洪水预报的准确度。

技术方案：本发明的一种基于Conv-Transformer的洪水预报方法，包括以下步骤：