[发明专利]一种基于分布注意力的电力能耗长期控制方法

权利要求书

1.一种基于分布注意力的电力能耗长期控制方法，其特征在于，所述方法包括：

构建电力能耗长期预测网络结构，所述网络结构由编码器部分和解码器部分组成；

训练数据经N层编码器训练注意力参数，测试与验证数据经N层解码器得到解码结果，解码结果会经过全连接层与softmax层得到最后的预测结果；

将预测结果与用户行为模式进行匹配，获取用户的未来状态，进而调整供电的路径与电量；根据预测曲线的波形进行供电的削峰填谷。

2.根据权利要求1所述的一种基于分布注意力的电力能耗长期控制方法，其特征在于，所述编码器的输入X是长度为L＝96的时间序列向量，编码器包含分布注意力模块、多头注意力模块、前馈神经网络模块、残差连接与正则化模块。

3.根据权利要求2所述的一种基于分布注意力的电力能耗长期控制方法，其特征在于，所述分布注意力模块获得输入X的统计信息，使用滑动窗口统计序列中长度为L个、L/2(L/2+1)个、L/4(3*L/4+1)个的子序列，记录每一个子序列的均值、方差、最大值和最小值，将所有均值与方差排列成一个长度为5*L+12的序列向量。

4.根据权利要求2所述的一种基于分布注意力的电力能耗长期控制方法，其特征在于，所述多头注意力模块用于计算序列中每一个位置对其它位置的注意力大小，输入为统计信息和原始数据的拼接是一个长度为n＝6*L+12的向量；

每层多头注意力层有8组参数矩阵，每组参数矩阵有三个，称为W^Query、W^Key和W^Value，三个参数矩阵的维度均为m×n；分别与三个参数矩阵相乘得到Q、K、V，计算序列当前位置对历史数据的注意力：

其中，两层前馈神经网络中神经元个数分别为n和L，其内部参数矩阵维度分别为n×n和n×L，用于残差连接和保证编码器每层的结果都为维度为L的向量。

5.根据权利要求2所述的一种基于分布注意力的电力能耗长期控制方法，其特征在于，解码过程先对解码器输入进行掩码多头注意力运算，解码输入的维度与编码器输入相同，输入序列的前部分为已知数据，后部分为需要预测的数据；

解码器的多头注意力模块计算公式与编码器相同，网络中只训练W^Query参数，W^Key和W^Value使用编码器得到的结果。