[发明专利]工业物联网边缘设备中基于知识蒸馏的空时预测方法

说明书

本发明公开了工业物联网边缘设备中基于知识蒸馏的空时预测方法，属于物联网边缘设备领域，首先，分别搭建教师网络TCN‑GCN模型和浅层学生网络模型，对传感器获取的二维空时数据进行预测；接着，利用GAN判别器将教师网络和学生网络输出的预测结果进行特征变换，使学生网络学习教师网络的特征捕捉能力，并计算与教师网络拟合后的新学生网络的损失函数L_GAN；然后，教师网络对传感器采集的真实数据剔除离群值；最后，将损失函数L_GAN与学生的损失函数L_TOE加权相加，得到最终的损失函数L，实现知识蒸馏，并利用损失函数L将新学生网络的输出与剔除离群值的真实数据做梯度下降，获得最终的空时预测结果。本发明大幅减少了空时预测模型的复杂度。

技术领域

本发明属于物联网边缘设备领域，具体是一种工业物联网边缘设备中基于知识蒸馏的空时预测方法。

背景技术

在工业4.0时代，各种基于物联网的应用程序和服务，为实现更安全、更高效的工业智能化奠定了基础，如智能制造、预测与健康管理和工厂监控管理[1]等。随着物联网(Internet of Things，IoT)技术的高速发展，温度传感器、湿度传感器和气体传感器等在工业生产、设备监控、环保监测以及工业安全等领域得到广泛应用，实现了智能监控、智能诊断、智能决策，提高了生产力，降低能源消耗。

此外，随着信息系统和数据收集平台的出现和兴起，工业物联网设备生成的大量传感数据也使得物联网生态系统的不同领域大数据分析和挖掘成为可能[2]。因此，基于IoT传感层监测数据的准确预测至关重要，为工业物联网(Industrial Internet ofThings，IIoT)感知环境、无缝决策、智能响应和控制设备提供保障，相关研究已经引起学者和工业领域的广泛关注。

通过采用智能传感层对工业智能化的各个阶段进行监控，实现了有效覆盖、高精度检测和高效传输。然而，由于噪声、碰撞、网络通信不稳定和设备故障等原因，IoT传感层监测数据存在缺失值和不完整值。因此，针对传感层监测数据的预测非常必要也极具挑战。随着人工智能(AI)技术与IIoT大数据的结合，深度学习(Deep Learning，DL)模型已成为实现传感层监测数据分析和高精度预测的有效解决方案。

文献[3]提出利用卷积长短期记忆(Convolutional Long Short-Term Memory，ConvLSTM)网络进行预测，首先利用二维卷积捕捉周围区域的相关特征，再利用LSTM提取时间维度的特征。文献[4]提出利用集成卷积神经网络(Convolutional Neural Network,CNN)和长短期记忆网络(Long Short-Term Memory，LSTM)的统一框架进行多节点预测。为有效提取IIoT网络的时变特征，文献[5]提出使用多任务学习的预测机制，并结合基于LSTM模型的深层架构实现高精度预测。文献[6]提出了利用时间图卷积网络(Temporal GraphConvolutional Network，T-GCN)解决拓扑结构的约束问题。文献[7]提出了一种结合残差网络(ResNet)、图卷积网络(Graph Convolutional Network，GCN)和LSTM的ResLSTM深度学习架构来预测城市轨道交通的短期客流，其中ResNet用于捕获地铁站之间的深层抽象空间相关性，GCN用于提取网络拓扑信息，Attention LSTM用于提取时间相关性。文献[8]提出了空时深度学习框架，通过结合ConvLSTM和GCN，对基于IoT的多来源流量数据实现准确和及时的交通速度预测。文献[9]提出了基于注意力机制的空时方法预测温度传感层监测数据。用注意力机制提取目标点的全局特征，将提取的空间特征输入到LSTM网络中获取空间因素的长期状态信息。为更全面地捕捉空间关系，文献[10]提出基于区域空间相关性的空时预测网络，从区域和链接两种角度学习空间特征。