[发明专利]工业物联网边缘设备中基于知识蒸馏的空时预测方法在审
| 申请号: | 202111270656.1 | 申请日: | 2021-10-29 | 
| 公开(公告)号: | CN113988263A | 公开(公告)日: | 2022-01-28 | 
| 发明(设计)人: | 张颖慧;邢雅轩;白戈 | 申请(专利权)人: | 内蒙古大学;内蒙古塔塔送变电工程有限公司 | 
| 主分类号: | G06N3/04 | 分类号: | G06N3/04;G06N3/08;G06K9/62;H04L67/12;H04L41/147;G06V10/774;G06V10/762 | 
| 代理公司: | 北京永创新实专利事务所 11121 | 代理人: | 易卜 | 
| 地址: | 010021 内蒙古*** | 国省代码: | 内蒙古;15 | 
| 权利要求书: | 查看更多 | 说明书: | 查看更多 | 
| 摘要: | |||
| 搜索关键词: | 工业 联网 边缘 设备 基于 知识 蒸馏 预测 方法 | ||
1.工业物联网边缘设备中基于知识蒸馏的空时预测方法,其特征在于,具体步骤如下:
首先,利用膨胀时间卷积网络DTCN和动态更新的图卷积网络DGCN交替结合,形成教师网络TCN-GCN模型,对传感器实时采集的二维数据进行空时预测;
同时,利用特征提取模块和回归模块,搭建浅层学生网络LSTM或学生网络一维CNN,对传感器获取的二维空时数据进行预测;
然后,利用GAN判别器将教师网络TCN-GCN模型和学生网络输出的预测结果,分别进行特征变换,使学生网络学习拟合教师网络的特征捕捉能力,计算GAN判别器的损失函数LGAN;
接着,教师网络对传感器采集的真实数据进行离群值剔除;
最后,将GAN判别器的损失函数LGAN与跟教师网络拟合后的新学生网络的损失函数LTOE加权相加,得到最终的损失函数L,实现知识蒸馏,并利用损失函数L将新学生网络的输出与剔除离群值的真实数据做梯度下降,获得最终的空时预测结果。
2.如权利要求1所述的工业物联网边缘设备中基于知识蒸馏的空时预测方法,其特征在于,所述的教师网络TCN-GCN模型进行空时预测的具体过程为:
步骤101、利用N个传感器分别采集包含时间步长与空间节点的二维数据,并构建初始的图邻接矩阵表示空间节点的关联关系;
步骤102、将二维数据依次送入DTCN和DGCN分别提取时间和空间特征;
具体为:
首先,给定输入的二维数据xin,则经过DTCN的输出xout为:
xout=tanh(f1(xin))×sigmoid(f2(xin))
其中,f1表示滤波卷起函数,f2表示门控卷积函数,sigmoid(·)表示S型激活函数,tanh(·)表示正切双曲激活函数;
然后,将DTCN捕捉的特征送入DGCN模块,其信息传递层为:
其中,Hl表示第l层的传播层;σ1和σ2为不同的激活函数,为动态采样得到的图邻接矩阵,Wl-1表示第l-1层的网络权重;表示经过跳跃连接的传播层;β为控制保留根节点原始状态比率的超参数;H(l)是随着图卷积的深度增加节点状态不断更新的传播层,H(l-1)表示保留的之前节点状态的传播层;Hout为跳跃层叠加后的输出层;
步骤103、通过不断重新采样,更新图邻接矩阵中各空间节点的关联关系;
步骤104、将更新得到的图邻接矩阵与提取出的空间特征向量进行卷积运算,实现移动节点空间特征的不断更新;
步骤105、根据不断更新的空间特征,实现二维数据的高精度预测;
具体预测过程为:
在时间步长t处输入的二维数据X表示为:
X={z1[i],z2[i],…,zt[i]}
其中,zt[i]表示在时间步长t处第i个传感器的二维数据值,i∈N;
则下一时间步长的预测值表示为:
Y={zt+1[i]}
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于内蒙古大学;内蒙古塔塔送变电工程有限公司,未经内蒙古大学;内蒙古塔塔送变电工程有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202111270656.1/1.html,转载请声明来源钻瓜专利网。





