[发明专利]工业物联网边缘设备中基于知识蒸馏的空时预测方法在审

专利信息
申请号: 202111270656.1 申请日: 2021-10-29
公开(公告)号: CN113988263A 公开(公告)日: 2022-01-28
发明(设计)人: 张颖慧;邢雅轩;白戈 申请(专利权)人: 内蒙古大学;内蒙古塔塔送变电工程有限公司
主分类号: G06N3/04 分类号: G06N3/04;G06N3/08;G06K9/62;H04L67/12;H04L41/147;G06V10/774;G06V10/762
代理公司: 北京永创新实专利事务所 11121 代理人: 易卜
地址: 010021 内蒙古*** 国省代码: 内蒙古;15
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 工业 联网 边缘 设备 基于 知识 蒸馏 预测 方法
【权利要求书】:

1.工业物联网边缘设备中基于知识蒸馏的空时预测方法,其特征在于,具体步骤如下:

首先,利用膨胀时间卷积网络DTCN和动态更新的图卷积网络DGCN交替结合,形成教师网络TCN-GCN模型,对传感器实时采集的二维数据进行空时预测;

同时,利用特征提取模块和回归模块,搭建浅层学生网络LSTM或学生网络一维CNN,对传感器获取的二维空时数据进行预测;

然后,利用GAN判别器将教师网络TCN-GCN模型和学生网络输出的预测结果,分别进行特征变换,使学生网络学习拟合教师网络的特征捕捉能力,计算GAN判别器的损失函数LGAN

接着,教师网络对传感器采集的真实数据进行离群值剔除;

最后,将GAN判别器的损失函数LGAN与跟教师网络拟合后的新学生网络的损失函数LTOE加权相加,得到最终的损失函数L,实现知识蒸馏,并利用损失函数L将新学生网络的输出与剔除离群值的真实数据做梯度下降,获得最终的空时预测结果。

2.如权利要求1所述的工业物联网边缘设备中基于知识蒸馏的空时预测方法,其特征在于,所述的教师网络TCN-GCN模型进行空时预测的具体过程为:

步骤101、利用N个传感器分别采集包含时间步长与空间节点的二维数据,并构建初始的图邻接矩阵表示空间节点的关联关系;

步骤102、将二维数据依次送入DTCN和DGCN分别提取时间和空间特征;

具体为:

首先,给定输入的二维数据xin,则经过DTCN的输出xout为:

xout=tanh(f1(xin))×sigmoid(f2(xin))

其中,f1表示滤波卷起函数,f2表示门控卷积函数,sigmoid(·)表示S型激活函数,tanh(·)表示正切双曲激活函数;

然后,将DTCN捕捉的特征送入DGCN模块,其信息传递层为:

其中,Hl表示第l层的传播层;σ1和σ2为不同的激活函数,为动态采样得到的图邻接矩阵,Wl-1表示第l-1层的网络权重;表示经过跳跃连接的传播层;β为控制保留根节点原始状态比率的超参数;H(l)是随着图卷积的深度增加节点状态不断更新的传播层,H(l-1)表示保留的之前节点状态的传播层;Hout为跳跃层叠加后的输出层;

步骤103、通过不断重新采样,更新图邻接矩阵中各空间节点的关联关系;

步骤104、将更新得到的图邻接矩阵与提取出的空间特征向量进行卷积运算,实现移动节点空间特征的不断更新;

步骤105、根据不断更新的空间特征,实现二维数据的高精度预测;

具体预测过程为:

在时间步长t处输入的二维数据X表示为:

X={z1[i],z2[i],…,zt[i]}

其中,zt[i]表示在时间步长t处第i个传感器的二维数据值,i∈N;

则下一时间步长的预测值表示为:

Y={zt+1[i]}

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于内蒙古大学;内蒙古塔塔送变电工程有限公司,未经内蒙古大学;内蒙古塔塔送变电工程有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/202111270656.1/1.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top