[发明专利]一种半监督神经网络模型及基于该模型的软测量建模方法在审
申请号: | 201710551671.0 | 申请日: | 2017-07-07 |
公开(公告)号: | CN107505837A | 公开(公告)日: | 2017-12-22 |
发明(设计)人: | 葛志强;李浩;宋执环 | 申请(专利权)人: | 浙江大学 |
主分类号: | G05B13/04 | 分类号: | G05B13/04;G06N3/04 |
代理公司: | 杭州求是专利事务所有限公司33200 | 代理人: | 邱启旺 |
地址: | 310058 浙江*** | 国省代码: | 浙江;33 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 监督 神经网络 模型 基于 测量 建模 方法 | ||
技术领域
本发明属于工业过程预测和控制领域,涉及一种半监督神经网络模型及基于该模型的软测量建模方法。
背景技术
在实际的工业生产过程中,往往存在或多或少的关键过程变量无法实现在线检测,为了解决这个难题,通过采集过程中比较容易检测的变量,根据某种最优准侧,构造出一种以这些变量为输入,关键过程变量为输出的数学模型,实现对关键过程变量的在线估计,这便是工业过程中常用的软测量建模。
统计过程软测量建模的发展对于大规模的工业数据的需求极为显著。然而,软测量建模目前还存在很多问题。在工业过程中系统的复杂程度也是日益提高,过程数据中的非线性关系越来越突出,如果仍然利用传统的线性方法建立软测量模型,无疑不能胜任变量准确预测的任务针对非线性过程特性,有神经网络核方法等模型,在众多模型中神经网络模型的适应性和非线性过程的拟合能力都极强,可以准确的完成工业过程的变量预测的任务。
与此同时,许多情况下机器学习问题中的有标签样本极为珍贵且非常稀少,无标签样本容易获得但人工标记过程又困难重重。如何充分提取无标签数据中的有用信息以达到提升模型性能,于是半监督领域越来越得到人们的关注和重视。
发明内容
针对目前工业过程中有标签样本少、无标签样本多和过程非线性严重等问题,本发明提出了一种基于半监督神经网络的软测量建模方法,该方法将自编码器和神经网络模型相结合用来进行工业过程的半监督软测量建模,实现了关键过程变量的精确在线估计,具体技术方案如下:
一种半监督神经网络模型,所述的模型由自编码器和神经网络组成,分为三层,第一层为输入层,第二层为隐藏层,第三层为输出层,自编码器和神经网络模型共用输入层和隐藏层,而输出层分为自编码器输出层和神经网络模型输出层,输入层输入变量为x,输入层到隐藏层的权重和偏置分别为ω1和b1,隐藏层到神经网络输出层的权重和偏置为ωy和by,隐藏层到自编码器输出层的权重和偏置为ω2和b2,自编码器输出层输出的重构值为神经网络模型输出层输出的预测值为
一种基于上述半监督神经网络模型的软测量建模方法,其步骤如下:
步骤一:收集历史工业过程的数据组成建模用的训练数据集,所述的训练数据集既包括包含主导变量也包含辅助变量的有标签数据集L,L∈Rn×d,也包括仅包含辅助变量的无标签数据集U,U∈RN×M,n表示有标签数据集的数据样本个数,d表示过程变量个数,R为实数集,N表示无标签数据集的数据样本个数,M表示无标签数据集的辅助变量的个数;
步骤二:将收集到的训练数据集标准化,将过程变量化成均值为0,方差为1的新的数据集;
步骤三:把标准化后的有标签数据集和无标签数据集中的辅助变量xl和xu作为模型的输入变量x,把标准化后的有标签数据集中的主导变量作为输出变量y,进行半监督神经网络模型训练,从而得到半监督神经网络模型输出层输出的主导变量的预测值和自编码器模型输出层输出的对应于输入变量x的重构值进一步得到该半监督神经网络模型的整个预测误差:
E=σ*Eae+(1-σ)*Enn+λEweight
其中,Eae表示自编码器的重构误差,
Enn表示神经网络的预测误差,
表示对于权重的正则化约束;σ来控制Eae和Enn之间的平衡,λ是正则化系数,取经验值;
步骤四:采用反向传播算法计算相关权重和偏置的梯度;
步骤五:根据梯度下降法不断训练半监督神经网络模型,计算出该模型的最优参数,完成半监督神经网络模型建模过程;
步骤六:收集新的工业过程数据,重复步骤一至二,并将处理后的工业过程数据代入到优化后的半监督神经网络模型中,得到主导变量的预测值从而实现过程的监测和控制。
附图说明
图1是半监督神经网络模型结构图;
图2是脱丁烷塔过程结构;
图3表示在有标签比例为5%的情况下样本真实值和半监督神经网络模型预测值效果图;
图4表示在有标签比例为5%的情况下样本真实值和传统神经网络模型的预测值效果图;
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于浙江大学,未经浙江大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201710551671.0/2.html,转载请声明来源钻瓜专利网。