[发明专利]基于协同训练极限学习机模型的半监督软测量方法在审
申请号: | 201710551675.9 | 申请日: | 2017-07-07 |
公开(公告)号: | CN107463994A | 公开(公告)日: | 2017-12-12 |
发明(设计)人: | 葛志强;李浩;宋执环 | 申请(专利权)人: | 浙江大学 |
主分类号: | G06N3/10 | 分类号: | G06N3/10;G06N3/08;G06F17/50;G05B13/04;G06Q10/04 |
代理公司: | 杭州求是专利事务所有限公司33200 | 代理人: | 邱启旺 |
地址: | 310058 浙江*** | 国省代码: | 浙江;33 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 基于 协同 训练 极限 学习机 模型 监督 测量方法 | ||
技术领域
本发明属于工业过程预测与控制领域,涉及一种基于协同训练极限学习机模型(以下简称ELM)的半监督软测量方法。
背景技术
在实际的工业生产过程中,往往存在或多或少的关键过程变量无法实现在线检测,为了解决这个难题,通过采集过程中比较容易检测的变量,根据某种最优准侧,构造出一种以这些变量为输入,关键过程变量为输出的数学模型,实现对关键过程变量的在线估计,这便是工业过程中常用的软测量建模。
统计过程软测量建模的发展对于大规模的工业数据的需求极为显著。然而,软测量建模目前还存在很多问题。在工业过程中系统的复杂程度也是日益提高,过程数据中的非线性关系越来越突出,如果仍然利用传统的线性方法建立软测量模型,无疑不能胜任变量准确预测的任务,针对非线性过程特性,有神经网络核方法等模型,在众多模型中极限学习机模型由于它的计算速度快、建模效果准确,从而得到了越来越多的关注与应用。
与此同时,许多情况下机器学习问题中的有标签样本极为珍贵且非常稀少,无标签样本容易获得但人工标记过程又困难重重。如何充分提取无标签数据中的有用信息以达到提升模型性能,于是半监督领域越来越得到人们的关注和重视,协同训练算法作为半监督中的一种优秀的学习算法自提出以后就得到了广泛的关注。
发明内容
针对目前工业过程中有标签样本少、无标签样本多和过程非线性严重等问题,本发明提出了一种基于协同训练极限学习机模型的半监督软测量方法,该方法将协同训练算法和极限学习机模型相结合,实现了关键过程变量的精确在线估计。
本发明具体技术方案如下:
一种基于协同训练极限学习机模型的工业过程软测量建模方法,其中,
所述的极限学习机模型分为三层,第一层为输入层,第二层为隐藏层,第三层为输出层,输入层到隐藏层的权重和偏置分别为ω和b,隐藏层到输出层的权重为β,其输入变量为x,输出变量为y,预测值为
所述的极限学习机建模过程为:首先计算出隐藏层神经元的输出H,H=σ(ωx+b),ω和b都是随机赋值,σ表示非线性激活函数,这里采用sigmoid函数;再根据求出β,其中表示H的广义逆,从而完成极限学习机建模过程;
所述的软测量建模方法步骤如下:
步骤一:收集历史工业过程的数据组成建模用的训练数据集,所述的训练数据集既包括包含主导变量也包含辅助变量的有标签数据集L,L∈Rn×d,也包括仅包含辅助变量的无标签数据集U,U∈RN×M,n表示有标签数据集的数据样本个数,d表示过程变量个数,R为实数集,N表示无标签数据集的数据样本个数,M表示无标签数据集的辅助变量的个数;
步骤二:将步骤一中收集到的训练数据集标准化,将过程变量化成均值为0,方差为1的新的数据集和
步骤三:建立数据集L1和L2,利用L1数据集建立初始的极限学习机模型ELM1,利用L2数据集建立初始极限学习机模型ELM2;
步骤四:利用协调训练算法更新模型的有标签数据集L1和L2;从标准化后的无标签数据集中按照一定比例随机挑选出部分数据集构成无标签数据集U',不断迭代使用无标签数据集U'中的数据,利用协同训练算法更新两个极限学习机模型的有标签数据集L1和L2;当达到规定的迭代次数或是无法找出置信度最高的样本时,停止迭代,输出新的有标签样本L′1和L′2;
步骤五:利用L′1和L′2分别训练两个极限学习机模型ELM1和ELM2,得到最终模型的预测值最其中为极限学习机ELM1的预测值,为极限学习机ELM2的预测值;
步骤六:收集新的工业过程数据,重复步骤一至二;
步骤七:将处理后的新的过程数据代入训练好的极限学习机模型中,得到主导变量的预测值,从而实现过程的监测和控制。
附图说明
图1是本发明的极限学习机结构;
图2是脱丁烷塔过程结构;
图3是本发明方法和传统极限学习机方法在不同有标签样本比例下建模预测结果的RMSE对比图;
图4是在有标签样本比例为20%的情况下样本真实值和协同训练极限学习机算法预测值效果图;
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于浙江大学,未经浙江大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201710551675.9/2.html,转载请声明来源钻瓜专利网。