[发明专利]一种基于协方差矩阵的主动学习方法

说明书

本发明公开了一种基于协方差矩阵的主动学习方法，其特征在于：包括，采集脱丁烷塔生产过程的丁烷浓度值，并将丁烷浓度值作软测量建模样本；将软测量建模样分为训练集和测试集，其训练集划分为有标签样本集和无标签样本集；利用有标签样本集建立高斯过程回归模型，并确定模型初参数；根据无标签样本集，选出构成协方差矩阵行列式值最大的样本；重新建立高斯过程回归模型，确定模型参数；利用测试集对丁烷浓度进行预测本发明通过数值仿真分析和脱丁烷塔过程的应用仿真，验证了基于协方差矩阵选择策略的有效性。

技术领域

本发明涉及的于机器学习领域并应用于脱丁烷塔丁烷浓度的软测量，尤其涉及一种基于协方差矩阵的主动学习方法。

背景技术

传统机器学习方法必须依赖大量信息完整的样本来构建模型，而在实际情况中，由于人工或环境条件限制，很难获得完整的样本信息，大部分的样本信息是缺失的；在这种情况下，如何利用少部分有标签样本和大量无标签样本来提升模型性能，成为机器学习研究的关键问题；若仅采用少量的标记样本训练模型，模型的预测精度和泛化能力很难达到理想效果；此外，忽略大量的无标签样本是对数据资源的浪费；因此，需对无标签样本进行标记，常用的算法有半监督学习和主动学习；半监督学习旨在利用有标签样本输入输出建模的基础上提取无标签样本中的有用信息，来达到提升回归精度的目的；然而传统的半监督学习方法虽然提升了模型性能，但可能会带来计算量的增加而且模型精度的提升效果很大程度上取决于半监督模型的结构。

区别于传统半监督学习方法仅利用未标记样本来提升模型性能，主动学习借助专家知识，引入“人机协同”概念；将标记后的样本加入有标记样本集中进行监督学习；主动学习方法以最小的标记代价获得模型提升效果最大化，同时挑选出质量较高的无标签样本。

发明内容

本部分的目的在于概述本发明的实施例的一些方面以及简要介绍一些较佳实施例。在本部分以及本申请的说明书摘要和发明名称中可能会做些简化或省略以避免使本部分、说明书摘要和发明名称的目的模糊，而这种简化或省略不能用于限制本发明的范围。

现有的基于方差选取的主动学习方法利用高斯过程回归的输出方差作为评价指标，这种算法根据输出预测值与输出预测均值的偏离程度进行选取。虽然可在一定程度上选取出较高质量的无标签样本，但选取的无标签样本都未考虑到样本之间的相似性。而过于相似的无标签样本进行人工标记后，对模型的提升效果并不显著，会造成人力物力的浪费。

鉴于上述现有的基于方差选取的主动学习方法存在选取的无标签样本相似程度较高，对其标记后造成人力物力的浪费的问题，提出了本发明，本发明利用协方差矩阵行列式值衡量无标签样本的相似性，在选取的样本不确定性更高的同时避免了冗余标记。

因此，本发明目的是提供一种基于协方差矩阵的主动学习方法。

为解决上述技术问题，本发明提供如下技术方案：一种基于协方差矩阵的主动学习方法，其特征在于：包括。采集脱丁烷塔生产过程的丁烷浓度值，并将丁烷浓度值作软测量建模样本；将软测量建模样分为训练集和测试集，其训练集划分为有标签样本集和无标签样本集；利用有标签样本集建立高斯过程回归模型，并确定模型初参数；根据无标签样本集，选出构成协方差矩阵行列式值最大的样本；重新建立高斯过程回归模型，确定模型参数；利用测试集对丁烷浓度进行预测。

作为本发明所述基于协方差矩阵的主动学习方法的一种优选方案，其中：训练集的有标签样本集和无标签样本集分别为和

其中，n_l和n_u分别为有标记样本和无标记样本个数，n为辅助变量个数。

作为本发明所述基于协方差矩阵的主动学习方法的一种优选方案，其中：高斯过程回归模型采用高斯协方差函数；

其中，高斯协方差函数公式如下：