[发明专利]面向数据稀缺的自监督数据挖掘方法和系统

说明书

本发明提供一种面向数据稀缺的自监督数据挖掘方法、系统、存储介质和电子设备，涉及数据挖掘领域。本发明分别将正样本和负样本输入编码器中，获取正样本的特征空间、负样本的特征空间；将正样本的特征空间输入基于掩码卷积的预测器中，收集正样本的历史特征；并根据所述历史特征获取下一时间序列的线性预测值；构建正样本对和负样本对的对比策略，更新编码器的权重直至损失函数收敛；正样本对包括正样本的特征空间和线性预测值，负样本对包括负样本的特征空间和线性预测值。通过挖掘无标签数据的特征空间，减少对数据标签的过度依赖。利用对比预测作为辅助任务，可以将数据时序特性整合到最终的数据挖掘过程中，从而解决数据稀缺的问题。

技术领域

本发明涉及数据挖掘技术领域，具体涉及一种面向数据稀缺的自监督数据挖掘方法、系统、存储介质和电子设备。

背景技术

近几十年来，随着信息技术的广泛应用，大数据可以被实时收集。因此，数据驱动的数据挖掘方法可以挖掘有用的、可预测的特征，吸引了学术界和工业界的广泛研究和开发。这些基于传统机器学习技术的数据驱动的数据挖掘方法，如支持向量机和Fisher线性判别，已经被广泛用于实际工业领域。然而，这些方法实际上是一种浅层学习的方法，其特征提取能力有限，尤其是在面对大规模数据时，因此不能有效地从大数据中挖掘有用的特征。

为了克服浅层学习方法的局限性，近年来，具有深度分层结构的深度学习方法因其强大的特征提取能力而被广泛应用于数据挖掘中。不同类型的深度学习方法已经被应用，如自动编码器、卷积神经网络(CNN)、长短期记忆神经网络(LSTM)、深度置信网络、生成式对抗网络[10]等[11]。这些深度学习方法的混合有望提高数据挖掘的学习能力。

虽然这些深度学习方法因其卓越的学习能力而取得了显著的效果，但足够的标注数据是取得理想结果的前提。然而，在实际应用过程中，能够获得的带有标签的样本数据数量非常少，业内称之为数据稀缺。

发明内容

(一)解决的技术问题

针对现有技术的不足，本发明提供了一种面向数据稀缺的自监督数据挖掘方法、系统、存储介质和电子设备，解决了过度依赖数据标签的技术问题。

(二)技术方案

为实现以上目的，本发明通过以下技术方案予以实现：

一种面向数据稀缺的自监督数据挖掘方法，构建数据挖掘模型，所述数据挖掘模型包括编码器和基于掩码卷积的预测器；该方法具体包括：

S1、预处理所有样本数据，获取各所述样本数据对应的图像；

S2、将各所述样本数据对应的图像进行重叠裁切获取图像块，且任意指定一个样本数据对应的全部图像块为正样本，其余样本数据对应的全部图像块为负样本；

S3、分别将所述正样本和负样本输入所述编码器中，获取所述正样本的特征空间、所述负样本的特征空间；

S4、将所述正样本的特征空间输入所述基于掩码卷积的预测器中，收集所述正样本的历史特征；并根据所述历史特征获取下一时间序列的线性预测值；

S5、构建正样本对和负样本对的对比策略，更新所述编码器的权重直至损失函数收敛；所述正样本对包括所述正样本的特征空间和所述线性预测值，所述负样本对包括所述负样本的特征空间和所述线性预测值；

S6、将预处理后的待挖掘数据输入训练完成后的编码器中，获取所述待挖掘数据对应的特征空间。

优选的，所述面向数据稀缺的自监督数据挖掘方法还包括：

S7、将所述待挖掘数据对应的特征空间输入目标分类模型中，所述目标分别模型包括用于在线评论、语音识别、视觉识别或者故障诊断。

优选的，所述S1中采用信号-图像转换方法预处理所有样本数据，具体包括：