[发明专利]一种面向深度学习的偏见数据平衡方法及装置

说明书

本发明公开一种面向深度学习的偏见数据平衡方法，包括：筛选数据集中的偏见属性数据为第一样本集；构建决策模型，包括编码器，中间特征层，解码器和分类器，所述编码器对输入样本集降维压缩得到第二样本集，中间特征层对第二样本集进行特征提取得到样本集特征，并将样本集特征分别输入至解码器和分类器，解码器用于基于样本集特征进行决策得到第一决策结果，分类器用于基于带有偏见属性的样本集特征进行决策得到第二决策结果；利用第一样本集训练决策模型，在训练时，通过第一损失函数的正向梯度和第二损失函数的负向梯度的反向传播调整决策模型的参数，训练结束时确定最终决策模型；该方法能够正确客观公正的作出决策。

技术领域

本发明属于深度学习领域，具体涉及一种面向深度学习的偏见数据平衡方法及装置。

背景技术

深度学习以人工神经网络研究为基础，通过组合低层特征形成更加抽象的高层表示属性类别或者特征，以发现数据的分布式特征表示。深度学习模型也凭借其所具备的强大的特征提取能力和数据特征拟合能力被广泛应用于人们生产生活的传统以及非传统领域，包括交通调度领域、计算机视觉领域、安防领域、刑事司法领域、自然语言语音处理领域、生物信息领域以及金融领域等。

虽然在实际的生成生活环境下应用深度学习技术可以帮助人们获得更为准确的预测结果以及更强有力的决策支持，但是深度学习领域最新的学术研究表明，由于深度学习模型的整个生命周期和应用过程，包括进行预测以及提供决策建议，高度依赖数据，也即输入进深度学习模型的原始样本数据集会在很大程度上影响深度学习模型的预测结果性能和提供决策建议的可靠性、有效性以及在现实生产生活环境中执行的可行性。

早先就有研究人员发表文章表明，深度学习模型的预测准确度以及所提供的决策建议的可靠性、有效性以及可行性极易受到原始样本数据的影响，也即深度学习模型所使用的原始样本数据集中包含的部分属性所关联的数据样本会在较大程度上影响深度学习模型的预测准确度和提供决策建议的可靠性、有效性以及在现实生产生活环境中执行的可行性。这些对深度学习模型造成较大影响的属性被称为敏感属性，原始样本数据集中存在的带有敏感属性的数据会导致深度学习模型给出错误的预测结果并且提供了错误的决策建议。如果应用于深度学习模型训练的原始样本数据中包含较多关联了偏见属性的数据，那么该深度学习模型训练好后会带有偏见。

导致深度学习模型带有偏见的主要原因是训练深度模型所使用的原始样本数据集中部分数据与偏见属性相关联，导致深度模型在决策时偏向某一敏感属性的特定类。

鉴于深度学习模型存在的容易被原始样本数据误导，导致训练好的深度学习模型带有偏见从而影响决策公平性，研究一种面向深度学习模型的偏见数据平衡方法，帮助深度学习模型做出正确客观公正的决策结果以及助力深度学习技术在人们生产生活中的应用具有极其重要的理论意义和现实意义。

发明内容

本发明提供一种面向深度学习模型的偏见数据平衡方法，该方法能够正确客观公正的作出决策。

一种面向深度学习模型的偏见数据平衡方法，包括：

S1：获得UCI Adult数据集，筛选UCI Adult数据集中的偏见属性数据并标记作为第一样本集；

S2：构建决策模型，包括编码器，中间特征层，解码器和分类器，所述编码器用于对输入样本集降维压缩得到第二样本集，中间特征层用于对第二样本集进行特征提取得到样本集特征，并将样本集特征分别输入至解码器和分类器，解码器用于基于样本集特征进行决策得到第一决策结果，分类器用于基于带有偏见属性的样本集特征进行决策得到第二决策结果；

S3：利用第一样本集训练决策模型，在训练时，以样本集特征与第一决策结果的二范数的平方作为决策任务的第一损失函数，以样本集特征与第二决策结果的二范数的平方作为去偏见任务的第二损失函数，通过第一损失函数的正向梯度和第二损失函数的负向梯度的反向传播调整决策模型的参数，训练结束时确定最终决策模型；