[发明专利]一种训练数据机密性评估方法、装置、设备及介质

摘要

本公开提供了一种训练数据机密性评估方法、装置、设备及介质，包括：基于部署在服务器端的目标模型中的目标组件构建初始影子模型；目标模型为利用目标训练数据集训练的模型；利用影子模型训练数据集将初始影子模型训练为与目标模型相似的模型得到目标影子模型；将预设数据集输入目标影子模型得到输出结果；利用输出结果、标签信息训练初始二分类器得到推理模型；标签信息表示输出结果对应的输入数据是否为影子模型训练数据集中数据；将目标训练数据集输入目标影子模型得到预测结果；将预测结果输入推理模型得到推理结果；基于推理结果评估目标训练数据集的机密性。能够评估出目标模型的训练数据的机密性，及时发现风险，从而避免训练数据泄露。