[发明专利]基于人工智能的样本评估方法、装置、设备及存储介质

说明书

本发明公开了一种基于人工智能的样本评估方法、装置、计算机设备及存储介质，该方法包括：获取训练数据集；采用待评估训练模型对N个测试训练样本进行训练，获取待评估训练模型对应的样本损失函数；选取K个目标训练样本；将训练数据集中除K个目标训练样本外的N‑K个测试训练样本输入待评估训练模型进行训练，获取第一影响函数；将K个更新特征样本和训练数据集中除K个目标训练样本外的N‑K个测试训练样本输入待评估训练模型进行训练，获取第二影响函数；基于第一影响函数和第二影响函数，获取样本影响结果。本发明的技术方案实现了目标训练样本对待评估训练模型输出结果的影响的可解释性，有助于后续优化改进待评估训练模型。

技术领域

本发明涉及人工智能领域，尤其涉及一种基于人工智能的样本评估方法、装置、计算机设备及存储介质。

背景技术

在人工智能领域中，待评估训练模型的预测性能是一项重要的性能指标。但是待评估训练模型输出的样本影响结果的可解释性同样是一项重要的性能指标。因为通过理解待评估训练模型输出样本影响结果的原因，可以直接改变影响待评估训练模型输出样本影响结果的因素，来提升待评估训练模型的性能，同时也能向用户提供样本影响结果的解释，这在业务涉及用户敏感信息时显得尤为重要。

然而现有许多领域中的待评估训练模型，例如用于图像和语音识别的深度神经网络模型，是一种复杂的黑箱模型，难以对输出的样本影响结果作出解释。现有技术主要着重于理解固定的待评估训练模型是如何与特定的样本影响结果对应，例如通过在测试数据点周围局部拟合更简单的待评估训练模型或通过对测试数据添加干扰来观测输出的样本影响结果。现有技术只是从待评估训练模型的角度解释了待评估训练模型输出的样本影响结果，但是没有从训练样本角度对待评估训练模型输出结果的影响，不利于对待评估训练样本进行后续优化改进。

发明内容

本发明实施例提供一种基于人工智能的样本评估方法、装置、计算机设备及存储介质，以解决无法解释训练样本对待评估训练模型输出结果的影响的问题。

一种基于人工智能的样本评估方法，包括：

获取训练数据集，所述训练数据集包括N个测试训练样本，其中，N为正整数；

采用待评估训练模型对N个所述测试训练样本进行训练，获取所述待评估训练模型对应的样本损失函数；

对N个所述测试训练样本进行检测，选取K个目标训练样本，其中，K为正整数；

将所述训练数据集中除K个所述目标训练样本外的N-K个测试训练样本输入所述待评估训练模型进行训练，获取与所述样本损失函数相对应的第一影响函数；

对K个所述目标训练样本进行样本特征变更，获取K个更新特征样本，将K个所述更新特征样本和所述训练数据集中除K个所述目标训练样本外的N-K个测试训练样本输入所述待评估训练模型进行训练，获取与所述样本损失函数相对应的第二影响函数；

基于所述第一影响函数和所述第二影响函数，获取K个所述目标训练样本对所述待评估训练模型的样本影响结果。

一种基于人工智能的样本评估装置，包括：

数据获取模块，用于获取训练数据集，所述训练数据集包括N个测试训练样本，其中，N为正整数；

样本训练模块，用于采用待评估训练模型对N个所述测试训练样本进行训练，获取所述待评估训练模型对应的样本损失函数；

样本检测模块，用于对N个所述测试训练样本进行检测，选取K个目标训练样本，其中，K为正整数；

第一影响函数模块，用于将所述训练数据集中除K个所述目标训练样本外的N-K个测试训练样本输入所述待评估训练模型进行训练，获取与所述样本损失函数相对应的第一影响函数；