[发明专利]模型评测方法、装置、电子设备及存储介质

权利要求书

1.一种模型评测方法，其特征在于，包括：

获取训练数据和测试数据；

采用所述训练数据对模型进行训练；

采用所述测试数据测试训练后的模型，并计算测试时对所述模型性能进行评估得到的预设指标值；

基于所述预设指标值确定采用评测系统中的至少一个分析模块针对所述训练数据、测试数据和模型中的至少一项进行评测。

2.根据权利要求1所述的方法，其特征在于，所述基于所述预设指标值确定采用评测系统中至少一个分析模块针对所述训练数据、测试数据和模型中的至少一项进行评测，包括：

若所述预设指标值小于或等于预设阈值，采用下述至少一种进行评测：采用评测系统中用于度量所述测试数据完整性的覆盖度分析模块针对模型进行评测；采用评测系统中用于度量所述测试数据不确定性的不确定性分析模块针对测试数据进行评测；

采用评测系统中用于分析测试数据的不同特征对模型决策的重要程度的归因分析模块、用于分析测试数据的的不同特征对模型决策的重要程度的可视化分析模块和用于分析训练数据对模型针对测试数据进行决策的重要程度的影响力分析模块中的至少一个针对异常问题进行评测。

3.根据权利要求2所述的方法，其特征在于，采用覆盖度分析模块针对模型进行评测包括以下至少一项：

基于所述训练数据确定所述模型中每一神经元的边界范围，基于所述边界范围与测试数据对所述模型进行评测；

构建所述模型网络层间的神经元对，并基于所述神经元对与所述测试数据对所述模型进行评测。

4.根据权利要求3所述的方法，其特征在于，所述基于所述训练数据确定所述模型中每一神经元的边界范围，基于所述边界范围与测试数据对所述模型进行评测，包括：

基于所述训练数据进行前向传播处理，确定所述模型中各神经元的边界范围；

基于所述测试数据进行前向传播处理，确定所述测试数据中各测试样本超出边界范围对应的神经元数量；

基于所述神经元数量确定所述模型对各测试样本进行决策的置信度；

基于所述置信度确定针对模型进行评测的结果。

5.根据权利要求3所述的方法，其特征在于，所述构建神经元对，并基于所述神经元对与所述测试数据对所述模型进行评测，包括：

在所述模型的不同层神经元中抽取神经元构建多个神经元对；

确定所述测试数据触发神经元对中所有激活状态的神经元对数量与所有神经元对数量的比值；

基于所述比值确定针对所述模型进行评测的结果。

6.根据权利要求5所述的方法，其特征在于，所述基于所述比值确定针对所述模型进行评测的结果，还包括：

基于所述神经元对未被所述测试数据激活的状态信息，构建攻击样本数据；

基于所述攻击样本数据，确定所述模型的边界漏洞信息。

7.根据权利要求2所述的方法，其特征在于，采用不确定性分析模块针对测试数据进行评测，包括：

基于所述测试数据进行前向传播处理，确定所述测试数据的预测结果；

基于所述预测结果的方差、熵和互信息中的至少一种，确定所述测试数据的不确定度值；

基于所述不确定度值确定针对测试数据进行评测的结果。

8.根据权利要求2所述的方法，其特征在于，采用归因分析模块针对异常问题进行评测，包括：

采用梯度积分算法确定所述测试数据中各测试样本对应的贡献程度在样本特征中的分布信息；

基于所述分布信息确定针对异常问题进行评测的结果。