[发明专利]信息处理方法、装置及电子设备和存储介质

说明书

本申请实施例公开了一种信息处理方法、装置及电子设备和存储介质，获取预先训练好的图像处理模型对输入的图像进行处理得到处理结果时，图像处理模型中的目标网络层输出的上述图像的特征图，获取特征图在图像所属领域的置信度，输出该置信度。该置信度体现了特征图中具有图像所属领域的信息的可能性。由于图像处理模型输出的处理结果是基于特征图得到的，因而特征图在图像所属领域的置信度体现了图像处理模型在得到处理结果时是否应用了图像所属领域的信息以及应用程度，从而提高了图像处理模型的解释性和可靠性。

技术领域

本申请涉及信息处理技术领域，更具体地说，涉及一种信息处理方法、装置及电子设备和存储介质。

背景技术

随着人工智能的发展，基于机器学习的图像处理模型(比如，图像分类模型，目标跟踪模型，目标检测模型等等)的应用越来越广泛。但是基于机器学习的图像处理模型难以解释，可靠性难以保证。

因此，如何定量衡量图像处理模型的可靠性成为亟待解决的技术问题。

发明内容

本申请的目的是提供一种信息处理方法、装置及电子设备和存储介质，包括如下技术方案：

一种信息处理方法，包括：

获取预先训练好的图像处理模型对输入的图像进行处理得到处理结果时，所述图像处理模型中的目标网络层输出的所述图像的特征图；

获取所述特征图在所述图像所属领域的置信度；

输出所述置信度。

上述方法，优选的，所述获取所述特征图在所述图像所属领域的置信度，包括：

获取所述特征图与目标专业知识特征的关联关系，作为所述特征图在所述图像所属领域的置信度；

所述目标专业知识特征为：所述图像所属领域中与所述处理结果关联的专业知识特征。

上述方法，优选的，所述获取所述特征图与目标专业知识特征的关联关系，包括：

获取预先训练好的与所述目标专业知识特征对应的分类超平面；

利用所述分类超平面对所述特征图进行分类，得到分类结果，所述分类结果表征所述特征图是否与所述目标专业知识特征相关，以及所述特征图与所述目标专业知识特征相关时的相关性大小。

上述方法，优选的，所述利用所述分类超平面对所述特征图进行分类，包括：

将所述特征图转换为特征向量；

计算所述特征向量与所述分类超平面的法向量的余弦相似度；所述余弦相似度表征所述特征图是否与所述目标专业知识特征相关，以及所述特征图与所述目标专业知识特征相关时的相关性大小。

上述方法，优选的，所述分类超平面包括多个子分类超平面，所述利用所述分类超平面对所述特征图进行分类，包括：

将所述特征图转换为特征向量；

分别计算所述特征向量与每一个子分类超平面的法向量的余弦相似度；

计算所述特征向量与各个子分类超平面的余弦相似度的均值；所述余弦相似度的均值表征所述特征图是否与所述目标专业知识特征相关，以及所述特征图与所述目标专业知识特征相关时的相关性大小。

上述方法，优选的，所述获取所述特征图与目标专业知识特征的关联关系，包括：

将预置样本图像集中的正样本和负样本输入所述图像处理模型，得到所述目标网络层输出的各个样本的特征图；所述正样本为具有所述目标专业知识特征的图像，所述负样本为不具有所述目标专业知识特征的图像；

利用所述目标网络层输出的所有样本的特征图训练分类超平面；