[发明专利]深度学习可解释方法及设备、存储介质和程序产品

说明书

本发明提供一种深度学习可解释方法及设备、存储介质和程序产品，其中深度学习可解释方法，先针对获取的待解释图像确定待解释图像中的待解释类别，然后再基于预设深度学习可解释模型，确定所述待解释类别的解释结果。由于所述预设深度学习可解释模型包括先获取所述待解释图像中每一个像素点加噪后的平均收益、再根据所述平均收益确定针对所述待解释类别的目标像素点、后基于所述目标像素点的深度学习程度确定所述待解释类别的解释结果，以此实现通过开发和探索每个像素点的重要性达到确定用于解释图像中类别的目标像素点目的，不仅时间成本低，而且也提高了图像中类别的解释精度和解释准确性。

技术领域

本发明涉及人工智能技术领域，尤其涉及一种深度学习可解释方法及设备、存储介质和程序产品。

背景技术

目前，针对图像、自然语言及结构化数据的解释方法，通常包括与模型相关的模型解释方法以及与模型无关的局部可解释性(Local Interpretable ModelagnosticExplanations，LIME)方法，并且，LIME方法由于在局部采样过程中采用特征随机采样方式且采样时随机对特征进行提取，因此具备采样方式简单又直观的特点。

相关技术中，使用LIME方法对图像进行解释时，先将图像划分为多个超像素块，然后对每个超像素块分别进行遮挡，再进一步使用遮挡后的输出结果对图像中的特征进行解释。

然而，相关技术中LIME方法仅关注超像素块内具备高级语义信息的像素点、忽略超像素块之间具备关联特征的像素点，且超像素块分割方法使用的预处理算法较为复杂，从而导致LIME方法解释图像的准确性不高，时间耗费也很严重。

发明内容

本发明提供一种深度学习可解释方法及设备、存储介质和程序产品，用以解决现有技术中LIME方法仅关注超像素块内具备高级语义信息的像素点、忽略超像素块之间具备关联特征的像素点以及超像素块分割方法使用的预处理算法较为复杂而导致的LIME方法解释图像的准确性不高以及时间耗费也很严重的缺陷，实现通过开发和探索每个像素点的重要性达到确定用于解释图像的目标像素点且时间成本低的目的。

本发明提供一种深度学习可解释方法，包括：

获取待解释图像，并确定所述待解释图像中的待解释类别；

基于预设深度学习可解释模型，确定所述待解释类别的解释结果；其中，所述预设深度学习可解释模型包括先获取所述待解释图像中每一个像素点加噪后的平均收益、再根据所述平均收益确定针对所述待解释类别的目标像素点、后基于所述目标像素点的深度学习程度确定所述待解释类别的解释结果。

根据本发明提供的一种深度学习可解释方法，所述预设深度学习可解释模型包括第一预设学习模型和第二预设学习模型时，所述基于预设深度学习可解释模型，确定所述待解释类别的解释结果，包括：

将所述待解释图像输入所述第一预设学习模型中，得到所述待解释图像中每一个像素点加噪后的平均收益；

其中，所述第一预设学习模型用于先对所述待解释图像中每一个像素点添加第一噪声、后根据添加所述第一噪声后的待解释图像确定所述平均收益；

将所述平均收益和所述添加所述第一噪声后的待解释图像输入所述第二预设学习模型中，得到所述待解释类别的解释结果；

其中，所述第二预设学习模型包括先根据所述平均收益确定所述待解释图像中每个像素点添加所述第一噪声及第二噪声后得到的初始重要像素点、再根据所述每个像素点添加所述第一噪声及第二噪声后的收益更新所述初始重要像素点后得到用于解释所述待解释类别的目标像素点、后基于所述目标像素点的深度学习程度确定所述待解释类别的解释结果。

根据本发明提供的一种深度学习可解释方法，所述将所述待解释图像输入所述第一预设学习模型中，得到所述待解释图像中每一个像素点加噪后的平均收益，包括：