[发明专利]深度学习可解释方法及设备、存储介质和程序产品

权利要求书

1.一种深度学习可解释方法，其特征在于，包括：

获取待解释图像，并确定所述待解释图像中的待解释类别；

基于预设深度学习可解释模型，确定所述待解释类别的解释结果；其中，所述预设深度学习可解释模型包括先获取所述待解释图像中每一个像素点加噪后的平均收益、再根据所述平均收益确定针对所述待解释类别的目标像素点、后基于所述目标像素点的深度学习程度确定所述待解释类别的解释结果。

2.根据权利要求1所述的深度学习可解释方法，其特征在于，所述预设深度学习可解释模型包括第一预设学习模型和第二预设学习模型时，所述基于预设深度学习可解释模型，确定所述待解释类别的解释结果，包括：

将所述待解释图像输入所述第一预设学习模型中，得到所述待解释图像中每一个像素点加噪后的平均收益；

其中，所述第一预设学习模型用于先对所述待解释图像中每一个像素点添加第一噪声、后根据添加所述第一噪声后的待解释图像确定所述平均收益；

将所述平均收益和所述添加所述第一噪声后的待解释图像输入所述第二预设学习模型中，得到所述待解释类别的解释结果；

其中，所述第二预设学习模型包括先根据所述平均收益确定所述待解释图像中每个像素点添加所述第一噪声及第二噪声后得到的初始重要像素点、再根据所述每个像素点添加所述第一噪声及第二噪声后的收益更新所述初始重要像素点后得到用于解释所述待解释类别的目标像素点、后基于所述目标像素点的深度学习程度确定所述待解释类别的解释结果。

3.根据权利要求2所述的深度学习可解释方法，其特征在于，所述将所述待解释图像输入所述第一预设学习模型中，得到所述待解释图像中每一个像素点加噪后的平均收益，包括：

将所述待解释图像输入所述第一预设学习模型中进行N₁轮的添加第一噪声操作及深度学习后，得到所述待解释图像中每一个像素点加噪后的平均收益；其中，N₁为大于0的整数。

4.根据权利要求3所述的深度学习可解释方法，其特征在于，所述将所述平均收益和所述添加所述第一噪声后的待解释图像输入所述第二预设学习模型中，得到所述待解释类别的解释结果，包括：

将所述平均收益和所述添加第一噪声后的待解释图像输入所述第二预设学习模型中进行N-N₁轮的深度学习后，得到所述待解释类别的解释结果；

其中，N为大于0的整数且N＞N₁；所述平均收益用于所述添加第一噪声后的待解释图像进行第N₁+1轮的添加第二噪声操作及深度学习。

5.根据权利要求3所述的深度学习可解释方法，其特征在于，所述将所述待解释图像输入所述第一预设学习模型中进行N₁轮的添加第一噪声操作及深度学习后，得到所述待解释图像中每一个像素点加噪后的平均收益，包括：

将所述待解释图像输入所述第一预设学习模型中，以针对所述待解释图像中每一个像素点分别进行第1轮至第N₁轮的添加第一噪声操作及深度学习，并根据所述每一个像素点在前N₁轮所述添加第一噪声操作及深度学习后的收益，确定所述待解释图像中每一个像素点加噪后的平均收益。