[发明专利]一种对于卷积神经网络判别部分黑箱问题的自解释方法

权利要求书

1.一种对于卷积神经网络判别部分黑箱问题的自解释方法，其特征在于，具体按照以下步骤实施：

步骤1、提出一种可解释距离，作为衡量模型可解释性指标；

步骤2、将CNN网络的卷积层和池化层构成一个特征提取器；

步骤3、将步骤2得到的特征提取器的输出即特征图作为CNN网络全连接层的输入；

步骤4、在全连接层中，使用步骤3的特征图对CNN网络中的输入图像样本进行分类并贴标签；

步骤5、使用全连接层构成CNN网路的判别部分；

步骤6、构建三层节点的DCLM模型；

步骤7、提出新型博弈方法进行DCLM模型与步骤6构建的CNN网络的博弈训练，以提高CNN网络判别部分的可解释性。

2.根据权利要求1所述的一种对于卷积神经网络判别部分黑箱问题的自解释方法，其特征在于，所述步骤1中，假设在相同的输入数据集下，相似性通过原始CNN网络模型以及所构建DCLM模型的输出之间的差异的方差衡量，并初步将此衡量结果命名为解释距离，解释距离越小，CNN网络的判别部分的形状越接近最优可解释模型的形状，从而判读部分的可解释性能越好；

假设存在Q是一个紧凑的度量空间，Z为样本集合，ν是度量空间Q中的Borel度量,如Lebesgue度量或边缘度量,在对度量空间Q的平方可积函数空间中，判别部分f(x)及其最佳解释的模型P*(x)之间的解释距离φ_d(P*，f)表示为：

φ_d(P*，f)＝∫_z(f(x)-P*(x)-μ^P*(f))²dv (9)

其中μ^P*(f)＝∫_z(f(x)-P*(x))dv (10)。

3.根据权利要求2所述的一种对于卷积神经网络判别部分黑箱问题的自解释方法，其特征在于，所述步骤6具体如下：

DCLM三层网络结构分别为：特征谓词层、析取层、决策结果谓词层，其中，作为第一层的特征谓词层由特征谓词节点构成，其中每一个特征谓词节点拥有一个特征谓词函数Z(Γ)，用来表示CNN网络中的第一个全连接层的判别部分的一个神经元是否具有捕获特征的能力，特征谓词函数Z(Γ)表示为：

其中，i∈{1，2，...，k},τ_i是Γ中第i个特征图，w_i是其在第一个全连接层中对应的权值向量，称为特征捕获层，其中*代表卷积。

4.根据权利要求3所述的一种对于卷积神经网络判别部分黑箱问题的自解释方法，其特征在于，所述步骤6中决策结果谓词层为最底层，每一个结果谓词节点拥有一个结果谓词函数，其表示了判别部分的输出神经元是否大于0；对应的函数表达如下：

5.根据权利要求4所述的一种对于卷积神经网络判别部分黑箱问题的自解释方法，其特征在于，所述步骤6中所有的特征谓词层和结果谓词层节点都与一个或多个中间层的析取节点相连接，此层称为析取层，表示真或假的真值情况；每一个析取节点都表示所有特征谓词层节点和结果谓词层节点的析取关系，并且这种析取关系通过一个析取范式表征；如果一个谓词层节点与一个析取层节点以真或假的边界相连接，其谓词函数跟在一个析取运算中的非运算之后，用Lukasiewicz方法得到一个析取范式的势函数如下：

φ_c(y)＝min(1，T(Γ，y)) (3)

式中：

其中，N是特征谓词层的节点数；Γ为特征图，Z_j()是特征谓词层函数，D()为结果层函数；如果逻辑网参数a_j＝1，则谓词节点和析取节点之间是假的边界，如果逻辑网参数a_j＝0则说明此为真的边界。