[发明专利]一种最大化互信息的图像分类方法、设备、介质及系统

权利要求书

1.一种最大化互信息的图像分类方法，其特征在于，包括：

采集训练图像；

最大化训练图像和神经网络结构的互信息，自动确定神经网络的网络结构和参数；

采用得到的所述神经网络对待分类的图像数据进行处理，得到图像分类结果。

2.根据权利要求1所述的最大化互信息的图像分类方法，其特征在于，将采集到的训练图像分为两部分；所述最大化训练图像和神经网络结构的互信息，自动确定神经网络的网络结构和参数，包括：

构建超网络和结构生成网络，分别对其进行数据处理获得超网络的网络参数和结构生成网络的参数，并构建目标网络；

将全部训练图像输入所述目标网络，生成预测的图像类别标签，根据所述预测的图像类别标签与真实的图像类别标签，计算图像分类的交叉熵损失，训练目标网络直至收敛，用于图像分类。

3.根据权利要求2所述的最大化互信息的图像分类方法，其特征在于，所述构建超网络和结构生成网络，分别对其进行数据处理获得超网络的网络参数和结构生成网络的参数，并构建目标网络，包括：

S1，基于图像分类所有可能的操作，构建基本单元；

再利用所述基本单元构建超网络，其中：

所述超网络是由包含所有可能的图像分类操作的基本单元堆叠而成；

S2，基于卷积神经网络构建结构生成网络，从标准高斯分布中采样，得到采样值作为结构生成网络的输入，经过前向传播得到结构生成网络的输出；

再从标准高斯分布中采样得到噪声；

将所述结构生成网络的输出与所述采样得到的噪声求和作为超网络的结构参数；

S3，将第一部分训练图像输入所述超网络，生成预测类别标签；

根据所述预测类别标签与真实类别标签，计算图像分类交叉熵损失；

利用梯度下降方法，根据所述图像分类交叉熵损失更新超网络的网络参数；

S4，将第二部分训练图像输入所述超网络，最大化图像数据和超网络的结构参数的互信息，并确定互信息的下界，其中：

互信息的下界为结构参数的后验分布和图像数据的后验分布的交叉熵损失，计算所述交叉熵损失，并利用梯度下降方法更新结构生成网络的参数；

重复S2-S4不断迭代更新所述超网络的网络参数和结构生成网络的参数，直到收敛，将更新得到的新基本单元堆叠构建目标网络。

4.根据权利要求3所述的最大化互信息的图像分类方法，其特征在于，所述结构生成网络，是指利用卷积神经网络、修正线性单元、批归一化层堆叠而成的神经网络

所述结构生成网络的输入是从标准高斯分布中得到的采样值∈～N(0,1)；

所述结构生成网络的输出是将采样值∈输入结构生成网络前向传播得到输出为

所述超网络的结构参数是从标准高斯分布中采样噪声ε～N(0,1)，并与所述结构生成网络的输出求和得到的

5.根据权利要求3所述的最大化互信息的图像分类方法，其特征在于，所述图像数据和超网络的结构参数的互信息，是指其中D表示给定的训练图像数据，A表示超网络的结构参数，表示给定结构参数A的情况下，描述数据集D的网络参数。

6.根据权利要求3所述的最大化互信息的图像分类方法，其特征在于，所述互信息的下界，是指其中：

H(D)表示训练图像数据D的信息熵，表示训练数据和超网络的结构参数的联合概率分布，q_θ(D|A)表示用来近似真实的数据后验分布的变分分布。

7.根据权利要求6所述的最大化互信息的图像分类方法，其特征在于，所述结构参数的后验分布和图像数据的后验分布的交叉熵损失，是指其中表示给定训练图像数据D后，超网络的结构参数的条件概率分布，q_θ(D|A)表示给定超网络的结构参数后，训练图像数据的变分条件概率分布。