[发明专利]一种用于图像检索的双重知识蒸馏方法

权利要求书

1.一种用于图像检索的双重知识蒸馏方法，其特征在于，包括由两个专业教师模型和一个学生模型组成的双重知识蒸馏框架，其中，两个专业教师模型分别是固定教师模型和动态教师模型，在训练任务t之前，固定教师模型在前任务的基础上接受训练，然后固定其参数，并对全连接层嵌入的D维特征进行知识蒸馏；在学生模型学习任务t时，先将具有随机类标签的高斯噪声Z输入给固定教师模型，并使用损失基于固定教师模型对Z进行优化，生成前任务的代表性图像，为聚类损失，表示Z中存储的统计数据与当前统计数据之间的差异，然后使用图像和类标签来构建一个混合数据集，将混合数据输入到固定教师模型，以便将更丰富的先验知识传递给学生模型来减少对前一任务的遗忘，学生模型的参数从固定教师模型上复制，其训练方案与固定教师模型一致；动态教师模型与学生模型共同接受训练，向学生模型传递新信息，进行辅助知识蒸馏来提高学生模型对新任务的泛化能力，其训练图像从原始数据集中挖掘。

2.如权利要求1所述的用于图像检索的双重知识蒸馏方法，其特征在于，使用三元组损失函数作为基本约束来训练模型。

3.如权利要求2所述的用于图像检索的双重知识蒸馏方法，其特征在于，使用固定教师模型对全连接层中嵌入的D维特征进行知识蒸馏，其特征表示为，其中N为mini batch的大小，学生模型的特征表示为，固定教师模型的知识蒸馏损失为，

其中，为权重因子，归一化函数为Softmax函数，KL散度用来描述和的差异，；，K(•)为内积，中的每一项表示同一激活(i=j)或不同激活(i≠ j)之间的相关性。

4.如权利要求3所述的用于图像检索的双重知识蒸馏方法，其特征在于，所述使用图像和类标签来构建一个混合数据集，具体为：，属于原始训练集，混合标签为。

5.如权利要求4所述的用于图像检索的双重知识蒸馏方法，其特征在于，固定教师模型的每个卷积层后面都有一个BatchNorm层，每个BatchNorm层包括通道运行均值和运行方差，使用教师模型每一个卷积层的输出来计算批处理均值和批方差，为权重因子，。

6.如权利要求5所述的用于图像检索的双重知识蒸馏方法，其特征在于，聚类损失为K-means聚类损失，其函数为

其中为权重因子，N个噪声张量的mini-batch包含K个类，每一类为P个张量，，类间距离，类内距离中的元素数等于p。

7.如权利要求6所述的用于图像检索的双重知识蒸馏方法，其特征在于，学生模型的三元组损失函数为，其中，为权重因子，在每个训练阶段，根据混合标签，正样本图像和负样本图像分别为，均来自于混合数据集。

8.如权利要求7所述的用于图像检索的双重知识蒸馏方法，其特征在于，动态教师模型为,参数为，为权重因子，其三元组损失函数为

训练图像只从数据集的中挖掘，为每个类c包含不同数量的图像共享相同的标签。

9.如权利要求8所述的用于图像检索的双重知识蒸馏方法，其特征在于，动态教师模型辅助进行知识蒸馏的损失函数为

其中，为权重因子，，，，，。

10.如权利要求9所述的用于图像检索的双重知识蒸馏方法，其特征在于，双重知识蒸馏框架的目标函数为。