[发明专利]模型训练方法、装置、计算机设备和存储介质

权利要求书

1.一种模型训练方法，其特征在于，包括：

获取已训练的教师模型以及待训练的学生模型；所述教师模型和所述学生模型均包括特征提取器、主分类器以及从分类器；所述从分类器根据所述特征提取器输出的每一张样本图像的图像特征分别创建得到；所述教师模型和所述学生模型为不同类型的神经网络模型；

将所述样本图像输入所述教师模型，得到通过所述教师模型的主分类器输出的第一主分类结果，以及通过所述教师模型的从分类器输出的第一从分类结果和第一类别信息；所述第一类别信息是所述教师模型的从分类器输出的所述样本图像中包含的类别数；

将所述样本图像输入所述待训练的学生模型，得到通过所述待训练的学生模型的主分类器输出的第二主分类结果，以及通过所述待训练的学生模型的从分类器输出的第二从分类结果和第二类别信息；所述第二类别信息是所述学生模型的从分类器输出的所述样本图像中包含的类别数；

根据所述第一主分类结果、所述第一从分类结果、所述第二主分类结果、所述第二从分类结果、所述第一类别信息和所述第二类别信息，构建得到所述待训练的学生模型的目标损失函数；

根据所述目标损失函数对所述待训练的学生模型进行迭代训练，得到训练完成的学生模型；所述训练完成的学生模型用于对输入的图像进行语义分割。

2.根据权利要求1所述的方法，其特征在于，所述构建得到所述学生模型的模型损失函数，包括：

基于所述第一主分类结果以及所述第二主分类结果，构建第一损失函数；

基于所述第一类别信息以及所述第二类别信息，构建第二损失函数；

基于所述第一从分类结果以及所述第二从分类结果，构建第三损失函数；

根据所述第一损失函数、所述第二损失函数、所述第三损失函数以及所述第二主分类结果的交叉熵损失函数，确定出所述目标损失函数。

3.根据权利要求2所述的方法，其特征在于，所述第一损失函数通过以下方式获得，包括：

；

其中，L_kd为所述第一损失函数；H为所述样本图像的高度，W为所述样本图像的宽度，x为样本图像中的像素；p_t为第一主分类结果，p_s为第二主分类结果，为KL散度计算函数。

4.根据权利要求2所述的方法，其特征在于，所述第二损失函数通过以下方式获得，包括：

；

其中，L_rec为所述第二损失函数；N为所述样本图像包含的类别数量，表示第一类别信息中第i个类别，表示第二类别信息中第i个类别，cos表示余弦相似度算法。

5.根据权利要求2所述的方法，其特征在于，所述第三损失函数通过以下方式获得，包括：

；

其中，L_ob为所述第三损失函数；H为所述样本图像的高度，W为所述样本图像的宽度，x为样本图像中的像素；p_a,t为第一从分类结果，p_a,s为第二从分类结果，为KL散度计算函数。