[发明专利]神经网络模型迁移方法和系统、电子设备、程序和介质

权利要求书

1.一种神经网络模型迁移方法，其特征在于，包括：

分别向训练好的至少两个第一神经网络模型和一待训练的第二神经网络模型输入相同的待处理对象；其中，所述第二神经网络模型的大小小于每个所述第一神经网络模型的大小；所述待处理对象包括：图像；

分别通过所述至少两个第一神经网络模型对所述待处理对象进行处理，并通过所述至少两个第一神经网络模型的分类层输出对所述待处理对象的分类结果；通过所述第二神经网络模型对所述待处理对象进行处理，并通过所述第二神经网络模型的分类层输出对所述待处理对象的分类结果；

分别获取每个第一神经网络模型的分类层输出的分类结果与所述第二神经网络模型的分类层输出的分类结果之间的第一差异，得到至少两个第一差异；获取所述第二神经网络模型的分类层输出的分类结果与所述待处理对象的标注分类结果之间的第二差异；

分别针对所述至少两个第一差异中的每个第一差异，获取第一差异与该第一差异对应的第一神经网络模型的权重系数的乘积，得到至少两个乘积；

以所述第二差异和所述至少两个乘积作为所述第二神经网络模型的分类代价函数值，对所述第二神经网络模型进行网络训练，直至满足预设训练完成条件，训练好的第二神经网络模型用于进行图像分类。

2.根据权利要求1所述的方法，其特征在于，所述第二神经网络模型的大小小于所述第一神经网络模型的大小，包括：

第二神经网络模型的参数量小于所述第一神经网络模型的参数量；和/或

第二神经网络模型的网络层数小于所述第一神经网络模型的网络层数。

3.根据权利要求1所述的方法，其特征在于，以所述第二差异和所述至少两个乘积作为所述第二神经网络模型的分类代价函数值，对所述第二神经网络模型进行网络训练，包括：

根据所述分类代价函数值调整所述第二神经网络模型中所述分类层及以下各网络层的权重参数值。

4.根据权利要求3所述的方法，其特征在于，根据所述分类代价函数值调整所述第二神经网络模型中所述分类层及以下各网络层的权重参数值，包括：

将所述分类代价函数值反向回传至所述第二神经网络模型；

依次根据反向回传的分类代价函数值调整所述第二神经网络模型中所述分类层及以下各网络层的权重参数值。

5.根据权利要求1至4任意一项所述的方法，其特征在于，所述满足预设训练完成条件，包括以下任意一项或多项：

所述至少两个第一差异分别小于第一预设阈值；

所述第二差异小于第二预设阈值；

所述分类代价函数值小于第三预设阈值；

所述第二神经网络模型的训练次数达到预设次数。

6.一种神经网络模型迁移系统，其特征在于，包括：训练好的至少两个第一神经网络模型和一待训练的第二神经网络模型；其中，所述第二神经网络模型的大小小于每个所述第一神经网络模型的大小；

所述第一神经网络模型，用于接收待处理对象；对所述待处理对象进行处理，并通过分类层输出对所述待处理对象的分类结果；所述待处理对象包括：图像；

所述第二神经网络模型，用于接收所述待处理对象；所述待处理对象进行处理，并通过分类层输出对所述待处理对象的分类结果；

获取模块，用于分别获取所述至少两个第一神经网络模型的分类层输出的分类结果、以及所述第二神经网络模型的分类层输出的分类结果；以及分别获取每个第一神经网络模型的分类层输出的分类结果与所述第二神经网络模型的分类层输出的分类结果之间的第一差异，得到至少两个第一差异；分别针对所述至少两个第一差异中的每个第一差异，获取第一差异与该第一差异对应的第一神经网络模型的权重系数的乘积，得到至少两个乘积；获取所述第二神经网络模型的分类层输出的分类结果与所述待处理对象的标注分类结果之间的第二差异；

训练模块，用于以所述第二差异和所述至少两个乘积作为所述第二神经网络模型的分类代价函数值，对所述第二神经网络模型进行网络训练，直至满足预设训练完成条件，训练好的第二神经网络模型用于进行图像分类。