[发明专利]获取神经网络模型的方法、图像处理方法及装置

权利要求书

1.一种获取神经网络模型的方法，其特征在于，包括：

获取预训练的超网络模型，所述预训练的超网络模型是基于源数据集训练得到的；

获取目标数据集，所述目标数据集对应的任务与所述源数据集对应的任务相同；

基于所述目标数据集对所述预训练的超网络模型进行迁移学习，得到迁移学习后的超网络模型；

在所述迁移学习后的超网络模型中搜索子网络模型，得到目标神经网络模型。

2.根据权利要求1所述的方法，其特征在于，所述预训练的超网络模型是通过渐进收缩法训练得到的。

3.根据权利要求1或2所述的方法，其特征在于，所述基于所述目标数据集对所述预训练的超网络模型进行迁移学习，得到迁移学习后的超网络模型，包括：

从所述预训练的超网络模型中选择一个子网络模型，基于所述目标数据集计算所述子网络模型的权重梯度；

基于所述子网络模型的权重梯度更新所述子网络模型的权重，得到更新后的子网络模型；

基于所述更新后的子网络模型得到更新后的超网络模型；

重复上述步骤，直至所述更新后的超网络模型满足终止条件，得到所述迁移后的超网络模型；

其中，所述终止条件包括以下至少一种：重复次数大于或等于第一迭代次数、所述更新后的超网络模型的推理精度大于或等于第一推理精度。

4.根据权利要求1或2所述的方法，其特征在于，所述基于所述目标数据集对所述预训练的超网络模型进行迁移学习，得到迁移学习后的超网络模型，包括：

从所述预训练的超网络模型中选择N_b个子网络模型，基于所述目标数据集计算所述N_b个子网络模型的权重梯度；

基于所述N_b个子网络模型的权重梯度更新所述N_b个子网络模型的权重，得到更新后的N_b个子网络模型；

基于所述更新后的N_b个子网络模型得到更新后的超网络模型，N_b为正整数；

重复上述步骤，直至所述更新后的超网络模型满足终止条件，得到所述迁移后的超网络模型；

其中，所述终止条件包括以下至少一种：重复次数大于或等于第一迭代次数、所述更新后的超网络模型的推理精度大于或等于第一推理精度。

5.根据权利要求1至4中任一项所述的方法，其特征在于，在所述迁移学习后的超网络模型中搜索子网络模型，得到目标神经网络模型，包括：

步骤一：根据所述迁移学习后的超网络模型确定n个第一子网络模型，n为大于1的整数；

步骤二：调整所述n个第一子网络模型的结构，得到n个第二子网络模型；

步骤三：从所述n个第一子网络模型和所述n个第二子网络模型中选择n个第三子网络模型，将所述n个第三子网络模型作为步骤二中的所述n个第一子网络模型；

重复上述步骤二至步骤三，直至所述n个第三子网络模型满足搜索终止条件，所述搜索终止条件包括以下至少一种：重复次数大于或等于第二迭代次数，或者，所述n个第三子网络模型中的至少p个第三子网络模型的推理精度大于或等于目标精度；

根据所述n个第三子网络模型确定目标神经网络模型。

6.根据权利要求5所述的方法，其特征在于，根据所述迁移学习后的超网络模型确定n个第一子网络模型，包括：

在所述迁移学习后的超网络模型中选择n个第四子网络模型；

获取所述n个第四子网络模型在目标设备上的硬件开销；

基于所述硬件开销调整所述n个第四子网络模型的结构，得到所述n个第一子网络模型。

7.一种图像处理方法，其特征在于，包括：

获取待处理图像；

采用目标神经网络模型对所述待处理图像进行图像处理，输出处理结果；

其中，所述目标神经网络模型是通过在超网络模型中搜索子网络模型得到的，所述超网络模型是基于目标数据集对预训练的超网络模型进行迁移学习得到的，所述预训练的超网络模型是基于源数据集训练得到的，所述目标数据集对应的任务与所述源数据集对应的任务相同。