[发明专利]获取神经网络模型的方法、图像处理方法及装置

说明书

本申请公开了人工智能领域中的一种获取神经网络模型的方法、图像处理方法及装置。其中，获取神经网络模型的方法包括：获取预训练的超网络模型，预训练的超网络模型是基于源数据集训练得到的；获取目标数据集，目标数据集对应的任务与源数据集对应的任务相同；基于目标数据集对预训练的超网络模型进行迁移学习，得到迁移学习后的超网络模型；在迁移学习后的超网络模型中搜索子网络模型，得到目标神经网络模型。本申请的方法能够在获得所需的神经网络模型的过程中降低训练成本，提高神经网络模型的性能。

技术领域

本申请涉及人工智能领域，并且更具体地，涉及一种获取神经网络模型的方法、图像处理方法及装置。

背景技术

人工智能(artificial intelligence，AI)是利用数字计算机或者数字计算机控制的机器模拟、延伸和扩展人的智能，感知环境、获取知识并使用知识获得最佳结果的理论、方法、技术及应用系统。换句话说，人工智能是计算机科学的一个分支，它企图了解智能的实质，并生产出一种新的能以人类智能相似的方式作出反应的智能机器。人工智能也就是研究各种智能机器的设计原理与实现方法，使机器具有感知、推理与决策的功能。人工智能领域的研究包括机器人，自然语言处理，计算机视觉，决策与推理，人机交互，推荐与搜索，AI基础理论等。

随着人工智能技术的快速发展，神经网络模型(例如，卷积神经网络模型)的性能得到了持续的提升，神经网络模型在图像、视频以及语音等多种媒体信号的处理与分析中也取得了很大的成就。以图像识别为例，深度神经网络模型以碾压级别的优势领先传统计算机视觉方法。然而，训练一个好的深度神经网络模型需要大量的专家经验。近年来，借助自动机器学习(automated machine learning，AutoML)技术自动搜索神经网络模型逐渐成为计算机视觉领域的热点。AutoML可以得到比人工设计更优的神经网络模型。然而，AutoML所需要的训练资源，例如，训练机器、训练数据等，往往比普通神经网络模型大得多，而且AutoML的训练成本也远远高于普通神经网络模型的训练成本。在小数据场景下，由于没有足够的训练数据，AutoML通常很难直接训练得到优秀的神经网络模型。

因此，如何通过AutoML获得需要的神经网络模型成为一个亟待解决的问题。

发明内容

本申请提供一种获取神经网络模型的方法、图像处理方法及装置，在获得所需的神经网络模型的过程中降低训练成本，提高神经网络模型的性能。

第一方面，提供了一种获取神经网络模型方法，该方法包括：获取预训练的超网络模型，预训练的超网络模型是基于源数据集训练得到的；获取目标数据集，目标数据集对应的任务与源数据集对应的任务相同；基于目标数据集对预训练的超网络模型进行迁移学习，得到迁移学习后的超网络模型；在迁移学习后的超网络模型中搜索子网络模型，得到目标神经网络模型。

其中，该源数据集可以采用大数据量的数据集，这样可以保证超网络模型训练充分，能够得到精确度更高的超网络模型。

需要说明的是，该源数据集可以是与目标神经网络模型所需要执行的任务相关的数据集。也就是说预训练的超网络模型中的子网络模型与目标神经网络模型执行的任务是一致的。例如，二者均用于图像分类；或者，二者均用于图像分割；或者二者均用于目标检测。

例如，当目标神经网络模型用于图像分类时，该源数据集可以为公开数据集ImageNet。

目标数据集可以是由用户输入的数据集，也可以是从其他设备获取的数据集。

基于目标数据集对预训练的超网络模型进行迁移学习可以为基于目标数据集微调预训练的超网络模型。

对预训练的超网络模型进行迁移学习指的是迁移预训练的超网络模型的权重。