[发明专利]神经网络架构搜索方法、装置、电子设备及存储介质

权利要求书

1.一种神经网络架构搜索方法，其特征在于，所述方法包括：

根据原始图像数据集，确定小样本数据集和低分辨率数据集；

将所述小样本数据集和所述低分辨率数据集，作为样本图像数据集；

根据第一搜索参数设置和样本图像数据集，对初始种群中的至少两个网络个体进行搜索训练，并根据搜索训练结果，从所述至少两个网络个体中确定目标网络个体；其中，每个网络个体包括链式连接的至少两个网络单元，每个网络单元包括至少两个节点；

根据第二搜索参数设置和第二样本图像数据集，对目标网络个体利用梯度下降法进行搜索训练，得到初始神经网络模型；其中，所述第二搜索参数设置包括增加迭代次数、训练样本数据和网络深度；其中，分别从所述小样本数据集和所述低分辨率数据集中按每个类别，等数量地随机挑选设定数量的图像数据，作为所述第二样本图像数据；

确定所述初始神经网络模型的网络单元中节点之间的运算方式，以得到目标神经网络模型；其中，确定所述初始神经网络模型的网络单元中节点之间的运算方式包括：确定初始神经网络模型的网络单元中节点之间的候选运算权值；根据初始神经网络模型的网络单元中节点之间的候选运算权值，确定初始神经网络模型的网络单元中节点之间的运算方式；其中，所述候选运算权值是指网络单元中任意两个节点之间的混合操作中的具体运算方式的运算权值；

具体的，首先通过softmax(α)函数来确定初始神经网络模型的网络单元中节点之间的候选运算权值，softmax(α)函数具体如下：

其中，表示网络单元中两个节点i，j之间的某个具体运算方式o_m对应的权值α；

然后，对于初始神经网络模型的每个网络单元中的任意两个节点，利用argmax函数对这两个节点之间的候选运算权值进行运算，得到候选运算权值中最大的运行权值对应的运算方式，将该运算方式作为这两个节点之间的具体运算方式；其中，argmax函数公式如下：

其中，o_i，j表示两个计算节点i,j之间的一个具体运算方式。

2.根据权利要求1所述的方法，其特征在于，根据第一搜索参数设置和样本图像数据集，对初始种群中的至少两个网络个体进行搜索训练，并根据搜索训练结果，从所述至少两个网络个体中确定目标网络个体，包括：

根据第一搜索参数设置和样本图像数据集，对初始种群中的至少两个网络个体进行第一阶段搜索训练，并根据第一阶段的搜索训练结果，从所述至少两个网络个体中确定第一网络个体；

对所述第一网络个体进行交叉和继承处理，得到新的网络个体，并将所述新的网络个体和所述第一网络个体作为第二网络个体；

根据第三搜索参数设置和样本图像数据集，对所述第二网络个体进行第二阶段的搜索训练，并根据第二阶段的搜索训练结果，从所述第二网络个体中确定目标网络个体。

3.根据权利要求2所述的方法，其特征在于，根据第一搜索参数设置和样本图像数据集，对初始种群中的至少两个网络个体进行第一阶段搜索训练，并根据第一阶段的搜索训练结果，从所述至少两个网络个体中确定第一网络个体，包括：

根据第一搜索参数设置和样本图像数据集，对所述初始种群中的至少两个网络个体进行第一阶段的搜索训练，得到至少两个网络个体的准确率和参数量；

根据所述至少两个网络个体的准确率和参数量，对所述至少两个网络个体进行排序；

根据排序结果，从所述至少两个网络个体中确定第一网络个体。

4.根据权利要求1所述的方法，其特征在于，确定所述初始神经网络模型的网络单元中节点之间的运算方式之后，还包括：

根据所述初始神经网络模型的网络单元的属性，对所述网络单元进行组合，确定目标神经网络模型。